不可否認,以DeepSeek為代表的中國開源大模型的崛起,不僅降低了大模型訓(xùn)練和部署的成本,加速了人工智能技術(shù)的普及,也打破了技術(shù)封鎖與商業(yè)壁壘的雙重禁錮,推動人工智能行業(yè)走向更加開放的新時代。但是,如同一把雙刃劍,作為開源大模型,DeepSeek同樣需要面對所有開源軟件共同的安全挑戰(zhàn):由于源代碼開放,開源軟件的安全問題比閉源軟件更加復(fù)雜,攻擊者可以自由查看、修改源代碼,進而引發(fā)潛在的安全漏洞。
這并非杞人憂天,DeepSeek的遭遇就證實了這個規(guī)律:一方面,來自外部的網(wǎng)絡(luò)攻擊持續(xù)時間長、破壞力大、手段多、變化快;另一方面,在部署和應(yīng)用中發(fā)現(xiàn)的漏洞,暴露出多種安全風(fēng)險。
有鑒于此,2025開年以來,各家安全公司嚴陣以待,紛紛探索新路徑、新范式,以筑牢網(wǎng)絡(luò)安全防線,為國產(chǎn)大模型保駕護航。
比如,亞信安全與亞信科技近日聯(lián)合發(fā)布的大模型安全解決方案,其思路可以歸納為“以人工智能護航人工智能”,不僅融合了亞信科技大模型產(chǎn)品在重點行業(yè)領(lǐng)域的豐富實踐經(jīng)驗,而且依托亞信安全在大模型安全領(lǐng)域的研究成果和技術(shù)實力,打造了兼具實戰(zhàn)需求和大模型發(fā)展要求的安全解決方案,由云安全防護系統(tǒng)、大模型安全網(wǎng)關(guān)、終端數(shù)據(jù)防護系統(tǒng)、AI應(yīng)用風(fēng)險防護系統(tǒng)四大系統(tǒng)提供防護,為大模型建立起覆蓋基礎(chǔ)層、模型層、工具層和AI應(yīng)用層的四層縱深防護。與此同時,該方案還提供兩項專業(yè)服務(wù),即人工智能風(fēng)險評測和人工智能安全服務(wù),定期進行風(fēng)險評測評估,護航大模型及應(yīng)用安全。
今后,隨著越來越多應(yīng)用場景的落地,國產(chǎn)大模型仍將面臨層出不窮的新風(fēng)險。大模型安全不應(yīng)該只是“亡羊補牢”,更應(yīng)該未雨綢繆,重構(gòu)安全體系。
對此,多位受訪專家表示,應(yīng)重視大模型在安全架構(gòu)、漏洞響應(yīng)、數(shù)據(jù)合規(guī)等方面的“系統(tǒng)性短板”,從多個層面入手,綜合運用多種手段,打造全方位、多層次的安全防護網(wǎng)絡(luò),尤其是要建設(shè)大模型的“原生安全”能力。
更為重要的是,大模型在安全領(lǐng)域的應(yīng)用潛力巨大,憑借其卓越的推理能力、定制化的訓(xùn)練方式和開源特性,能夠有效提升各種安全任務(wù)的執(zhí)行效率和準(zhǔn)確性。因此,探索大模型在安全領(lǐng)域的創(chuàng)新應(yīng)用、以大模型治理大模型安全問題成為重要方向。
業(yè)界已經(jīng)形成共識,大模型是一個覆蓋多行業(yè)的交叉生態(tài)系統(tǒng),大模型安全風(fēng)險的綜合治理不僅僅只是技術(shù)問題,需要政府、企業(yè)、科研機構(gòu)等多方力量參與其中,群策群力,夯實國產(chǎn)大模型發(fā)展的基礎(chǔ),打開思路為人工智能產(chǎn)業(yè)保駕護航。
關(guān)鍵詞:
凡注有"環(huán)球傳媒網(wǎng)"或電頭為"環(huán)球傳媒網(wǎng)"的稿件,均為環(huán)球傳媒網(wǎng)獨家版權(quán)所有,未經(jīng)許可不得轉(zhuǎn)載或鏡像;授權(quán)轉(zhuǎn)載必須注明來源為"環(huán)球傳媒網(wǎng)",并保留"環(huán)球傳媒網(wǎng)"的電頭。
- 環(huán)比增幅的衡量標(biāo)準(zhǔn)是什么?環(huán)比增長率怎么算?
- 2025中國生物發(fā)酵產(chǎn)業(yè)技術(shù)大會舉辦 業(yè)內(nèi)熱議AI接入生物制造
- 三個“首次”見證中國外貿(mào)新動能
- 全國人工智能機器人創(chuàng)新大賽啟動 專家力薦高校參賽
- 西安鐵路局2025年首趟跨省“環(huán)秦嶺”銀發(fā)旅游專列開行
- 推動健康數(shù)據(jù)互聯(lián)互通
- 金價不斷沖高 金店現(xiàn)飾品“貼金調(diào)換”熱潮!記者探訪
- 建行舉辦科技金融推進會暨創(chuàng)業(yè)投資二級市場基金戰(zhàn)略合作協(xié)議簽約儀式
- 安徽蕭縣:從"一刷一鏟"到百億集群
- 車門刮壞后應(yīng)如何進行修復(fù)?車門下邊的橫梁刮壞了修好多少錢?
資訊
- 北京金融監(jiān)管局:堅定不移推進金融高水平開放
- 鮮花爭“鮮”綻放帶暖美麗經(jīng)濟 “賞花+”扮“靚”經(jīng)濟新增長點
- 廈門航空新開福州往返河內(nèi)直飛航線
- 衢州綜合保稅區(qū)獲批 浙江開放型經(jīng)濟發(fā)展再添新引擎
- 如何理解市場中的價格調(diào)整機制?價格機制對經(jīng)濟的調(diào)節(jié)作用有哪些?
- 業(yè)內(nèi)探討暖通舒適系統(tǒng)創(chuàng)新發(fā)展 助力“好房子”建設(shè)
- 北汽集團發(fā)布“品牌摯友計劃” 首批13位內(nèi)外部摯友亮相
- 以科技創(chuàng)新培育增長新動能
- 中國大百科全書出版社成立品牌與文化出版中心
- 北京推出12項舉措推動廣告業(yè)高質(zhì)量發(fā)展
焦點
- 2025年上海頭腦奧林匹克創(chuàng)新大賽開幕 AI時代青少年創(chuàng)想無限
- 最新一期中國國家男子足球隊集訓(xùn)名單公布
- 西平縣應(yīng)急管理局舉辦“執(zhí)法業(yè)務(wù)大講堂”——《生產(chǎn)安全事故應(yīng)急預(yù)案管理辦法》專題培訓(xùn)
- (經(jīng)濟觀察)用機器人養(yǎng)老,真的走進現(xiàn)實了嗎?
- 中國旅游研究院聯(lián)合馬蜂窩發(fā)布“魅力小城報告”
- 智慧農(nóng)業(yè)為農(nóng)業(yè)現(xiàn)代化插上“科技的翅膀” 讓科學(xué)種田從夢想照進現(xiàn)實
- 鄧州稅務(wù):穰稅無憂送春風(fēng) 稅惠賦能促發(fā)展
- 寧夏召開企業(yè)家創(chuàng)新精神培育暨企業(yè)科技創(chuàng)新工作現(xiàn)場培訓(xùn)會
- 百余件麥積山石窟壁畫藝術(shù)精品亮相蘭州:呈最美“東方微笑”
- 支持科技創(chuàng)新和制造業(yè) 中國民營經(jīng)濟受惠減稅政策