【資料圖】

大型語言模型的進步

AIGC如今越來越受歡迎，它使人們能夠以前所未有的方式創(chuàng)造、互動和消費內容。隨著大型語言模型(例如GPT)的顯著進步，AIGC系統(tǒng)現(xiàn)在擁有生成類似人類的文本、圖像甚至代碼的能力。集成了這些技術的開源項目的數(shù)量正在呈指數(shù)級增長。

例如，自從OpenAI公司七個月前首次推出ChatGPT以來，GitHub上現(xiàn)在有30000多個開源項目使用GPT-3.5系列的LLM。

盡管用戶對這些技術的需求激增，但GPT和LLM項目給使用它們的用戶帶來了各種安全風險，其中包括信任邊界風險、數(shù)據(jù)管理風險、固有模型風險以及一般安全問題。

AIGC安全風險

早期采用AIGC或任何新生技術(特別是LLM)，需要在整個軟件開發(fā)生命周期中進行全面的風險評估并遵守穩(wěn)健的安全實踐。通過對安全風險給予應有的關注，企業(yè)可以就是否以及如何采用AIGC解決方案做出明智的決定，同時堅持最高標準的審查和保護。

Rezilion公司漏洞研究總監(jiān)Yotam Perkal表示：“AIGC的應用越來越普遍，但它還不成熟，而且極易存在風險。除了固有的安全問題之外，個人和企業(yè)在沒有適當安全護欄的情況下為這些AI模型提供了過度的訪問和授權。通過我們進行的研究，旨在傳達使用不安全的AIGC和LLM的開源項目也具有較差的安全態(tài)勢。這些因素導致企業(yè)面臨重大風險。”

從安全教育到安全意識

Rezilion公司的研究團隊調查了GitHub上50個最受歡迎的AIGC項目的安全狀況。該研究利用開源安全基金會記分卡客觀地評估了LLM開源生態(tài)系統(tǒng)，并強調了許多基于LLM的項目缺乏成熟度、基本安全最佳實踐的差距以及潛在的安全風險。

這一調查結果突出了人們的擔憂，揭示了得分較低的非常新的和受歡迎的項目：

非常受歡迎，平均有15909顆星。極度不成熟，平均時間為3.77個月。安全狀況非常差，平均得分為4.60分(滿分為10分)，以任何標準衡量都很低。例如，GitHub上最受歡迎的基于GPT的項目Auto-GPT，擁有超過13.8萬顆星，不到三個月的時間，記分卡得分為3.7。

對于AIGC系統(tǒng)的安全部署和操作，Rezilion公司建議采用以下最佳實踐和指南：教育團隊了解采用任何新技術相關的風險;評估和監(jiān)控與LLM和開源生態(tài)系統(tǒng)相關的安全風險;實施穩(wěn)健的安全實踐，進行徹底的風險評估，并培養(yǎng)安全意識的企業(yè)文化。

雖然在采用AIGC模型及其生態(tài)系統(tǒng)方面存在重大的安全挑戰(zhàn)，但AI技術具有強大的功能和能力，并且將會繼續(xù)發(fā)展下去。