Team8 CISO Village出品

無論是 ChatGPT、Midjourney、Copilot還是其他，Generative AI已經(jīng)并將對所有行業(yè)和企業(yè)產(chǎn)生深遠影響。

在此背景下，Team8與我們的CISO Village社區(qū)合作，為CISO準備了一份指南，用于評估 Generative AI和ChatGPT的企業(yè)風險和機遇。

(相關(guān)資料圖)

盡管益處多多，安全主管的擔憂正在增加。雖然許多CISO感到廣泛啟用GenAI的壓力，但他們明白不加選擇地這樣做可能會帶來廣泛的風險。就像最初引入的互聯(lián)網(wǎng)、云、智能手機和社交媒體一樣，我們發(fā)現(xiàn)自己落后于技術(shù)采用曲線，并面臨成為業(yè)務(wù)推動者的機會。

事實上，這份報告得出的結(jié)論是，與GenAI相關(guān)的風險是可以管理的。

CISO提出的關(guān)鍵問題：誰在我的組織中使用該技術(shù)，目的是什么？員工與GenAI交互時如何保護企業(yè)信息（數(shù)據(jù)）？如何管理底層技術(shù)的安全風險？我如何平衡安全權(quán)衡與技術(shù)提供的價值？

雖然GenAI的許多固有風險存在于任何云或基于AI/ML的技術(shù)中，并且應(yīng)該由現(xiàn)有政策涵蓋，但需要假設(shè)GenAI被廣泛采用的新政策，包括非技術(shù)人員。

在本文中，我們討論了這項新技術(shù)帶來的各種企業(yè)風險、威脅和影響，我們探討了威脅建模、制定政策時的考慮因素、與內(nèi)部利益相關(guān)者（如工程和法律團隊）的互動，以及其他相關(guān)方面。

作為CISO社區(qū)，我們面臨著一個歷史性的機遇，它也可以影響監(jiān)管以及世界各地個人（包括我們組織的個人）的安全、隱私和安全。

最后，重要的是要注意安全社區(qū)繼續(xù)研究這個關(guān)鍵主題。隨著更多協(xié)作項目的形成和行業(yè)最佳實踐的記錄，我們的主題、發(fā)現(xiàn)和建議將由Team8和CISO Village進行更新和擴展。

報告要點

高管們，其中包括CISO，發(fā)現(xiàn)自己落后于技術(shù)采用曲線，而員工和業(yè)務(wù)部門正在迅速采用Generative AI（GenAI）技術(shù)。

CISO正在問的關(guān)鍵問題：誰在我的組織中使用該技術(shù)，目的是什么？當員工與GenAI交互時，我如何保護企業(yè)信息（數(shù)據(jù)）？我如何管理底層技術(shù)的安全風險？如何在安全性權(quán)衡與技術(shù)提供的價值之間取得平衡？

通過與相關(guān)利益相關(guān)者合作，為組織制定定制政策，可以管理與GenAI相關(guān)的風險。

盡管GenAI的許多固有風險存在于任何基于云或AI/ML的技術(shù)中，但需要新的政策來假設(shè)GenAI的廣泛采用，包括非技術(shù)人員的廣泛采用。

企業(yè)中與GenAI相關(guān)的最嚴重風險源于四個根本問題：

GenAI對內(nèi)部運營和流程的影響；

信任第三方安全的必要性；

采用導(dǎo)致的法律和監(jiān)管風險；

盡管數(shù)據(jù)泄露風險確實存在，但媒體對其進行了不必要的炒作。

可以通過應(yīng)用以下策略來管理這些風險：

識別相關(guān)風險及其對組織的影響；

制定組織政策，說明如何以及誰可以使用這些工具，將上述風險降低到可接受的水平；

根據(jù)提供給客戶的安全性和政策可定制性，選擇合適的GenAI提供商，例如選擇退出和數(shù)據(jù)保留；

在企業(yè)控制下審查潛在的內(nèi)部替代方案。

關(guān)于Team8 CISO Village

這是一個由來自世界領(lǐng)先企業(yè)的CISO組成的社區(qū)。主要重點是促進世界上最著名的公司之間的合作，目的是分享信息和想法，就行業(yè)和技術(shù)趨勢和需求進行深入討論，并為各方創(chuàng)造價值和商業(yè)機會。