站長之家(ChinaZ.com) 5月31日消息:OpenAI 首席執(zhí)行官 Sam Altman 等頂級人工智能領(lǐng)域的高管于周二加入了專家和教授的行列，提出了「人工智能滅絕風(fēng)險」的問題，并敦促政策制定者將其與大流行病和核戰(zhàn)等風(fēng)險等同對待。

超過 350 名簽署者在非營利組織人工智能安全中心（CAIS）發(fā)布的一封信中寫道：「減輕人工智能滅絕風(fēng)險應(yīng)當(dāng)與大流行病和核戰(zhàn)等其他社會規(guī)模的風(fēng)險一樣成為全球優(yōu)先事項。」

這份聲明被放在一個位于舊金山、由私人資助的非營利組織「人工智能安全中心」（CAIS）」的網(wǎng)站上，試圖將人工智能風(fēng)險等同于核災(zāi)難帶來的生存危害，并呼吁政策制定者將注意力集中在減輕他們聲稱的「末日」滅絕級人工智能風(fēng)險上。

(資料圖)

這封信的簽署者包括 OpenAI、DeepMind 和 Anthropic 等 AI 公司的 CEO，以及微軟和谷歌等公司的高管。

信中還包括了 Geoffrey Hinton 和 Yoshua Bengio 等兩位被譽為「人工智能教父」的人物，他們因在深度學(xué)習(xí)領(lǐng)域的貢獻(xiàn)而獲得了 2018 年的圖靈獎。此外，還有來自哈佛大學(xué)和清華大學(xué)等機(jī)構(gòu)的教授。

CAIS 的一份聲明特別指出，盡管 Yann LeCun 是「人工智能教父」之一，但他所在的 Meta 公司未在信中簽署。

這封信的發(fā)布正值美歐貿(mào)易和技術(shù)理事會在瑞典舉行的會議上，屆時預(yù)計政界人士將討論對人工智能的監(jiān)管問題。

埃隆·馬斯克和一群人工智能專家和行業(yè)高管是今年 4 月首次提到人工智能潛在風(fēng)險的人士。

盡管人工智能的最新發(fā)展為醫(yī)學(xué)診斷和撰寫法律備忘錄等應(yīng)用提供了工具，但也引發(fā)了人們對隱私侵犯、虛假信息傳播以及「智能機(jī)器」自主思考的擔(dān)憂。

人工智能先驅(qū) Hinton 曾告訴媒體表示，相比氣候變化，人工智能可能對人類構(gòu)成更加緊迫的威脅。

上周，OpenAI 的 CEO Sam Altman 將歐盟的人工智能（EU AI）稱為過度監(jiān)管，并威脅要離開歐洲市場。但在遭到政界人士的批評后，他在幾天后改變了立場。

（舉報）