中新網(wǎng)12月19日電 據(jù)彭博社報道，當(dāng)?shù)貢r間18日，美國人工智能公司OpenAI在其網(wǎng)站上公布一項安全指南，加強其內(nèi)部安全流程，并賦予董事會對高風(fēng)險人工智能的否決權(quán)。

　　據(jù)報道，當(dāng)天，OpenAI發(fā)表一系列安全指南，闡釋公司計劃如何應(yīng)對最強大人工智能(AI)系統(tǒng)可能引起的極端風(fēng)險。

　　在該指南下，OpenAI只會在確定最新技術(shù)的安全性之后才會開始運用。公司將成立一個顧問團隊以審核安全報告，再轉(zhuǎn)交公司高層和董事會。雖然公司領(lǐng)導(dǎo)負責(zé)做決策，董事會可推翻決定。

　　OpenAI在2023年10月宣布成立“備災(zāi)小組”，并會持續(xù)評估它的AI系統(tǒng)在網(wǎng)絡(luò)安全、化學(xué)威脅、核威脅和生物威脅等四大范疇的表現(xiàn)，同時減低科技可能帶來的任何危害。

　　具體來說，公司檢查的是定義為：能造成上億美元經(jīng)濟損失，或?qū)е略S多個人受傷害或死亡的“災(zāi)難性”風(fēng)險。

　　“AI本身沒有好壞，我們正在塑造它?！鳖I(lǐng)導(dǎo)“備災(zāi)小組”的亞歷山大·馬德里表示，他的團隊會每月提交報告給內(nèi)部新成立的安全顧問團隊，再由阿爾特曼與公司董事會判斷分析團隊所提交的建議。

　　馬德里希望，其他公司能利用OpenAI的指引，來評估旗下AI模型的潛在風(fēng)險。

　　2023年3月，包括馬斯克、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克在內(nèi)的1000多名人工智能專家和行業(yè)高管簽署了一份公開信，他們在公開信中呼吁暫停高級人工智能開發(fā)，直至此類設(shè)計的共享安全協(xié)議經(jīng)由獨立專家開發(fā)、實施和審核。