來源：IT之家 

OpenAI 一直致力于開發(fā)能夠造福全人類的人工智能技術(shù)，然而最近的一份報(bào)告揭示了一個(gè)令人擔(dān)憂的現(xiàn)象：近一半曾專注于超級(jí)智能 AI 長(zhǎng)期風(fēng)險(xiǎn)的研究人員已經(jīng)離開了這家公司。

圖源 Pexels

據(jù) Fortune 報(bào)道，OpenAI 前治理研究員 Daniel Kokotajlo 表示，在過去幾個(gè)月里，OpenAI 幾乎一半的 AGI 安全團(tuán)隊(duì)成員已經(jīng)離職。這引發(fā)了外界對(duì)公司是否正在忽視 AI 安全性的擔(dān)憂。

AGI 安全研究人員主要負(fù)責(zé)確保未來開發(fā)的 AGI 系統(tǒng)不會(huì)對(duì)人類構(gòu)成生存威脅。然而，隨著 OpenAI 越來越專注于產(chǎn)品和商業(yè)化，研究人員的離職意味著公司的安全研究團(tuán)隊(duì)正在逐漸縮減。

Kokotajlo 指出，自 2024 年以來，OpenAI 的 AGI 安全團(tuán)隊(duì)已經(jīng)從約 30 人減少到 16 人左右。他認(rèn)為，這并不是一個(gè)有組織的行動(dòng)，而是個(gè)人逐漸失去信心而離職。

OpenAI 發(fā)言人對(duì)此表示，公司為能夠提供最有能力、最安全的人工智能系統(tǒng)感到自豪，并相信自己具有解決風(fēng)險(xiǎn)的科學(xué)方法。

IT 之家注意到，今年早些時(shí)候，OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家 Ilya Sutskever 宣布辭去 OpenAI 職務(wù)，其領(lǐng)導(dǎo)的負(fù)責(zé)安全問題的 " 超級(jí)對(duì)齊 " 團(tuán)隊(duì)也遭到解散。