OpenAI被曝取得重大技術(shù)突破，或威脅人類！馬斯克：極度令人擔(dān)憂

每經(jīng)編輯｜王月龍    

盡管隨著山姆·奧特曼重返OpenAI擔(dān)任CEO，這場震動科技界的“政變”大戲已經(jīng)宣告落幕。但自始至終，一個謎團(tuán)一直縈繞在人們心頭：奧特曼究竟為何被解雇？

而現(xiàn)在，隨著越來越多的消息被曝出，奧特曼被解雇的真相正在逐漸浮出水面。

據(jù)媒體援引知情人士的話報道，在奧特曼被罷免之前，幾名公司研究人員向董事會發(fā)出了一封信，警告稱一項(xiàng)強(qiáng)大的人工智能（AI）發(fā)現(xiàn)可能威脅人類。

據(jù)財(cái)聯(lián)社報道，消息人士表示，這封此前未被報道的信件和AI算法，是導(dǎo)致OpenAI董事會罷免奧特曼的催化劑。他們稱，董事會對奧特曼的諸多不滿導(dǎo)致后者被解雇，而這封信是原因之一。

據(jù)其中一位消息人士透露，長期擔(dān)任OpenAI高管的米拉·穆拉蒂周三告訴員工，一封關(guān)于名為Q*（發(fā)音為Q-Star）的AI突破的信件促使董事會采取了行動。

另一名消息人士表示，OpenAI在Q*上取得了進(jìn)展，一些內(nèi)部人士認(rèn)為這可能是該初創(chuàng)公司在超級智能，也被稱為通用人工智能（AGI）領(lǐng)域的突破。OpenAI將AGI定義為比人類更聰明的AI系統(tǒng)。

圖片來源：視覺中國（圖文無關(guān)）

該消息人士表示，鑒于龐大的計(jì)算資源，新模型能夠解決某些數(shù)學(xué)問題。雖然Q*的數(shù)學(xué)成績僅達(dá)小學(xué)生的水平，但研究人員對Q*未來的成功非常樂觀。

據(jù)澎湃新聞，研究人員認(rèn)為數(shù)學(xué)是生成式人工智能發(fā)展的前沿領(lǐng)域。目前，生成式人工智能擅長通過統(tǒng)計(jì)預(yù)測下一個單詞來進(jìn)行寫作和語言翻譯，而同一問題的答案可能會有很大差異。但征服數(shù)學(xué)的能力（只有一個正確答案）意味著人工智能將擁有類似于人類智能的更強(qiáng)推理能力。例如，人工智能研究人員認(rèn)為，這可以應(yīng)用于新穎的科學(xué)研究。

消息人士稱，研究人員在給董事會的信中指出了人工智能的能力和潛在危險，但沒有具體說明信中提到的具體安全問題。

值得注意的是，奧特曼被OpenAI董事會解雇前一天在舊金山出席亞太經(jīng)合組織首席執(zhí)行官峰會時，提到了OpenAI最近取得的一項(xiàng)技術(shù)進(jìn)步。“在OpenAI的歷史上已經(jīng)有四次了，最近一次是在過去幾周，當(dāng)我們推開無知的面紗并向前推進(jìn)發(fā)現(xiàn)的前沿時，我已經(jīng)在房間里了，能夠做到這一點(diǎn)是一生的職業(yè)榮譽(yù)。”他說。

隨著后來OpenAI陷入混亂，這一神秘言論基本上沒有引起注意。但一位知情人士表示，一些OpenAI員工認(rèn)為，奧特曼的言論指的是該公司今年早些時候的一項(xiàng)創(chuàng)新，該創(chuàng)新將使他們能夠開發(fā)出更強(qiáng)大的人工智能模型。這項(xiàng)技術(shù)突破由OpenAI首席科學(xué)家伊利亞·蘇茨克維（Ilya Sutskever）牽頭，一些員工擔(dān)憂OpenAI在將這種先進(jìn)的人工智能模型商業(yè)化時沒有適當(dāng)?shù)谋Ｕ洗胧?/span>

馬斯克就有關(guān)于OpenAI在AGI領(lǐng)域新突破的報道置評稱，“極度令人擔(dān)憂！”

編輯|王月龍 杜波 蓋源源

校對|程鵬

每日經(jīng)濟(jì)新聞綜合自財(cái)聯(lián)社、澎湃新聞、公開信息