信息量很大！“ChatGPT之父”國會首秀：可讓開發(fā)AI模型公司持牌、可建國際監(jiān)管機構

每經(jīng)編輯｜畢陸名

當?shù)貢r間周二（5月16日），“ChatGPT之父”山姆·阿爾特曼（Sam Altman）首次在美國國會作證，他呼吁美政府對人工智能（AI）技術進行更嚴厲的監(jiān)管，并表示他掌管的OpenAI以及谷歌等同行都應當承受壓力。Altman呼吁國會對AI系統(tǒng)采取安全標準。

據(jù)澎湃新聞5月15日報道，阿爾特曼在最新的訪談中表示，可以建立一個類似于國際原子能機構的AI機構，讓每個人都參與到對極其強大的AI訓練系統(tǒng)的全球監(jiān)管機構中來。在訪談中，奧特曼還談到了自己如何使用ChatGPT，開源AI與閉源AI各自的特點與發(fā)展路徑。他認為，帶有人類反饋的強化學習（RLHF）不是正確的長期解決方案。

提議頒發(fā)AI開發(fā)許可

在這場美國參議院司法委員會舉行的聽證會上，Altman做開場白時就指出：“我們認為，對于減少日益強大的模型的風險而言，政府的監(jiān)管干預至關重要。”

山姆·阿爾特曼（圖片來源：視覺中國）

他認為，美國政府可以監(jiān)管AI行業(yè)的一種方式是，為開發(fā)功能最強大的AI系統(tǒng)的公司，實行持牌制度。如果有公司要開發(fā)和發(fā)布超出能力閥值的AI模型，政府可以將發(fā)放牌照和測試的要求結合起來，對他們予以監(jiān)管。

他還提到一種可能采取的解決方案，建立一個國際性的監(jiān)管方委員會，由美國領導。

Altman稱：“我最擔心的是（AI行業(yè)）會對世界造成重大傷害”。他說，AI可能被用于操縱選民以及有針對性的假消息是他“最關心的一些領域”，尤其是因為美國“明年將面臨選舉，而這些（AI）模型正在變得更好。”

同時，阿爾特曼還說道，ChatGPT-4將使一些工作實現(xiàn)自動化，同時將帶來新的工作機會。他還透露，目前公司并沒有訓練GPT-5，未來六個月也沒有這方面的計劃。

據(jù)財聯(lián)社5月17日報道，與之前準備好的證詞一致，阿爾特曼對監(jiān)管政策的初步建議主要集中在“AI開發(fā)許可”上。如此一來，只有獲得過許可的企業(yè)，才能發(fā)布新的人工智能模型并進行一系列測試。

一同出席聽證會的IBM首席隱私和信任官克里斯蒂娜.蒙哥馬利認為，應該要求人工智能產(chǎn)品在與用戶互動時保持透明可信。

她還告訴議員，雖然國會尚未設定相關要求，但IBM內部已經(jīng)組建了AI道德委員會。

歐盟欲出臺全球首個AI法案

據(jù)第一財經(jīng)5月13日消息，歐洲議會正就全球首部人工智能（AI）法案展開大規(guī)模協(xié)商，光修正案就有一千多項，創(chuàng)下了歐洲議會史上之最。當?shù)貢r間11日，歐洲議會內部市場委員會和公民自由委員會以84票贊成、7票反對和12票棄權通過關于《AI法案》的談判授權草案，其中包含了有關面部識別、生物識別監(jiān)控和其他AI應用使用的新規(guī)則，并提出了嚴格監(jiān)管ChatGPT等AI工具的新思路。

圖片來源：視覺中國

領導上述法案制定的歐洲議會議員土多拉舍（Drago?Tudorache）表示，歐盟的《AI法案》是全球首個此類立法，“歐盟可以在全球范圍內帶頭使AI以人為本，（變得）值得信賴和安全”。

目前的提案采取了分級管理的思路，即基于AI的四個等級（從風險最小到不可接受），進行區(qū)別管理，風險較高的應用程序將面臨更嚴格的規(guī)則，需要更高的透明度和準確性。

歐洲議會認為，對人類安全造成不可接受風險的AI系統(tǒng)將被嚴格禁止，包括部署潛意識或有目的操縱技術、利用人們弱點或用于社會評分的系統(tǒng)。

根據(jù)目前的時間表，該法案將于6月提交歐洲議會全體表決，之后歐洲議會、歐盟理事會和歐盟委員會的代表將在“三方”會談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

除了歐洲，全球各地越來越擔心快速發(fā)展的AI技術可能被濫用。美國聯(lián)邦貿(mào)易委員會此前發(fā)出警告，稱“正在密切關注公司如何選擇使用AI技術，包括新的生成人工智能工具，以及對消費者產(chǎn)生實際和實質性影響的方式”。

據(jù)環(huán)球網(wǎng)報道，5月4日，拜登政府則宣布對“值得信賴的”人工智能增加新投資。同日，美國副總統(tǒng)哈里斯以及多位白宮高級官員與谷歌、微軟、OpenAI和AI初創(chuàng)公司Anthropic的首席執(zhí)行官會面，集中討論當前和近期的技術發(fā)展所帶來的風險。

每日經(jīng)濟新聞綜合第一財經(jīng)、環(huán)球網(wǎng)、澎湃新聞、財聯(lián)社

封面圖片來源：視覺中國