每日經濟新聞 2023-02-06 15:34:09
◎OpenAI首席技術官Mira Murati呼吁監管介入，以防止ChatGPT等生成式AI系統對社會產生潛在負面影響。
每經記者｜文巧 每經編輯｜蘭素英
當地時間2月5日，OpenAI的首席技術官Mira Murati在接受《時代周刊》采訪時表示，ChatGPT有可能真正徹底改變人類的學習方式，具有進行個性化教育的巨大潛力。
她同時表示，ChatGPT面臨的核心挑戰仍是“模型偏差”。對于人工智能，關鍵的問題在于如何以符合人類價值觀的方式管理其使用。因此，需要監管機構進行介入，以防止ChatGPT等生成式AI系統對社會產生潛在負面影響。
Murati負責領導該公司旗下的DALL-E和ChatGPT項目。去年11月，ChatGPT在發布后迅速“引爆”全球，它不僅讓所有人瘋狂，也讓科技巨頭“慌了”——微軟產品將全線接入ChatGPT，ChatGPT被亞馬遜用于許多不同的工作職能中；而大受威脅的谷歌選擇投資ChatGPT競品公司Anthropic AI，并宣布將推出同類產品Apprentice Bard。
據瑞銀分析師團隊，自11月底發布以來，ChatGPT的月活躍用戶已達到1億，速度快于TikTok或Instagram。“在互聯網領域發展的20年里，我們想象不到有哪個互聯網應用發展得（比ChatGPT）更快。”
對于ChatGPT的大火，Mira Murati也稱這超乎想象。“我們沒有預料到將‘孩子’帶到這個世界會帶來這種程度的興奮。事實上，我們甚至對它感到有些不安，我很好奇它會在哪些領域開始為人們帶來效用，而不僅僅是新穎性和純粹的好奇心，”她這樣說道。
在采訪中，Mira Murati也提到了ChatGPT面臨的核心挑戰：與所有的大型語言模型相似，它可能會以一種非常自信的方式編造事實。
她說道，“我們選擇了對話的方式，因為對話不僅能與模型交互，并且能提供反饋。如果認為模型的答案不正確，你可以說，‘你確定嗎？ 我認為實際上......’。這樣，模型就有機會與你來回交流，類似于我們與另一個人交談的方式。”
當被問及這一突破性的技術旨在解決什么問題時，Mira Murati表示，“它有可能真正徹底改變我們的學習方式。借助ChatGPT等工具，你可以無休止地與模型對話，以符合你理解水平的方式進行學習，因此它具有幫助我們進行個性化教育的巨大潛力。”
在ChatGPT推出以后，越來越多的行業人士開始警告AI可能帶來的風險。例如，為防止學術作弊，紐約和西雅圖等最大的學區最近已禁止在其設備和網絡中使用ChatGPT，許多大學也在考慮采取類似措施。
對此，Mira Murati稱，“這是一個特別的時刻，我們有責任（引導）這項技術如何去塑造這個社會。它（帶來的影響）是雙向的，技術塑造我們，我們也要塑造它。”
Mira Murati同時承認，還有很多難題需要解決。“例如，你如何讓模型做你想讓它做的事情，以及你如何確保它符合人類意圖并最終為人類服務。還有很多關于社會影響的問題，以及倫理和哲學問題。”她表示。“AI可能被濫用，也可能被壞人利用。關鍵的問題在于，如何在全球范圍內管理該技術的使用，以及如何以符合人類價值觀的方式管理AI的使用。
對于這一點，她認為，重要的是要引入不同的聲音，比如哲學家、社會科學家、藝術家和人文學科人士（的看法）。
與此同時，Mira Murati還說道，對于OpenAI和像其一樣的公司來說，以一種可控和負責任的方式將其引入公眾意識非常重要。“但我們是一小群人，我們還需要對這個系統進行更多的投入，不僅僅是技術范圍的投入，還需要包括監管機構、政府和社會各界的參與。”
當被問及監管機構現在介入是否為時過早時，Murati稱，“現在介入并不早。考慮到這些技術將產生的影響，每個人都開始參與進來是非常重要的。”
封面圖片來源：視覺中國-VCG41N1151660342
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權，嚴禁轉載或鏡像，違者必究。
讀者熱線：4008890008
特別提醒：如果我們使用了您的圖片，請作者與本站聯系索取稿酬。如您不希望作品出現在本站，可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP
