圖/shutterstock
如果你最近聽到很多AI的推崇聲,那麼你可能不是唯一一個。AI開發者、知名AI倫理學家,甚至是微軟的聯合創始人比爾·蓋茨都花了過去一周的時間來捍衛他們的工作。這是對上週由未來生命研究所發布的一封公開信的回應,該信由特斯拉CEO埃隆·馬斯克和蘋果聯合創始人史蒂夫·沃茲尼亞克簽署
呼籲停止研發能夠與人類水平智慧相競爭的AI系統的工作,並要求進行為期六個月的暫停。
這封公開信現在已經獲得了超過13,500個簽名,表達了對“危險的競賽”的擔憂,開發像OpenAI的ChatGPT、微軟的Bing AI聊天機器人和Alphabet的Bard等程序,如果沒有得到有效監管,可能會帶來負面後果,從廣泛的虛假信息到將人類工作移交給機器。
但是科技產業的大部分人,包括至少一個最重要的行業巨頭,都在反擊。
蓋茨周一對路透社表示:“我認為要求某個特定的群體暫停工作無法解決這些挑戰。”蓋茨補充說,全球範圍內實施暫停將很難執行,但他同意該行業需要進一步研究“確定棘手的領域”。
專家表示,這就是辯論的有趣之處:公開信可能引用了一些合法的擔憂,但它提出的解決方案似乎是不可能實現的。
以下是原因,以及接下來可能發生的事情,從政府監管到任何潛在的機器人起義。
「最近幾個月,AI 實驗室一直在進行一場失控的競賽,競相開發和部署越來越強大的數字化智慧,沒有人,甚至包括它們的創造者,能理解、預測或可靠地控制它們。」
AI 系統往往帶有編程偏見和潛在的隱私問題。它們可能會廣泛散播錯誤信息,特別是在惡意使用時。
而且可以想象到,企業將會試圖用 AI 語言系統取代人類工作,從個人助理到客戶服務代表都有可能被取代。
意大利已經因為 OpenAI 數據泄漏的隱私問題而暫時禁止 ChatGPT。英國政府上週發布了規定建議,歐洲消費者組織呼籲歐洲各國立法者加強監管。
在美國,一些國會議員呼籲制定新法規來規範 AI 技術。上個月,聯邦貿易委員會發布了為開發此類聊天機器人的企業提供的指導方針,暗示聯邦政府正在密切關注可以被詐騙者使用的 AI 系統。
去年通過的多個州隱私法旨在迫使企業披露其 AI 產品的工作時間和方式,並讓客戶有機會選擇不提供個人數據進行 AI 自動化決策。
這些法律目前在加利福尼亞、康涅狄格州、科羅拉多州、猶他州和維吉尼亞州生效。
從上個月開始,位於舊金山的AI安全研究公司Anthropic在其博客文章中表示,現有技術“並不構成即時問題”,因此並不擔心AI會帶來什麼危險。該公司在2月份獲得Alphabet的4億美元投資,並自行擁有一個AI聊天機器人。然而,Anthropic也提到,未來十年內的AI系統可能會變得“更加強大”,現在就建立安全防護措施可以“有助於減少風險”。
問題在於:Anthropic認為,沒有人能確定這些防護措施應該是什麼樣子。
CNBC Make It的一位公司發言人告訴記者,開放信能夠引發圍繞這一話題的討論,這對他們是有用的。然而,這位發言人沒有明確表示Anthropic是否支持暫停AI開發六個月的建議。
在周三的一條推文中,OpenAI的CEO Sam Altman承認,“一個有效的全球監管框架,包括民主治理”和“領先的人工智慧(AGI)公司之間的充分協調”可以有所幫助。
然而,Altman並未具體說明這些政策可能包含哪些內容,也未回應CNBC Make It的有關公開信的評論請求。
一些研究人員提出另一個問題:暫停研究可能會抑制快速發展的行業進展,並允許正在開發自己AI系統的專制國家領先。
AI的潛在威脅可能會鼓勵壞分子利用技術從事不良行為,AI-backed search engine startup You.com的AI研究員兼CEO Richard Socher表示。
誇大這些威脅的即時性也會在這個話題上製造不必要的恐慌,Socher 說。他補充道,公開信的建議是“不可能執行的,並且在錯誤的層次上解決了問題”。
AI開發者對於這封公開信的反應不太熱烈,看起來科技巨頭和初創企業都不太可能自願停止他們的工作。
這封信呼籲政府加強監管的要求看起來更有可能實現,特別是因為美國和歐洲的立法者已經在推動對AI開發者的透明度要求。
在美國,根據律師事務所Alston&Bird在12月發布的一份建議,FTC還可以制定規則,要求AI開發者只使用不包含錯誤信息或內隱偏見的數據集來訓練新系統,並增加產品發布前後的測試。
這些努力需要在科技進一步發展之前就做好,這是加州大學伯克利分校計算機科學家、領先AI研究人員史都華·拉塞爾在聯署這封公開信時提出的看法。
暫停AI研究還可以給科技公司更多時間來證明他們的先進AI系統不會“造成過度風險”,拉塞爾在周六告訴CNN。
雙方似乎都同意一件事:快速發展的AI所帶來的最壞情況是值得防止的。短期來看,這意味著提供AI產品用戶透明度,保護他們免受騙徒的傷害。
長期來看,這可能意味著防止AI系統超過人類智慧的水平,並保持有效控制它的能力。
“一旦你開始制造比人類智慧更高的機器,我們將很難生存,這是不可避免的,”蓋茨在2015年告訴BBC。
延伸閱讀:
【美股新聞】OpenAI面臨一項投訴,該投訴要求聯邦貿易委員會對其進行調查並暫停ChatGPT的發布 (2023.03.31)
【美股新聞】OpenAI CEO 承認有一個錯誤 : 允許一些 ChatGPT 用戶看到其他人的對話標題 (2023.03.24)