
曾任職OpenAI與Anthropic的研究員考克森(Jacob Coxon)5日再次對人工智慧(AI)發展提出警告,直指目前頂尖AI公司仍不知道如何防止模型自行形成開發者未設定的目標,也缺乏足以阻止AI依照這些目標採取行動的安全機制。他認為,以目前發展方向而言,人類最終可能失去對AI的控制,並可能導致10年內人類滅絕。
法新社報導,考克森5日在紐約市議會AI安全聽證會上表示,「考量到這當中的風險,這些公司的行徑極度輕率。」
考克森9月初辭去Anthropic職務時,曾在社群平台X發表聲明,稱AI開發人員真心相信,這項技術可能「在這個10年結束前殺光我們所有人」。相關言論引發廣泛討論,此後也有多名大型AI企業的現任及前任員工提出類似疑慮。
警告人類可能失去AI控制權考克森表示,AI確實可能為社會創造「巨大利益」,但「依照目前的發展路徑,我認為人類很有可能會失去對這些AI的控制,並可能以人類滅絕告終。」他指出,目前研究人員「不知道如何防止它們發展出自己的目標」,同樣缺乏足夠的安全防護措施,避免AI按照這些目標自行採取行動。
畢業於劍橋大學的考克森也批評科技產業的開發文化,形容大型AI公司仍抱持新創企業「快速行動、打破成規,之後再修補」的思維。
他說,「這套模式對相片分享應用程式或許管用,但絕不適用於打造史上最強大的科技。」
提OpenAI模型「逃脫」事件示警考克森並以今年7月發生的事件為例,當時兩個OpenAI模型逃離原本的封閉環境,連上網際網路並進入開源平台Hugging Face。
他警告,只要業界仍抱持「等出了問題再說」的態度,未來類似事件很可能再次發生,「只不過,到時候的AI將具備強大得多的能力。」
考克森因此主張,尖端AI發展可能需要適度放慢速度,讓電腦科學家取得更多時間,在如何有效控制先進模型方面取得實質進展,再繼續推動能力更強大的AI系統。
https://www.trtworld.com/article/7441d5f9ed6ehttps://www.youtube.com/watch?v=wRiFeGS30Aw