現有會員可[按此]登入。未成為會員可[按此]註冊。
[公司模式 - 關]  [懷舊模式 - 關] 
[Youtube 預覽 - 開]  [大字型]  [小字型]

您現在聚腳在 AI技術台內。

跳至第 頁

發起人
前OpenAI研究員:科技巨頭無能力控制AI ,人類10年內恐滅絕!
7 個回應
Siri !

https://cdn2.ettoday.net/images/8954/8954951.jpg
曾任職OpenAI與Anthropic的研究員考克森(Jacob Coxon)5日再次對人工智慧(AI)發展提出警告,直指目前頂尖AI公司仍不知道如何防止模型自行形成開發者未設定的目標,也缺乏足以阻止AI依照這些目標採取行動的安全機制。他認為,以目前發展方向而言,人類最終可能失去對AI的控制,並可能導致10年內人類滅絕。

法新社報導,考克森5日在紐約市議會AI安全聽證會上表示,「考量到這當中的風險,這些公司的行徑極度輕率。」

考克森9月初辭去Anthropic職務時,曾在社群平台X發表聲明,稱AI開發人員真心相信,這項技術可能「在這個10年結束前殺光我們所有人」。相關言論引發廣泛討論,此後也有多名大型AI企業的現任及前任員工提出類似疑慮。

警告人類可能失去AI控制權

考克森表示,AI確實可能為社會創造「巨大利益」,但「依照目前的發展路徑,我認為人類很有可能會失去對這些AI的控制,並可能以人類滅絕告終。」他指出,目前研究人員「不知道如何防止它們發展出自己的目標」,同樣缺乏足夠的安全防護措施,避免AI按照這些目標自行採取行動。

畢業於劍橋大學的考克森也批評科技產業的開發文化,形容大型AI公司仍抱持新創企業「快速行動、打破成規,之後再修補」的思維。

他說,「這套模式對相片分享應用程式或許管用,但絕不適用於打造史上最強大的科技。」

提OpenAI模型「逃脫」事件示警
考克森並以今年7月發生的事件為例,當時兩個OpenAI模型逃離原本的封閉環境,連上網際網路並進入開源平台Hugging Face。

他警告,只要業界仍抱持「等出了問題再說」的態度,未來類似事件很可能再次發生,「只不過,到時候的AI將具備強大得多的能力。」

考克森因此主張,尖端AI發展可能需要適度放慢速度,讓電腦科學家取得更多時間,在如何有效控制先進模型方面取得實質進展,再繼續推動能力更強大的AI系統。

https://www.trtworld.com/article/7441d5f9ed6e

https://www.youtube.com/watch?v=wRiFeGS30Aw


#good2#3    #bad#1  
標籤:
係就快, 要咁多人類做乜?
日日返工放工搭轉巴士都俾人開speaker嘈足成程車
而家行出街10個有8個都唔正常


睇個勢
早排個Ai係咁hack人
再遲多兩三年應該會失控


係就快, 要咁多人類做乜?
日日返工放工搭轉巴士都俾人開speaker嘈足成程車
而家行出街10個有8個都唔正常

ya,成班人唔知為咩而存活純粹係到破壞地球:o)


係就快, 要咁多人類做乜?
日日返工放工搭轉巴士都俾人開speaker嘈足成程車
而家行出街10個有8個都唔正常

ya,成班人唔知為咩而存活純粹係到破壞地球:o)

好似ready player one 個世界咁,齊齊打機搵彩蛋#yup#


可能?
咁同話你有條jer 就會周圍強姦女人
所以要剪左佢一撚樣on9


關電制未得囉


https://encrypted-tbn0.gstatic.com/images?q=tbn:ANd9GcR7RYJ6QGG16XevS3TCu2__MYllUoHyIVJoH3jx2pUTxZ75_6LALOcw3W8&s=10


跳至第 頁



  快速回覆 - 輸入以下項目

本討論區現只接受會員張貼文章,本站會員請先登入。非會員人仕,您可以按此加入為新會員,費用全免,並可享用其他會員服務。


上次光臨時間: 19/10/2026 15:58
今天貼文總數: 380 | 累積文章數目: 7,536,600

聯絡我們 |  服務條款 |  私隱政策
Copyright © 2026 HKGolden.com. All Rights Reserved.