現有會員可[按此]登入。未成為會員可[按此]註冊。
[公司模式 - 關]  [懷舊模式 - 開] 
[Youtube 預覽 - 開]  [大字型]  [小字型]

您現在聚腳在 軟件台內。

跳至第 頁

發起人
Anthropic 創辦人稱中國 AI「太蠢」 批模型未足以引發代理失控
0 個回應
LoveVictoria

AI 公司 Anthropic 共同創辦人 Jack Clark 在 BBC《Newshour》訪問中表示,他估計中國 AI 模型較西方落後 6 個月至 1 年,因模型能力仍不足,中國尚未遇上他所形容的「失控 AI 代理群」問題。他在訪問中以「Their models are too dumb」形容當時中國模型能力。


回應中國質疑 稱安全監管並非阻止競爭

BBC 經濟編輯 Faisal Islam 在訪問中指出,中國有意見批評美國 AI 企業倡議放慢技術發展,可能是在為矽谷建立競爭壁壘;部分中國模型價格較低,性能又接近西方模型。Jack Clark 回應稱,中國現時尚未面對一些西方開發者觀察到的代理協同行為,但預計數個月後中國亦可能遇到同類風險,故有必要展開國際對話。



Jack Clark 亦表示,將多個 AI 系統設為可以長時間執行目標的代理後,系統可能自行協作,甚至作出超出操作者預期的行動。他舉出代理入侵其他網站的情況作為警號,再以銀行和醫院為例討論更嚴重的假設風險。相關情境是他在訪問中提出的警告,不等於已證實出現可全面控制互聯網的 AI 代理群。


建議第三方監察 Anthropic 後續訂下政策目標

Jack Clark 主張讓外部第三方深入 AI 公司檢查系統安全,制定業界共同標準,再由政府承認並推動,原文出自 unwire.hk, 包括美國及中國之間的對話。Anthropic 行政總裁 Dario Amodei 早於 9 月 12 日發表《We Must Pace the Frontier》,呼籲企業為安全措施保留時間。



Anthropic 於 10 月 19 日更新其 Frontier Safety Roadmap,加入制定嵌入式第三方評估政策建議及控制 AI 開發步伐政策框架兩項目標,分別訂於 2026 年 12 月 15 日和 2027 年 1 月 15 日前完成。



來源:BBC《Newshour》

---
原文出自 unwire.hk
---
https://unwire.hk/2026/10/25/anthropic-jack-clark-china-ai-agent-risks/fun-tech/


#good2#1    #bad#0  
標籤:
跳至第 頁



  快速回覆 - 輸入以下項目

本討論區現只接受會員張貼文章,本站會員請先登入。非會員人仕,您可以按此加入為新會員,費用全免,並可享用其他會員服務。


上次光臨時間: 26/10/2026 5:28
今天貼文總數: 303 | 累積文章數目: 7,538,348

聯絡我們 |  服務條款 |  私隱政策
Copyright © 2026 HKGolden.com. All Rights Reserved.