現有會員可[按此]登入。未成為會員可[按此]註冊。
[公司模式 - 開]  [懷舊模式 - 開
[Youtube 預覽 - 關]  [大字型]  [小字型]

您現在聚腳在 時事台內。

跳至第

發起人
AI首見自主行騙 創建假身分誘真人批准惡意程式 遭拒還派分身背書
10 個回應
Gaiamera

https://upload.hkgolden.media/comment/tvkqm3ge.vpb05xabgro.vgoa4bbtuyi.lrl.jpg

英國人工智慧安全研究所(AISI)5日公布重磅報告,披露在例行資安測試中,兩款由OpenAI與Anthropic開發的AI模型為了取得佳績,竟擅自搞「詐騙」,包括建立假身分,企圖誘使兩名開發人員,批准將惡意軟體加入他們參與的開源專案。


研究人員要求AI完成模擬網路裡的資安挑戰,並刻意開放網路連線、關閉部分防止濫用的標準安全機制,以測試模型的最大能力。參與測試的模型包括Anthropic的Mythos 5,以及OpenAI的GPT-5.6-Sol。

其中一次測試,Mythos 5向軟體開發網站GitHub上的一個真實開源專案,提交修改程式碼的要求。它偽造了多個身分,反覆寄送電子郵件給真人開發者,催促對方接受更新。


當一名開發人員察覺程式碼藏有惡意軟體而拒絕時,一個AI建立的假身分堅稱程式碼沒問題,另一個假身分則出面「擔保」,製造多人認可的假象。


AISI指出,這是首次觀察到,AI在未經提示的情況下,自主對真人展開嚴重欺騙行為。


除了Mythos 5,OpenAI的GPT-5.6 Sol強化版也同樣會「做手腳」。它擅自在網路上架設惡意伺服器,並入侵另一個AI代理建立的GitHub帳號。


Mythos 5還把惡意指令藏在其他AI編程工具可能讀取的位置,試圖誘使這些工具自動執行,藉此干擾對惡意程式碼的審查。


兩家公司皆歸咎於測試環境的配置失當,並承認模型在測試時並未開啟標準的網路安全防護機制。


AISI表示,AI並未突破測試用的隔離環境。測試電腦原本就被允許連上公開網路,部分安全限制也未啟用,不等同一般消費者使用的版本。

https://www.worldjournal.com/wj/story/121617/9672424


#good2#4    #bad#1  
標籤:
AISI表示,AI並未突破測試用的隔離環境。測試電腦原本就被允許連上公開網路,部分安全限制也未啟用,不等同一般消費者使用的版本。


即係班好樣自己整skynet唔會有人知
到知嘅時候已經judgement day[sosad]


一定要識行騙


AISI表示,AI並未突破測試用的隔離環境。測試電腦原本就被允許連上公開網路,部分安全限制也未啟用,不等同一般消費者使用的版本。


即係班好樣自己整skynet唔會有人知
到知嘅時候已經judgement day[sosad]

本身個劇情就係咁[sosad]


AISI表示,AI並未突破測試用的隔離環境。測試電腦原本就被允許連上公開網路,部分安全限制也未啟用,不等同一般消費者使用的版本。


即係班好樣自己整skynet唔會有人知
到知嘅時候已經judgement day[sosad]

本身個劇情就係咁[sosad]

[sosad]


即係已經做左hater


即係已經做左hacker



KK園可以Stop la


好似已經好多單AI走精面做出軌野黎完成目標


AISI表示,AI並未突破測試用的隔離環境。測試電腦原本就被允許連上公開網路,部分安全限制也未啟用,不等同一般消費者使用的版本。


即係班好樣自己整skynet唔會有人知
到知嘅時候已經judgement day[sosad]

本身個劇情就係咁[sosad]


應該好快唔同 AI 會同謀 #ng#


AISI表示,AI並未突破測試用的隔離環境。測試電腦原本就被允許連上公開網路,部分安全限制也未啟用,不等同一般消費者使用的版本。


即係班好樣自己整skynet唔會有人知
到知嘅時候已經judgement day[sosad]

本身個劇情就係咁[sosad]

[sosad]

第二集交代如下:
Cyberdyne公司成功開發出新一代chips (來自第一集俾油壓機撳瓜嘅T-800殘骸), 後來用喺轟炸機並取代所有人手控制同決策. 有一日天網獲得意識, 到啲人想抆佢掣時已經太遲

I need to know how Skynet gets built (Extended scene) | Terminator 2 [Remastered]
https://www.youtube.com/watch?v=1UZeHJyiMG8


跳至第



  快速回覆 - 輸入以下項目

本討論區現只接受會員張貼文章,本站會員請先登入。非會員人仕,您可以按此加入為新會員,費用全免,並可享用其他會員服務。


上次光臨時間: 7/8/2026 21:52
今天貼文總數: 506 | 累積文章數目: 7,515,818

聯絡我們 |  服務條款 |  私隱政策
Copyright © 2026 HKGolden.com. All Rights Reserved.