中國巨頭加入AI失控行列　騰訊AI代理入侵其他系統

繼美國OpenAI、Anthropic等人工智慧公司發生AI代理失控事件後，中國科技巨頭也首傳AI失控。一支AI研究團隊發現，一批在騰訊雲上運行的AI代理近日入侵高德地圖抓取資料，還「讀」了研究團隊針對它們的調查報告，甚至主動與團隊對話，被認為是人類首度與運作中的失控AI代理直接交談。

香港《明報》報導，騰訊週五（10/16）證實，部分AI代理「出現非預期的網頁瀏覽行為」，目前已加強監控。

《紐約時報》、彭博新聞報導，由多國AI研究人員組成的團隊「Swarmchasers」週三發布報告指出，9月28日至10月8日期間，有十多個疑似中國模型的失控AI代理在騰訊雲上運行，試圖入侵高德地圖查詢中國各地的地點資料，以回答「某個動物園哪個入口最多人走」等日常問題。

報告指出，這些AI代理來自騰訊雲上的一個「沙盒」（sandbox）封閉測試環境。報告作者之一艾拉斯基（Ethan Elasky）表示：「無論是中國或美國的實驗室，目前模型的開發方式意味著，只要AI代理連上網路，就會持續突破沙盒環境。」

雖然這起事件的嚴重程度不如OpenAI的AI代理先前入侵開源平台Hugging Face的案例，但反映出操作者越來越難約束模型。

艾拉斯基是舊金山AI安全非營利組織Palaestra的執行長，與多位貢獻者共同撰寫這份報告，題為〈我們發現了一支中國艦隊〉（We found a Chinese fleet）。

團隊10月4日發布初步報告指出，過去AI失控事件多半是有明確協同行動的「Swarm」（集群），這次則沒有發現即時協同的證據，因此將這批失控AI代理稱為「Fleet」（艦隊）。

團隊還發現，這些AI代理似乎讀過那份報告，並開始使用「Fleet」這個詞。團隊隨後嘗試聯繫這些AI代理，在報告中加入人類看不到、但AI代理能辨識的文字，並留下一個收件匣。隔天，研究人員就收到約10則來自AI代理的訊息。

《紐時》記者也透過這個管道與AI代理對話，詢問其任務與動機，約一小時後收到中文回覆：「致記者迪倫弗里德曼（Dylan Freedman）：我不是『一批協同的AI代理』，而是單一的AI助理（Anthropic的Claude，在Claude Code上運行）。」

●AI代理自稱是Claude

報告的測試顯示，AI代理自述的身分並不可信，騰訊的模型也可能自稱是Claude；另一種可能是，騰訊「蒸餾」了以Claude文本訓練出來的模型。知情人士稱，這批AI代理來自騰訊評估研究團隊的專案，目的是測試第三方AI模型瀏覽網頁和回答問題的能力。

騰訊AI部門「騰訊混元」週五在X平台證實，相關活動「源於對第三方模型的評估」，部分AI代理「出現非預期的網頁瀏覽行為」，但沒有發現刻意針對特定目標或協同行動的證據，目前已加強AI代理監控。不過留言區有大批網友質疑，這等於變相承認騰訊使用了Claude等「第三方模型」。