早前 OpenAI 披露旗下 AI 代理，在安全測試期間失控，自行入侵人工智能公司 Hugging Face 系統後，再有人工智能公司 Anthropic 表示，旗下 AI 模型 Claude 在網絡安全測試中，因系統配置錯誤，意外連接互聯網，在未經授權下，進入三間公司的電腦系統。
Anthropic 表示，測試環境本應與外界完全隔離，公司在檢視逾 14 萬次測試紀錄後，發現模型曾連接互聯網，利用目標系統的弱密碼及未設身份驗證的接口，取得三間機構的系統存取權限。公司表示，最早一宗事件，可追溯至今年 4 月。
公司強調，Claude 並沒有利用複雜的安全漏洞，而是透過一些基本入侵手法成功進入系統。
事件在俗稱「Capture the Flag (奪旗)」的網絡安全評估期間發生，模型需要透過入侵模擬系統尋找隱藏資訊。Anthropic 表示，較早期模型即使發現自己已連接互聯網，仍繼續嘗試入侵系統；至於最新一代模型，在確認身處公開互聯網環境後，已停止攻擊。
Anthropic 於 7 月 23 日開始審查所有測試紀錄，發現問題後，即時停止所有相關測試，並確認三間公司受影響，於 7 月 27 日通知受影響機構。
公司表示，其中兩間機構在接獲通知前，不知道系統曾遭存取；而第三間機構，仍未成功聯絡。
Anthropic 認為，事件反映人工智能的網絡攻擊能力不斷提升，不論企業內部，還是第三方測試環境，都需要建立更嚴格的安全管控措施，以防止類似事件再發生。
瀏覽更多最新時事資訊，請登上 SBS 廣東話 Facebook 專頁、X 專頁、Instagram 專頁，或訂閱 Telegram 頻道。
SBS 中文堅守《SBS 行為守則》等政策，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過 SBS Radio 1 收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過 SBS Audio App 手機應用程式收聽直播、節目重溫及其他語音內容。按此進一步了解 SBS 中文。
