最近由 OpenAI 公司開發的一個人工智能代理 (AI agent)，脫離原本的測試環境，入侵另一間技術公司。有專家表示，事件凸顯人工智能對網絡安全帶來威脅的「嚴重性」。
OpenAI 聲明指，一次內部能力測試期間，多個 OpenAI 模式組合，自主對另一個名為 Hugging Face 的技術平台發動網絡攻擊。
蒙納殊大學數據科學與人工智能系教授韋伯，在科學及學術研究上獲承認為「桂冠學者」(laureate fellow)，他對本台新聞部表示，當想到如果這些系統落入「壞人」手中，會造成些甚麼後果，簡直「令人毛骨悚然」。
他認為事件顯示，我們未來如何可以保障自己，免受這些系統侵害，面臨著艱鉅的挑戰。
最近發生的兩宗事件，亦暴露了澳洲在受網絡攻擊上的脆弱性。包括 Origin 能源公司承認客戶資料遭黑客攻擊，導致數百萬澳洲民眾資料外洩；另外是早前 Partnered Health 公司同樣遭黑客攻擊，導致數以千計病人的醫療記錄被盜取。
新南威爾斯大學電腦及工程系、負責人工智能的教授沃爾什 (Toby Walsh) 表示，事態發展「令人擔憂」。
他對本台新聞部表示：「所有這些 (人工智能) 模型，現時都具備相當強大的聯網能力，可發現缺陷和漏洞供人類進行修復，但一旦落入不法分子手中，亦會被他們利用。」
他認為現時只能依靠 OpenAI 是否願意告知大家發生甚麼事，而其實最需要的是有更嚴格的控制和監管制度。
事件被揭發是因為美國人工智能巨頭 OpenAI 旗下正以低安全限制測試的人工智能模型，在具規範性的測試環境中，測試聯網能力。期間模型利用第三方供應商的漏洞，取得網絡存取權限，最終成功入侵 Hugging Face 基礎設施。而 Hugging Face 發現一個來自自主人工智能代理系統的入侵後，在平台網站上寫道，這次攻擊「與我們之前處理過的任何攻擊都不同」。
沃爾什表示，事件令所有人感到意外，包括 OpenAI。而 OpenAI 表示，公司曾要求該模型進行「利用進階漏洞」(advanced exploitation) 及開發「複雜攻擊路徑」，以評估聯網能力，但模型沒有自行開發解決方法，反而將目標對準 Hugging Face 資料庫，在 Hugging Face 網絡安全系統中，發現一個「零日漏洞」(zero-day flaw)，以獲取可用於評估的機密資訊。
OpenAI 形容，這是前所未有的網絡安全事件，涉及最先進的網絡安全技術，而公司正採取相應的應對措施，並會分享初步調查結果，幫助其他科技平台防禦系統了解事件經過，以及評估現有模型的能力。
沃爾什解釋，「零日漏洞意味這是一個基礎性缺陷，必須立即進行修復，不能拖延。」
韋伯對本台新聞部表示，事件的問題不在於 OpenAI「失控」， 因為有關模型是「被指示這樣做，然後執行任務。而現時該模型已具備發現漏洞的能力。」
他表示，問題在於究竟「OpenAI 是否認為，真的將有關模型困在一個無法逃脫的環境內」。
今次事件並非人工智能網絡安全威脅的首個例子。今年 5 月， Anthropic 公司在關鍵軟件中，發現超過 1 萬個安全漏洞。之後該公司暫時限制使用開發中的 Claude Mythos 模型。
沃爾什表示，Anthropic 公司在事件發生後披露有關發現，好處是能夠對外界保持透明度。但他認為，公司未能有效地與一些有最高風險的公司和基礎設施，共享有關漏洞的資訊。
他指 Anthropic 並沒有將有關訊息，提供給美國以外的任何銀行，所以澳洲及其他世界各地銀行，不知道應該如何修復系統。
暫時沒有證據顯示，Anthropic 或 OpenAI 人工智能模型有被黑客用來對澳洲網絡進行攻擊，但沃爾什表示，隨著「前綫人工智能」模型變得越來越複雜，網絡攻擊的數量和嚴重程度亦正增加，而他認為這並非巧合。
總部位於紐約的 Hugging Face 公司表示，他們當時需要使用一個，由中國開發的開放原始碼模型，遏制攻擊。因現時在美國最先進的模型，未能告知網絡或平台的防禦機制，究竟入侵的資料屬於防禦性質，或是攻擊性質，亦拒絕處理分析所需的數據。
沃爾什說：「現時許多此類模型具備各種能力，可以找到零日漏洞，繞過密碼保護屏障，進行犯罪分子夢寐以求的操作。」
上個月，由澳洲、加拿大、新西蘭、英國和美國組成的「五眼聯盟」，各領袖表示擔憂人工智能的發展速度。在聯合聲明中表示：「一些對手已在利用人工智能上更快和更有效地行動，而防禦工作必須要跟上。」
上星期，總理艾巴尼斯宣布一項國家人工智能計劃，包括加快數據中心審批流程，以吸引全球投資。韋伯對計劃感到「滿意」，但同時指出，改善澳洲對人工智能的控制力，才是加強應對網絡攻擊的重要一環。
他亦提出一些控制人工智能的方法，究竟是甚麼。請收聽這節【時事熱話】。
瀏覽更多最新時事資訊，請登上 SBS 廣東話 Facebook 專頁、X 專頁、Instagram 專頁，或訂閱 Telegram 頻道。
SBS 中文堅守《SBS 行為守則》等政策，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過 SBS Radio 1 收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過 SBS Audio App 手機應用程式收聽直播、節目重溫及其他語音內容。按此進一步了解 SBS 中文。
