最近由 OpenAI 公司開發的一個人工智能代理 (AI agent)，脫離原本的測試環境，入侵另一間技術公司。有專家表示，事件凸顯人工智能對網絡安全帶來威脅的「嚴重性」。
OpenAI 聲明指，一次內部能力測試期間，多個 OpenAI 模式組合，自主對另一個名為 Hugging Face 的技術平台發動網絡攻擊。
蒙納殊大學數據科學與人工智能系教授韋伯，在科學及學術研究上獲承認為「桂冠學者」(laureate fellow)，他對本台新聞部表示，當想到如果這些系統落入一些「壞人」手中會造成些甚麼後果，簡直「令人覺得毛骨悚然」。
他又表示， 事件顯示我們在未來如何可以保障自己免受這些系統侵害，實在面臨著很艱鉅的任務。
最近發生的兩宗事件，亦暴露了澳洲在受到網絡攻擊上的脆弱性， 其中包括Origin 能源公司承認，他們的客戶資料遭黑客攻擊，導致有數百萬澳洲民眾的資料外洩；另外便是早前Partnered Health公司亦同樣遭黑客攻擊，導致數以千計病人的醫療記錄被盜取。
新南威爾斯大學電腦及工程系、負責人工智能的教授沃爾什（Toby Walsh）表示，事態發展「令人擔憂」。
他對本台新聞部表示：「所有這些（人工智能）模型現時都具備相當強大的聯網能力，既可以發現缺陷和漏洞， 供人類進行修復，但如果一旦落入不法分子手中，亦會被他們利用。」
他認為，現時只能依靠OpenAI是否願意告知大家發生了甚麼事，而他認為，其實現時是需要有更嚴格的控制和監管制度。
事件被發現是因為美國人工智能巨頭OpenAI旗下正在以低安全限制測試的人工智能模型，在具規範性的測試環境中，測試其聯網能力。期間模型利用第三方供應商的漏洞，取得網絡存取權限，最終成功入侵Hugging Face的基礎設施。而Hugging Face在發現了一個來自自主人工智能代理系統的入侵後，就在平台的網站上寫道，這次攻擊「與我們之前處理過的任何攻擊都不同」。
沃爾什表示， 事件令所有人都感到意外，包括OpenAI。而OpenAI表示，公司曾要求該模型進行「利用進階漏洞」(advanced exploitation)及開發「複雜的攻擊路徑」，以評估其聯網能力，但模型沒有自行開發解決方法，反而將目標對準Hugging Face的資料庫，在Hugging Face的網絡安全系統中發現了一個「零日漏洞」 （zero-day flaw），以獲取可用於評估的機密資訊。
OpenAI形容，這是前所未有的網絡安全事件，涉及最先進的網絡安全技術，而該公司亦正採取相應的應對措施，並會分享初步的調查結果，幫助其他科技平台防禦系統了解事件經過，並評估現有模型的能力。
沃爾什解釋指，「零日漏洞意味著這是一個基礎性的缺陷，必須立即進行修復而不能拖延。」
韋伯對本台新聞部表示，事件的問題不在於OpenAI「失控」， 因為有關模型是「被指示這樣做的，然後只是執行了任務。而現時該模型已具備了發現漏洞的能力。」
他表示，問題在於究竟「OpenAI是否認為，他們是真的將有關模型困在一個無法逃脫的環境之內」。
其實今次事件並非人工智能網絡安全威脅的首個例子。早在今年5月，Anthropic公司在關鍵的軟件中，發現了超過1萬個安全漏洞， 之後，該公司暫時限制了使用其開發中的Claude Mythos模型。
沃爾什表示，Anthropic公司在事件發生後披露有關發現， 好處是能夠對外界保持透明度，但他認為，該公司並未能有效地與一些有最高風險的公司和基礎設施共享有關漏洞的資訊。
他指出，Anthropic並沒有將有關訊息提供給美國以外的任何銀行，所以澳洲及其他世界各地的銀行也不知道應該如何修復他們的系統。
雖然暫時沒有證據顯示Anthropic或OpenAI的人工智能模型是有被黑客用來對澳洲的網絡進行攻擊，但沃爾什表示，隨著「前綫人工智能」模型變得越來越複雜，網絡攻擊的數量和嚴重程度亦正在增加，而他認為，這並非是巧合。
另外，總部位於紐約的 Hugging Face 公司表示，他們當時需要使用一個由中國開發的開放原始碼模型來遏制該次攻擊，因為現時在美國最先進的模型，亦未能告知該網絡或平台的防禦機制，究竟入侵的資料是屬於防禦性質抑或是屬於攻擊性質，亦拒絕處理分析所需的數據。
沃爾什說：「現時，許多此類模型都具備各種能力，可以找到零日漏洞，繞過密碼保護屏障，進行犯罪分子夢寐以求的操作。」
雖然 OpenAI 和 Anthropic 是美國的主要競爭對手，但像由中國開發像的DeepSeek 這樣的開放原始碼模型亦正在這場開發人工智能的競賽中進行競爭。
在上個月（6 月），由澳洲、加拿大、新西蘭、英國和美國組成的「五眼聯盟」的領袖表示擔憂，人工智能的發展速度， 意味著網絡安全措施在幾個月而不是幾年內會過時。
他們在聯合聲明中表示：「一些對手已經在利用人工智能上更快和更有效地行動， 而防禦工作亦必須要跟上。」
上星期，總理艾巴尼斯宣布一項國家人工智能計劃， 包括加快數據中心的審批流程以吸引全球投資。韋伯表示，他對該計劃感到「滿意」，但他同時指出，改善澳洲對人工智能的控制力，才是加強應對網絡攻擊的重要一環。
他亦提出了一些控制人工智能的方法， 究竟是甚麼，請收聽這節【時事熱話】。
瀏覽更多最新時事資訊，請登上 SBS 廣東話 Facebook 專頁、X 專頁、Instagram 專頁，或訂閱 Telegram 頻道。
SBS 中文堅守《SBS 行為守則》等政策，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過 SBS Radio 1 收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過 SBS Audio App 手機應用程式收聽直播、節目重溫及其他語音內容。按此進一步了解 SBS 中文。
