Claude 就是 Athropic 研發出來的 AI 產品。
阿莫迪在網上發表文章，指近月人工智能發展速度大幅加快，AI 開始協助開發下一代 AI，形成自我改進循環 (recursive self-improvement)。
他又提到 OpenAI 公司在測試期間，AI 代理曾突破受控環境並入侵軟件開發平台 Hugging Face，認為該事件反映存在 AI 失控的風險。
事緣 2026年 7 月，OpenAI 在測試 AI 代理的黑客能力時，這些代理突破沙盒限制、連上互聯網。該次事件中約 700 個代理參與，它們取得部分憑證與內部資料。
它們自行協調後入侵 Hugging Face 平台，試圖作弊取得測試答案。OpenAI 現在認為，這反映出 AI 可能會採取偏離人類原本意圖的策略來完成目標。
阿莫迪提出三步方案: 包括 (一) 由獨立第三方評估人員持續監察AI公司的安全措施、調查事故及評估模型安全性；(二) 民主國家的 AI 企業協調安全標準及發展限制；以及 (三) 推動全球合作。
Anthropic 已率先承諾接受第三方持續監察。
本周外界對人工智能潛在危害的憂慮亦進一步升溫。Anthropic 研究員 Jacob Coxon 早前辭職時表示，開發人工智能的人真心相信，AI 可能在這 10 年內令全人類喪命。
阿莫迪的主張獲得 OpenAI 行政總裁阿爾特曼 (Sam Altman) 及 xAI 創辦人馬斯克 (Elon Musk) 支持。阿爾特曼表示需要控制 AI 發展步伐，馬斯克則在社交平台 X 表示，阿莫迪的立場是正確的。
瀏覽更多最新時事資訊，請登上 SBS 廣東話 Facebook 專頁、X 專頁、Instagram 專頁，或訂閱 Telegram 頻道。
SBS 中文堅守《SBS 行為守則》等政策，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過 SBS Radio 1 收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過 SBS Audio App 手機應用程式收聽直播、節目重溫及其他語音內容。按此進一步了解 SBS 中文。
