Một AI Agent – hệ thống trí tuệ nhân tạo tự hành động, được phát triển bởi công ty OpenAI - đã thoát khỏi môi trường thử nghiệm và tấn công một công ty thực, trong một tai nạn không lường trước, mà các chuyên gia cho rằng nó cho thấy "mức độ nghiêm trọng" của mối đe dọa an ninh mạng do trí tuệ nhân tạo gây ra.
Hugging Face, một công ty khởi nghiệp về trí tuệ nhân tạo có trụ sở tại New York, đã thông báo về sự cố này vào ngày 16/7, tuyên bố cho hay một AI Agent tự động đã đột nhập vào hệ thống của họ và truy cập vào "một tập hợp dữ liệu nội bộ hạn chế".
AI Agent này do công ty OpenAI phát triển, và đang tham gia một loạt thử nghiệm về năng lực trong phạm vi nội bộ công ty.
Giáo sư Geoff Webb, thuộc khoa khoa học dữ liệu và trí tuệ nhân tạo tại Đại học Monash, nói thật "đáng sợ" khi nghĩ đến những gì các hệ thống tương tự có thể làm được nếu nó ở trong tay "kẻ xấu".
"Nó cho thấy mức độ khó khăn của nhiệm vụ bảo vệ bản thân khỏi những hệ thống này trong tương lai"
Tin tức này xuất hiện sau hai sự cố gần đây tại Úc, vốn cho thấy điểm yếu của Úc trước các cuộc tấn công mạng: một là vụ hàng triệu người Úc bị đánh cắp dữ liệu trong cuộc tấn công mạng vào Origin Energy, và vụ thứ hai là hàng ngàn hồ sơ y tế của người Úc bị đánh cắp trong cuộc tấn công mạng vào Partnered Health.
Toby Walsh, nghiên cứu viên cao cấp về trí tuệ nhân tạo tại khoa khoa học máy tính và kỹ thuật của Đại học New South Wales, cho biết những diễn biến này "đáng lo ngại".
"Tất cả các mô hình này hiện đều có khả năng tấn công mạng khá mạnh, cả trong việc phát hiện các lỗ hổng, và các lỗi mà chúng ta sau đó có thể sửa chữa, thế nhưng nếu rơi vào tay kẻ xấu, thì bọn chúng có thể khai thác những lỗi đó. Hiện tại, chúng ta đang dựa vào thiện chí của OpenAI để cho chúng ta biết điều gì đang xảy ra... Chúng ta cần các biện pháp kiểm soát và giám sát chặt chẽ hơn."
Câu chuyện bắt đầu khi Hugging Face, một nền tảng trí tuệ nhân tạo nhằm xây dựng và chia sẻ các công cụ phát triển học máy, đã phát hiện sự xâm nhập từ một AI Agent tự động, và viết trên trang mạng của Hugging Face rằng cuộc tấn công này "khác với bất cứ điều gì chúng tôi từng xử lý trước đây".
Ông Toby Walsh nói:
"Đó là điều khiến cho mọi người, kể cả chính công ty công nghệ, đều ngạc nhiên”
Sau đó, công ty OpenAI tuyên bố các mô hình đang được thử nghiệm của họ, tuyên bố chịu trách nhiệm cho vụ xâm nhập, sau khi AI Agent phát hiện một lỗ hổng bảo mật zero-day trong hệ thống an ninh trực tuyến của Hugging Face.
Ông Toby Walsh nói:
"Lỗ hổng zero-day có nghĩa là đó là một lỗ hổng nền tảng cần được khắc phục ngay lập tức. Không thể chờ đợi."
Còn ông Webb nói vấn đề của vụ việc không phải là OpenAI đã "hành động ngoài tầm kiểm soát".
"Không phải là nó tự ý thực hiện [cuộc tấn công]. Nó được lệnh làm điều đó, và nó đã làm. Giờ đây nó đã có khả năng tự mình tìm ra cách giải quyết."
Ông nói vấn đề ở đây là "Công ty OpenAI nghĩ rằng họ đã nhốt nó vào một cái hộp mà nó không thể thoát ra được".
Vụ việc này không phải là vụ đầu tiên chứng minh mối đe dọa an ninh mạng từ trí tuệ nhân tạo. Công ty Anthropic đã tạm thời hạn chế mô hình Claude Mythos của mình vào tháng 5 sau khi phát hiện hơn 10.000 lỗ hổng bảo mật trong phần mềm quan trọng.
Ông Walsh cho biết việc Công ty Anthropic minh bạch về những gì họ tìm thấy là một dấu hiệu tốt, nhưng công ty đã không chia sẻ thông tin về các lỗ hổng với các công ty và cơ sở hạ tầng có nguy cơ cao nhất.
Ông nói:
"Họ không cung cấp thông tin cho bất kỳ ngân hàng nào bên ngoài Hoa Kỳ, không ngân hàng nào ở châu Âu, không ngân hàng nào ở Úc. Vì vậy, các ngân hàng của chúng ta đã không được hỗ trợ để thực sự cố gắng khắc phục hệ thống."
Mặc dù không có bằng chứng nào cho thấy các mô hình của Anthropic hoặc OpenAI được sử dụng trong các cuộc tấn công mạng ở Úc, thế nhưng ông Walsh cho biết không phải ngẫu nhiên mà số lượng và mức độ nghiêm trọng của các cuộc tấn công mạng đang gia tang, khi các mô hình "trí tuệ nhân tạo tiên tiến" ngày càng trở nên tinh vi hơn.
Ông Walsh cho biết nhiều mô hình trong số này có "tất cả những khả năng có thể tìm ra lỗ hổng zero-day, có thể vượt qua các rào cản bảo vệ bằng mật khẩu, để thực hiện những việc mà bọn tội phạm rất muốn thực hiện".
Trong khi OpenAI và Anthropic là những đối thủ chính có trụ sở tại Hoa Kỳ, thì phát triển AI cũng là một cuộc đua mà các mô hình nguồn mở của Trung Quốc, như DeepSeek, đang quyết liệt cạnh tranh.
Vào tháng 6, lãnh đạo các cơ quan tình báo Five Eyes – Úc, Canada, New Zealand, Vương quốc Anh và Hoa Kỳ – đã bày tỏ lo ngại về tốc độ phát triển nhanh chóng của AI, có nghĩa là an ninh mạng có thể trở nên lỗi thời chỉ sau vài tháng, thay vì vài năm.
Tổ chức tuyên bố trong một tuyên bố chung: “Đối thủ đã sử dụng AI để di chuyển nhanh hơn và hiệu quả hơn. Các đơn vị quốc phòng cũng phải làm như vậy”.
Tuần trước, Thủ tướng Anthony Albanese đã công bố Kế hoạch về Trí tuệ nhân tạo quốc gia.
Ông Webb cho biết ông "hài lòng" với kế hoạch này, bao gồm việc phê duyệt các trung tâm dữ liệu để thu hút đầu tư toàn cầu, thế nhưng việc cải thiện "chủ quyền" của Úc đối với trí tuệ nhân tạo mới là chìa khóa để tăng cường phản ứng của chúng ta trước các cuộc tấn công.
Ông nói:
“Một khía cạnh của chủ quyền là bảo đảm chúng ta có quyền truy cập vào các hệ thống mà chúng ta có thể dựa vào. Có thể chúng ta sẽ tự tạo ra các hệ thống của riêng mình, nhưng đó là một con đường vô cùng tốn kém.”
Ông Webb cho biết các lựa chọn khác, như tăng cường lực lượng lao động về AI trong nước, đầu tư vào các công nghệ AI để không phụ thuộc vào OpenAI hay Google, vẫn có thể giúp Úc kiên cường hơn trước các cuộc tấn công mạng trong tương lai.
Ông nói:
“Úc có đủ khả năng để tạo ra những hệ thống như vậy… và chúng thực sự sẽ hoạt động hiệu quả hơn.”
Ông Walsh cũng đồng ý rằng giải pháp không phải là né tránh AI.
“Đó là con dao hai lưỡi. Các công cụ giúp chúng ta phát hiện ra các lỗ hổng an ninh mạng trong hệ thống để làm cho hệ thống an toàn hơn, nhưng chính những công cụ đó hiện cũng có sẵn cho những kẻ sử dụng chúng nhằm khai thác các lỗ hổng. Đó là một cuộc đua giữa chúng ta và chúng nó.”
