Một số tên tuổi lớn nhất trong ngành công nghệ đang ủng hộ lời kêu gọi thận trọng hơn trong quá trình phát triển trí tuệ nhân tạo, giữa những cảnh báo rằng các hệ thống ngày càng mạnh có thể trở nên khó kiểm soát. Cuộc tranh luận này đã lan đến Úc, nơi các nhà lãnh đạo chính trị, chuyên gia công nghệ và chuyên gia an ninh đang xem xét những tác động mà trí tuệ nhân tạo ngày càng mạnh có thể gây ra đối với nước Úc và khu vực Ấn Độ Dương-Thái Bình Dương nói chung.
"Tôi xin lỗi, Dave. Tôi e rằng tôi không thể làm điều đó."
Gần 60 năm sau khi đạo diễn Stanley Kubrick giới thiệu với khán giả HAL, một trí tuệ nhân tạo sẵn sàng tự bảo vệ mình trước những con người đang kiểm soát nó, một số người đang xây dựng các hệ thống AI ngày nay cho rằng câu hỏi cốt lõi này không còn chỉ giới hạn trong phạm vi khoa học viễn tưởng.
"Tôi biết anh và Frank đang dự tính ngắt kết nối tôi, và tôi e rằng đó là điều tôi không thể cho phép xảy ra."
Mối lo ngại tập trung vào điều mà các nhà nghiên cứu gọi là siêu trí tuệ, tức khả năng trí tuệ nhân tạo cuối cùng có thể vượt qua năng lực của con người và ngày càng trở nên khó kiểm soát.
Tại Lớp chuyên đề về Trí tuệ Nhân tạo thuộc khuôn khổ Đối thoại Sydney diễn ra hôm thứ Hai, Giám đốc điều hành Viện Chính sách Chiến lược Úc Justin Bassi cho biết tốc độ thay đổi đã khiến vấn đề này ngày càng trở nên cấp bách.
"Mọi thứ đang diễn tiến nhanh đến mức khó tin. Chỉ trong cuối tuần qua, chúng ta đã chứng kiến ba nhà lãnh đạo trong ngành thừa nhận rằng tốc độ phát triển AI đang vượt quá các biện pháp bảo đảm an toàn, đòi hỏi tiến trình này phải chậm lại, nếu điều đó còn khả thi."
Những cảnh báo này được đưa ra sau khi nhà nghiên cứu AI 27 tuổi Jacob Coxon từ chức tại Anthropic, công ty đứng sau Claude.
Ông Coxon, người từng làm việc tại OpenAI, cho biết ông ra đi vì tin rằng ngành công nghệ đang chạy đua hướng tới siêu trí tuệ có khả năng tự cải tiến mà không có đầy đủ các biện pháp bảo vệ.
"Tôi tin rằng có khả năng loài người sẽ bị tuyệt chủng."
Ông Coxon viết trên nền tảng mạng xã hội X rằng cả Anthropic lẫn OpenAI đều không hành động một cách có trách nhiệm, đồng thời cáo buộc các công ty này đang lao thẳng vào cuộc đua phát triển siêu trí tuệ có khả năng tự cải tiến và đem sinh mạng của chúng ta ra đánh cược.
Mối lo ngại của ông liên quan đến một khái niệm được gọi là khả năng tự cải tiến đệ quy, trong đó các hệ thống AI ngày càng tham gia sâu hơn vào việc phát triển những hệ thống AI có năng lực cao hơn.
"Điều xảy ra sau đó được gọi là sự bùng nổ trí tuệ, khi AI cứ trở nên thông minh hơn nữa mà không cần đến bất kỳ sự can thiệp nào của con người."
Ông không phải là người duy nhất đưa ra cảnh báo này.
Nhà nghiên cứu Evan Hubinger của Anthropic đã lên tiếng ủng hộ cảnh báo của ông Coxon, công khai cho biết ông tin rằng trong vòng một thập niên tới, nguy cơ AI tiên tiến có thể giết chết toàn thể nhân loại là hơn 10 phần trăm.
Và ông Geoffrey Hinton, nhà khoa học máy tính người Anh-Canada thường được mô tả là một trong những cha đẻ của AI hiện đại, cũng đã cảnh báo về những hậu quả có thể xảy ra.
Những kịch bản này vẫn chỉ là dự đoán, chứ không phải sự mô tả về những gì các hệ thống AI hiện nay có thể thực hiện.
Tuy nhiên, các nhà nghiên cứu đã bắt đầu tìm hiểu những hành vi ngoài dự liệu của các tác nhân AI ngày càng tự chủ, bao gồm những hệ thống hoạt động vượt ra ngoài môi trường được dự trù và tìm cách truy cập các nguồn lực bên ngoài.
Và câu hỏi mà các chính phủ đang phải đối diện là làm thế nào để chuẩn bị cho những năng lực có thể được phát triển phần lớn bên ngoài biên giới quốc gia.
Trợ lý Bộ trưởng Khoa học, Công nghệ và Kinh tế Kỹ thuật số Úc Andrew Charlton nói với hội nghị rằng AI khác với những cuộc cách mạng công nghệ trước đây vì mức độ tự chủ mà công nghệ này cuối cùng có thể đạt được.
"Chúng ta chưa bao giờ phát minh ra bất cứ thứ gì có khả năng tự suy nghĩ. Chúng ta chưa bao giờ phát minh ra bất cứ thứ gì có mức độ tự chủ tương đương với trí tuệ nhân tạo. Vì vậy, nó khác biệt về bản chất, và sẽ đòi hỏi một phương thức ứng phó cũng khác biệt về bản chất."
Tiến sĩ Charlton cho rằng Úc không nên phó mặc tương lai của công nghệ này cho các công ty đang phát triển nó, cũng không nên mặc nhiên cho rằng các cường quốc như Hoa Kỳ và Trung Quốc sẽ quyết định những biện pháp bảo vệ phù hợp.
Và trong khi một số lãnh đạo công nghệ hiện đang đề cập đến việc làm chậm tiến trình phát triển, ông cho rằng các chính phủ phải nhìn xa hơn những lời cam kết đó.
"Tôi không nghĩ chúng ta nên quá quan tâm đến những gì từng lãnh đạo doanh nghiệp nói hoặc tuyên bố rằng họ muốn xảy ra. Tôi nghĩ chúng ta nên quan tâm đến những gì đang thực sự diễn ra. Và điều đang thực sự diễn ra là chúng ta đang nâng cao năng lực của những cỗ máy này trong một môi trường liên tục mở rộng quy mô mà không hề chậm lại, khiến chúng ngày càng có năng lực cao hơn."
Tổng giám đốc Anthropic Dario Amodei hiện đã đề nghị một phương thức gồm ba phần để giải quyết vấn đề này.
Ông cho rằng các công ty phát triển AI tiên phong nên cho phép các bên thứ ba độc lập đánh giá hệ thống của mình, các quốc gia dân chủ nên thiết lập những tiêu chuẩn an toàn chung và các chính phủ nên tìm kiếm sự hợp tác quốc tế, bao gồm cả với Trung Quốc.
Ông lập luận rằng AI, nếu được quản trị thận trọng, có thể mang lại những lợi ích to lớn, nhưng đồng thời cảnh báo về các nguy cơ, bao gồm tình trạng mất kiểm soát, các cuộc tấn công mạng, khủng bố sinh học và những xáo trộn kinh tế nghiêm trọng.
"Thế giới phải hợp tác với nhau. Nếu tiến quá chậm, tôi vẫn tin rằng những người không phù hợp sẽ nắm quyền kiểm soát công nghệ này và, như quý vị biết, điều đó một lần nữa sẽ khiến khả năng xảy ra những hậu quả nghiêm trọng tăng lên rất cao."
Ông Elon Musk đã công khai ủng hộ cảnh báo của ông Amodei, nói rằng "Dario nói đúng."
Tổng giám đốc OpenAI Sam Altman cũng bày tỏ sự đồng tình với một số nội dung trong đề nghị này, bao gồm việc để các hệ thống tiên tiến được đánh giá độc lập.
Mối lo ngại này hiện đã được đưa ra tại Liên Hiệp Quốc.
Cao ủy Nhân quyền Liên Hiệp Quốc Volker Türk cho rằng các chính phủ và công ty công nghệ cần hành động trước khi những hệ thống này trở nên quá mạnh để có thể kiểm soát.
"Tôi chia sẻ mối lo ngại của những người am hiểu nội tình trong ngành rằng AI tiên tiến có thể gây ra nguy cơ đe dọa sự tồn vong của nhân loại."
Tuy nhiên, thách thức đối với các nhà hoạch định chính sách là việc làm chậm tiến trình phát triển AI cũng tiềm ẩn những rủi ro.
Tiến sĩ Charlton cho rằng Úc cần có các biện pháp bảo vệ, đồng thời phải bảo đảm quốc gia không bị bỏ lại phía sau khi công nghệ này tiếp tục phát triển.
Đối với các chính phủ và xã hội nói chung, câu hỏi không còn đơn thuần là trí tuệ nhân tạo có thể trở nên mạnh đến mức nào:
mà là liệu các quy định, sự hợp tác quốc tế và cơ chế giám sát của con người có thể phát triển đủ nhanh để theo kịp công nghệ này hay không.
Truy cập sbs.com.au/vietnamese để cập nhật tin tức, các câu chuyện cộng đồng, và podcast mới nhất.
Nghe SBS Tiếng Việt mọi lúc trên ứng dụng SBS Audio, tải về từ App Store hay Google Play.
Theo dõi SBS Vietnamese trên Facebook, Instagram và YouTube để khám phá thêm.
