Nghiên cứu toàn quốc đầu tiên cho thấy AI đang làm thay đổi cách trẻ em bị xâm hại tình dục trên mạng, từ việc tạo ảnh khỏa thân giả đến tống tiền tình dục. Các nhà vận động kêu gọi chính phủ và ngành công nghệ khẩn trương siết chặt các biện pháp bảo vệ trẻ em.
Ít nhất một học sinh trong mỗi lớp 12 ở Úc đã từng là nạn nhân, hoặc biết ai đó là mục tiêu của hành vi lạm dụng tình dục có sự hỗ trợ của trí tuệ nhân tạo (AI). Đây là kết luận đáng báo động từ một nghiên cứu quốc gia mới, được xem là ước tính toàn quốc đầu tiên về mức độ AI can dự vào các vụ xâm hại tình dục trẻ em trên mạng ở Úc.
Nghiên cứu không chỉ cho thấy AI đang mở rộng và làm trầm trọng thêm các hình thức lạm dụng tình dục trực tuyến, mà còn chỉ ra một xu hướng mới khiến các nhà nghiên cứu đặc biệt lo ngại: một số người trẻ đang tìm đến chính các nền tảng AI để xin giúp đỡ sau khi bị xâm hại.
Các chuyên gia và nhà vận động vì an toàn trẻ em cho rằng những phát hiện này là lời cảnh báo khẩn cấp đối với chính phủ, ngành công nghệ và các cơ quan hỗ trợ trẻ em, trong bối cảnh công nghệ AI phát triển nhanh hơn nhiều so với các khung pháp lý và cơ chế bảo vệ hiện hành.
AI làm “hạ thấp rào cản” để phạm tội
Năm 2007, Carly Ryan, con gái của bà Sonya Ryan, đã bị sát hại sau nhiều tháng trở thành mục tiêu của hành vi xâm hại tình dục trẻ em trên mạng. Kể từ đó, bà Sonya Ryan trở thành một trong những tiếng nói nổi bật nhất tại Úc trong việc vận động cho các đạo luật mạnh tay hơn nhằm chống lại xâm hại tình dục trẻ em trực tuyến.
Theo bà Ryan, công nghệ đang khiến việc tạo ra tài liệu lạm dụng trở nên dễ dàng hơn bao giờ hết.
“Công nghệ đã làm hạ thấp rào cản để phạm tội. Một người trước đây cần có kỹ năng kỹ thuật giờ đây có thể tạo ra tài liệu lạm dụng chỉ trong vài phút bằng các công cụ AI phổ biến, dễ tiếp cận. Nói một cách thẳng thắn, AI đã công nghiệp hóa hình thức lạm dụng này.”
Bà Ryan cho biết trong nhiều năm qua, những kẻ săn mồi tình dục luôn tìm cách tận dụng các nền tảng công nghệ mới để tiếp cận và bóc lột trẻ em. Nếu trước đây chúng hoạt động qua các phòng chat trực tuyến, rồi chuyển sang mạng xã hội, thì nay AI đang trở thành công cụ mới nhất bị lợi dụng.
Theo các chuyên gia, sự nguy hiểm của AI nằm ở chỗ công nghệ này không chỉ giúp tăng tốc việc tạo nội dung giả mạo, mà còn cho phép những người không có kỹ năng kỹ thuật cao vẫn có thể sản xuất và phát tán tài liệu mang tính lạm dụng.
Hơn một phần tư các vụ phát tán ảnh nhạy cảm không đồng thuận có liên quan đến AI
Nghiên cứu mới do Trung tâm Quốc tế về Trẻ em Mất tích và Bị Bóc lột tại Úc (ICMEC Australia) phối hợp với Trung tâm Chống Bóc lột Trẻ em của Cảnh sát Liên bang Úc thực hiện. Khảo sát được tiến hành với 1.894 người Úc trong độ tuổi từ 16 đến 18.
Kết quả cho thấy hơn một phần tư các trường hợp phát tán hình ảnh tình dục không có sự đồng thuận có liên quan đến AI. Quy đổi theo quy mô lớp học, điều đó tương đương với việc ít nhất một người trẻ trong mỗi lớp 12 tại Úc đã bị ảnh hưởng trực tiếp hoặc gián tiếp bởi hình thức xâm hại này.
Phó Giáo sư Tim Cubitt từ Đại học Adelaide, một trong những tác giả nghiên cứu, cho biết AI đã mở ra một “con đường mới” để kẻ xấu tạo ra nội dung lạm dụng từ những hình ảnh đời thường.
Trong một số trường hợp, các đối tượng sử dụng các ứng dụng được gọi là “Nudify” để biến ảnh thông thường thành ảnh khỏa thân giả, rồi phát tán mà không có sự đồng ý của người trong ảnh.
AI dễ tiếp cận hơn. Nó có thể tạo ra và chỉnh sửa hình ảnh một cách tự động, điều đó mở ra một con đường mới để người ta lấy những bức ảnh thông thường, trong khi trước đây họ có thể phải đánh cắp hình ảnh đó hoặc dụ dỗ ai đó gửi cho mình.Phó giáo sư Tim Cubitt
Điều này có nghĩa là chỉ một bức ảnh chân dung, ảnh selfie hoặc hình ảnh được đăng tải công khai trên mạng xã hội cũng có thể bị biến thành nội dung khiêu dâm giả mạo, rồi được sử dụng để làm nhục, đe dọa hoặc tống tiền nạn nhân.
Bé trai bị nhắm tới nhiều hơn trong một số hình thức lạm dụng có yếu tố AI
Một phát hiện đáng chú ý khác của nghiên cứu là trong các vụ lạm dụng tình dục trẻ em có yếu tố AI, bé trai có khả năng trở thành mục tiêu nhiều hơn, dù xét tổng thể, bé gái vẫn là nhóm chịu tỷ lệ xâm hại tình dục trực tuyến cao hơn.
Theo ông Cubitt, điều này có thể liên quan đến hiện tượng “sextortion”, tạm dịch là tống tiền tình dục, khi nạn nhân bị đe dọa phát tán hình ảnh nhạy cảm để ép đưa tiền hoặc cung cấp thêm hình ảnh, video riêng tư.
“Có thể là trước đây, do hình ảnh mang tính tình dục của các bé trai ít xuất hiện hơn nên việc đánh cắp để tống tiền tình dục, hoặc dụ dỗ rồi tống tiền các em trai để lấy tiền hay yêu cầu gửi thêm hình ảnh là điều khó thực hiện hơn.
Còn bây giờ, vì có AI, chúng tôi cho rằng các em đang bị nhắm tới nhiều hơn vì việc tạo ra những hình ảnh đó đã trở nên dễ dàng hơn.”
Nói cách khác, AI đang làm thay đổi cán cân rủi ro. Nếu trước đây kẻ xấu cần có sẵn hình ảnh thật để thao túng nạn nhân, thì nay chúng có thể tự tạo ra hình ảnh giả nhưng đủ thuyết phục để gây hoảng loạn, xấu hổ và áp lực tâm lý.
Trẻ em tìm đến AI để xin giúp đỡ: một khoảng trống chính sách mới
Một trong những kết quả khiến nhóm nghiên cứu lo ngại nhất là việc một số trẻ em và thanh thiếu niên đang tìm đến các nền tảng AI để chia sẻ trải nghiệm bị xâm hại và xin lời khuyên.
Theo ông Cubitt, điều này đặt ra một câu hỏi cấp bách cho các nhà hoạch định chính sách: nếu một người trẻ tiết lộ với chatbot hoặc nền tảng AI rằng mình là nạn nhân của xâm hại tình dục, thì điều gì sẽ xảy ra tiếp theo?
“Nếu một người trẻ tiết lộ với một nền tảng AI rằng mình là nạn nhân của xâm hại tình dục, thì khi đó chúng ta cần nền tảng đó chuyển thông tin ấy đến một người hay một cơ quan có thể hỗ trợ em.
Hiện nay, điều đó chưa hẳn đã được thực hiện đồng bộ trên khắp nước Úc.
Đây là điều vô cùng quan trọng.”
Ông cũng cho rằng không chỉ vấn đề chuyển tuyến hỗ trợ, mà chất lượng thông tin mà AI phản hồi cho người trẻ cũng cần được giám sát chặt chẽ.
“Chúng ta cũng cần biết liệu những lời khuyên mà người trẻ nhận được từ các nền tảng AI có thực sự phù hợp hay không, vì hiện chúng ta vẫn chưa rõ các nền tảng AI đang phản hồi với các em như thế nào.”
Điều này cho thấy AI không chỉ là công cụ có thể bị lạm dụng để gây hại, mà còn đang trở thành nơi trẻ em tìm đến trong lúc khủng hoảng. Nếu các nền tảng này không được thiết kế với cơ chế an toàn rõ ràng, nguy cơ gây tổn hại thứ cấp cho nạn nhân là rất lớn.
Kêu gọi “an toàn ngay từ khâu thiết kế” và luật AI rõ ràng hơn
Giám đốc điều hành ICMEC Australia, ông Colm Gannon, cho rằng các công ty công nghệ cần áp dụng nguyên tắc “safety by design” – tức tích hợp an toàn ngay từ khâu thiết kế sản phẩm, thay vì chỉ xử lý hậu quả khi sự cố đã xảy ra.
Ông Gannon cũng cảnh báo rằng trong khi nhu cầu của cộng đồng về quản lý AI là rất rõ ràng, phản ứng chính sách hiện nay vẫn chưa theo kịp.
“Viện Chính sách Thiết kế Công nghệ ở Úc xác định rằng 85% người Úc muốn có quy định quản lý. Nhưng phản ứng của chính phủ hiện nay là không ban hành luật riêng về AI, điều đó có nghĩa là những rào chắn bảo vệ, hay các tiêu chuẩn mà chúng ta kỳ vọng đối với việc phát triển công nghệ AI, đang bị chia cắt và thiếu nhất quán.”
Các chuyên gia cho rằng nếu không có các tiêu chuẩn chung và cơ chế giám sát rõ ràng, khoảng trống pháp lý này sẽ tiếp tục bị những kẻ phạm tội lợi dụng.
“Ảnh thật hay ảnh AI không làm giảm đi tổn thương của đứa trẻ”
Mười năm sau cái chết của Carly Ryan, Quốc hội Úc đã thông qua đạo luật hiện được biết đến với tên gọi Luật Carly, hình sự hóa hành vi người trưởng thành sử dụng dịch vụ trực tuyến để lên kế hoạch, chuẩn bị hoặc tham gia vào hoạt động tình dục với trẻ em dưới 16 tuổi.
Tuy nhiên, theo bà Sonya Ryan, thực tế công nghệ hiện nay đòi hỏi chính phủ phải đi xa hơn nữa.
“Việc một hình ảnh là thật hay do AI tạo ra không làm thay đổi mức độ tổn thương đối với đứa trẻ có khuôn mặt bị đem ra sử dụng. Trẻ em vẫn phải trải qua cảm giác xấu hổ, sợ hãi, nhục nhã và mất quyền kiểm soát đối với danh tính của chính mình.”
Bà nói nhiều trẻ em thậm chí không hề biết hình ảnh của mình đã bị chỉnh sửa hoặc phát tán cho đến khi chúng bắt đầu lan truyền trong trường học hoặc trong nhóm bạn.
“Nhiều em thậm chí còn không biết những hình ảnh đó tồn tại cho đến khi chúng bắt đầu bị lan truyền trong trường học hoặc trong nhóm bạn.
Những tổn hại, khủng hoảng cảm xúc và áp lực mà chúng tôi đang chứng kiến ở những trẻ em và người trẻ tìm đến tổ chức của chúng tôi để cầu cứu thực sự rất đau lòng.”
Hỗ trợ nạn nhân ở đâu?
Nếu bạn hoặc người quen cần được hỗ trợ, có thể liên hệ:
- Lifeline: 13 11 14
- Suicide Call Back Service: 1300 659 467
- Kids Helpline: 1800 55 1800 (dành cho người từ 5 đến 25 tuổi)
- Bravehearts: 1800 272 831
- Blue Knot: 1300 657 380
Thông tin thêm có tại beyondblue.org.au và lifeline.org.au.
Đồng hành cùng chúng tôi tại SBS Vietnamese Facebook và cập nhật tin tức ở sbs.com.au/vietnamese
Chúng tôi cũng có mặt trên YouTube
Nghe SBS Tiếng Việt trên ứng dụng miễn phí SBS Audio, tải về từ App Store hay Google Play
