Cảnh báo - câu chuyện sau đây có chứa những chi tiết có thể khiến một số quý vị lo lắng. Ủy viên An toàn Điện tử của Úc đang gióng lên hồi chuông cảnh báo về nạn tống tiền tình dục trực tuyến, sau khi nhận hơn 2.000 đơn khiếu nại chỉ trong sáu tháng qua. Vấn đề này đã thúc đẩy nhu cầu phải đổi mới, tại các công ty công nghệ lớn, cần làm nhiều hơn nữa để ngăn chặn việc giới trẻ bị tống tiền trên nền tảng kỹ thuật số. Vấn đề cũng khơi dậy cuộc tranh luận rộng hơn về cách quản lý mạng xã hội và luật pháp về AI.
Dữ liệu mới từ Ủy viên An toàn Điện tử đã trình bày chi tiết về mối đe dọa ngày càng tăng mà giới trẻ phải đối mặt từ nạn tống tiền tình dục trực tuyến.
Sextortion là một hình thức tống tiền, mà ở đó kẻ tống tiền đe dọa tung ra hình ảnh hoặc video thân mật của một người, trừ khi người đó chuyển tiền, hoặc tuân thủ các yêu cầu khác.
Ủy viên Julie Inman Grant nói các nam thanh niên là nạn nhân phổ biến nhất.
"Bạn sẽ không ngạc nhiên khi thấy rằng đây là loại tội phạm ít được báo cáo. Sau khi điều chỉnh số liệu từ năm tài chính vừa rồi, chúng tôi có 8.000 báo cáo về lạm dụng hình ảnh - chia sẻ hình ảnh và video thân mật không có sự đồng thuận. Một nửa trong số đó là tống tiền tình dục nhắm vào nam thanh niên. Và độ tuổi nạn nhân ngày càng trẻ hơn: chỉ khoảng 15, 16 tuổi."
Năm ngoái, một nghiên cứu do eSafety và Viện Tội phạm học Úc phối hợp thực hiện cho thấy cứ ba thanh thiếu niên thì có một người từng trải qua hành vi bị tống tiền tình dục, trong đó hơn một nửa người được hỏi cho biết đã trải qua trải nghiệm bị tống tiền trước khi họ 16 tuổi.
Báo cáo mới nhất của eSafety cho biết Instagram và WhatsApp là những nền tảng được nhắc đến nhiều nhất, gây lo ngại về số lượng khiếu nại ngày càng tăng, về các mối đe dọa mà giới trẻ phải đối mặt. Tiếp theo sau là iMessage và Snapchat của Apple, đối với người dùng dưới 18 tuổi.
Chính phủ liên bang hiện nay đang lên kế hoạch chiến lược về AI, Bộ trưởng Y tế Mark Butler nói với Channel Nine rằng chính phủ muốn quản lý rủi ro trực tuyến – nhưng cũng muốn khai thác các cơ hội.
“Với công nghệ mới, có lẽ tôi nghĩ mọi người chủ yếu tập trung vào việc quản lý rủi ro và tiềm năng an toàn. Cũng như có ba điều trọng tâm, đó là cân bằng về công nghệ, kết hợp công nghệ lại với nhau, và thực hiện theo cách phù hợp với nước Úc. Tôi nghĩ đó là trọng tâm của chính phủ chúng ta. Và bạn sẽ nghe chi tiết hơn từ Thủ tướng. Nhưng tôi nghĩ chúng ta có thể tự hào về những gì ta đã làm trong lĩnh vực này. Ý tôi là, làn sóng công nghệ lớn mới nhất là làn sóng truyền thông xã hội, thì tôi nghĩ chúng ta đã dẫn đầu thế giới trong việc quản lý rủi ro, đặc biệt là rủi ro về an toàn đối với giới trẻ, nhưng AI là một làn sóng công nghệ lớn tiếp nối, có lẽ lớn hơn bất kỳ làn sóng nào chúng ta từng thấy."
Ủy viên eSafety nói với ABC News rằng công nghệ AI cũng có thể được sử dụng để ngăn chặn - chẳng hạn bằng cách phân tích các tin nhắn để tìm dấu hiệu nhận biết về các kịch bản tống tiền.
"Tất nhiên, chúng có công nghệ khổng lồ. Đây không phải là một loại tội phạm mới. Đây là một vụ lừa đảo kỹ thuật xã hội đã xuất hiện được một thời gian. Năm năm trước, tôi đã gửi báo cáo cho các công ty như Snap và Instagram, trong đó nói: 'Chúng tôi có thể thấy những tên tội phạm đang xâm chiếm nền tảng của bạn theo đúng nghĩa đen. Có khoảng 10.000 tài khoản giả mạo và kẻ mạo danh có cùng hình ảnh. Hãy sử dụng một chút AI. Bạn có thể xác định chúng."
Ủy ban An toàn Điện tử cho biết một số dịch vụ trình báo thiếu các bước rõ ràng và dễ tiếp cận, để người dùng báo cáo hành vi tống tiền tình dục hoặc lạm dụng trẻ em.
Bộ trưởng Truyền thông Anika Wells cho biết các công ty công nghệ lớn cần hành động mạnh mẽ hơn.
"Không có lời bào chữa nào ở đây. Luật pháp Úc yêu cầu công nghệ lớn phải bảo vệ người Úc trực tuyến khỏi các tài liệu bất hợp pháp, nếu không sẽ phải đối mặt với khoản tiền phạt lên tới 54,6 triệu đô la. Chính phủ Albanese cam kết hướng tới một tương lai nơi các nền tảng và dịch vụ kỹ thuật số được thiết kế chú trọng đến sự an toàn của người dùng. Điều này sẽ trở thành tiêu chuẩn chứ không phải là ngoại lệ."
Khi những lo ngại vẫn tiếp tục về phản ứng của các nền tảng công nghệ và AI đối với hành vi tống tiền trực tuyến, thì một cuộc tranh luận cũng đang nổ ra về cách tăng cường lệnh cấm truyền thông xã hội đối với trẻ em dưới 16 tuổi của Úc.
Lệnh cấm đã gây ra phản ứng toàn cầu, hàng chục quốc gia theo đuổi các chính sách tương tự, và một hội đồng Liên minh Âu Châu được giao nhiệm vụ điều tra vấn đề này, nhằm đề xuất hạn chế truy cập đối với trẻ em dưới 13 tuổi ở Âu Châu.
Chủ tịch Ủy ban EU, Ursula Von der Leyen tán thành ý tưởng này.
Là một bác sĩ, bà lập luận rằng mạng xã hội rõ ràng có thể gây tổn hại lớn đến sức khỏe trẻ em.
"Hãy để tôi nói rõ, mạng xã hội không phải là một món đồ chơi. Cuối cùng, cha mẹ là người quyết định khi nào trẻ em có chiếc điện thoại thông minh đầu tiên. Những gì chúng tôi đã có là sự đồng thuận rằng cần phải có sự bắt đầu, để trẻ em ở độ tuổi nhất định có thể tham gia mạng xã hội. Một thế giới mà chúng ta tiếp tục cho phép con cái mình tiếp cận không hạn chế công nghệ lớn, sẽ chỉ đẩy một thế hệ vào sự tổn hại tinh thần, nghiện ngập và đau khổ nhiều hơn."
Chính phủ Úc đã công bố kế hoạch đi xa hơn - với các nghiên cứu cho thấy nhiều thanh thiếu niên vẫn giữ được tài khoản của mình bất chấp lệnh cấm truyền thông xã hội.
Đảng Lao động đã đưa ra dự luật nhằm tăng gấp đôi số tiền phạt đối với các công ty truyền thông xã hội và tăng cường quyền thực thi của Ủy ban An toàn Điện tử.
Dự luật sẽ được tranh luận khi quốc hội trở lại nhóm họp vào tháng tới.
Bộ trưởng Truyền thông Anika Wells kêu gọi Liên đảng hỗ trợ những thay đổi.
"Vấn đề này vượt ra ngoài chính trị. Đây là về việc bảo vệ tương lai của chúng ta, trẻ em Úc và thanh thiếu niên Úc. Tuy nhiên, chúng tôi đã thấy Liên đảng đặt chính trị lên trên sự an toàn của trẻ em, với quyết định đình chỉ các luật nhằm tăng cường quyền lực của eSafety. Họ đang để tất cả chúng ta phải chiến đấu với một tay bị trói sau lưng. Chính phủ Albanese sẽ không để điều đó xảy ra, vì các công ty công nghệ lớn đang tìm đường tắt. Chúng tôi sẽ làm mọi thứ trong khả năng của mình để ngăn chặn điều này. Angus Taylor và Liên đảng cũng nên làm như vậy."
