Puntos destacados:
- Tres de los servicios de "nudify" más utilizados por los australianos, relacionados con material de explotación sexual de niños en edad escolar generado por la IA, han sido retirados de Australia.
- La empresa con sede en el Reino Unido retiró el acceso después de que la Comisión de Seguridad Electrónica emitiera una advertencia oficial en septiembre.
- Unos 100 000 australianos visitaban los servicios de "nudify" cada mes y han aparecido en casos muy conocidos de estudiantes que han creado imágenes falsas de sus compañeros de clase desnudos.
Este artículo contiene referencias a la explotación sexual infantil.
Tres de los servicios de "nudify" más utilizados por los australianos, relacionados con material de explotación sexual de niños en edad escolar generado por la IA, han sido retirados de Australia.
La empresa con sede en el Reino Unido retiró el acceso después de que la Comisión de Seguridad Electrónica emitiera una advertencia oficial en septiembre por temor a que permitiera a los usuarios crear material de explotación sexual infantil generado artificialmente.
Esto contravenía el código obligatorio de Australia, que exige que todos los miembros de la industria en línea tomen medidas significativas para abordar el peor de los peores contenidos en línea.
Unos 100 000 australianos visitaban los servicios de "nudify" cada mes y han aparecido en casos muy conocidos de estudiantes que han creado imágenes falsas de sus compañeros de clase desnudos.
La eliminación de acceso ha mostrado que los códigos y normas de Australia están trabajando para hacer que el mundo en línea sea más seguro, dijo la comisionada de eSafety, Julie Inman Grant.
"Sabemos que los servicios de 'nudify' se han utilizado por estudiantes y han tenido efectos devastadores en las escuelas australianas", dijo Grant.
"Dado que este importante proveedor bloquea su uso por parte de los australianos, creemos que esto tendrá un impacto tangible en el número de niños en edad escolar que son víctimas de la explotación sexual infantil generada por la IA".
Afirmó que el proveedor no había conseguido impedir que sus servicios se utilizaran para crear material sobre explotación sexual infantil, tras promocionar artículos como "desnudar a cualquier chica" y opciones para generar imágenes de "colegiala" y "modo sexual".
En los últimos 18 meses, eSafety ha recibido el doble de denuncias sobre imágenes alteradas digitalmente, incluidas imágenes falsas, de personas menores de 18 años.
Cuatro de cada cinco denuncias se referían a mujeres y niñas.
La decisión se produce después de que la plataforma mundial de modelos de IA Hugging Face cambiara sus condiciones de servicio tras advertir que los australianos estaban haciendo un uso indebido de algunas de sus herramientas generativas para crear material sobre explotación sexual infantil.
Las nuevas condiciones de Hugging Face exigen que los usuarios minimicen los riesgos asociados a las modelos que suben, especialmente para evitar que se genere material de explotación sexual infantil o a favor del terrorismo.
La empresa está obligada a hacer cumplir las condiciones si tiene conocimiento de infracciones. Si no cumple se arriesga a recibir multas de hasta 49,5 millones de dólares.
Grant dijo que su organización está trabajando con el gobierno en reformas para restringir el acceso a las herramientas de "nudify".
Si tú o alguien que conoces se ve afectado por una agresión sexual, llama al 1800RESPECT al 1800 737 732 o llama al Servicio Nacional de Apoyo contra el Abuso Sexual y la Reparación al 1800 211 028.
Share
