ТРАНСКРИПТ
Новый отчет Хьюман Райтс Вотч показал, что личные фотографии австралийских детей используются для обучения инструментов искусственного интеллекта без согласия или ведома детей или их семей.
Анализ, проведенный Хьюман Райтс Вотч, показал, что набор данных, используемый для обучения мощных инструментов искусственного интеллекта и собранный по большей части интернета, содержит ссылки на идентифицируемые фотографии австралийских детей.
Хе Юнг Хан — исследователь Хьюман Райтс Вотч в области прав детей и технологий — рассказала SBS, что на многих из фотографий, которые они нашли в наборе данных, были запечатлены интимные семейные моменты.
«Они не предназначены для просмотра кем-либо, кроме семьи и друзей, я имею в виду, одна из фотографий, о которой я думаю, это первые секунды рождения ребенка, вы знаете, врачи держат ребенка на руках. Ребенок покрыт околоплодной жидкостью, и все еще связан с матерью, вы знаете, это не фотография, которую член семьи делает, чтобы затем встроить ее в инструмент искусственного интеллекта и затем использоваться как оружие против других детей для создания сексуальных дипфейков. Вообще нет».
Ранее в этом году около 50 девочек из средней школы в Мельбурне стали жертвами создания без их согласия откровенно сексуальных дипфейков, созданных с использованием инструментов искусственного интеллекта.
Генеральный прокурор Марк Дрейфус недавно представил в парламенте реформы, запрещающие создание без согласия или распространение откровенно сексуальных дипфейков взрослых.
«Созданные и измененные цифровым образом материалы откровенно сексуального характера, которые публикуются без согласия, являются разрушительной и глубоко тревожной формой насилия. Такое поведение унижает, оно бесчеловечно по отношению к жертвам. Такие действия в подавляющем большинстве нацелены на женщин и девочек и закрепляют вредные гендерные стереотипы и насилие по признаку пола. Этот законопроект соответствует обязательству, взятому на себя правительством Альбанезе после заседания национального кабинета министров в мае, по борьбе с насилием по признаку пола».
Однако в ходе этих реформ было отмечено, что такие изображения детей будут по-прежнему рассматриваться как материалы о жестоком обращении с детьми в соответствии с Уголовным кодексом.
«Новые преступления будут относиться к материалам, изображающим взрослых, а материалы о жестоком обращении с детьми будут по-прежнему рассматриваться комплексно, в отдельном разделе Уголовного кодекса, который включает подробные преступления и суровые наказания».
Хе Юнг Хан говорит, что этот подход упускает из виду более глубокую проблему, заключающуюся в том, что личные данные детей остаются незащищенными от неправомерного использования.
«Знаете, на самом деле дети и семьи абсолютно имеют право публиковать радостные моменты своей жизни в интернете и в то же время они абсолютно имеют право ожидать, что их личные изображения будут защищены законом, правительством от любого неправомерного использования. Так что на самом деле несправедливо ожидать, что детям и родителям придется пытаться защитить себя от технологии, от которой принципиально невозможно защититься. На самом деле обязанностью правительства является принятие всеобъемлющего закона о конфиденциальности данных детей, который, как они говорят, появится на бумаге в ближайшее время, в августе. Это действительно защитит конфиденциальность данных детей».
Хьюман Райтс Вотч сообщает, что на некоторых фотографиях были указаны полные имена и возраст детей, а в некоторых данных даже было указано название школы или детского сада, которые они посещали.
Результаты показывают, что большинство этих фотографий больше нигде не доступны в Интернете, а это означает, что они, вероятно, были взяты с частных сайтов, таких как личные блоги, загрузки школьных фотографов и других сайты для обмена фотографиями.
Саймон Люси, директор Австралийского института машинного обучения при Университете Аделаиды, говорит, что инструменты веб-скрапинга теперь собирают огромные объемы данных, что еще больше затрудняет их мониторинг.
«К сожалению, такова природа некоторых из этих моделей, в том смысле что они используют вещи, называемые веб-сканерами, которые, по сути проходят через Интернет и собирают изображения и текст. И реальность современного искусственного интеллекта в том, что чем больше данных вы получаете, тем лучше результаты. Итак, мы находимся в своего рода странном сценарии, в отличие от, скажем, 10 лет назад, когда было бы гораздо проще пойти и проверить набор данных из-за меньшего масштаба. Но эти наборы данных - они невероятно большие».
Еще одним тревожным выводом в отчете Хьюман Райтс Вотч было использование изображений детей Коренных народов Австралии.
Хе Юнг Хан говорит, что многие фотографии были взяты из тех частей Интернета, которые обычно не доступны всем, и использование фотографий детей из числа Коренных народов в наборе данных наносит особый вред сообществам Коренных народов.
«Некоторые из этих фотографий взяты со школьных веб-сайтов, где школы хотели поделиться с родителями и детьми изображениями, сделанными на школьных мероприятиях, и разместили эти изображения детей в частях веб-сайта, которые на самом деле не являются общедоступными. И все же , этот набор данных искусственного интеллекта был получен из них. И то же самое происходило с жругими сайтами, будь то YouTube или Flickr, а также на других платформах для обмена видео и фотографиями. И еще одна вещь, которая меня действительно поражает, это первый случай, когда кто-либо сообщает, что изображения представителей Коренных народов, а тем более детей Коренных народов, вплетены в эти наборы данных, и что, конечно, это особенно вредит детям из числа Коренных народов».
Хьюман Райтс Вотч утверждает, что после того, как данные будут очищены, даже если первоначальный сборщик этих данных удалит их из своего набора данных, модель AI уже обучена с их помощью и не сможет забыть эту информацию.
Еще большую озабоченность вызывает потенциальное использование инструментов искусственного интеллекта для создания и манипулирования откровенно сексуальными изображениями детей.
Саймон Люси говорит, что даже когда компании заявляют, что защищают данные, быстрый масштаб расширения сферы искусственного интеллекта означает, что часто происходят утечки данных и их неправильное использование.
«Недавние исследования показали, что эти новые модели ИИ потенциально могут привести к утечке данных. Я думаю, что многие люди, работающие в области ИИ, стояли и думали: «Ну, по сути, мы просто получали статистику, средние данные, поэтому отдельные изображения не могли просочиться». И было несколько очень интересных исследований, показавших, что в некоторых случаях это может произойти. И я думаю, что вмести эти два фактора заставляют людей волноваться».
Саймон Люси говорит, что проблема может усугубляться тем, что законодательство в области новых технологий часто отстает, а меры по снижению вреда и профилактике могут полностью решить проблемы только после того, как будет осознан потенциальный вред.
Он говорит, что если Австралия хочет эффективно справиться с ростом ИИ, она не может просто стоять в стороне и следовать чьему-то примеру.
«На самом деле нам нужно стремиться к инновациям в этом вопросе, нам действительно нужно активно инвестировать в ИИ, ответственные исследования ИИ, так мы можем убедиться, что ИИ используется ответственно, потому что часть этого всего, на самом деле, - то, что мы не можем просто отключить его. Мы хотим быть уверены, что мы действительно принимаем и используем данные таким образом, чтобы гарантировать сохранение конфиденциальности людей. Но мы также получаем замечательные преимущества. В настоящее время мы находим новые лекарственные методы лечения, новые способы создания катализаторов и батарей для борьбы с изменением климата. Итак, наше общество на самом деле стало бы беднее, если бы мы просто приостановили все это, но это должен быть сбалансированный подход между законодательством и инновациями».
Правительство рассматривает возможность внесения изменений в Закон о конфиденциальности, которые лучше защитят детей.
Хотя выводы отчета вызывают у родителей обеспокоенность по поводу конфиденциальности их детей в Интернете, Хе Чон Хан говорит, что обещание нового законодательства в ближайшие месяцы дает надежду на лучшую защиту.
«Я думаю, это многообещающе: да, обычно законы требуют много времени для принятия и исполнения. Но это один из случаев, когда правительство пообещало, что в следующем месяце они объявят закон о конфиденциальности данных детей, и я думаю, что каждый должен привлечь правительство к ответственности, чтобы оно действительно так и сделало, чтобы действительно уважать права детей».
