Если вы столкнулись с террористическим или насильственным экстремистским контентом в сети, сообщите об этом платформе самой социальной сети и на сайте esafety.gov.au
ТРАНСКРИПТ, АУДИО В ПЛЕЕРЕ НАВЕРХУ
Независимый регулятор онлайн-безопасности Австралии намерен остановить распространение экстремистского контента в Интернете и его влияние на австралийцев.
Джули Инман Грант — комиссар по безопасности в сети.
«К сожалению, это растущая проблема. И мы видим, что многие из этих платформ позволяют жестоким экстремистам использовать себя в своих целях, потому что внимание и конфликты продаются. И бизнес-модель заключается в том, чтобы все так и продолжалось, алгоритмы продолжают продвигать все больше и больше конфликтов, чтобы поддерживать вовлеченность людей. В зависимости от того, насколько вредоносен контент, это, очевидно, может иметь пагубные последствия для отдельных людей и общества».
Комиссия по безопасности в сети зафиксировала новые данные о повторном распространении вредоносного контента в социальных сетях, в том числе о террористической атаке в Крайстчерче в 2019 году.
Также она продолжает получать сообщения хейте в Интернете. Представители отличных культурных и языковых групп сталкиваются с хейтом онлайн чаще, чем население Австралии в целом (18% против 14% соответственно).
По оценкам, каждый седьмой взрослый австралиец (в возрасте от 18 до 65 лет) сталкивался с хейтом в Интернете в период с августа 2018 года по август 2019 года. Это 2 миллиона человек, или 14 процентов населения.
Г-жа Инман Грант говорит, что время саморегулирования в вопросе вредоносного онлайн-контента закончилось.
Используя полномочия, предусмотренные Законом о безопасности в Интернете, регулятор направил юридические уведомления шести компаниям-владельцам соцсетей: Google, Meta, X, ранее известной как Twitter, WhatsApp, Telegram и Reddit.
"Мы должны знать, что они инвестируют в свои инновации и свою инфраструктуру доверия и безопасности; что они ставят на передний план вопрос защиты, чтобы не допустить использования своих платформ в качестве оружия путем размещения и распространения террористического и насильственного экстремистского контента".
У компаний есть меньше 50 дней на то, чтобы выполнить требования юридического уведомления, иначе им грозит штраф в десятки миллионов долларов.
Ранее в этом месяце поддерживаемая ООН организация Tech against Terrorism («Технологии против терроризма») сообщила, что смогла идентифицировать пользователей форума “Исламского государства”, обсуждавших способы использования генеративного искусственного интеллекта для распространения своих идей.
Г-жа Инман Грант называет прозрачность и подотчетность ключом к борьбе с вредоносным контентом в сети.
"Радикализация может происходить очень медленно и очень незаметно, а может вызвать сильный страх и произойти очень быстро. Но нас правда беспокоит действительно экстремальное содержание: обезглавливания, похищения людей, по-настоящему жестокие расстрелы - образы, которые молодые люди, увидев, уже не могут развидеть. Это очень вредно. Но именно разрушительное воздействие, которое некоторые из этих образов, часть этой идеологии оказывают с течением времени, действительно может разорвать социальную ткань демократии и сплоченности общества”.
В недавнем отчете Организации экономического сотрудничества и развития дается оценка соцсетей с точки зрения уровня распространения террористических и насильственных экстремистских материалов.
Первым в списке оказался Telegram, за ним следуют YouTube и X.
Принадлежащие Meta Facebook и Instagram заняли четвертое и пятое места соответственно.
Профессор глобальной исламской политики в Университете Дикина Грег Бартон изучает способы противодействия насильственному экстремизму и терроризму.
Он говорит, что генеративный искусственный интеллект только усугубил проблемы реагирования на вредоносный онлайн-контент.
"Одна из реальных проблем заключается в том, что мы увидим контент и не будем знать, настоящий он или нет. И часть опасности заключается в том, что мы перестаем доверять чему-либо и кому-либо; что мы просто теряем чувство уверенности в том, что реально. Мы уже видели это на примере фейковых новостей и антинаучной теории заговора во время пандемии COVID-19, которая усугубилась социальными сетями. Генеративный ИИ будет способен производить значительно больший объем более убедительного материала, будь то текст или изображения и видео, и из-за этого нынешние проблемы, с которыми мы сталкиваемся, покажутся относительно тривиальными по сравнению с тем, что нас ждет”.
Профессор Бартон говорит, что присутствие экстремистских и террористических материалов в Интернете затрудняет доступ людей к безопасным онлайн-пространствам, а также создает еще большее разделение; и может стать почвой для радикализации.
По его словам, экстремисты и террористы эксплуатируют человеческие слабости, и для борьбы с этим необходимо налаживать более позитивные связи в сообществе.
"Необходимо понимать, что это во многом обусловлено социальными и психологическими потребностями. Там, где есть уязвимость, незакрытая потребность, где человеку что-то нужно, он рискует, что вмешается кто-то, кто предложит решение не из лучших побуждений. Заманчиво думать, что мы можем решить проблему, споря с ними, если у них есть идеи, которые кажутся нам крайними, просто пытаясь опровергнуть эти идеи. Это не лучшее, с чего можно начать - или даже продолжить. Главное - это поддерживать связи, быть открытыми, стараться изо всех сил говорить, что мы не осуждаем, мы просто заботимся о вас и хотим поговорить. Расскажите мне о том, что происходит. И если вы сможете поддерживать эти связи открытыми, мы надеемся, что это может сработать в противовес другим голосам, которые они слышат. И со временем, если они разочаруются в этих других голосах, что обычно и происходит, им будет легко вернуться к - семье, друзьям и сообществу. Если мы их закроем и им некуда будет идти, они станут гораздо более уязвимыми, и им будет труднее вернуться”.
Уровень террористической угрозы в стране остается на уровне “возможный” (втором снизу в пятиуровневой системе), но за последние 18 месяцев Агентство национальной безопасности Австралии ASIO зафиксировало рост активности экстремистов, распространяющих насилие и ненависть.
Представляя последнюю ежегодную оценку угроз в прошлом месяце, генеральный директор службы безопасности ASIO Майк Берджесс заявил, что агентство внимательно следит за этим вопросом.
Г-жа Инман Грант говорит, что каждый должен сыграть свою роль в реагировании на рост хейта в сети.
По ее словам, это глобальная проблема, и все больше агентств по всему миру работают вместе, чтобы найти решения.
"eSafety Commissioner был первым регулятором онлайн-безопасности в мире, он создан в 2015 году. И в течение первых семи лет мы были практически единственными, кто разрабатывал тактику по ходу работы. И, к счастью, ситуация меняется. Только что вчера у нас в офисе был комиссар внутренних дел из Европейской комиссии, который обсуждал их законодательство о терроризме со 100-процентным контролем за его соблюдением. Итак, работая вместе с Европейским Союзом, который является очень мощным региональным блоком, с большим опытом в регулировании - сделает нас сильнее. Мы можем идти быстрее сами по себ - мы можем идти дальше вместе".
