Этот репортаж был подготовлен в рамках исследовательской поездки, организованной Министерством иностранных дел Германии совместно с Национальным пресс-клубом Австралии.
READ MORE ABOUT THIS STORY
How Russian operatives are 'grooming' AI to publish false information online
Использование крупных языковых моделей, то есть программ искусственного интеллекта, таких как Chat GPT, становится всё более популярным.
Однако растут опасения, что некоторые чат-боты на основе искусственного интеллекта непреднамеренно продвигают определенные нарративы.
Карл Миллер — исследователь и создатель центра аналитики социальных сетей в британском независимом аналитическом центре Demos.
«Эти чат-боты все чаще будут использоваться для описания мира. Они жизненно важны, и то, как эти программы обучаются и что они в итоге говорят, — это, по сути, будет своего рода совершенно новый вид мощного и при этом невидимого влияния и власти».
Крупные языковые модели — или чатботы — обучаются на огромных массивах данных для прогнозирования и генерации текста, похожего на человеческий.
После полномасштабного вторжения России в Украину в 2022 году некоторые эксперты предупреждают, что пророссийские деятели всё чаще наводняют интернет фейковыми новостями, чтобы влиять на чат-боты.
Исис Блашес — аналитик исследовательского центра NewsGuard в США. В начале этого года центр опубликовал расследование про сеть дезинформации Pravda Network.
«Множество разных сайтов повторяют одно и то же ложное утверждение несколько раз на каждом сайте и на разных языках. Это создаёт большой объём статей, повторяющих одно и то же ложное утверждение. Принцип работы чат-ботов на основе искусственного интеллекта и обучающих данных заключается в том, что они анализируют доступную информацию, видят большой поток информации, повторяющей одно ложное утверждение, и извлекают из него информацию».
Карл Миллер снова.
«В будущем это станет инструментом информационной войны — манипулирование крупными языковыми моделями».
Расследование в прокремлевскую сеть Pravda также вела организация CheckFirst в Финляндии
Совместно с коллегами в Digital Forensic Lab они установили, что в сети было опубликовано более 6 миллионов пророссийских статей, 5 миллионов из которых были переведены на несколько языков.
Гийом Кустер — сооснователь CheckFirst.
«Это можно назвать лондроматом для российских нарративов и российской пропаганды. Эти сайты, публикующие информацию на десятках языков, не публикуют оригинальный контент. Они просто делают репосты. Это может быть контент, поступающий от СМИ, находящихся под санкциями в ЕС, таких как Sputnik или Russia Today. Это может быть контент из известных пропагандистских Telegram-каналов, с аккаунтов X и так далее».
На прошлой неделе глава австралийской разведки Майк Берджесс сообщил, что внимание агентства привлекли пророссийские инфлюенсеры в Австралии.
«Австралийцы публикуют и продвигают в Интернете экстремистские нарративы, оправдывающие вторжение в Украину и осуждающие поддержку Австралией Киева. Намеренно скрывая свою связь с Москвой – и вероятные указания из Москвы – пропагандисты пытаются перехватить и разжечь дебаты на эту тему в стране».
Некоторые эксперты полагают, что растущая зависимость от чат-ботов подчеркивает необходимость более строгого законодательства — и уделить особое внимание борьбе с дезинформацией.
Оливия Шен — директор Института Прогармм Стратегических технологий при Центре Изучения США в сиднейском университете.
«Австралия, по сути, была одной из первых стран, внедривших добровольную этическую систему по вопросам искусственного интеллекта. Но мы наблюдаем, пожалуй, более медленный прогресс в превращении добровольных гарантий, кодексов поведения и руководств в юридические нормы».
По словам представителя Министерства внутренних дел, Стратегия департамента по кибербезопасности направлена на создание «новых инициатив для устранения пробелов в действующем законодательстве».
Представители департамента также указали на план разработки первой в Австралии Национальной стратегии медиаграмотности... для «определения ключевых навыков и компетенций, необходимых австралийцам для преодоления трудностей и использования возможностей цифрового мира».
