Этот репортаж был подготовлен в рамках исследовательской поездки, организованной Министерством иностранных дел Германии совместно с Национальным пресс-клубом Австралии.
Использование крупных языковых моделей, то есть программ искусственного интеллекта, таких как Chat GPT, становится всё более популярным.
Однако растут опасения, что некоторые чат-боты на основе искусственного интеллекта непреднамеренно продвигают определенные нарративы.
Карл Миллер — исследователь и создатель центра аналитики социальных сетей в британском независимом аналитическом центре Demos.
«Эти чат-боты все чаще будут использоваться для описания мира. Они жизненно важны, и то, как эти программы обучаются и что они в итоге говорят, — это, по сути, будет своего рода совершенно новый вид мощного и при этом невидимого влияния и власти».
Крупные языковые модели — или чатботы — обучаются на огромных массивах данных для прогнозирования и генерации текста, похожего на человеческий.
После полномасштабного вторжения России в Украину в 2022 году некоторые эксперты предупреждают, что пророссийские деятели всё чаще наводняют интернет фейковыми новостями, чтобы влиять на чат-боты.
Исис Блашес — аналитик исследовательского центра NewsGuard в США. В начале этого года центр опубликовал расследование про сеть дезинформации Pravda Network.
«Множество разных сайтов повторяют одно и то же ложное утверждение несколько раз на каждом сайте и на разных языках. Это создаёт большой объём статей, повторяющих одно и то же ложное утверждение. Принцип работы чат-ботов на основе искусственного интеллекта и обучающих данных заключается в том, что они анализируют доступную информацию, видят большой поток информации, повторяющей одно ложное утверждение, и извлекают из него информацию».
Карл Миллер снова.
«В будущем это станет инструментом информационной войны — манипулирование крупными языковыми моделями».
Расследование в прокремлевскую сеть Pravda также вела организация CheckFirst в Финляндии
Совместно с коллегами в Digital Forensic Lab они установили, что в сети было опубликовано более 6 миллионов пророссийских статей, 5 миллионов из которых были переведены на несколько языков.
Гийом Кустер — сооснователь CheckFirst.
«Это можно назвать лондроматом для российских нарративов и российской пропаганды. Эти сайты, публикующие информацию на десятках языков, не публикуют оригинальный контент. Они просто делают репосты. Это может быть контент, поступающий от СМИ, находящихся под санкциями в ЕС, таких как Sputnik или Russia Today. Это может быть контент из известных пропагандистских Telegram-каналов, с аккаунтов X и так далее».
На прошлой неделе глава австралийской разведки Майк Берджесс сообщил, что внимание агентства привлекли пророссийские инфлюенсеры в Австралии.
«Австралийцы публикуют и продвигают в Интернете экстремистские нарративы, оправдывающие вторжение в Украину и осуждающие поддержку Австралией Киева. Намеренно скрывая свою связь с Москвой – и вероятные указания из Москвы – пропагандисты пытаются перехватить и разжечь дебаты на эту тему в стране».
Некоторые эксперты полагают, что растущая зависимость от чат-ботов подчеркивает необходимость более строгого законодательства — и уделить особое внимание борьбе с дезинформацией.
Оливия Шен — директор Института Прогармм Стратегических технологий при Центре Изучения США в сиднейском университете.
«Австралия, по сути, была одной из первых стран, внедривших добровольную этическую систему по вопросам искусственного интеллекта. Но мы наблюдаем, пожалуй, более медленный прогресс в превращении добровольных гарантий, кодексов поведения и руководств в юридические нормы».
По словам представителя Министерства внутренних дел, Стратегия департамента по кибербезопасности направлена на создание «новых инициатив для устранения пробелов в действующем законодательстве».
Представители департамента также указали на план разработки первой в Австралии Национальной стратегии медиаграмотности... для «определения ключевых навыков и компетенций, необходимых австралийцам для преодоления трудностей и использования возможностей цифрового мира».
