ТРАНСКРИПТ. АУДИО ДОСТУПНО В ПЛЕЕРЕ
Если вам кажется, что вы сразу распознали бы мошенничество с использованием AI-дипфейков, — вы не одиноки.
Однако новое исследование Commonwealth Bank показывает, что австралийцы зачастую гораздо увереннее в себе, чем правы — и именно на этом разрыве процветают мошенники.
Потому что в случае с дипфейками опасность заключается не только в самой технологии. Опасность — в том, что она подрывает и присваивает доверие.
По словам генерального менеджера по групповому управлению мошенничеством в Commonwealth Bank Джеймса Робертса, дипфейки сегодня используются для имитации людей, которым мы психологически склонны доверять — будь то знаменитость, кто-то знакомый или тот, кого мы любим.
«То, о чём мы говорили в рамках исследования, — это дипфейки: как видео-дипфейки, так и аудио-дипфейки. Очень часто это подделки, имитирующие человека, которому вы доверяете — будь то знаменитость, публичная фигура или даже член семьи. Как правило, такой контент размещается в социальных сетях, на дейтинг-приложениях и даже в мессенджерах».
По словам Джеймса Робертса, отличительная особенность нынешнего момента — это масштаб и скорость.
Это уже не примитивные мошенничества, над которыми можно посмеяться. Они специально создаются так, чтобы казаться личными, знакомыми и настоящими.
Робертс утверждает, что австралийцы сталкиваются с дипфейками гораздо чаще, чем многие себе представляют.
«На данный момент, согласно результатам исследования, более чем каждый четвёртый австралиец уже сталкивался с дипфейками — будь то видео- или аудиоформат. Это довольно широко распространено, и мы ожидаем, что масштабы будут только расти, поскольку всё больше преступников начинают использовать эту технологию».
Один из самых тревожных аспектов заключается в том, что мошенникам требуется совсем немного исходного материала, чтобы создать аудио-дипфейк — особенно если голос человека уже записан и доступен онлайн.
«Одна из проблем, с которой мы все сегодня сталкиваемся, заключается в том, что многие из нас присутствуют в социальных сетях — кто-то находится в публичном пространстве, кто-то просто размещал материалы онлайн. В результате наши лицо и голос уже доступны в сети. Иногда мошенникам достаточно буквально менее десяти секунд записи голоса, чтобы скопировать его».
По словам Робертса, даже для технически подкованных людей главная опасность — чрезмерная уверенность, то есть убеждённость в том, что человек всегда сможет отличить подделку от реальности.
«Одним из самых тревожных выводов исследования стало то, что 89 % респондентов заявили, что способны точно распознавать дипфейки. Однако когда мы проверили это на практике, они оказались правы лишь в 42 % случаев. Это даже хуже, чем если бы они просто угадывали».
Итак, если большинство из нас не может надёжно распознать дипфейк, то какова же лучшая защита?
Робертс говорит, что людям не нужно жить в страхе и не нужно становиться экспертами в распознавании синтезированных голосов или поддельных видео.
Вместо этого, по его словам, лучшая защита — это поведенческая защита: замедление темпа, проверка и отказ от спешки.
«Нам не нужно бояться. И нам даже не обязательно уметь распознавать дипфейк — при условии, что всякий раз, когда речь идёт, например, об инвестициях или серьёзных отношениях, мы следуем простому принципу “остановись — проверь — отклони”. Первое — остановиться. Большинство мошенников создают ощущение срочности, подталкивая к действиям без раздумий. Нужно взять паузу и перейти в режим медленного мышления, не реагировать мгновенно. Второе — проверить. Обсудите решение с друзьями или семьёй, прежде чем принимать серьёзное финансовое решение. Воспользуйтесь поисковой системой: введите название предложения и добавьте слово “мошенничество”. И, наконец, отклонить. Положите трубку. Заблокируйте звонки».
Этот совет особенно важен, потому что на кону стоят огромные риски — не только финансовые, но и эмоциональные.
По словам Джеймса Робертса, мошенничество может разрушать отношения, раскалывать семьи и, в самых трагических случаях, подталкивать людей к причинению вреда самим себе.
«Последствия по-настоящему ужасающие, и абсолютно недопустимо, что преступные группировки наносят людям такой масштабный эмоциональный ущерб. Да, есть серьёзный финансовый вред, но о том, о чём часто не говорят, — это именно эмоциональные последствия. Мы видели разводы и распад семей. Мы видели, как небольшие, успешно развивавшиеся бизнесы прекращали работу. И в более редких, но всё же имеющих место случаях — инциденты самоповреждения, когда люди просто чувствуют, что не в состоянии с этим справиться».
Он говорит, что именно поэтому так важно открыто говорить о мошенничестве, потому что стыд и молчание могут только усугубить ситуацию.
«Один из самых эффективных способов — говорить об этом. Независимо от того, стали ли вы жертвой мошенничества или просто хотите обезопасить свою семью, важно обсуждать эту тему. Нам необходимо снять стигму с мошенничества, чтобы люди могли открыто говорить об этом — и тем самым снижать риск стать жертвой, а если это всё же произошло, быть уверенными, что о них действительно позаботятся».
А для семей, обеспокоенных мошенничеством с клонированием голоса — например, когда злоумышленники выдают себя за ребёнка или внука и срочно просят деньги, — по словам Джеймса Робертса, один простой шаг может мгновенно остановить мошенников: семейное кодовое слово.
«Исследование показало, что 74 % австралийцев считают, что в семье должно быть кодовое слово безопасности. Однако, к сожалению, лишь 20 % действительно сделали этот простой шаг. Обязательно придумайте кодовое слово и конфиденциально поделитесь им внутри семьи, чтобы защититься от попыток выдавать себя за ваших близких».
Но у Джеймса Робертса есть и практический совет для повседневной ситуации: телефон звонит, номер неизвестен, и возникает соблазн ответить — просто чтобы узнать, чего хотят. Он говорит: не вовлекайтесь — и даже не используйте этот момент, чтобы отчитать мошенника.
«Да, возможно, бывает приятно выругаться и вступить с ними в разговор, но чаще всего лучше не отвечать на мошеннический звонок, если он поступает. Чем чаще вы отвечаете, тем больше у них возникает ощущение, что у вас есть потенциал стать жертвой. А если вы никогда не отвечаете, то на практике вы со временем просто исчезаете из их списков, и в итоге они перестают звонить».
Но на этом история не заканчивается — мошенники используют искусственный интеллект для масштабирования обмана, однако та же самая технология применяется и для противодействия им.
В Commonwealth Bank, по словам Джеймса Робертса, используют генеративный искусственный интеллект для создания систем, которые не только выявляют мошенничество, но и активно ему препятствуют.
Он отмечает, что банк сотрудничает со специализированной группой, разрабатывающей ботов, которые напрямую взаимодействуют с мошенниками — отвлекают их, отнимают время и собирают информацию, которая затем используется для защиты реальных людей.
«Одно из самых обнадёживающих направлений заключается в том, что, хотя я уже говорил о негативных способах использования генеративного AI , в CommBank мы также пробуем применять его во благо, чтобы противостоять мошенничеству. Мы заключили партнёрство с компанией Apate AI и создали своего рода “армию” ботов — голосовых и текстовых. Эти боты напрямую вступают в контакт с мошенниками и тратят их время: каждую минуту, пока мошенник разговаривает с ботом, он не обманывает австралийцев».
По словам Робертса, такие диалоги с ботами позволяют также извлекать ключевые детали — например, подозрительные банковские счета или ссылки. Затем их можно заблокировать, что потенциально помогает предотвратить мошенничество в отношении сразу нескольких жертв.
«Мы используем это и так, как вы сейчас сказали — мы также собираем разведывательную информацию. То есть, если боту сообщают реквизиты мошеннического банковского счёта для перевода денег, мы извлекаем эту информацию и используем её, чтобы заблокировать такой счёт. Одна такая зацепка может спасти, возможно, десять других австралийцев».
А иногда бот не просто отвлекает мошенника на несколько минут — он может удерживать его в разговоре гораздо дольше.
«Наш рекорд на данный момент — 54 минуты: именно столько нам удалось удерживать человека на линии. А это значит, что все эти 54 минуты он не мог обманывать другого австралийца».
Специалист по кибербезопасности и борьбе с мошенничеством Саймон Смит из компании Scam Assist, которая помогает возвращать средства, утраченные в результате онлайн-мошенничества, финансовых афер и киберпреступлений, говорит, что у искусственного интеллекта есть две стороны.
По его словам, AI может усиливать мошенничество, но также может использоваться и для его срыва.
Смит отмечает, что люди уже получают пользу от автоматических систем обнаружения — например, когда телефон помечает подозрительные номера, даже если пользователи не задумываются о том, что за этим стоит искусственный интеллект.
«Если у вас телефон на Android, он автоматически помечает некоторые звонки как подозрительные. Если говорить техническим языком, это всего лишь алгоритм, который определяет, что данный номер известен мошеннической активностью, и делает это с точностью в 99 процентов».
Однако Саймон Смит также предупреждает: не стоит поддаваться гипнозу модного слова.
Потому что мошенничество — не новое явление. Новым стала лишь его упаковка.
Искусственный интеллект — это очень широкое понятие. Сегодня существуют действительно хорошие технологии. Но есть и плохие мошенники, и плохие технологии, а бывают и хорошие мошенники. И, по сути, неважно, используется AI или нет — мошенники будут всегда. Пока существует жадность, будет и воровство».
Дипфейки могут быть самым новым оружием мошенников, но лучшая защита по-прежнему остаётся глубоко человеческой.
Остановитесь. Проверьте информацию с тем, кому вы доверяете. И не позволяйте ощущению срочности заглушить ваше внутреннее чутьё.
