Крупная научная группа Организации Объединенных Наций опубликовала свою первую глобальную оценку искусственного интеллекта. В своем отчете она пришла к выводу, что искусственный интеллект развивается быстрее, чем правительства и регулирующие органы успевают за ним. Эксперты также предупреждают о растущих рисках, связанных с этой технологией, включая киберугрозы, дезинформацию и потенциально катастрофический вред.
Больше историй, интервью и новостей от SBS Russian доступно здесь.
Слушайте программу на русском языке SBS по понедельникам, четвергам и субботам в 12 часов дня.
Читайте нас в Facebook и подпишитесь на наши подкасты по этой ссылке.
Смотрите прямые трансляции Чемпионата мира по футболу FIFA 2026™ бесплатно на SBS On Demand.
«Цель группы — помочь миру отделить факты от фальсификаций, а науку от мусора», - сказал Антонио Гутерриш, представляющий первую независимую научную оценку искусственного интеллекта, подготовленную Организацией Объединенных Наций.
Группа была создана Генеральной Ассамблеей ООН в прошлом году и объединила 40 экспертов из таких областей, как информатика, экономика, медицина и журналистика.
Ее задача была проста, но не терпела отлагательств — предоставить правительствам основанное на фактах понимание ИИ по мере быстрого развития этой технологии.
Гутерриш говорит, что возможности огромны.
«При грамотном использовании ИИ может стать самым мощным двигателем развития, ускоряя прогресс мира во всех областях, от здравоохранения и борьбы с голодом до образования и изменения климата. Но экспертная группа столь же трезво оценивает вред, который может причинить искусственный интеллект. Сопредседатели подробно изложат свои выводы. Но сначала позвольте мне сделать один вывод. Чем больше ИИ развивается без общих правил, тем меньше влияния будет у правительств и людей на результат».
В докладе говорится, что ИИ уже ускоряет разработку лекарств, научные исследования и другие прорывы, которые могут изменить повседневную жизнь.
Но в нем звучит предупредление о том, что технология развивается быстрее, чем системы, предназначенные для управления ею.
Сопредседатель экспертной группы Мария Ресса говорит, что даже консенсусные выводы группы отрезвляют.
"Это минимум, с которым мы все согласны, и этого уже достаточно, чтобы вызвать тревогу. Темпы не замедляются, власть концентрируется, а контроль не гарантирован".
Она говорит, что концентрация уже видна в том, кто контролирует технологии.
"Несколько компаний и несколько стран принимают наиболее важные решения о будущем человечества. На долю Соединенных Штатов приходится 75 процентов вычислительной мощности в крупнейших мировых кластерах ИИ".
Другой сопредседатель панели, канадский ученый компьютерщик Йошуа Бенджио, говорит, что возможности ИИ в некоторых областях удваиваются каждые несколько месяцев.
Он говорит, что темпы увеличивают разрыв между тем, что эти системы могут делать, и тем, насколько безопасно ими можно управлять.
«Технический прогресс идет быстро, удваиваясь каждые несколько месяцев, согласно некоторым показателям, уже несколько лет. Между тем, до сих пор нет известных технических гарантий того, что ИИ будет следовать нашим инструкциям, нормам или законам, и вместо этого растет количество доказательств обратного, включая обманные действия ИИ».
Бенджио говорит, что последствия ошибок могут быть серьезными.
«В перспективе разрыв между быстро улучшающимися возможностями и эффективными методами управления рисками может привести к катастрофическим последствиям. Недавно мы наблюдали проблемы с кибербезопасностью, но компании обеспокоены биологическими рисками, и многие представители гражданского общества показывают, что ИИ может приводить к дезинформации, которая может угрожать нашей демократии и нашим индивидуальным правам».
Его предупреждение правительствам звучит прямо: регулирование и гарантии должны соответствовать современным требованиям, прежде чем технологию станет еще сложнее контролировать.
Результаты будут обсуждаться на первом диалоге ООН по ИИ в Женеве на следующей неделе.
