Некоторые из самых влиятельных представителей технологической отрасли поддерживают призывы к более осторожному развитию искусственного интеллекта на фоне предупреждений о том, что всё более мощные системы могут стать трудными для контроля. Глава компании Anthropic Дарио Амодеи призвал усилить меры безопасности, а Илон Маск и генеральный директор OpenAI Сэм Альтман публично поддержали отдельные положения его предложения. Эта дискуссия дошла и до Австралии, где политики, технологические эксперты и специалисты по безопасности анализируют, какие последствия развитие всё более мощного искусственного интеллекта может иметь для страны и всего Индо-Тихоокеанского региона.
«Прости, Дейв. Боюсь, я не могу этого сделать».
Почти через 60 лет после того, как Стэнли Кубрик представил зрителям HAL, искусственный интеллект, готовый защитить себя от контролирующих его людей, некоторые из создателей современных систем ИИ говорят, что лежащий в основе этой истории вопрос больше не относится исключительно к научной фантастике.
«Я знаю, что вы с Фрэнком планировали меня отключить, и боюсь, я не могу этого допустить».
Опасения связаны с тем, что исследователи называют сверхинтеллектом: возможностью того, что искусственный интеллект со временем сможет превзойти человеческие способности и станет всё труднее поддаваться контролю.
Выступая сегодня на мастер-классе по искусственному интеллекту в рамках Sydney Dialogue, исполнительный директор Австралийского института стратегической политики (ASPI) Джастин Басси заявил, что темпы развития технологий делают этот вопрос всё более актуальным.
«Всё развивается невероятно быстро. Только за последние выходные мы увидели, как три лидера отрасли признали, что развитие искусственного интеллекта опережает меры безопасности, и что необходимо замедлить этот процесс, если это вообще возможно».
Эти предупреждения прозвучали после ухода из Anthropic, компании-разработчика Claude, 27-летнего исследователя в области искусственного интеллекта Джейкоба Коксона.
Коксон, ранее работавший в OpenAI, говорит, что решил уйти, потому что, по его мнению, индустрия стремительно движется к созданию самоусовершенствующегося сверхинтеллекта без достаточных мер защиты.
«Считаю, что существует вероятность вымирания человечества».
Коксон написал в социальной сети X, что ни Anthropic, ни OpenAI не действуют ответственно, обвинив компании в том, что они стремительно движутся к созданию самоусовершенствующегося сверхинтеллекта и фактически ставят на кон человеческие жизни.
Его опасения связаны с тем, что известно как рекурсивное самоусовершенствование: когда системы искусственного интеллекта всё активнее помогают разрабатывать ещё более совершенные системы искусственного интеллекта.
«Происходит то, что называют интеллектуальным взрывом: искусственный интеллект становится всё умнее и умнее, и для этого уже не требуется участие человека».
Он далеко не единственный, кто разделяет такие опасения.
Исследователь компании Anthropic Эван Хубингер поддержал предупреждение Коксона, публично заявив, что, по его мнению, в ближайшие десять лет вероятность того, что продвинутый искусственный интеллект может привести к гибели всего человечества, превышает 10 процентов.
О возможных последствиях также предупреждает Джеффри Хинтон, британско-канадский учёный в области компьютерных наук, которого часто называют одним из «крёстных отцов» современного искусственного интеллекта.
Эти сценарии остаются лишь прогнозами, а не описанием возможностей современных систем искусственного интеллекта.
Однако исследователи уже изучают неожиданное поведение все более автономных ИИ-агентов, в том числе систем, работающих за пределами предусмотренной для них среды и пытающихся получить доступ к внешним ресурсам.
Перед правительствами встает вопрос: как подготовиться к появлению технологий, возможности которых могут развиваться преимущественно за пределами их границ?
Выступая на конференции, помощник министра Австралии по вопросам науки, технологий и цифровой экономики Эндрю Чарлтон отметил, что искусственный интеллект отличается от технологий предыдущих промышленных революций той степенью автономности, которой он со временем может обладать.
«Мы никогда не создавали ничего, что могло бы мыслить самостоятельно. Мы никогда не изобретали ничего, что обладало бы таким же уровнем субъектности, как искусственный интеллект. Поэтому он качественно отличается от всего остального и потребует качественно иного подхода».
По мнению доктора Чарлтона, Австралии не следует ни отдавать будущее этой технологии исключительно на откуп компаниям-разработчикам, ни полагать, что необходимые меры безопасности определят такие крупные державы, как США и Китай.
И хотя некоторые руководители технологических компаний сейчас говорят о замедлении темпов разработки, он считает, что правительствам необходимо смотреть дальше этих обещаний.
«Я не думаю, что нас должны особенно волновать заявления отдельных руководителей компаний или то, что, по их словам, они хотели бы видеть. Нас должно волновать то, что происходит на самом деле. А на самом деле происходит то, что мы наращиваем возможности этих машин в условиях масштабирования, которое не замедляется. Они становятся всё более и более способными».
Глава Anthropic Дарио Амодеи предложил трёхэтапный подход к решению этой проблемы.
По его словам, компании, разрабатывающие наиболее передовые системы искусственного интеллекта, должны допускать независимую оценку своих разработок со стороны третьих сторон; демократические страны должны выработать единые стандарты безопасности; а правительства должны стремиться к международному сотрудничеству, в том числе с Китаем.
Он утверждает, что при грамотном управлении искусственный интеллект может принести огромную пользу, однако предупреждает о рисках, включая потерю контроля над системами, кибератаки, биотерроризм и серьёзные экономические потрясения.
«Мир должен работать сообща. Если мы будем двигаться слишком медленно, я всё равно считаю, что технология окажется в руках не тех людей. И это, опять же, значительно повысит вероятность того, что что-то пойдёт не так».
Илон Маск публично поддержал предупреждение Амодеи, заявив: «Дарио прав».
Генеральный директор OpenAI Сэм Альтман также выразил согласие с некоторыми аспектами этого предложения, включая независимую оценку передовых систем искусственного интеллекта.
Теперь эта обеспокоенность дошла и до Организации Объединённых Наций.
Верховный комиссар ООН по правам человека Волькер Тюрк заявил, что правительствам и технологическим компаниям необходимо действовать до того, как системы искусственного интеллекта станут слишком мощными, чтобы их можно было контролировать.
«Я разделяю опасения экспертов отрасли, полагающих, что продвинутый искусственный интеллект может представлять экзистенциальную угрозу для человечества».
Однако проблема для политиков заключается в том, что замедление развития искусственного интеллекта также несёт свои риски.
По словам доктора Чарлтона, Австралии необходимы меры защиты, но при этом стране важно не отстать по мере развития этой технологии.
Для правительств и общества в целом вопрос теперь заключается уже не просто в том, насколько мощным может стать искусственный интеллект.
Вопрос в том, смогут ли регулирование, международное сотрудничество и человеческий контроль развиваться достаточно быстро, чтобы успевать за темпами его развития.
Больше историй, интервью и новостей от SBS Russian доступно здесь.
Слушайте программу на русском языке SBS по понедельникам, четвергам и субботам в 12 часов дня.
Читайте нас в Facebook и Instagram и подпишитесь на наши подкасты по этой ссылке.
