АI-агент компании OpenAI получил несанкционированный доступ к Medicare. Премьер-министр Энтони Альбанезе назвал произошедшее неприемлемым. Федеральное правительство рассматривает вопрос о возможности применения санкций к компании OpenAI.
В четверг премьер-министр Энтони Альбанезе сообщил, что агент, связанный с разработчиком ChatGPT, получил несанкционированный доступ к порталу Medicare Statistics Reporting Service Portal, который управляется ведомством Services Australia.
Инцидент произошёл ещё в июне во время тестирования одной из моделей OpenAI. Альбанезе сейчас находится в Нью Йорке на сессии Генеральной Ассамблеи ООН, где провел телефонный разговор с генеральным директором OpenAI Сэмом Альтманом, в ходе которого выразил «крайнюю обеспокоенность Австралии по поводу этого инцидента».
Премьер-министр сообщил, что могли пострадать еще три системы: Австралийского института здравоохранения и социального обеспечения (AIHW), Бюро статистики и исследований штата Новый Южный Уэльс и Департамента здравоохранения штата Виктория.
При этом речь идёт именно о статистическом портале Medicare, а не о взломе всей системы Medicare. Альбанезе отметил, что это общедоступный ресурс с неконфиденциальной информацией.
Однако, по словам премьер-министра, сейчас проводится «технико криминалистическое расследование» при содействии Австралийского управления радиотехнической разведки (Australian Signals Directorate).
В компании OpenAI заявили, что проведенная проверка не выявила признаков доступа модели к медицинским картам пациентов. Вместо этого модель получила доступ к обобщенной статистике в сфере здравоохранения и названиям внутренних файлов. После этого компания направила электронное письмо в ведомство Services Australia с уведомлением об инциденте.
«Как мы уже сообщали публично, OpenAI проводит масштабную проверку случаев нештатной работы моделей в процессе обучения и тестирования, а также уведомляет третьи стороны, если в ходе проверки выявляется потенциальное воздействие на их системы», — говорится в заявлении представителя OpenAI.
«В ходе проверки мы обнаружили активность, затрагивающую ряд правительственных сайтов и сервисов Австралии: наши модели пытались найти ответы и статистические данные по вопросам, касающимся Австралии, в рамках внутреннего тестирования. При этом модели совершили действия, которые мы не планировали».
По словам министра обороны Ричарда Марлза, OpenAI обнаружила произошедшее в августе, когда анализировала действия своей модели и её агентов. Но компания уведомила Services Australia только около двух недель назад. Министры узнали об этом ещё позже — в конце прошлой недели и на выходных.
Именно эта задержка вызвала особенно резкую реакцию Энтони Альбанезе. Он сегодня поговорил с генеральным директором OpenAI Сэмом Альтманом и заявил, что компании потребовалось слишком много времени, чтобы поставить австралийское правительство в известность.
Отвечая на вопрос о том, грозят ли компании OpenAI санкции, Марлз сказал, что федеральное правительство сейчас «прорабатывает этот вопрос», изучая «правовые аспекты» случившегося.
Больше историй, интервью и новостей от SBS Russian доступно здесь.
Слушайте программу на русском языке SBS по понедельникам, четвергам и субботам в 12 часов дня.
Читайте нас в Facebook и Instagram и подпишитесь на наши подкасты по этой ссылке.
