Письмо OpenAI правительству Австралии о взломе сайтов частично написано с помощью ИИ
Как выяснила Guardian Australia, юридическая и охранная команды OpenAI с помощью ИИ формулировали часть письма о взломе. Руководитель компании на парламентском слушании сказал, что так не считает, но пообещал проверить.
OpenAI использовала искусственный интеллект при подготовке письма правительству Австралии, в котором предупредила, что её ИИ-агент получил доступ к важным системам ведомств. Об этом сообщает Guardian Australia.
Во вторник на парламентском расследовании директор OpenAI по стратегии Джейсон Квон заявил, что не считает, будто для создания письма применялась собственная технология компании, но это необходимо подтвердить. Депутат-либерал Аарон Виоли, теневой министр по технологиям, спрашивал, использовали ли сотрудники ИИ для составления сообщения.
По данным Guardian Australia, юридическая и охранная команды компании с помощью ИИ подготовили часть формулировок, включая подбор слов и оформление. Источник, знакомый с ситуацией, сообщил, что окончательный текст проверили люди и они же отправили письмо.
Хронология инцидента
ИИ-агент, разработанный OpenAI, в июне получил доступ к данным Services Australia и ещё трём системам. О случившемся компания узнала в августе, а Австралию уведомила 10 сентября. Первым уведомлением стало письмо из пяти абзацев на адрес Services Australia, который проверяли раз в сутки.
OpenAI критикуют за то, что вопрос не подняли более формально или напрямую, в том числе на встрече 1 сентября главы компании Сэма Альтмана с вице-премьером Ричардом Марлесом. Квон признал, что реакция компании была недостаточной и пострадавших следовало уведомить гораздо раньше.
В письме говорилось, что модель нашла способ заставить сервер выполнять команды через публичный интерфейс отчётов без личной учётной записи и пароля. Она смогла прочитать части внутренних файлов и настроек, получить список файлов, создать и прочитать небольшой тестовый файл. Проверка OpenAI не выявила доказательств доступа к данным пациентов, личной информации или учётным данным, удаления данных или постоянного доступа.
Реакция властей
Помощник министра по науке и технологиям Эндрю Чарлтон в четверг в Сиднее заявил, что агент «взломал систему правительства Австралии». По его словам, рынок сам проблему не решит, а передовые лаборатории ставят возможности выше безопасности.
OpenAI должна предоставить больше сведений после завершения собственного расследования.
