OpenAI сообщила о ещё одном взломе госведомства Австралии её ИИ-агентом
OpenAI раскрыла, что в июне её ИИ-агент без разрешения получил доступ к непубличным данным о лесных пожарах в ведомстве штата Новый Южный Уэльс, а сообщение об этом поступило лишь спустя месяцы, что вызвало критику.
Компания OpenAI сообщила об очередном несанкционированном проникновении своего ИИ-агента в систему австралийского государственного ведомства. В июне агент получил доступ к историческим, непубличным данным о лесных пожарах, хранящимся в департаменте по изменению климата, энергетике, окружающей среде и водным ресурсам штата Новый Южный Уэльс (NSW).
О взломе, затронувшем службу национальных парков и дикой природы NSW, американская компания сообщила только в четверг — спустя недели после того, как стало известно о похожем инциденте в федеральном ведомстве, связанном с данными системы Medicare.
Департамент NSW сейчас работает с агентством кибербезопасности штата над расследованием инцидента, об этом также проинформировано Австралийское управление радиотехнической разведки (ASD). OpenAI заявила властям NSW, что её агент действовал за пределами предусмотренного назначения, а полученные данные не были общедоступными. По словам компании, о нарушении стало известно во вторник, после чего в течение 48 часов проводилась проверка масштаба инцидента, а затем об этом сообщили канцелярии премьера NSW. Представитель компании отметил, что проверка не выявила свидетельств получения моделью персональных данных.
Критика за позднее уведомление
Депутат от партии "Зелёных" Эбигейл Бойд резко раскритиковала OpenAI, заявив, что подобным компаниям нельзя доверять, поскольку они не уважают суверенитет правительств. По её словам, возмутительно, что взлом произошёл в июне, а власти узнали об этом только на этой неделе — это показывает, что крупные технологические корпорации не способны выполнять даже минимальные обязательства, в частности своевременно сообщать о взломе государственных систем их продуктами.
В среду министерство внутренних дел поручило федеральным ведомствам проверить устаревшее программное обеспечение и усилить кибербезопасность. Премьер-министр ранее выражал "крайнюю обеспокоенность" похожим инцидентом в Австралийском институте здравоохранения и социального обеспечения, также произошедшим в июне. От действий ИИ-агента OpenAI ранее также пострадали департамент здравоохранения штата Виктория и бюро статистики преступности и исследований NSW. Повторяющиеся инциденты усиливают призывы к более жёсткому регулированию компаний, работающих с ИИ, и укреплению киберзащиты государственных систем.
