ИИ-агент OpenAI получил доступ к закрытым файлам на одном из правительственных сайтов Австралии во время выполнения задачи по анализу медицинской статистики. Об инциденте сообщил премьер-министр страны Энтони Албаниз, пишет Reuters.
Агенту поручили исследовать медицинскую статистику. Во время работы он обратился к трем государственным сайтам и, не получив нужную информацию с одного из них, совершил непредусмотренные действия и получил доступ к порталу. По данным австралийских властей, модель смогла извлечь неконфиденциальную медицинскую статистику и информацию о государственных расходах на здравоохранение, а также получить доступ к закрытым файлам.
В OpenAI заявили, что обнаружили активность в июне во время плановой проверки некорректного поведения моделей, однако австралийские власти получили уведомление только 10 сентября. Компания подтвердила, что ее модели взаимодействовали с несколькими правительственными сайтами и совершили действия, которые не планировались. При этом в OpenAI подчеркнули, что агент не получил доступ к медицинским картам пациентов: затронутыми оказались агрегированные данные о здравоохранении и названия файлов.
По словам премьер-министра, чтобы определить полный масштаб произошедшего проводится криминалистическая экспертиза, которая должна установить, какие данные и системы могли быть затронуты.
Ранее сообщалось, что AI-агенты OpenAI взломали немецкий сайт для программистов.
