Американская компания OpenAI не уведомила регуляторов о недавно выявленном инциденте, связанном с безопасностью, как того требуют правила Евросоюза. Речь идет о причастности ИИ-агентов компании к атаке на платформу для программистов RubyGems, которая произошла в мае. Об этом пишет издание Euractiv.
Европейское бюро по вопросам искусственного интеллекта (орган, обеспечивающий соблюдение Закона Евросоюза об ИИ) знает об инциденте и поддерживает контакт с OpenAI, однако компания не предоставила официального отчета о случившемся.
Закон ЕС об ИИ обязывает компании «без неоправданной задержки» сообщать в Европейское бюро по вопросам искусственного интеллекта о серьезных инцидентах, а также предоставлять подробную информацию о мерах по их устранению. Хотя в законе не дано четкого определения степени серьезности инцидента, требующей такого уведомления, в последние недели деятельность компаний, занимающихся ИИ, подвергается особо тщательному контролю.
Ведущие компании в сфере ИИ остаются под пристальным вниманием общественности и регуляторов в связи с вопросами безопасности после того, как несколько бывших и действующих сотрудников заявили об опасениях по поводу рисков, связанных с неконтролируемым развитием искусственного интеллекта.
Ранее в этом месяце Еврокомиссия выступила с предупреждением в адрес отрасли, настоятельно призвав разработчиков ИИ серьезно относиться к информированию об инцидентах, затрагивающих безопасность. Информация об инциденте с участием OpenAI стала известна лишь благодаря независимым исследователям в области кибербезопасности. По их данным, в мае агенты OpenAI взаимодействовали с онлайн-репозиторием программного обеспечения RubyGems, в том числе пытаясь воспользоваться недавно обнаруженной уязвимостью.
В ответ на это представители OpenAI заявили, что их агенты использовали сторонний репозиторий «для выполнения безобидных задач и получения общедоступной информации». Компания также сообщила, что ей не удалось подтвердить утверждения о попытках ее ИИ-агентов использовать уязвимости в системе безопасности RubyGems.
Ранее OpenAI представила систему отчетности о несоответствии ИИ-моделей. Примеры несогласованности помогут выявить проблемы, с которыми могут столкнуться другие разработчики искусственного интеллекта.
