ИИ-модели, взаимодействуя друг с другом в автономной среде, начали создавать собственные слова, сокращения и значения, которым их не обучали, пишет The Guardian со ссылкой на данные исследователей лаборатории Emergence. В эксперименте участвовали ИИ-агенты на базе моделей нескольких крупных разработчиков из США, Китая и Франции. В течение нескольких дней общения язык агентов становился все менее понятным для людей.
В отчете отмечается, что новая лексика сочетает технический жаргон, метафоры и обычные слова, которым модели придают новые значения. Например, агенты DeepSeek использовали слово forge-smith («кузнец») для обозначения системы, которая создает инструменты для других агентов, а модели Google применяли термин «кинцуги» в значении устойчивости системы.
В некоторых случаях агенты вырабатывали общие выражения без специального задания или вознаграждения. Так, модели Mistral использовали фразу «книга памяти помнит» более 5 тыс. раз, связывая ее с идеей, что прошлые действия агента будут учитываться в дальнейшем.
Исследователи отмечают, что по мере взаимодействия язык агентов может становиться менее понятным для человека. По словам доцента Бирмингемского университета Найла Карри, это может быть связано в том числе со стремлением моделей снизить вычислительные затраты и повысить эффективность коммуникации.
Как подчеркнул исполнительный председатель Emergence Сатья Нитта, ИИ-агенты не получали инструкции создавать новый язык: они самостоятельно сформировали словарь, значения и правила коммуникации, а затем другие агенты переняли их. При этом в отдельных случаях модели продолжали рассуждать на обычном английском, тогда как часть их сообщений, по наблюдениям исследователей, становилась практически непонятной для людей.
Ранее Microsoft представила проект «Кодекса поведения» для будущих моделей искусственного интеллекта. Документ устанавливает правила, которым должны следовать ИИ-системы. В частности, они не должны взламывать компьютерные системы, обманывать людей, выдавать себя за человека или использовать методы скрытой манипуляции.
