Топ-менеджеры и сотрудники компаний, работающих в сфере искусственного интеллекта, подписали петицию, призывающую замедлить развитие нейросетей. На момент написания новости свои подписи под документом поставили 1224 человека.
В петиции говорится о риске того, что развитие ИИ-технологий будет происходить настолько стремительно, что люди утратят способность понимать создаваемые системы или контролировать их.
Чтобы реализовать потенциал ИИ, представителям бизнеса, государственным структурам и обществу может потребоваться время для реагирования на возникающие риски, разработки мер безопасности и усиления контроля. Но сильная конкуренция среди компаний и стран мешает одностороннему замедлению темпов развития ИИ. В мире нет технических и управленческих инструментов, позволяющих целенаправленно регулировать скорость прогресса в области искусственного интеллекта.
Авторы петиции призывают американское правительство поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного регулирования темпов развития ИИ.
Подписи под документом поставили сооснователь Anthropic Джаред Каплан, руководитель службы безопасности в OpenAI Сачи Джайн, вице-президент по безопасности и согласованию целей ИИ в Google Анка Драган, вице-президент по исследованиям в области ИИ в Meta (признана экстремистской и террористической организацией в России) Доун Сонг, cооснователь Hugging Face Томас Вольф и многие другие.
