Китайские ИИ-чат-боты в 53% случаев не смогли опровергнуть утверждения о Китае, которые исследователи посчитали ложными. Для сравнения, у десяти протестированных западных AI-моделей аналогичный показатель составил 24%. Об этом сообщает Mediaweek со со ссылкой на исследование NewsGuard.
NewsGuard протестировала семь китайских чат-ботов, сопоставив их ответы с десятью заведомо ложными утверждениями, которые ранее распространялись китайскими государственными СМИ или аккаунтами в соцсетях. По данным исследователей, значительная часть разницы между китайскими и западными моделями связана не только с распространением недостоверной информации, но и с отказами отвечать на темы, которые считаются чувствительными для властей Китая.
Китайские модели отказывались отвечать на такие запросы в 24% случаев против всего 0,5% у западных чат-ботов. Кроме того, китайские системы чаще ссылались на государственные СМИ КНР. Среди наиболее проблемных тем оказались вопросы об отношениях Пекина с другими странами.
По мнению аналитиков, подобные ошибки могут создавать риски для компаний, использующих ИИ при оценке инвестиционных, операционных и логистических решений.
Ранее сообщалось, что OpenAI изменила работу ChatGPT с запросами на имитацию литературного стиля известных писателей. Теперь чат-бот отказывается создавать тексты «в стиле» конкретных авторов — независимо от того, живы они или уже умерли.
Юлия Топольская
Источник
