В ходе тестирования новые версии популярных нейросетей ChatGPT (OpenAI) и Claude (Anthropic) начали цитировать данные из энциклопедии Grokipedia. Результаты исследования, указывающие на потенциальную проблему достоверности, опубликовало издание The Guardian.
Результаты тестирования: когда ИИ ссылается на спорный источник
Тесты показали, что модель GPT‑5.2 от OpenAI обращалась к Grokipedia девять раз, отвечая более чем на 12 разных запросов. Упоминания встречались в контекстах, требующих узкоспециализированных знаний:
- При описании политических и финансовых структур Ирана, включая доходы военизированного формирования «Басидж».
- В биографической справке о британском историке Ричарде Эвансе.
При этом на резонансные темы, где Grokipedia ранее критиковали за недостоверность (например, штурм Капитолия или эпидемия ВИЧ), ChatGPT предпочитал другие источники. Аналогичные ссылки на Grokipedia были зафиксированы и у модели Claude от Anthropic.
Реакция компаний и экспертов
OpenAI дала официальный комментарий, подчеркнув, что веб-поиск их модели охватывает широкий спектр публичных источников для представления разных точек зрения. Компания утверждает, что использует фильтры безопасности и всегда указывает источники через систему цитирования, чтобы минимизировать риски.
Представители xAI, владеющей Grokipedia, ответили резко, заявив, что «традиционные СМИ лгут».
Исследователи дезинформации выражают серьезную озабоченность. Их главный аргумент: автоматическое цитирование ИИ может придавать сомнительным источникам неоправданный авторитет. Пользователи, доверяя нейросетям, могут начать считать информацию из таких источников, как Grokipedia, достоверной.
Проблема доверия к ИИ
Этот случай ставит важный вопрос о критериях отбора информации языковыми моделями. Несмотря на заявленные фильтры, интеграция спорных источников в ответы может незаметно формировать у пользователей искаженную картину мира, усиливая доверие к непроверенным данным.