ИИ-тексты часто содержат ложь: факты 2025–2026 годов
Современные текстовые модели (ChatGPT, Gemini, Claude, Grok и другие) систематически генерируют фактически неверную информацию. Это явление называется галлюцинациями и представляет собой не редкий сбой, а обычную особенность работы больших языковых моделей.
По независимым бенчмаркам и исследованиям 2025–2026 годов частота серьёзных фактических ошибок в ответах топовых моделей колеблется от 15 до 50 % в зависимости от задачи. В сложных сценариях — таких как поиск источников, цитирование или ответы на открытые вопросы — она может достигать 37–94 %. Даже самые продвинутые версии регулярно выдают неправду, при этом звучат максимально уверенно и гладко.
Текстовые ИИ ошибаются именно потому, что не обладают настоящим пониманием фактов. Они предсказывают следующие слова на основе статистических паттернов в данных. Если паттерн выглядит правдоподобно, модель выдаёт ответ, даже если он полностью вымышлен. Обучение на огромном объёме интернет-мусора и синтетических данных только усиливает накопление ошибок. Кроме того, модели специально настраивают на уверенные и красивые ответы — признаваться в незнании считается плохим тоном.
Особенно опасны галлюцинации в юридической сфере. В 2025 году суды по всему миру столкнулись с сотнями случаев, когда адвокаты подавали документы с фейковыми судебными прецедентами, цитатами и даже именами судей, сгенерированными ИИ. В Калифорнии адвоката оштрафовали на 10 000 долларов за то, что в апелляции 21 из 23 цитат оказались вымышленными. Две юридические фирмы выплатили 31 000 долларов за аналогичные фейковые цитаты. В Канзасе судья оштрафовал пятерых адвокатов на суммы до 5000 долларов каждого за использование ChatGPT без проверки. В Вайоминге и других штатах были похожие санкции, включая дисквалификацию и публичные выговоры. По базе данных исследователя Damien Charlotin в 2025 году зафиксировано около 712 судебных решений, связанных с ИИ-галлюцинациями в документах — 90 % из них пришлись именно на этот год.
Не менее серьёзные риски возникают в банковской и финансовой системе. Банковские чат-боты и внутренние ИИ-инструменты регулярно дают клиентам неверную информацию о процентных ставках, условиях кредитов, правилах возвратов и требованиях к документам. Такие ошибки могут привести к неправильным финансовым решениям, нарушениям compliance и прямым убыткам. В исследованиях 2025 года частота галлюцинаций при работе с финансовыми данными достигала 13,8 %. Известны случаи, когда ИИ придумывал несуществующие политики возвратов (аналогично скандалу с Air Canada) или генерировал ошибочные отчёты для регуляторов. Сотрудники банков, использующие модели для подготовки аналитики и compliance-документов, иногда принимали решения на основе полностью выдуманных данных, что создавало риски штрафов и судебных претензий.
В итоге любой важный текст, полученный от текстового ИИ в 2025–2026 годах, следует считать потенциально ложным. Модели звучат авторитетно именно тогда, когда врут. Правило остаётся простым: всё критически важное — особенно в юриспруденции, финансах и банковском деле — необходимо проверять вручную по первоисточникам. Без проверки это остаётся лотереей.
