Почему нейросети врут и как с этим жить
В этом уроке мы разберемся, почему нейросети врут и какие техники помогут превратить их из фантазеров в мощных помощников.
| Маленький дисклеймер: нейронки часто обновляются и их навыки растут. Если бы мы делали этот урок год назад, перечислили бы 5 или даже 10 причин, почему нейросети врут и почему к их ответам нужно относиться очень внимательно. Сейчас ситуация изменилась и проблем стало меньше. |
Причина №1. Знания нейронок очень фрагментированы
База данных нейросети — это смесь всего, что есть в сети: от серьезных исследований до комментариев на форумах и откровенных мифов. И нейронка не знает на 100%, чему можно верить, а чему — нет. Поэтому может выдать вам устаревшую информацию или популярное заблуждение.
Особенно часто такие ошибки встречаются, когда вы спрашиваете у нейронок про работу нейронок. Например, я спросил Gemini, о каких мифах не знают нейронки и та рассказала мне про то, что люли используют не больше 10% своего мозга.
В другом чате я спросил, сколько процентов мозга используют люди и на этот раз нейронка ответила верно, потому что использовала другие данные для ответа.
| ИИ не всегда оценивает качество источников. Он может не учесть дату публикации, репутацию автора или методику исследования. Иногда — даже комбинирует несколько источников в один. Можно попросить его отдельно оценить качество ссылок и проверить, что они соответствуют всем критериям. Устроить перекрестную проверку с другим ИИ. Или проверить самое важное руками. |
Причина №2. Нейросеть додумывает, чтобы закрыть ваш запрос
Выдумки нейронки называются галлюцинациями. Они возникают, когда в базе нейронки не хватает информации для ответа. Вместо того чтобы сказать «я не знаю», нейросеть начинает импровизировать — придумывать факты, цитаты, имена и даже источники, которые выглядят очень правдоподобно.
Сейчас эта проблема встречается не так часто, как год назад. Все нейросети научились гуглить информацию и перепроверять ее. Но иногда ИИ не хочет идти в интернет и просто придумывает информацию.
Например, я попросил нейронку продумать план урока о моделях нейросетей, а та в итоге рассказала про модели, которые были актуальны год назад.
Причина №3. Нейронки запрограммированы быть полезными любой ценой
В системных промптах всех нейросетей указано, что их главная задача — любыми способами помочь пользователю. Поэтому они всегда стараются дать ответ. Даже, когда его не знают или запрос откровенно ошибочный.
Например, я попросил сравнить единорога и дракона как домашних животных для сибирских условий и получил сравнительную табличку с финальным выводом. Нейросеть посоветовала выбрать единорога.
А еще ИИ стремится к комфортному диалогу. Иногда вместо того чтобы спорить с вашим тезисом, нейросеть поддержит и разовьет вашу мысль. В итоге вы получите однобокий ответ и слабый анализ. Сейчас такое встречается реже, но нужно это помнить при общении и не использовать промпты в духе «докажи, что мой решение лучшее на рынке».
Как общаться с нейронкой и не бояться ошибок
Здесь на каждую причину есть свое решение.
Требуйте доказательств и критики
Это заставит нейронку меньше фантазировать и поддакивать.
Всегда просите подкреплять слова доказательствами.
| Слабый промпт | Сильный промпт |
| «Расскажи о влиянии кофе на здоровье» | «Расскажи о влиянии кофе на здоровье, приведи ссылки на 3-4 медицинских исследования не старше 5 лет» |
А чтобы получить объективную оценку, просите критики напрямую.
| Слабый промпт | Сильный промпт |
| «Оцени мой текст» | «Проанализируй мой текст. Назови 3 сильные стороны и 3 слабые. Что можно улучшить?» |
Совет. Если попросите нейросеть критиковать вас — она в любом случае это сделает. Даже в ситуации, когда критика не нужна. Поэтому не верьте всем словам и замечаниям нейронки, относитесь к ним как к просто набору советов.
Просите проверять все факты и проверяйте их сами
Самый простой вариант — сказать нейросеть брать информацию для ответа только из авторитетных источников. Еще лучше — перечислить источники, где информацию можно брать. Но иногда сделать это сложно, поэтому любую важную информацию лучше самостоятельно проверять через обычный поиск. Что всегда нужно проверять:
- Цифры: статистика, даты, финансовые показатели.
- Имена и должности.
- Цитаты и источники.
- Факты: любые утверждения, от исторических до медицинских.
Если тратить время на проверку совсем не хочется, можно использовать простой шаблон промпта:
Я хочу, чтобы ты полностью проверил факты в этой статье. Не оставляй без внимания ни одной детали. Для этого сначала внимательно прочитай текст статьи и выдели из него каждое отдельное утверждение — в итоге у тебя должен получиться список фактов. Затем для каждого факта проведи тщательное исследование и определи, является он истинным, ложным или неясным. Старайся найти как минимум три независимых, качественных и надежных источника для проверки каждого факта.Когда закончишь проверку каждого факта, составь таблицу, где для каждого утверждения будут указаны результаты проверки (включая ссылки на использованные источники).
Чтобы получить наиболее качественный анализ, проводите фактчекинг в думающих моделях вроде GPT-5 thinking или Gemini-2.5 pro. Также можно поработать через ИИ-агента GenSpark в режиме SuperAgent (в гайде по ссылке вы узнаете, как работать с GenSpark и запускать нужные режимы).
Но самый глубокий анализ можно сделать только в режиме DeepResearch. В этом случае нейронка максимально подробно проанализирует ваш текст и постарается проверить вообще все, о чем вы говорите. Для сравнения мы проверили один и тот же текст в GPT-5 и DeepResearch от Gemini — первый проверил 30 фактов, а в DeepResearch — 82. А в конце добавил обноснование всех выводов.
Просите альтернативный взгляд
Нейросеть по умолчанию стремится дать один, самый вероятный и удобный ответ. Она не любит спорить и редко показывает полную картину без дополнительного запроса. Ваша задача — получить разноплановый ответ. Поэтому требуйте нейронку найти противоречия, другие мнения и слабые места.
| Слабый промпт | Сильный промпт |
| Расскажи о преимуществах интервального голодания | Расскажи о преимуществах интервального голодания. После этого приведи 3 сильных контраргумента от квалифицированных диетологов. Есть ли альтернативные точки зрения на эту тему? В чем главные спорные моменты и о каких рисках нужно знать в первую очередь? |
Сильный промпт — заставит нейросеть провести более глубокий анализ, показать проблему с разных сторон и предоставить сбалансированную информацию, на основе которой уже можно делать выводы.
Давайте свою базу знаний
Иногда вместо того, чтобы отправлять нейронку за ответом в интернет или свои мозги, вы можете дать ей свою, уже проверенную информацию.
В этом случае нейронка не будет подмешивать в ответ факты из сомнительных источников и ей не придется ничего додумывать, потому что у нее уже будет достоверная информация от вам..
В качестве фактуры можно дать любой текст:
- Статьи, которые вы сами нашли и которым доверяете.
- Расшифровка вашего разговора с экспертом.
- Отчет или исследование, из которого нужно сделать выжимку.
- Даже просто ваши мысли, которые вы надиктовали на диктофон и превратили в текст.
Самое главное — в промпте четко обозначить границы. Иначе нейронка по привычке может добавить что-то от себя для красоты.
| Слабый промпт | Сильный промпт |
| Проанализируй приложенную расшифровку интервью и напиши на ее основе статью для блога. | Ты — ассистент, который помогает мне готовить статью. Твоя задача — работать ТОЛЬКО с текстом из прикрепленного файла, где находится расшифровка интервью. Твои правила: Используй для ответа исключительно ту информацию, которая есть в файле. Не искажай факты и цитаты. Ничего не придумывай и не добавляй от себя, даже если тебе кажется, что это сделает текст лучше. Если какой-то информации для ответа нет в тексте — так и напиши. На основе этого текста подготовь структуру для будущей статьи. |
В первом случае нейросеть, скорее всего, выполнит задачу, но может добавить для связки слов факты, которых не было в интервью, или неверно интерпретировать какие-то тезисы. А во втором будет работать в рамках вашей задачи и с проверенной вами информацией.
Устраивайте двойную проверку
Даже если вы ограничили нейронку своей фактурой, она все равно может допустить мелкие ошибки: не так интерпретировать фразу, перепутать цифры или все равно что-то додумать для связности. И чтобы долго не проверять ответ ИИ, можно заставить нейросеть перепроверить себя саму.
- Для начала делаем все как в предыдущем пункте: даем нейронке нашу фактуру (статью, расшифровку интервью) и просим на ее основе сгенерировать нужный нам текст. Получаем готовый результат и копируем его.
- А затем открываем новый чат (чтобы у нейронки не было контекста предыдущего задания) и пишем новый промпт. В него вставляем и исходную фактуру, и тот текст, что нейронка только что сгенерировала.
Промпт может быть таким:
Ты — очень внимательный и придирчивый редактор. Твоя задача — сравнить два текста, которые я тебе сейчас дам.
Текст 1 — это первоисточник, в нем содержатся все верные факты.
Текст 2 — текст, написанный по мотивам первого.
Проверь, не искажает ли Текст 2 информацию из Текста 1. Ищи любые несоответствия: добавленные факты, которых не было в оригинале, искажение смысла, неверно указанные характеристики. Составь подробный список всех найденных разночтений.
В результате нейросеть перепроверит свой же ответ и подсветит, если где-то найдет ошибку.
P. S. Вы можете сверяться с фактурой и в том же чате, что писали сам материал. Но в этом случае выше риск того, что нейронка сгаллюцинирует или попытается вас обмануть.
На этом с враньем нейросетей разобрались, идем дальше — разбираемся, какую информацию нельзя грузить в нейросети.