Почему нейросети врут и как с этим жить

В этом уроке мы разберемся, почему нейросети врут и какие техники помогут превратить их из фантазеров в мощных помощников.

Маленький дисклеймер: нейронки часто обновляются и их навыки растут. Если бы мы делали этот урок год назад, перечислили бы 5 или даже 10 причин, почему нейросети врут и почему к их ответам нужно относиться очень внимательно. Сейчас ситуация изменилась и проблем стало меньше.

Причина №1. Знания нейронок очень фрагментированы

База данных нейросети — это смесь всего, что есть в сети: от серьезных исследований до комментариев на форумах и откровенных мифов. И нейронка не знает на 100%, чему можно верить, а чему — нет. Поэтому может выдать вам устаревшую информацию или популярное заблуждение.

Особенно часто такие ошибки встречаются, когда вы спрашиваете у нейронок про работу нейронок. Например, я спросил Gemini, о каких мифах не знают нейронки и та рассказала мне про то, что люли используют не больше 10% своего мозга.