Врет или не врет? Как проверить нейросеть на вшивость

ИИ кажется умным. Он быстро пишет тексты, уверенно рассуждает, приводит данные и источники. На первый взгляд, его ответы стройные и убедительные.  

Но есть один важный момент, который нельзя забывать: нейросеть может врать, притом очень убедительно. Без злого умысла — просто потому что она так работает.

В этом уроке расскажем, почему искусственный интеллект ошибается, как это проявляется, и что с этим делать, если вы не хотите получить на выходе красивую, но недостоверную чушь.

Проблема 1. Нейросеть старается дать ответ на любой вопрос

ИИ устроен так, что стремится выполнить запрос любой ценой. Даже если у него нет достоверных данных, он все равно сгенерирует текст, который выглядит разумным.