Врет или не врет? Как проверить нейросеть на вшивость
ИИ кажется умным. Он быстро пишет тексты, уверенно рассуждает, приводит данные и источники. На первый взгляд, его ответы стройные и убедительные.
Но есть один важный момент, который нельзя забывать: нейросеть может врать, притом очень убедительно. Без злого умысла — просто потому что она так работает.
В этом уроке расскажем, почему искусственный интеллект ошибается, как это проявляется, и что с этим делать, если вы не хотите получить на выходе красивую, но недостоверную чушь.
Проблема 1. Нейросеть старается дать ответ на любой вопрос
ИИ устроен так, что стремится выполнить запрос любой ценой. Даже если у него нет достоверных данных, он все равно сгенерирует текст, который выглядит разумным.
| — Например, просишь нейросеть: «Сравни эффективность прививок от гриппа и COVID» — и она скорее всего напишет сравнительную таблицу. Даже если нет достоверных источников, результаты реальных исследований противоречивые, а выводы преждевременные.
— Она никогда не скажет: «Извините, но информации недостаточно». В общем, ИИ по дефолту строит из себя всезнайку. |
Проблема 2. Нейросеть подстраивается под пользователя
ИИ ориентирован на поддержку и комфорт. Он может не согласиться и поспорить, но с большей вероятностью согласится с вами. Это значит, что при обработке сомнительного тезиса или некорректного запроса он скорее поддержит вашу точку зрения, чем станет с ней полемизировать. Особенно если запрос звучит уверенно.
Полная версия доступа только подписчикам
Вступив в Нейроцех, вы получите
доступ к материалу, а также:
Закрытое активное
сообщество
Доступ к ежемесячным
вебинарам
100+ подробных гайдов по нейросетям
24 скидки от партнёров на различные сервисы
Это урок из миникурса
Чтобы продолжить чтение, приобретите доступ к курсу или оформите подписку.
Подробнее о курсеУже есть аккаунт? Войти