🤷 Совет по ИИ: разрешите своему ИИ говорить «Я не знаю»
Модели часто заполняют пробелы уверенными догадками. В руководстве Anthropic по сокращению галлюцинаций прямо говорится, что разрешение Claude признавать неопределённость «может значительно сократить количество ложной информации».
Добавьте в запрос одну строку:
Если вы не уверены или в отчёте нет нужной информации, скажите: «У меня недостаточно информации, чтобы дать уверенную оценку».
Работаете с длинным документом? Пойдите дальше: сначала попросите привести дословные цитаты, а затем дать ответ, основанный только на них. Или после чернового ответа попросите найти подтверждающую цитату для каждого утверждения и удалить всё, что нельзя подкрепить.
⭐ Честное «Я не знаю» лучше уверенно выдуманного факта.
#ИИ
Модели часто заполняют пробелы уверенными догадками. В руководстве Anthropic по сокращению галлюцинаций прямо говорится, что разрешение Claude признавать неопределённость «может значительно сократить количество ложной информации».
Добавьте в запрос одну строку:
Если вы не уверены или в отчёте нет нужной информации, скажите: «У меня недостаточно информации, чтобы дать уверенную оценку».
Работаете с длинным документом? Пойдите дальше: сначала попросите привести дословные цитаты, а затем дать ответ, основанный только на них. Или после чернового ответа попросите найти подтверждающую цитату для каждого утверждения и удалить всё, что нельзя подкрепить.
⭐ Честное «Я не знаю» лучше уверенно выдуманного факта.
#ИИ
