🤷 AIのヒント:AIに「わかりません」と言う許可を与えよう

モデルは、情報の不足を自信たっぷりの推測で埋めてしまうことがよくあります。Anthropicのハルシネーションを減らすためのガイドによると、Claudeが不確かさを認めてもよいと明示することで、「誤った情報を大幅に減らせる」そうです。

プロンプトに次の一文を加えましょう:
確信が持てない場合や、レポートに必要な情報がない場合は、「確かな評価を下すには、十分な情報がありません」と答えてください。

長い文書を扱っていますか? さらに一歩進めて、まず原文から一字一句そのまま引用させ、その引用だけに基づいて回答するよう指示しましょう。または、下書きのあとに、すべての主張を裏付ける引用を探させ、裏付けられない主張は削除させましょう。

⭐ 自信満々の作り話より、正直な「わかりません」のほうがずっといい。

#AI