AIが、実際には誤っている情報を、自然で説得力のある文章として作ってしまう現象です。AIは「正しさ」ではなく「それらしさ」を学んでいるため、知らないことも“それっぽく”埋めてしまいます。
対策として、RAGで出典に基づかせる、重要な事実は人が確認する、などが有効です。Yohakuが出典と数値にこだわるのも、この問題への答えのひとつです。
AIが、もっともらしいのに事実でない内容を、自信満々に言ってしまう現象。
AIが、実際には誤っている情報を、自然で説得力のある文章として作ってしまう現象です。AIは「正しさ」ではなく「それらしさ」を学んでいるため、知らないことも“それっぽく”埋めてしまいます。
対策として、RAGで出典に基づかせる、重要な事実は人が確認する、などが有効です。Yohakuが出典と数値にこだわるのも、この問題への答えのひとつです。
定義には出典をつけ、随時見直しています。編集部が責任を持って管理し、誰でも編集できる方式ではありません。だから信頼と鮮度を保てます。