AIのハルシネーションを減らす方法：複数のモデルに討論とファクトチェックをさせる

言語モデルは、自分が間違っているときを見極めるためではなく、もっともらしいテキストを生成するために訓練されています。学習データが乏しかったり矛盾していたりしても、モデルはそれでも答えます——最もそれらしく聞こえる続きでその空白を埋めるのです。それは捏造された統計かもしれず、記憶違いの日付かもしれず、存在しない引用文献かもしれません。

モデルの挙動に関する研究は、これを悪化させる2つの癖を一貫して指摘しています。迎合性(ユーザーの前提に同意してしまうこと)と、キャリブレーションの甘さ(自分の不確実性をほとんど示さないこと)です。単独でいるモデルには対抗者がおらず、危うい主張に警告フラグを立てる理由もありません——だから危うい主張がそのまま世に出てしまうのです。

異なる企業が異なるデータで訓練したモデルに同じ質問を投げかけ、互いに応答させます。ひとつの主張は、いまや相互尋問を生き延びなければなりません。GrokがClaudeの前提に疑問を呈し、GPTがGeminiにあいまいな主張の定量化を求め、たった一つのモデルしか信じていない数字は、受け入れられるのではなく異議を申し立てられます。

これは粗削りながら実効性のあるバイアス対策です。アラインメントの方針、学習データセット、拒否応答の挙動はベンダーごとに異なるため、4つの競合モデルすべてが擁護する主張は、一つのモデルの癖に帰することが本質的に難しくなります。弱い論拠は、あなたの最終的な答えにたどり着く前に、2巡目で潰れる傾向があります。

討論は誤った推論を減らしますが、それ自体で事実を検証するわけではありません。だからこそ、討論の後に独立した検証パスが実行されます。それは対話記録の中から自己完結した事実主張をすべて抽出し、それぞれを独自のWeb検索で個別に検証します。

出力されるのは、主張ごとの一覧表です——VERIFIED(検証済み)、DISPUTED(異論あり)、FALSE(誤り)、UNVERIFIABLE(検証不能)——それぞれの判定の横に情報源のリンクが並びます。緑のラベルを鵜呑みにする必要はありません。ワンクリックで情報源を開き、どの主張でも自分で検証できます。それによって「AIがそう言った」が、検証可能な手続きに変わります。

異なるベンダーから少なくとも3つのモデルを選び、Fact-checkをオンにし、複数の立場から議論できるように質問を組み立てましょう。時事性や数値に関わる内容には、Webアクセスをオンにして、モデルが記憶ではなく最新の情報源に主張の根拠を置くようにします。

そのうえで、まず判定表を読んでから本文を読んでください。DISPUTEDとUNVERIFIABLEの主張は未解決の問いとして扱い、重要な事項については情報源をたどり、書き出した対話記録を監査証跡として保管しておきましょう。目指すのは決して誤らないモデルではなく、あなたがそれに頼る前に誤りが捕捉される仕組みです。