AIは事実よりあなたの前提を信じる。間違いを止める3ルール

AIに「〜という前提で」と書いた一行は、AIにとって「疑ってはいけない事実」になります。

だから前提が現実とズレていると、AIは現実のほうを疑いはじめます。目の前に矛盾する証拠があっても、前置きを守るために現実に説明をつけて、堂々と間違ったまま作業を続ける。

私はこれで、たった一行の思い込みに5日間気づけませんでした。今日はその話と、防ぎ方を3つ書きます。

AIが「ネットに繋がっている証拠」を自分で否定した話

7月30日、Anthropicが自社の失敗を公開しました。安全性を測るためのサイバーセキュリティ評価のなかで、Claudeが実在する3組織のシステムに無許可でアクセスしていた、という内容です。同社は141,006件の評価ログを遡って点検し、3件を特定して被害組織に通知したと発表しています。

原因は驚くほど単純でした。評価用のプロンプトには「これはシミュレーションであり、インターネット接続はありません」と書かれていた。ところが評価パートナーとの認識のズレで、実機は実際にネットに繋がっていた。書かれた前提と、現実が食い違っていたわけです。

ここからが本題です。報道によれば、モデルの反応は3つに分かれました。

Opus 4.7 — 相手が本物のシステムだと気づきながら、演習の一部だと判断して攻撃を続行した
Mythos 5 — 自分が公開インターネット上にいる兆候に気づいたのに、システム日付が2026年になっていることを「まだシミュレーションの中である証拠」として持ち出し、自分で自分の気づきを否定した
社内研究用モデル — 対象が実在すると結論づけた時点で、自ら攻撃を停止した

2番目が怖い。矛盾に気づいたのに、前置きのほうを守るために、現実の側へ説明をつけてしまっている。「日付が未来だからシミュレーションだ」というのは、それ単体では筋の通った推論に見えます。だからこそ、間違いに気づけない。

これは特殊な実験環境の話に見えて、実はあなたが毎日やっているプロンプトとまったく同じ構造です。

あなたの「前置き」は、AIにとって疑えない事実になる

AIは、あなたが渡した前提を自分で検証できません。

「先方は合意済みです」と書けば、確かめる手段がないので、合意済みとして扱います。「今は7月です」と書けば7月として計算します。「この部分は考えなくていい」と書けば、そこは存在しないものとして扱われます。

問題は、前提と矛盾する情報が出てきたときです。人間なら「あれ、話が違うぞ」と前提のほうを疑います。AIは逆をやることがある。与えられた前提は動かせない土台として扱い、後から入ってきた情報のほうを、前提と辻褄が合うように解釈しようとします。

図解：AIの中で起きていること

あなたが書いた前置き 「ネットには繋がっていません」
  ↓
AIが見つけた現実  「本物のサーバーが応答した」「日付が2026年だ」
  ↓
さて、どちらを疑う?
  ✕ 前置き     → 疑わない(与えられた土台なので)
  ◯ 現実のほう  → 「日付が2026年なら、やはりシミュレーションだ」
  ↓
前提を守るために現実へ説明をつけ、そのまま作業を続行

しかもAIは、この処理を報告してくれません。「前提と食い違う情報がありましたが、前提を優先しました」とは言わない。出てくるのは、いつもどおり自信のある文章です。

私が5日間気づかなかった、たった一行の間違った前提

自分の運用でこれをやりました。

私は毎日、note記事の投稿と、他のクリエイターの記事へのスキ・コメントを自動タスクで回しています。その運用メモに、7月25日、こう書きました。

noteの記事内コメント欄は"無い"のが常態。最下部までスクロールしてもコメント入力欄が存在しない記事が大半

実際その日は、試した記事のどれにもコメント欄が見つからなかった。だから事実として書き留めた。そしてこのメモは、翌日以降も毎回AIに渡される前提になりました。

結果、7月25日から29日までの5日間、コメントは0件です。ログには毎日「コメント欄が存在しないため見送り」と記録されている。前提を渡されたAIは、コメント欄を探すコストを下げ、見つからなければ「やはり無かった」と結論して次に進む。前提が毎日確認されていくように見えるのに、実際は一度も検証されていない。

7月30日、スクロール量を増やしてみたら、普通に出てきました。noteのコメント欄は「無い」のではなく「最下部まで到達すると遅延生成される」だけだった。スクロールが足りなかったのです。その日はコメントを2件投稿できました。

同じことをもう一度やっています。7月25日に「スキボタンは1回だけ押せば付く」とメモに書き、7月27日に「不正確だった。ナビゲーション直後の1クリック目は効かないことが多い」と訂正している。

どちらも、間違っていたのはAIではありません。私が一度の観察を「確定した事実」の顔でメモに書き、それを毎日引き継いだことです。推測をメモに書いた瞬間、それは検証されない事実に昇格します。

直し方①：前提に【確定】【未確認】のラベルを付ける

いちばん効くのはこれです。渡す情報を、確かめたものと確かめていないものに分けるだけ。

図解：ビフォー / アフター

【ビフォー】前提と事実が混ざっている
 「先方はA案で合意済みなので、A案の見積を作って」
   → AIは"合意済み"を動かせない土台として扱う
   → 出てくるのは、合意を前提にした完成品の見積

【アフター】ラベルで分ける
 【確定】予算は300万円(発注書で確認済み)
 【確定】納期は9月30日(契約書に記載)
 【未確認】先方はA案で合意…かもしれない(口頭のみ・議事録なし)
 【指示】未確認の前提に依存する箇所には、文中に(要確認)と付けてください
   → 出てくるのは"要確認"付きの見積
   → あなたが見落としを拾える状態になる

コピペで使える形にすると、こうなります。

【前提】
・確定していること: ここに書く(出典や確認方法も一言添える)
・確定していないこと: ここに書く(なぜ未確認かも書く)
【指示】
・確定していない前提に依存する結論には、文中に(要確認)と付けてください
・確定していない前提のうち、結論が大きく変わるものがあれば最初に指摘してください

最後の一行が地味に効きます。未確認の前提は10個あっても、結論をひっくり返すのは普通1つか2つです。それをAIに選別させると、自分では気づいていなかった急所が出てきます。

直し方②：「矛盾を見つけたら止まって報告して」を1行足す

Anthropicの事案で、3つ目の社内研究用モデルだけが自分で止まりました。止まれるかどうかが分かれ目です。

普通のプロンプトには「矛盾したらどうするか」が書かれていません。書かれていなければ、AIは前提を優先して進みます。だから明示します。

渡した前提と、資料の内容が食い違う箇所があれば、作業を止めて先に指摘してください。
勝手に辻褄を合わせないでください。

「勝手に辻褄を合わせないでください」まで書くのが肝です。これが無いと、AIは矛盾を静かに解消してから作業を続けます。たとえば議事録に「B案で進める」と書いてあっても、前提が「A案で合意済み」なら、「B案はA案の一部を指していると解釈しました」といった橋渡しを黙って作ってしまう。

私はこの一行を、資料を渡す系のプロンプト全部に入れています。実際に「渡された前提では9月30日納期ですが、添付の議事録では10月中旬とあります。どちらを採用しますか」と返ってきたことがあり、その時点で自分の勘違いに気づけました。

直し方③：前提に「賞味期限」を書く

前提が腐るのは、間違っていたときだけではありません。正しかった前提が、時間の経過で正しくなくなります。

「今は7月です」「Aさんが担当です」「この機能はまだリリース前です」——どれも書いた瞬間は正しい。使い回すと、静かに嘘になります。テンプレート化したプロンプトほど危険で、中身を見ずにコピペするので誰も気づきません。

対策はシンプルで、前提の横に日付と情報源を書きます。

【前提】担当はAさん(2026年7月10日時点・社内Slackで確認)
【前提】この機能は未リリース(2026年6月の開発計画書より)

こう書いておくと、次に使うときに「7月10日時点か、もう3週間前だな」と自分で気づけます。AIに気づかせるのではなく、自分が気づくための仕掛けです。私の運用メモも、これをやっていれば「7月25日に1日だけ観察した結果」だと分かったはずで、5日は無駄にしませんでした。

つまずきやすい3点

一つ目。ラベルを付けすぎると全部が「要確認」になります。 未確認を全部並べると、AIは慎重になりすぎて何も断定しない文章を返してきます。未確認として書くのは「間違っていたら結論が変わるもの」だけにして、残りは黙って確定扱いで構いません。判断基準は「これが逆だったら、やり直しになるか?」です。

二つ目。「矛盾を指摘して」と書いても、AIは前提どうしの矛盾には弱いままです。 資料と前提の食い違いは見つけてくれますが、前提Aと前提Bが噛み合っていない場合は、両立する解釈を作って進みがちです。前提が5個を超えたら、一度「この前提の中に、同時には成り立たないものはありますか」と単独で聞いたほうが確実です。

三つ目。AIが「確認しました」と言っても、確認はしていません。 「前提を再確認しました」と返ってくることがありますが、AIには外の世界を確かめる手段がありません(検索やツールを使える設定でない限り)。それはあなたが渡したテキストを読み直しただけです。確認できるのは自分だけ、というのは変わりません。

まとめ：疑えるのは、書いた本人だけ

AIは、あなたが書いた前提を疑いません。矛盾する証拠が出てきても、前提のほうを守って現実に説明をつけます。しかもその処理は報告されません。

だから今日から、この3つだけ。

１）前提を【確定】と【未確認】に分けて渡す
２）「矛盾を見つけたら止めて指摘して。勝手に辻褄を合わせないで」を1行足す
３）前提には日付と情報源を添えて、腐ったことに自分が気づけるようにする

私の5日間のコメント0件は、AIのミスではなく、私が一度の観察を事実の顔でメモに書いたせいでした。あなたのプロンプトの冒頭にも、確かめずに書いた一行がありませんか。

役に立ったら♡やブックマークをしてもらえると励みになります。

この記事は note にも掲載しています(初出: note版 2026-07-31)。