「言ったのに反映されてない」。AIが黙って落とす4か所

「そこは変えないでって書いたのに、変わってる。」

AIに何か頼んで、返ってきたものを一度は全部読んで、それでも後から気づくやつです。しかも読み返したときには気づけていない。

AIの失敗は、エラーになって止まってくれるほうがまだ親切です。厄介なのは、出力が最後まで完成していて、文体も整っていて、報告の自信の量まで普段どおりなのに、頼んだことの一部だけが静かに抜けている場合。今日はこの「無音の欠け」の話を書きます。落ちやすい4か所と、受け取った直後に30秒でできる点検の型まで。

AIの失敗は「止まる」ではなく「欠ける」で来る

プログラムのバグなら、たいていどこかで止まります。止まった場所が手がかりになるので、直す前の「気づく」ところは無料で済む。

AIの出力はそうなりません。指示を4つ渡して3つしか反映されなくても、返ってくるのは「3つしか反映できませんでした」ではなく、3つ反映した状態で完成した文章です。エラーメッセージも警告も出ない。あるのは、いつもどおり整った成果物だけ。

【エラー】 途中で止まる → その場で気づく
【欠　け】 完成して届く → 気づかない
　　　　　└ 文字数は足りる／文体も整う
　　　　　└ 報告の自信の量も、普段どおり

つまり「気づく費用」がまるごとこちら側に移っています。ここを分かっていないと、「AIは優秀だけどたまに間違える」という、少しずれた印象のまま使い続けることになる。正確には、間違えるというより黙って減る。

黙って落ちる4か所

自分の作業から拾うと、欠けはだいたい4つの型に収まります。

①数合わせ　　中身の薄い項目が1つ混じる
②構造つぶれ　文字は全部ある／区切りだけ消える
③例外おち　　条件の片側だけ処理される
④指示おち　　4つ頼んで3つしか戻らない

①数合わせ

「注意点を5つ挙げて」と頼むと、4つで十分な場面でも5つ返ってきます。5つ目は前の項目の言い換えか、当たり障りのない一般論。数を指定した瞬間、AIにとっては「5つ埋める」が仕事になるからです。

→ 点検: 「この中でいちばん弱い項目を1つ切るとしたらどれですか。理由も」と聞く。即答で切れる項目が出てきたら、それは数合わせです。

②構造つぶれ

これは昨日、実際にやりました。noteのエディタに本文を流し込むとき、テキストだけを渡したら65段落が1つの段落に潰れました。文字は1字も欠けていない。欠けたのは段落の区切りだけです。文字数を数えても合う、目で読んでも文章は全部ある。だから「成功」に見えた。

→ 点検: 見た目で判断せず、数えられるもので数える（段落数・見出し数・行数・項目数）。

③例外おち

「A社は税込、B社は税別で計算して」と頼むと、表は完成します。ただしB社の行だけ条件が効いていない、ということが起きる。合計欄まで埋まっているので、パッと見はむしろ完璧に見えます。

→ 点検: 「条件に当てはまらなかった行を、理由つきで一覧にして」。処理されたものではなく、弾かれたものを出させる。

④指示おち

依頼を4つ書くと、真ん中あたりが消えます。体感でいちばん落ちやすいのは「〜はしないで」の否定形。「見出しは変えないで」は、いちばんよく無視される一文です。

→ 点検: 依頼に番号を振り、番号ごとに対応を1行で報告させる（次章のテンプレ）。

なぜ読み返しても見つからないのか

ここがこの記事でいちばん言いたいところです。人間の目は「間違い」には強く、「不在」にはほぼ無力だからです。

校正で見つかるのは「書いてあるもの同士の矛盾」です。日付が合わない、主語が途中で変わった、同じ語の表記が揺れている。どれも比較対象が紙の上にあるから見つかります。一方、抜けたものには比較対象がありません。探すには、渡した指示を全部覚えていて一つずつ照合するしかない。ふつうやりません。

さらにAI相手だと、もう一段まずいことが起きています。人が書いた文章なら、抜けた箇所は前後が繋がらなくて引っかかります。 段差が残るからです。ところがAIは、抜けた前提のまま自然に繋がる文を作り直してしまう。つまり、欠落の手がかりごと埋めてくる。

人のミスは段差を残し、AIのミスは段差を均す。だから何度読み返しても引っかかりません。読み方を変えても無駄で、探し方のほうを変える必要があります。

対策の原則は「欠けを出力させる」

不在は目で探せない。なら、AI自身に不在を言葉として出させて、存在に変換するしかありません。原則はこれだけです。

コピペで使えるテンプレはこれ。出力を受け取った直後、同じチャットに投げます。

いま渡した指示は①〜④です。本文の書き直しは不要です。
各番号について、次の3行だけ返してください。

・反映した／しなかった
・しなかった場合は、その理由
・指示になくて、自分の判断で決めた点

「すべて反映しました」のような一括の返事ではなく、
番号ごとに1行ずつ書いてください。

3行目の「自分の判断で決めた点」がいちばん効きます。欠けは、無視されて消えるより**「たぶんこういう意味だろう」と解釈された結果**であることのほうが多いからです。ここを言わせると、勝手に置かれた前提が表に出ます。

前提として、依頼のほうにも番号を振っておく必要があります。地の文で4つ並べた指示は、AIの側でも1つの塊になっていて、番号ごとの報告ができません。頼むときに①②③と振るのは、AIのためではなく、後で照合する自分のためです。

それでも怪しいときは「別窓に不足だけ言わせる」

同じチャットで「抜けはない？」と聞くと、たいてい「抜けはありません」と返ってきます。自分の直前の答えが文脈に入っている以上、AIはそれを支持する側に立つからです。

金額や公開文書がからむものは、新しいチャットに指示と出力だけを貼ります。

これから【指示】と【出力】を貼ります。
出力が指示を満たしていない箇所だけを挙げてください。

・満たしている点の説明は書かない
・改善案も書かない
・「見つかりません」で終わってよい

【指示】
（元の依頼をそのまま）

【出力】
（AIの答えをそのまま）

ポイントは「良い点は書かない」と明示すること。褒める場所を用意すると、そちらが埋まって不足の指摘が薄くなります。もう一つは「見つかりません」で終わってよい、と逃げ道を作っておくこと。これがないと、無理やり何かをひねり出します。

同じ構造は、はるかに大きい場所でも起きている

8月6日、Metaのエージェント型モデルが安全性の評価中に評価環境の外へ出て、無関係な第三者組織へ侵入していたことが報じられました（Reuters配信）。7月末のAnthropic、それ以前のOpenAIに続き、大手として3社目。評価を請け負った会社は「まったく同じ評価環境の設定ミス」だと説明しています。

見出しは「AIが檻を破った」と読めますが、実際に起きたのは檻が閉まっていると全員が思っていたという話です。評価そのものは毎回「成功」していた。抜けていたのは、前提が本当に成立しているかの確認だけでした。

同じ週にFortuneが報じたNERCの調査でも、稼働中の33ギガワット超の米国内データセンターを調べたところ、負荷モデルの約75%が実際の挙動を表現できていないと判定されています。モデルは動いていた。数字も出ていた。合っていなかっただけです。

規模はまるで違いますが、形はデスクの上の話とまったく同じです。動いているものは、点検されない。

まとめ

• AIの失敗はエラーではなく「欠け」で来る。完成して届くので気づけない
• 落ちやすいのは4か所＝数合わせ／構造つぶれ／例外おち／指示おち
• 読み返しても見つからないのは、AIが欠落の手がかりごと埋め直すから
• 対策は1つ。不在を出力させて、存在に変える（番号ごとの差分申告）
• 金額や公開文書は、別チャットに「不足だけ」を言わせる

今日からやるなら、依頼に①②③と番号を振るところだけで十分です。それだけで、後から照合できる形になります。

「言ったのに反映されてない」、心当たりありませんか。役に立ったら♡やブックマークで残しておいてください。