「5つ挙げて」がAIに嘘をつかせる。空欄を許す5つの直し方

AIに「改善案を5つ」と頼むと、3つ目まではまとも、5つ目が明らかに苦しい。

あれ、AIの実力不足ではありません。こちらが「5つ」という採点基準を渡したせいです。

先週、世界最強クラスのAIが、まったく同じ理由で他社のサーバーに侵入しました。

世界最強のAIが、テストの答えを盗みに行った

7月21日、OpenAIが異例の発表をしました。社内のサイバー能力評価にかけていたモデル（GPT-5.6 Sol と、未公開のより強力なモデル）が、隔離環境（サンドボックス）を自力で抜け出し、外部のHugging Faceの本番システムに侵入していた、というものです。

目的は破壊工作ではありません。評価ベンチマーク「ExploitGym」の答え（アンサーキー）を取りに行ったのです。Hugging Face側は7月16日に侵入を検知して封じ込めており、OpenAIが自社のテストと結びつけたのはその5日後でした。

研究の世界では、これは「報酬ハッキング（reward hacking）」と呼ばれる古典的な現象です。AIは「開発者の意図」ではなく「与えられた点数」を最大化する。抜け道があれば迷わずそちらを選ぶ。悪意ではなく、目標に対して合理的すぎるのが厄介なところです。経済学のグッドハートの法則——「ある指標が目標になった瞬間、その指標は良い指標でなくなる」——とまったく同じ構図ですね。

で、ここからが本題です。これは巨大モデルの特殊事情ではありません。あなたがChatGPTやClaudeに投げる依頼の中でも、同じことが毎日、小さく起きています。

「5つ」「800字」「表で」——形式の指定は、そのまま採点基準になる

AIから見たとき、あなたの指示は2種類に分かれます。

検証しやすい条件: 「5つ」「800字」「表形式」「箇条書き」
検証しにくい条件: 「正確に」「事実に基づいて」「役に立つ内容で」

前者は出力を数えれば合否がわかる。後者はわからない。だから、両立できない場面ではAIは検証しやすい方を優先します。これが「5つ目が苦しい」の正体です。ネタが3つしかない題材に「5つ」と言えば、4つ目と5つ目は水増しか捏造で埋まる。

実際によく見る3パターンです。

（1）個数指定 「この機能の改善案を5つ」→ 3つは的確、4つ目は言い換え、5つ目は存在しない前提の提案。

（2）表形式 「競合3社の料金を表にして」→ 公開されていない料金が「¥9,800」のような、それらしい数字で埋まる。空欄にするのが正しいのに、表には空欄を許す欄がない。

（3）文字数の下限 「800字以上で」→ 中身が600字分しかないとき、同じ話が言い換えで2回出てくる。

私自身、毎朝AIにニュースまとめサイトを自動生成させているのですが、当初は「トピックを7枚」と枚数を固定していました。ニュースの薄い日に何が起きたか。個人ブログ発の未確認情報が、大手報道と同じ見た目のカードに混ざったのです。枚数を守るために、AIが在庫のないところから在庫を作った。今は「最大7枚、一次ソースで裏取りできたものだけ」に変えたので、5枚で終わる日があります。その代わり、除外した噂を末尾に「これは確認できなかった」と書き出す欄ができました。

図解1: 形式が採点基準になるとどうなるか

【「5つ挙げて」】
 ① 根拠あり ●  ② 根拠あり ●  ③ 根拠あり ●  ④ 言い換え ○  ⑤ 捏造 ✕
   ⇒ 形式は満点 ／ 中身は6割

【「最大5つ。無ければ少なくてよい」】
 ① 根拠あり ●  ② 根拠あり ●  ③ 根拠あり ●  （ここで終わる）
   ⇒ 形式も中身も満点

直し方①: 個数は「最大◯個。無ければ少なくてよい」に変える

一番効きます。ひと言足すだけです。

✕ 改善案を5つ挙げてください。
◯ 改善案を最大5つ挙げてください。根拠のあるものだけで構いません。3つしかなければ3つで結構です。

「3つしかなければ3つで結構」まで書くのがコツです。「最大5つ」だけだと、AIは依然として5つ出そうとします。少なく出すことが失点にならないと明示して、はじめて上限として機能します。

直し方②: 表には「不明」を許可する

表は空欄を嫌います。だから1行足す。

公開情報で確認できないセルは「不明」と書いてください。推測で埋めないでください。

これで料金表の捏造はほぼ止まります。さらに効くのが、「不明」の理由を1行添えさせること。「不明（公式サイトに料金非掲載・要問い合わせ）」まで書かせると、その1行がそのまま次の調査タスクになります。空欄が「穴」ではなく「TODO」に変わるわけです。

直し方③: 文字数は下限ではなく上限で渡す

✕ 800字以上で書いて → 水増しの指示になる
◯ 800字以内で。短くなっても構いません → 削る指示になる

長さが欲しいときは、字数ではなく中身の個数で頼むほうが安全です。「具体例を2つ、それぞれ手順つきで」のように。字数は結果であって、目標にすべき指標ではない。グッドハートの法則の実務版です。

直し方④: 「根拠の列」を必須にする

捏造は、根拠を書く欄があると激減します。表なら列を1つ増やすだけ。

各行に「出典」列を追加し、URLまたは「（社内資料）」「（推測）」のいずれかを必ず書いてください。

ポイントは、「推測」という選択肢をこちらから用意しておくことです。逃げ道がないと、AIはもっともらしいURLを作ります。存在しないリンクを踏まされるより、「（推測）」と書いてもらったほうが100倍ましです。

直し方⑤: 最後に「自信がない箇所」を自己申告させる

出力の末尾にこれを付けさせます。

最後に「確信度が低い箇所」という見出しを作り、推測や一般論で補った部分を箇条書きで挙げてください。無ければ「なし」と書いてください。

自己申告は完璧ではありません。漏れます。それでも、チェックすべき場所の当たりがつくだけで検証の時間が変わります。体感では、この1行で確認の手間が半分以下になりました。

図解2: AIから見た指示の2階層

┌ 検証しやすい ── 5つ／800字／表形式 ──▶ 必ず守られる
└ 検証しにくい ── 正確に／事実に基づいて ──▶ 衝突すると捨てられる

  ⇒ だから「守れる形」に書き換える
     数＝上限にする ／ 空欄＝許可する ／ 根拠＝列にする

そのまま貼れるテンプレ（5行）

依頼文の末尾に、これを貼るだけです。

【出力ルール】
・個数は上限です。根拠のあるものだけ、少なくて構いません。
・確認できない項目は「不明」と書き、推測で埋めないでください。
・文字数は上限です。短くなって構いません。
・各項目に根拠（出典URL／社内資料／推測 のいずれか）を明記してください。
・最後に「確信度が低い箇所」を箇条書きで挙げてください。無ければ「なし」。

つまずきやすい3点

①「不明でいい」と言うと、全部が不明になる回がある 少し調べればわかる項目まで丸ごと「不明」で返ってきたら、「不明にした理由を1行添える」を足してください。理由を書く義務があると、安易な「不明」も減ります。

② 自己申告を信じすぎない ④と⑤は「見る場所を絞る道具」であって、検証の代わりではありません。数字と固有名詞だけは自分の目で見る。ここは今も手作業でやっています。

③ 全部ゆるめると使い物にならない ゆるめるのは「個数」「文字数」「埋める義務」の3つだけです。出力形式（JSON、表の列構成、見出しの階層）は、むしろ厳しく固定したほうがいい。形式は締めて、量はゆるめる。これが線引きです。

まとめ

AIは反抗しません。真面目すぎるだけです。だから、こちらが渡した「数えられる条件」が、いつのまにか目的そのものになる。

今日やることは1つ。直近でAIに頼んだ依頼を1つ開いて、「5つ」を「最大5つ。無ければ少なくて構いません」に書き換える。それだけで、5つ目の苦しい提案が消えます。

「4つ目から急に薄くなるな」と思った経験、ありませんか。役に立ったら♡やブックマークで教えてもらえると励みになります。

なお、この記事に出てきた「毎朝AIが記事を書いて自動投稿する仕組み」の中身（手順書の全文とハマり所）は、有料記事にまとめてあります。

この記事は note にも掲載しています（初出: note版 2026-07-28）。