AIの確認画面、97%はそのまま承認されていた。止める線の決め方

「このファイルを削除してもいいですか？」「実行しますか？」——今日、あなたはこの手の確認に何回「はい」を押しましたか。

思い出せないなら、それが答えです。Anthropicが自社の開発ツールで測ったところ、ユーザーは許可を求める確認の97%をそのまま承認していました。しかも、確認の回数が増えるほど危険を見つけられなくなることまで数字で出ています。

これは「気をつけましょう」で終わる話ではありません。確認の設計そのものを変えないと、確認は必ず形だけになります。今日はその作り替え方を、数字とコピペできる文例で書きます。

97%という数字は、怠慢ではなく設計の失敗を指している

2026年8月9日、AnthropicはAI開発ツール「Claude Code」の自動実行モードを、有料プラン（Pro・Max・Team）の既定設定にすると発表しました。適用は8月14日からです。これまで一手ごとに人間の承認を求めていた挙動をやめ、AIが自分で進む形に変わります。

その根拠として出されたのが、冒頭の数字です。許可を求める確認の97%が、そのまま承認されていた。

ここで「ユーザーが横着だった」と読むと、話を間違えます。97%という数字は、ほぼ全員が、ほぼ毎回押していたということです。一部の不真面目な人の話ではなく、全員に起きている。全員に起きることを個人の心がけで直そうとしても直りません。

もうひとつ。97%が承認されているなら、その確認画面は何も止めていない。100回聞いて97回通すなら、聞く前と後で結果はほぼ同じです。安全装置のつもりで置いたものが、実際には「押す動作」を増やしただけで機能していない。この状態を放置していたのは、ユーザーではなく設計側です。

50回を超えたところで、人の検知率は17%から5%に落ちる

いちばん効くのはこの数字です。Anthropicは有料ユーザー1,053人を対象に、危険な操作をどれだけ止められるかを測りました。結果はこうです。

自動チェック：危険な操作の89%を捕捉
人間による都度承認：13.6%しか止められなかった

さらに、時間経過での変化が出ています。人間はセッションの序盤なら約17%を止めていたのに、50回以上の確認をこなした後には約5%まで落ちました。自動チェック側は、回数が増えても捕捉率が変わりませんでした。

【確認が続くほど、人は止められなくなる】

  セッション序盤（〜数回）
    人の検知率  ■■■■■□□□□□  約17%
  50回以上こなした後
    人の検知率  ■□□□□□□□□□  約5%
  自動チェック（回数によらず一定）
    検知率      ■■■■■■■■■□  89%

  → 落ちたのは注意力。仕組みは落ちない

序盤の17%でさえ、けっして高くありません。それが3分の1以下になる。つまり、「後半の確認」はほぼ機能していない。長く作業した日ほど、疲れた夕方ほど、確認は素通りになるということです。

注意しておくと、この検証はAnthropic自身の内部調査で、方法論の詳細は公開されていません。「自動化したい会社が、自動化に有利な数字を出した」という読み方は成り立ちます。ただし「回数が増えると人の検知率が落ちる」という部分は、次に書くとおりAIの外側でも繰り返し確認されている現象です。

医療の現場では、警告の49〜96%が無視されている

この話はAI特有ではありません。医療情報の分野には「アラート疲労（alert fatigue）」という長く研究されてきた言葉があります。

電子カルテの処方システムでは、薬の飲み合わせ警告などが大量に出ます。研究では、医療者がこうした警告を49〜96%の割合で無視していると報告されています。半分どころか、ほぼ全部を消しているケースまである。

理由は不真面目さではなく、警告の多くが「今この患者には関係ない」ものだからです。関係ない警告が続くと、人は内容を読まずに消す動作を覚えます。そして、その中に混ざった本当に重要な1件も一緒に消えます。

構造はまったく同じです。警告の数が多いほど、1件あたりの重みが下がる。 重みが下がった警告は、読まれずに処理される。だから対策は「もっと注意深く読ませる」ではなく、「数を減らして、残したものの重みを戻す」しかありません。

Anthropicがやったのもこれです。全部を止めるのをやめ、止める対象を「取り消せない／破壊的／自分の環境の外に出る」操作だけに絞りました。あわせて、データの持ち出しを禁じる強制ルール、破壊的な操作の前の状態チェック、外部から読み込んだ内容の検査が追加されています。確認の数を減らし、代わりに絶対に譲らない線を機械側に持たせた構成です。

自分の作業に落とす：「止める線」は3つの条件で決まる

ここからが本題です。エンジニアでなくても、AIに作業を任せる場面は増えています。メールの下書き、ファイルの整理、表の変換、投稿文の作成。そのたびに「これ、確認したほうがいいのかな」と迷うなら、迷いを毎回発生させている時点で設計が悪い。

先に線を引いてしまいます。判断は3つの条件だけです。

【止める線＝この3つだけ】

  ①取り消せない  例）削除・上書き・送信
       ↓ どれか1つでも当てはまる
  ②壊れると困る  例）本番データ・請求書
       ↓          → 人が必ず確認する
  ③外に出ていく  例）送信・投稿・共有

  3つとも当てはまらない → 確認せず任せる

たとえば「議事録を要約する」は3つとも当てはまりません。間違っていても取り消せるし、壊れるものはないし、外にも出ない。ここに確認を挟むのは、確認の重みを削るだけの損です。

逆に「この案内文を取引先に送る」は③に当てはまります。ここは必ず自分で読む。読む対象が1日に3件なら、人は本当に読みます。30件あれば読みません。

この線引きのいいところは、判断に迷う時間がゼロになることです。「念のため確認しておこうかな」という中途半端な状態が一番よくない。念のための確認は、読まないまま押す確認になります。

コピペで使える：AIに作業を任せる前に貼る「止める線」宣言文

AIに作業を頼むとき、最初に一度これを貼っておきます。以降のやり取りで確認の量が安定します。

これから作業を頼みます。先に、止める線を決めておきます。

【止めずに進めてよいこと】
・下書きの作成、要約、整理、案出し、変換
・私の手元だけで完結し、やり直しがきくこと

【必ず私に確認してから進めること】
①取り消せないこと（削除・上書き・確定）
②壊れると困るものに触れること（元データの改変）
③外に出ること（送信・投稿・共有・外部への登録）

【確認の出し方】
・上の①〜③に当たるときだけ、作業を止めて聞いてください
・そのとき「何が」「どうなるか」「戻せるか」の3点を
  1行ずつ書いてください
・当たらないことは、いちいち聞かずに進めてください

最後の1行が重要です。これを入れないと、AIは丁寧さのつもりで確認を増やしてきます。確認が増えれば、あなたの検知率は17%から5%へ落ちていきます。「聞かないでいい範囲」を明示することが、確認を機能させる条件です。

もうひとつ、任せたあとに使う文例です。全部を見張る代わりに、終わったところで一覧を出させます。

いま行った作業を、次の形で報告してください。
推測や一般論は書かず、実際にやったことだけを書いてください。

・変更したもの：（対象名／変更前→変更後）
・元に戻せないもの：（あれば列挙。なければ「なし」）
・外に出したもの：（送信・投稿・共有。なければ「なし」）
・判断に迷った箇所：（あれば。なければ「なし」）

「なければ『なし』と書く」を条件に入れているのは、空欄のまま流されるのを防ぐためです。人は「書かれていないこと」を見つけられませんが、「なし」と書かれていれば確認したことになります。不在を、目に見える存在に変換するという考え方です。

つまずくのはこの2か所

1つめは、不安になって「全部確認」に戻すこと。 一度AIが変なことをすると、反射的に確認を増やしたくなります。気持ちはわかりますが、逆効果です。確認を全部に戻せば、あなたの検知率は5%の側へ戻ります。守りたいものが増えたときにやるべきなのは、確認の数を増やすことではなく、止める線に項目を1つ足すことです。

2つめは、線が抽象的すぎること。 「重要なことは確認して」では機能しません。何が重要かの判断をAIに渡してしまっているからです。上のテンプレで「削除・上書き・送信・投稿」と動詞で書いているのはそのためです。線は、動詞と対象で書く。 形容詞で書いた線は、必ずすり抜けます。

まとめ：確認は、減らしたほうが効く

許可の確認は97%がそのまま承認されていた。ほぼ全員が押している
人の検知率は序盤17%、50回を超えると5%へ落ちる。仕組み側は落ちない
医療の警告も49〜96%が無視されている。これは意志の問題ではなく数の問題
対策は「よく読む」ではなく「読む回数を減らして重みを戻す」
線は3つ——①取り消せない ②壊れると困る ③外に出ていく

今日やることは1つだけで足ります。次にAIへ作業を頼むとき、上の宣言文を先に貼ってみてください。「聞かなくていいこと」を伝えるだけで、聞かれたときにちゃんと読むようになります。

「念のため確認」を押しすぎて、何を確認したか思い出せない日、ありませんか。役に立ったら♡やブックマークで残しておいてください。

参考: Anthropic「Auto mode is now the default in Claude Code」（2026-08-09発表、適用8月14日）および TechCrunch 2026-08-09 の報道。1,053人の有料ユーザーを対象とした検証で、自動89% / 人間13.6%、序盤約17%→50回超で約5%、許可プロンプトの97%が承認。医療分野の数字はアラート疲労（alert fatigue）・自動化バイアスに関する研究報告から。

この記事は note にも掲載しています（初出: note版 2026-08-12）。