同じチャットを使い続ける人へ｜正答率99%が70%に落ちる境目と、切る合図3つ
AIの返事が途中から雑になるのは忘れたからではなく読み飛ばしているから。公称上限の4分の1、3.2万トークンで13機種中11機種が半減します。会話を切る合図3つと引き継ぎ8行テンプレ。
先週から使っているチャット、今日もそのまま開いていませんか。
そのスレッド、途中から返事が雑になっていませんか。さっき伝えた条件を無視される、前に直したはずのミスがまた出る、話がだんだんズレていく。
原因はモデルの調子でも、その日の指示の書き方でもありません。会話が長いこと、それ自体です。
しかも「上限に達したら壊れる」のではありません。上限のはるか手前で落ち始めます。多くのモデルが公称する12万8千トークンの4分の1、3万2千トークンの時点で、13機種中11機種が短い会話のときの半分以下まで成績を落としていました。
1. 「忘れる」のではなく「読み飛ばす」― ここを取り違えると対策を間違えます
まず、多くの人が持っている前提を1つ壊します。
長い会話でAIがおかしくなるのは、古い内容が消えるからではありません。全部読めているのに、読み飛ばしているからです。
「上限に達すると古い発言から順に消える」という理解でいると、対策は「上限が大きいモデルに変える」になります。ところが実際に起きているのは別のことです。入力が長くなるほど、AIは読み込んだ内容を均等に扱えなくなります。全文が入っているのに、そのうち一部しか判断に使われない。
この違いは実務でそのまま効いてきます。消えているだけなら、消えたぶんをもう一度貼れば直ります。読み飛ばしているなら、もう一度貼っても長さが増えるだけで、状況は悪化します。同じ指摘を3回して、3回とも直らなかった経験があるなら、それです。
▼この節で今日できること: いま開きっぱなしのチャットを1つ思い出してください。次の節でその会話が「どのくらいの長さか」を測ります。
2. 3万2千トークンで13機種中11機種が半減 ― 落ちるのは「上限の手前」です
数字を3つ置きます。すべて査読つき論文または公開レポートの一次データです。
1つ目。Adobe Researchらが2025年に出した NoLiMa というテストです。12万8千トークン以上に対応すると公称する13機種を、「言い換えられた事実を長文から探す」課題で測りました。結果、3万2千トークンの時点で13機種中11機種が、1千トークン未満のときの成績の半分以下まで落ちました。GPT-4oは短い文脈では正答率99.3%でしたが、3万2千トークンでは69.7%です（参考: NoLiMa: Long-Context Evaluation Beyond Literal Matching ICML 2025）。
ここで大事なのは課題の性質です。「探しているものと同じ単語」が本文にある課題なら、AIはもっと得意です。落ちたのは、言い方を変えて書かれた事実を探す課題でした。実務の会話はほぼ全部こちらです。あなたは「前に言った通りに」と書き、AIは30往復前の別の言い回しを探すことになります。
2つ目。ベクトルデータベースの Chroma が2025年7月に公開した「Context Rot」というレポートです。Anthropic・OpenAI・Google・Alibaba の18機種を測り、入力が長くなるほど性能が不安定になることを、課題の難しさを一定に保ったまま確認しています（参考: Context Rot: How Increasing Input Tokens Impacts LLM Performance Chroma, 2025-07）。
3つ目が、いちばん実感に近い数字です。同レポートは会話履歴を使う課題でも比較していて、必要な部分だけを渡すと平均およそ300トークン、会話の全履歴を渡すと平均およそ11万3千トークンでした。380倍です。そして全履歴を渡したほうが、全機種で成績が落ちました。
つまり「念のため全部渡しておく」は、親切ではなく妨害になります。
【思っている劣化】上限までは満点、超えたら壊れる
0 ────────────────────── 12.8万
██████████████████████│ ← ここで初めて崩れる（と思っている）
【実際の劣化】最初からじわじわ、途中で急に落ちる
0 ────────────────────── 12.8万
███████████▓▓▓▒▒▒░░░░░
↑ 3.2万の地点で13機種中11機種が半減
▼この節で今日できること: 「上限に達していないから大丈夫」という判断を、今日でやめてください。
3. いちばん危ないのは会話の真ん中 ― 資料を渡さないほうがマシになる領域があります
長い入力のどこが落ちるかは、もう分かっています。真ん中です。
スタンフォード大のLiuらの研究（TACL 2024）は、長い文脈のどの位置に正解を置くかを変えて成績を測りました。結果はきれいなU字です。冒頭に置いたときと末尾に置いたときは高く、真ん中に置いたときだけ大きく落ちます。
この論文でいちばん強い一文はここです。GPT-3.5-Turbo は、20個の資料の真ん中に答えを置いた場合、資料を1つも渡さずに答えさせたとき（正答率56.1%）よりも成績が低くなりました（参考: Lost in the Middle: How Language Models Use Long Contexts TACL 2024）。
渡したほうが悪くなる、という領域が実在するということです。
これを1本のチャットに置き換えると、こうなります。
【1本の長いチャットの中で、AIが強い場所・弱い場所】
会話のはじめ │████████│ 効いている（最初に決めた設定）
会話のまんなか │██▏ │ いちばん落ちる ← 途中の仕様変更はここに沈む
直前のやりとり │████████│ 効いている（さっきの話）
厄介なのは、仕事で本当に大事な決定はたいてい真ん中で起きることです。最初は雑談まじりの依頼から始まり、末尾は細かい手直しです。「やっぱりB案でいきます」「この表現は使わないでください」のような、後戻りできない決定は、会話の中盤に置かれます。そこがいちばん読み飛ばされます。
▼この節で今日できること: 直近のチャットで「途中で方針を変えた」箇所を1つ探してください。それが守られているか確認します。
4. 私の運用ファイルは実測8万5千トークンでした
自分の環境で測って、正直ぞっとした数字を出します。
私はこのnoteを毎日1本、AIと一緒に書いています。その運用のために「どの切り口が伸びたか」を積み上げた検証メモが1つあり、毎回それを読ませてから執筆に入ります。ずっと追記だけしてきました。
今日それを測ったら、99,136文字・493行、トークン換算で85,454トークンでした。
3万2千トークンの2.7倍です。つまり私は毎朝、NoLiMaで11機種が半減した長さの2.7倍を、しかも「言い換えられた事実を探す」形で読ませていたことになります。「前に♥10だった記事の型に寄せて」という指示は、まさに真ん中に沈んでいる情報を探させる依頼です。
ここで気づいたことが1つあります。長さは、増やそうと思って増えるのではありません。減らす操作を一度もしていないと、勝手に増えます。追記は毎日します。削除は誰もしません。
チャットも同じです。1往復ごとに数百文字ずつ積み上がり、20往復で1万字、資料を2本貼れば一気に数万トークンに届きます。日本語の場合、おおむね1文字が1トークン前後（モデルによって幅があります）なので、3万2千トークンはA4のWord文書で13〜19枚ぶんの概算です。長い会議1回ぶんの議事録より、あなたの1本のチャットのほうが長い、という状況は普通に起きます。
▼この節で今日できること: 開きっぱなしのチャットを上まで一度スクロールしてください。長さを目で見るだけで判断が変わります。
5. 会話を切る合図3つ ― 全部「自分で気づける行動」に落としました
「長くなったら切る」では運用できません。長さは見えないからです。だから、画面上で自分が取った行動に紐づけました。研究の3つの発見それぞれに対応しています。
合図①：同じ指摘を2回した
一度直してもらったことを、もう一度指摘した。この時点で切ります。理由は第3節のU字です。1回目の指摘は、その時点では直前（＝強い位置）にありました。それが会話が伸びて真ん中に沈んだから、無視されています。3回目の指摘をしても、真ん中がさらに厚くなるだけです。
合図②：目的が変わった
「企画書を作る」で始めた会話で「じゃあこれをメールにして」に移った瞬間に切ります。理由は Chroma の妨害情報の実験です。同レポートは、無関係だが似ている情報が1つ混ざるだけで成績が落ち、4つになるとさらに加速することを確認しています。目的が変わった時点で、それまでの全履歴が「似ているが今は不要な情報」に変わります。前半が資産からノイズに転じる瞬間が、目的の切り替えです。
合図③：2本目の資料を貼ろうとしている
1本目を貼って作業したチャットに、2本目を貼るのはやめます。理由は300トークン対11万3千トークンです。資料は1回の貼り付けで数千から数万トークンを足すので、往復20回ぶんが1手で乗ります。2本目が必要になったのなら、それは「1本目の作業が終わった」という合図でもあります。
【いま切るべきか】
同じ指摘を2回した？ ──YES→ 切る（指示が真ん中に沈んでいる）
│NO
目的が変わった？ ────YES→ 切る（前半が全部ノイズになる）
│NO
2本目の資料を貼る？ ─YES→ 切る（入力長が一手で跳ねる）
│NO
→ そのまま続けてOK
▼この節で今日できること: 3つのうち1つでも当てはまるチャットが開いていたら、次の節のテンプレで引き継いでください。
6. コピペ用「引き継ぎ8行」
切るのが怖いのは、積み上げた文脈が消えるからです。だから引き継ぎを固定の型にしました。これを新しいチャットの1通目に貼ります。
【引き継ぎ8行】
１）目的：この会話で最終的に作るもの（1行）
２）読み手：誰が読む・誰が使うか
３）決まったこと：確定した仕様を箇条書きで3つまで
４）やらないと決めたこと：却下した案。ここが一番抜けます
５）今の状態：どこまで出来ているか
６）次にやること：1つだけ
７）合格条件：これが入っていなければ不合格、を2つ
８）使う資料：1本だけ（2本目は次のスレッドで）
肝は４）です。「決まったこと」は誰でも書きますが、「却下した案」を書く人はほとんどいません。ところが新しいチャットのAIは却下の経緯を知らないので、放っておくと必ずその案を提案してきます。前のスレッドで30分かけて捨てた案が、翌日そのまま戻ってくる。あの徒労は、４）の1行で消えます。
なお７）の合格条件については、前日の記事で詳しく書きました。2行で足ります。
7. つまずくのはこの3か所です
①「ここまでを要約して」を、崩れてから頼む
いちばん多い失敗です。おかしくなったチャットに要約を頼むと、真ん中を読み飛ばした状態のまま要約が作られます。抜けたことに気づかないまま、その要約を新しいチャットに持ち込むので、劣化が引き継がれます。要約は崩れる前に作ってください。合図①が出た時点では、もう遅めです。
②メモリ機能に任せて安心する
記憶機能は便利ですが、覚えた内容は次回以降、入力の一部として毎回渡されます。つまり「覚えさせる」は「毎回の入力を長くする」でもあります。長期の設定（文体・立場・禁止事項）だけを入れ、案件ごとの詳細は入れないほうが安定します。
③全履歴をコピーして新しいチャットに貼る
これをやると切った意味が完全に消えます。11万3千トークンを持ち込むのは、300トークンで済む話を380倍に膨らませる操作です。引き継ぐのは結論だけ、過程は捨てる。捨てるのが不安なら、元のチャットは消さずに残しておけば済みます。
8. 実践プラン ― 今日・今週・30日
今日（3分）
いま開いているチャットを1つ選び、合図3つに当てはまるか見てください。当てはまったら、8行テンプレを埋めて新しいチャットを立てる。埋めるのに2分もかかりません。
今週（1回あたり30秒）
AIに資料を貼るたびに「これは何本目か」を数えてください。2本目を貼ろうとした手が止まるようになれば、それだけで入力長の暴走はほぼ止まります。
30日
よく使う仕事の種類ごとに、8行テンプレを埋めた「開始テンプレ」を作ります。私の場合は記事執筆・コード修正・返信文の3つです。ここまで来ると、新しいチャットを立てるコストがゼロになるので、切ることをためらわなくなります。効いてくるのは長い会話を維持する技術ではなく、いつでも捨てられる状態を作っておくことのほうでした。
なお、業界の投資は逆方向に進んでいます。8月26日には、無料で利用ランキング上位に居座っていた謎のモデル「Ox Alpha」の正体が中国 Z.ai の GLM-5.3-Flash だと判明しましたが、その位置づけは「長時間のエージェント作業向け」です。同じ日にNvidiaは四半期売上962億ドル、次四半期見通し1,080億ドルという数字を出しました。長く走らせるための計算資源は、これから増え続けます。
ただし、それはモデルを長く動かす話であって、あなたの1本のチャットが長くなっても平気になるという話ではありません。3万2千トークンで11機種が半減した事実は、今日のあなたの画面にそのまま効いています。
まとめ
要点
AIの返事が途中から雑になるのは、忘れたからではなく読み飛ばしているからです。多くのモデルが公称する上限の4分の1、3万2千トークンの時点で13機種中11機種が半分以下に落ちます。落ちるのは会話の真ん中、つまりあなたが方針を変えた場所です。
今日の小さな一歩
今から、開きっぱなしのチャットを1つ開いて「同じ指摘を2回していないか」だけ確認してください。10秒で終わります。2回していたら、それが切る合図です。
筆者の視点
私はAIで毎日コンテンツを作っていますが、精度が落ちた日はたいてい、賢くないモデルを使った日ではなく、長い会話を切らなかった日でした。AIに強くなってもらう方法ばかり探していたころは伸びず、こちらが渡す量を減らしたときに安定しました。任せる相手が優秀になるほど、渡し方の下手さがそのまま成果の差になります。捨てる勇気ではなく、捨てられる型を先に作っておくことです。
同じ場面、ありませんか。役に立ったら♡やブックマークで残しておいてください。毎日こういう検証を続けています。
この記事は note にも掲載しています（初出: note版 2026-08-27）。