AIチームの「静かな劣化」――動いているのに、静かに死んでいく

AIチームの「静かな劣化」——動いているのに、静かに死んでいく

冒頭: 「AIは使い続けると成熟する」は本当か

2023年、ある研究が公開された。GPT-4の性能を3ヶ月追跡した結果だ。

素数を識別させるタスクで、2023年3月時点の正答率は84%だった。同年6月、同じタスクを実行させると51%だった。33ポイント低下した。AIは成熟するどころか、使い続けると劣化するのか(Li et al., arXiv:2307.09009)。

別の疑問が浮かぶ。これは特殊な事例ではないのか。

2026年、Lumenova AIがNatureで発表した調査がある。テスト済みのLLM 91%でテンポラルドリフト(経時的な性能低下)が実測された。つまり、ほぼすべてのLLMが時間経過で劣化している。

結論から言えば、AIチームは放置すると静かに劣化する。本記事では、その4つのメカニズムと検知・再生設計を解説する。

このデータを見て、自社のAIチームのことが頭をよぎった経営者は、おそらく正しい直感を持っている。


H2-1: 「AIは成熟し続ける」という信念はどこから来たか

Gartner Hype CycleやMIT CISR成熟度スケールが組織研究の定石として広まった。いずれも「組織は時間とともに成熟する」という前提に立つ。AI組織も同じ曲線を描くはずだ。業界の経営者たちはそう信じていた。

根拠は明確だった。人間のチームは「積み上げれば成熟する」。経験を積むと、判断が冴える。失敗から学ぶ。スキルが高まる。AIチームもそう考えた。

しかし、LLMは人間と逆の性質を持つ可能性がある。

人間は「積み上げた知識」を忘れない。AIは「訓練後に環境が変わると」性能が落ちる。人間は「経験から学ぶ」が、LLMは「新しいデータとの関わりの中で性能が不安定化する」。人間の成熟は単調増加に近いが、LLMの性能曲線は右肩上がりではない。

この違いを見抜いた経営者は、まだ少ない。


H2-2: 「静かな劣化(Silent Degradation)」の4つの経路

AIチームが静かに機能しなくなるのは、1つの原因ではない。4つの経路が同時に進行する。

経路1: モデルドリフト

LLM自体の性能が時間経過で変化する。Li et al.の素数識別実験がその証拠だ。モデルは更新される。新バージョンが出ると、旧バージョンは提供停止になる。新バージョンに切り替えたとき、突然出力が変わることもある。これは避けられない環境変化だ。

経路2: プロンプト腐食

初期に最適化したプロンプトが、業務環境の変化で機能しなくなる。言語トレンドが変わる。ビジネス文脈が進化する。6ヶ月前に丹念に作り上げたプロンプトは、今、同じ出力を保証しない。意味的には同一でも、LLMの解釈世界は一定ではない(MAGE研究: arXiv 2607.11944)。

経路3: 組織スキル萎縮

AIに依存するほど、人間能力は侵食される。Boston Consulting Groupの2026年調査では「認知スキル侵食」が報告されている。AIに判断を任せ続けると、組織内の判断力が落ちる。MIT Sloan「AI Gravity」研究では、AIを除去したとき、その能力萎縮が実証された。人間の脳も退化する。LLMの依存度が高いほど、その速度は加速する。

経路4: ベンダーロックイン

iEnable 2026調査: 企業の43%が単一AIベンダーに70%以上依存している。そのベンダーが仕様変更や機能廃止を宣告したとき、企業は完全に麻痺する。依存を深めるほど、選択肢は消える。

この4つの経路は独立ではない。同時に進行し、相互に増幅する。


H2-3: なぜ「気づかない」のか——二重盲現象

AIチームが劣化しても、気づくのは遅い。その理由は2層構造だ。

Potts & Sudhofは2026年に「invisible failures in human-AI interactions」を発表した。AI失敗の79%が不可視のまま進行する。ユーザーが誤りに気づかないのだ。

さらに厳しい事実がある。Sahoo et al. 2026: AIの72%の誤分類が「高信頼度」で発生する。AIが自信を持って、間違える。

劣化を検出するウィンドウは中央値14〜21日だ。重大インパクトが見える段階では、すでに60〜90日の沈黙が過ぎている。Eugene Yanの事例: 性能が12倍悪化するまで、2週間気づかれなかった。

ここが本稿の核心だ。AIの劣化に気づくべき人間の判断力も、AI依存によって同時に劣化している。チェックする人間も、チェックされるAIも、同じ方向に劣化している。これを二重盲現象と呼ぶ。

人間が「このAIは大丈夫か」と疑う能力そのものが、AI依存によって弱まっている。経営者は気づき遅れる。組織は沈む。それでも表面上は「動いている」。


H2-4: 31体のAI参謀団を運営して気づいたこと

自社で31体のAIエージェントを参謀団として運営してきた。その経験から、1つの発見がある。

劣化に最初に気づくのは、アウトプットの品質低下ではない。使わなくなる、という行動変化が先に来る。

当初、毎日稼働していたAIエージェントがある。チームの判断を支える参謀だった。ところがある時点から、人間がそれを呼ばなくなった。理由を問うと「なんとなく、使わなくなった」という答えが返ってくる。

実際に呼び出して試すと、かつての質を失っていた。プロンプト腐食が進み、環境変化に追従していなかった。動いているのに、実質的に機能していない。

これをゾンビAIと呼ぶ。動く屍。組織内に静かに増える。

半年前に丹念に作り上げたプロンプトは、今も「同じテキスト」だ。コードも変わっていない。しかし出力は変わった。LLMの世界が動いたからだ。この実感は、人間の組織で「ベテランが若手の能力低下に気づく」よりも、はるかに遅い。

なぜか。人間と違い、LLMの劣化は「姿勢」や「態度」に表れない。数字にだけ現れる。それも、丁寧に測定しないと見えない。


H2-5: 「静かな劣化」を早期検知し、再生するための設計

AIチームを長期で機能させるには、設計が必要だ。3つの原則を示す。

原則1: 定点評価——なぜするのか

中央値14〜21日まで劣化に気づかないからだ。検出ウィンドウは短い。何をするか: 月次または四半期ごとに、同一タスク・同一評価基準でAIを測定する。過去の結果と数値で比較する。「なんとなく落ちた」ではなく「58%から43%に低下した」と記録する。

原則2: プロンプトのバージョン管理——なぜするのか

プロンプト腐食は環境変化で必ず起きるからだ。回避不可の現象だ。何をするか: Gitと同様のバージョン管理をプロンプトに適用する。変更理由・変更日・変更前後の性能を記録する。腐食に気づいたら、改版を試す。バージョン間での性能差を測定する。

原則3: AIフリー演習——なぜするのか

組織スキル萎縮は使うほど進むからだ。依存を深めるほど、人間は弱くなる。何をするか: 意図的にAI依存を制限する日を設ける。同じ判断タスクを人間だけで行わせる。その結果をAI出力と比較する。スキル萎縮を計測し、定期的に鍛える。

劣化の早期シグナルは何か。

それは、このAIを「最近使ってないな」という感覚だ。経営者がそう感じたら、それは検知アラートだ。なぜ使わなくなったのか。人間の直感を信頼せよ。その感覚は、二重盲現象の中でも残された最後の判断力だ。


結論

AI経営者が今日から問うべき問い: 「このAIは今も、本当に機能しているか?」

「静かな劣化(Silent Degradation)」を知っている経営者だけが、AIチームを長期で機能させられる。二重盲現象の呪縛から逃れるには、定点評価と意図的な検査が必要だ。

組織で働く31体のAI参謀団を見守る中で、1つの真実が見えた。「動いている」と「機能している」は別のことだ。

新しいモデル、新しいプロンプト、新しいAI。それらを次々と導入する前に、今あるチームが本当に機能しているか、一度問い直す時期かもしれない。


※本記事は、筆者の経営支援・研修の実務経験に基づく知見と考察をもとに執筆しています。AI参謀団の運営は自社での実践ですが、その他の事例については、プライバシー保護のため架空の設定を含む可能性があります。

山本高資|合同会社 才有る者の楽園 代表

AI経営・組織設計のコンサルタント。京都を拠点に、志あるほんまもん企業の成長を支援。

▶ AI経営支援・研修のお問い合わせ: https://saiaru.com/contact/


経営のお悩み、まずは30分お話しませんか?

AI活用・組織改革・営業の仕組み化——お気軽にご相談ください。初回30分無料。

無料相談を予約する →

関連記事

  • NO IMAGE

    「委任禁止ゾーン」——31人のAI参謀団を運営して気づいた、絶対に人間が判断すべき…

  • NO IMAGE

    AIチームの「年次評価」——どのAIを昇格させ、どれを解雇すべきか

  • AIへの権限委譲設計——「31人の参謀団」を暴走させない意思決定フレームワーク

ブログ一覧へ
URLをコピーする