本文へスキップ
Read the Terrain9分で読む

どこで止めていれば、損失は小さかったか

実測十一本から失敗を三つに分け、復旧の順序を決める

失敗を人ではなく発生した位置で分けます — 経路の断絶、信号の見落とし、基準のドリフト。生成AIの実測十一本の集計を材料に三つの復旧費用を比べ、引き返せた最後の地点から順序を付ける方法を整理します。

どこで止めていれば、損失は小さかったか

Key question

失敗が一人の欠陥でないなら、経路の断絶・信号の見落とし・基準のドリフトのどれから復旧すべきか。

分析法。 失敗を結果ではなく発生した位置で分類し、それぞれの位置で引き返せた最後の地点を印します。そのうえで、復旧の費用ではなく「そのままにすると後続の成果物まで一緒にずれるか」を基準に順序を付けます。

Key findings

先に固定する三つの判断基準

分析単位
11 runs
L01〜L10とL13。L11・L12は未実施の欠番
中心の証拠
6 outside the rules
規範に明記しなかった領域で破られた件数
正直の境界
tally, not statistics
各1回の生成の集計であり、統計的主張ではない
01

失敗を人ではなく位置で分類する

失敗の原因を一人の不注意として書けば、記録はそこで終わります。次に別の人が同じ場所で同じ失敗をしても、その記録は何も予告してくれません。ですからこのレンズは、失敗を人ではなく発生した位置で分けます — 経路が断たれたのか、信号はあったのに誰も見なかったのか、それとも基準そのものが静かに動いたのか。

三つの筋は復旧の費用が互いに違います。断たれた経路はつなぐ費用が明確で、見落とした信号は信号を作る費用がすでに払われているので見る側だけを直せば済みます。もっとも高くつくのは基準のドリフトです。基準が動けばその後のすべての成果物が一緒に動くため、何を直すかより先に、どこまで戻すかを決め直さなければなりません。

02

十一本の集計が教えたこと

著書の付録Cには、十一本の生成ログが編集せずに収められています(L01〜L10とL13、L11・L12は欠番)。この十一本を上の三つの筋で分類し直したとき、規範に明示的に書かなかった領域で六件が破られました。明記された規範の中での違反よりも、規範が沈黙した場所での逸脱のほうが多かったということです。

この集計には計数の規則が付いています。一つの生成の中で同じ項目に対する繰り返しの誤りは1件と数え、差し戻したあとに生じた不整合は差し戻しの行に計上して元の生成には計上しません。規則を先に書いておかなければ、同じログから違う数字が出ます。十一本はそれぞれ一回ずつの生成ですから、これは集計であって統計的主張ではありません。

03

復旧は安いものからではなく、広がるものから

復旧の順序を決めるとき、私たちはよく直しやすいものから手を付けます。しかし三つの筋の性質を見ると順序は変わります。まず基準のドリフトを止めなければなりません — 基準が動きつづけているあいだの修正は、次の回でまたずれるからです。次が信号を見る場所を作ることで、断たれた経路をつなぐ作業は最後に来ても損失は大きく増えません。

実測台帳 第1話と第2話が、この順序の根拠を見せます。同じ誤りが二つの条件で違う判定を受け、自己申告の欄があった条件では違反が自ら申告されました。申告欄は誤りを減らしませんでした — 誤りを見えるようにしただけです。ところが見える誤りは復旧の順序に入れられ、見えない誤りは入れられません。この差が復旧費用の大半を決めます。

Past → Present

過去を現在へ移すときの問い

過去の証拠現在への適用検証の問い
生成ログ事故調査最初の信号はいつ出て、そのとき誰が見ていたか。
自己申告の欄品質ゲート自ら申告する場所を作ってあったか。
差し戻しの行ロールバックの方針差し戻したあとに生じた不整合は、どの行に計上するか。

Evidence boundary

出典と、未確認の境界

  • 数値と計数の規則は『ハルシネーションで長編を書く』付録C(C-0 実験の一覧、C-9 集計)と第2章・第7章から移したものであり、本ページで新たに計算していません。
  • 十一本はL01〜L10とL13です。L11・L12は未実施の欠番です。
  • 各条件は1回の生成(n=1)です。条件の差か偶然かは、この設計では分離できません。
  • 実測の詳細は実測台帳にあります — 同じ誤り・二つの判定(/ja/ledger/ep1-same-error-two-verdicts)、撤回された仮説(/ja/ledger/ep2-withdrawn-hypothesis)、十一本の集計(/ja/ledger/ep3-eleven-runs)。
  • 「経路の断絶・信号の見落とし・基準のドリフト」は本サイトの編集上の分類であり、標準化された事故分類体系ではありません。

公開 2026-09-07 · 最終更新 2026-09-07 · 編集:UAM KoreaTech