要旨 言語モデル内部で共学習された永続的アーカイブは、適切な事実を検索できる一方、その事実のどの版が現在有効なのかを判別できない。本研究はこの失敗を厳密に測定する。保存された版が1つの場合、モデルの正答率は0.9974であるが、同一キーの2つの版が競合すると0.4576まで低下し、旧値と新値の二択における偶然水準となる。検索能力は保たれているが、順序情報が欠如しているのである。この不足情報は、アーカイブのキーに追加される小規模な共学習型順序スタンプに収まり、効果をもたらすのは追加容量ではなく順序であることを示す。5つのシードにわたり、改訂されたキーの正答率は、スタンプなしの0.4570（標準偏差0.0289）から、スタンプありでは0.9956（標準偏差0.0029）へ上昇する。反証対照として、実際の書き込み順とは無関係な値を持つ、同一パラメータ数のスタンプを用いた場合、正答率は0.4768（標準偏差0.0389）となり、ベースラインの1標準偏差以内に収まる。15回の実行結果は条件ごとに完全に分離して順序づけられ、各群の間に重なりはない。さらに3つの結果がこの主張を明確にする。第1に、キーごとに3つの版を用意し、内容に新しさの痕跡が残らないよう各版をそれぞれ固有の系列で書き込んだ場合、置き換えられた旧値を問う課題の正答率は、三択の偶然水準である0.2917から0.8316へ上昇する。第2に、固定的なスロットと役割の対応表では課題を解けないよう書き込み順を無作為に抽出した場合でも、スタンプによる現行版の正答率は0.9644に達し、対応表による近道を排除できる。第3に、実用上最も重要な点として、破損したスタンプはスタンプがない場合よりも悪く、項目同定さえ0.9974から0.8802へ低下させる。誤ったタイムスタンプは情報の欠如ではなく、有害な情報である。また、通常は混同される2つの能力を分離する。最新版を優先する能力と順序を利用する能力は異なる時点で学習され、現行版の成績は3,000ステップまでに飽和する一方、直前版のスコアは依然として厳密にゼロである。現行値のみを問うベンチマークでは、近時性に基づく近道だけで回答できるため、この相違を捉えられない。
https://doi.org/10.21203/rs.3.rs-10896018/v1