NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

THE NEWS DESK

AIニュース

公式発表や本人の発言をもとに、
AI企業や研究者の動きを伝えます。

すべてのニュース

1件新しい順

  1. AIと社会Georgia Tech出典 2件

    Georgia Tech、介入された内部情報の読み出しと自己報告は学習段階で乖離するとOLMo 3で報告――学習8.4Bトークンで外部分類器98.3%対モデル自身の回答11.1%

    ジョージア工科大学のDustin Rubin氏ら6名は2026年11月11日、言語モデルが「自分の内部活性がどこで攪乱されたか」を自ら答えられるかを、外部から訓練した分類器と比較する実験をarXivに投稿した(プレプリント)。OLMo 3 32Bの第0層に典型的な残差ノルムの4倍のベクトルを加え第24層から読み出す条件では、学習8.4Bトークンの時点で外部分類器は98.3%を検出するのにモデル自身の9択回答は当たり確率の11.1%にとどまり、公開済みのベースモデルでは99.1%対89.6%になる。注入位置が第6層では自己回答は37.7%まで下がる。自己報告を信頼性判定に使う際は、内部信号の検出と推論の忠実な説明を区別すべきだとしている。プレプリントで、実験コードの公開は確認できていない。