NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

THE NEWS DESK

AIニュース

公式発表や本人の発言をもとに、
AI企業や研究者の動きを伝えます。

AIと社会

AIの安全性やルール、暮らしへの影響を伝えます。

1件新しい順

  1. AIと社会Redwood Research出典 3件

    Redwood Research、AIエージェントの監視体制を本番攻撃なしで評価する「Simulated Control Evals」を公開 安全性予測の誤差3.6ポイントで専用環境の10.1ポイントを下回る

    AI安全性研究のRedwood Researchは2026年10月24日、AIエージェントを監視する「監視AI」が危険な行動を検出できるかを、環境を実際に実行せずに大規模言語モデルで模擬して評価する手法「Simulated Control Evals(SCE)」を公表しました。論文は2026年10月22日にarXivへ投稿されています。コーディング評価環境LinuxArenaでの比較では、監査予算5%の条件で安全性という指標をどれだけ正確に予測できるかを示す誤差(RMSE)はSCEが3.6ポイントで、別の専用評価環境BashArenaを使った場合の10.1ポイントを下回りました。