THE NEWS DESK
AIニュース
公式発表や本人の発言をもとに、
AI企業や研究者の動きを伝えます。
AIと社会
AIの安全性やルール、暮らしへの影響を伝えます。
1件新しい順
小型LLMにセキュリティ記述を書かせない防御CapLite――15モデルの攻撃付き1万3,935エピソードで攻撃成功0、トークンはCaMeL比18%
東京大学のZimo Xu氏、中国科学院自動化研究所のWenzhuo Liu氏、東京大学のHideki Nakayama氏の研究チームは2026年11月12日、エージェント自身のモデルにセキュリティポリシーなどの「セキュリティ成果物」を書かせず、ツールスキーマとユーザー要求から書込操作を事前に確定する防御CapLiteを発表した(arXiv:2611.17115、査読前)。1.7B〜35Bのオープンウェイトモデル15個でProgent、IPIGuard、DRIFT、CaMeLの4防御を測定したところ、モデルが書いたポリシー・依存グラフ・制約リストはそれぞれ14、13、11モデルで攻撃を許し、CaMeLのプログラムはモデルによって最大68%のエピソードで実行不能だった。CapLiteは攻撃付きAgentDojoの1万3,935エピソードで攻撃成功0を報告し、攻撃下ユーティリティは29.0%(CaMeL 27.2%)、トークン消費は1エピソード1万7,100でCaMeLの18%だった。数値はすべて著者らの実験値で、公式コードの公開は確認できていない。