アライメントは、AIの振る舞いを意図した方針に合わせる研究を指す。Seedは新チームに長期的に投資し、先端モデルの研究に見合う計算資源を提供する方針を示した。10人は今後の採用計画で、採用済みの人数ではない。
訓練、評価、未知のリスクへの備えを扱う
新チームは、モデルの行動規範や安全方針の策定、リスク評価の整備に取り組む。事前学習から追加学習まで安全性を改善する方法や、攻撃役と防御役のモデルを使う訓練も研究する。
基盤づくり
- 内容
- 行動規範、安全方針、リスク評価を整備
訓練の改善
- 内容
- 学習の各段階とモデル間の攻防で安全性を改善
未知のリスク
- 内容
- 監視、防御、原因の特定に取り組む
外部との検証
- 内容
- 第三者評価と大学・研究機関との共同研究
出典はSeedの10月14日採用発表。研究方針を示し、達成済みの成果を表す図ではない。
研究分野には、AIエージェントの安全性評価、自動化した攻撃テスト、モデルの監視可能性、解釈可能性も含む。大学や研究機関と連携し、実際の利用で見つかった問題を研究へ反映する方針だ。
今回の発表は組織設立と採用の案内で、安全性の改善幅を示す評価結果は掲載されていない。第三者評価の具体的な相手や、新チームの研究成果の公開予定も今後の確認事項となる。
出典
- Seed Alignment & Preparedness team looking for global talentsByteDance Seedの公式採用発表。設立、当初10人の採用計画、4つの業務、研究分野と勤務地。公開2026年10月14日、確認2026年10月16日。
出典の確認日 2026.10.16