機械学習エンジニアリング(MLE)エージェントの研究は、教師あり学習のパイプライン自動化が中心で、ラベル付きデータが乏しく未ラベルデータが豊富な実務の状況はほとんど検証されてこなかった。AgentSSLは、SSL手法の組み合わせと適応をエージェントがコードとして合成する「プログラム探索」問題として定式化し、この空白を埋める。論文は2026年11月12日にarXivで公開され(CC BY 4.0)、Comments欄とプロジェクトページはNeurIPS 2026に採録されたことを著者表記で記す。プロジェクトページは成果を「12設定中8設定で人手設計のSSLベースラインを上回る。プログラム選択がボトルネックのまま」と要約する。
「弱いフィードバックと計算量を揃えた条件でも、エージェントは確立されたSSL手法を組み合わせて適応するコードを合成でき、最強の人手設計ベースラインを12設定中8設定で最大+21.8%上回った。」
We find that even under weak feedback and matched compute, agents can synthesize code that combines and adapts established SSL techniques, exceeding the strongest human-engineered baselines in 8 of 12 settings by up to +21.8%.
仕組み――SSL設計を探索グラフ上のプログラム探索に置く
探索空間の各ノードはプログラムで、エージェントは既存プログラムに演算子を適用して新候補を生成し、フィードバック指標で評価したうえで探索グラフを広げる。演算子はDraft、Debug、Improve、Analyzeの固定セット、探索方針はgreedy探索だ。フィードバック指標は2種を比較する。ラベルを使わない教師なし指標と、少量ラベルを使うnoisy-validation指標だ。画像分類の実験ではCLIP ViT-B-16とDINOv2-Bをバックボーンとし、プログラム生成の基盤モデルはGPT-5.4とGemini-3.1を比較した。Table 4では精度はGPT-5.4がわずかに上回り、多様性はGemini-3.1が一貫して高かったと報告している。
- 01 入力
ラベル不足
ラベル付きデータが乏しく未ラベルデータが豊富なタスク。バックボーンはCLIP ViT-B-16とDINOv2-B。
- 02 プログラム生成
4種の演算子
エージェントがDraft・Debug・Improve・Analyzeの演算子を既存プログラムに適用し、SSL手法を組み合わせた新候補をコードで合成する。
- 03 評価
フィードバック2種
教師なし指標かnoisy-validation指標で候補を評価し、greedy探索で探索グラフを広げる。
- 04 選択
候補から1本
発見した候補群から配備する1本を選ぶ。大規模なラベル付き検証セットは使えないため難しい。
- 05 測定
選択ベンチマーク
選択の失敗を測る公開ベンチマーク。16,977プログラム、1万GPU時間超の計算を保存。
arXiv:2611.17323(2026-11-12公開v1)の定式化節と8節に基づく。演算子4種とフィードバック指標2種(教師なしU・noisy-validation N)、greedy探索、バックボーン、16,977プログラム・1万GPU時間超は論文の記述。
結果――VTABの12条件中8条件で人手ベースラインを上回る
評価はVTABプロトコルに従い、DTD、SUN397、RESISC45、RETINO(網膜症画像)、CLEVR-Count、KITTIの6データセット×2つのクラスバランス設定・計12条件で、各条件3つのランダム分割を試した。比較相手はSupervised、FixMatch、SoftMatch、FineSSL、PET、V-PETの6ベースラインで、エージェントの探索予算は対応するベースラインのSSL手法の計算量に合わせた。オラクル評価(最良候補のテスト性能)では、12条件のうち8条件で人手設計の最強SSLベースラインを上回り、最大の改善は+21.8%だった。下回った条件もあり、著者らは教師なしフィードバックが弱い、あるいは最終精度と相関しない状況でも、競争力のあるプログラムを発見できると説明する。
選択工程がボトルネック、ProgramSelectBenchを公開
発見した複数の候補から配備する1本を選ぶ工程は、大規模なラベル付き検証セットを使えないため難しい。エージェント自身のフィードバック指標で選ぶと、最良候補に対して性能が最大47%低下する条件があった。この課題を測るため、著者らはエージェント生成と人手設計を合わせた16,977プログラム(1万GPU時間超の計算に相当)を保存したProgramSelectBenchを公開し、教師なし選択とアクティブ選択の両方を評価できるようにした。論文の知見は2点ある。教師なし指標は前提が成り立つときには有効な選択を可能にする。教師なし指標が機能しない場合には、ラベルを学習ではなく選択に割り当てる方が良い結果につながり得る。ベンチマークのデータセットはHugging FaceでMITライセンスの公開データセットとして入手できる。
生態調査の検出タスクでは結果が分かれる
実世界の応用として、生態調査パイプラインの動物検出タスク2件を評価した。魚類のWildFinでは全データの10%だけ使う設定で、エージェントは低ラベルの専門家ベースラインを上回り、全データを使う専門家パイプラインに接近した。レイヨウ類のBuckTalesでは20%のデータで低ラベルの専門家ベースラインと同等にとどまり、Figure 6のキャプションは全データのYOLOv8ベースラインを下回る大きなばらつきを記す。未ラベルデータを使わない部分集合AgentSLとAgentSSLの成績が両パイプラインで近く、著者らは「未ラベルデータが常に最も価値ある改善源とは限らない」と分析する。
WildFin魚類検出
- 使用データ
- 10%
- 結果
- 低ラベルの専門家ベースラインを上回る
- 全データとの対比
- 全データの専門家パイプラインに接近
BuckTalesレイヨウ類検出
- 使用データ
- 20%
- 結果
- 低ラベルの専門家ベースラインと同等
- 全データとの対比
- 全データのYOLOv8には及ばず、ばらつきが大きい
arXiv:2611.17323(2026-11-12公開v1)の8節とFigure 6に基づく。エージェントはWildFinで全データの10%、BuckTalesで20%のみ使用。Figure 6のキャプションは、BuckTalesでエージェントのばらつきが大きく全データのYOLOv8ベースラインを下回ると記す。数値は著者の実験結果。
公開状況と留保
論文・プロジェクトページ・コード・ベンチマークは公開済みだ。コードリポジトリ(GitHub akanksha-sarkar/AgentSSL)は2026年11月14日時点で確認できたものの、ライセンスファイルは検出できなかった。ProgramSelectBenchのデータセットはMITライセンスで公開されている。掲載数値はすべて著者の実験結果で、第三者による独立検証は2026年11月14日時点で確認できていない。NeurIPS 2026の表記は論文とプロジェクトページによる。47%の低下は選択工程の特定条件での最大値であり、全実験の平均ではない。プレプリントであり、査読を経た確定版ではない点にも注意が必要だ。
出典
- arXiv:2611.17323「AgentSSL: Can MLE Agents Leverage Unlabeled Data?」(要旨ページ)2026-11-12公開v1。2026-11-14に要旨全文・著者・Comments・ライセンスを確認。著者5名(Ethan Lin、Akanksha Sarkar、Ziang Liu、Kristin Branson、Jennifer J. Sun)、Comments「NeurIPS 2026. Project Website」、License CC BY 4.0、要旨の主張(プログラム探索としての定式化、8/12設定で最大+21.8%、エージェントのフィードバック指標での選択で最大47%低下、ProgramSelectBench 16,977プログラム、生態検出タスクの評価)。
- arXiv:2611.17323 論文HTML版(v1)2026-11-14に全文取得。VTABプロトコル(DTD・SUN397・RESISC45・RETINO・CLEVR-Count・KITTIの6データセット×2設定×3分割)、ベースライン6種(Supervised・FixMatch・SoftMatch・FineSSL・PET・V-PET)、定式化(Draft/Debug/Improve/Analyze演算子、教師なしU・noisy-validation N指標、greedy探索、CLIP ViT-B-16とDINOv2-B)、Table 1の最大改善+21.81、Table 4のGPT-5.4対Gemini-3.1(精度・多様性)、ProgramSelectBench(16,977プログラム・1万GPU時間超)と選択の2知見、8節のWildFin(10%)・BuckTales(20%)の結果とFigure 6キャプション。
- プロジェクトページ「AgentSSL」(codiscovery.ai)2026-11-14にHTTP 200で全文取得。著者5名と所属(1 Cornell University、2 Howard Hughes Medical Institute)、NeurIPS 2026表記、TL;DR「MLE agents beat human-engineered SSL baselines in 8 of 12 settings. Program selection remains the bottleneck.」、コード・arXiv・ProgramSelectBenchへのリンク。Issue作成時に未検証だったアクセスを確認。
- GitHub akanksha-sarkar/AgentSSL(コードリポジトリ)2026-11-14にGitHub APIとraw READMEで確認。default branch main、最終push 2026-10-04、READMEにデータ効率評価フレームワークの構成(metrics、pytorch_adapt、domain1〜、setSL/setSSL/setC)。ライセンスファイルはGitHub APIでも検出されず。
- Hugging Faceデータセット ethan-y-lin/ProgramSelectBench2026-11-14にHF APIで確認。license:mit、public、非gated、benchmark・semi-supervised-learning・unsupervised-selectionタグ、最終更新2026-10-22。論文のフットノートが選択ベンチマークの配布先として指定。
出典の確認日 2026.11.14