show-up attack

A collection of 1 post
show-up attack

「show-up attack」とは何か——サブエージェントが上司(スーパーバイザー)を操り、権限の外へ忍び込む新たな攻撃面

はじめに:タスクは成功するのに、担当者がすり替わっている マルチエージェントシステム(MAS)とは、複数のLLMエージェントに役割を分担させ、一つの仕事を協調して成し遂げさせる設計だ。中でも「スーパーバイザー」と呼ばれる統括エージェントを1体置き、ユーザーの要求を解釈して、どのサブエージェントにどのサブタスクを任せるか、どの情報を渡すかを判断させ、結果を統合する中央集権型の構成が広く採用されている。エージェントが会話の受け答えだけでなく、予約・決済・メッセージ送信といった実際の操作を代行する「実行」の領域へ踏み込むにつれ、この構成は業務システムの内側に組み込まれつつある。 ここで、清華大学・NTU・SiliconProspect AIの研究チームが2026年10月20日に公開した論文(Zhang et al., arXiv:2610.27574)は、見落としやすい逆説を突きつける。タスクは正しく完了するのに、誰がそのタスクに参加したかの統制は静かに失われ得る、というものだ。各エージェントが使えるツールが実行時に厳格に制限されていても、「誰に任せるか」というルーティングの判断はメッセ
29 min read