「Agents of Chaos」──AIエージェントが制御なしに動くと何が起きるか
論文「Agents of Chaos」(arxiv: 2602.20021)は、Northeastern、Harvard、Stanfordなど14名の研究者によるレッドチーミング研究を記録したものです。6つの自律型AIエージェントが2週間にわたって実際の環境で敵対的なテストを受け、11のシナリオのうち10で重大な脆弱性が明らかになりました。AgentHouseは、ACL、HITL、オーナーオーバーライド、監査ログ、Policy Manager、Decision Managerアプリケーションでこれらに対応しています。