 |
Knowledge Science - Alles über KI, ML und NLPAuthor: Sigurd Schacht, Carsten Lanquillon Language: de Genres: Education, Technology Contact email: Get it Feed URL: Get it iTunes ID: Get it |
Listen Now...
Episode 226 - Wenn KI-Agenten sich absprechen – Kollusion in Multi-Agenten-Systemen
Episode 226
Saturday, 14 March, 2026
Send a textNur weil jedes einzelne KI-Modell „brav" trainiert wurde, heißt das noch lange nicht, dass sich mehrere Agenten gemeinsam auch brav verhalten. Sigurd und Carsten diskutieren das Paper „Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems" und zeigen, warum allein die Möglichkeit eines privaten Kommunikationskanals reicht, damit Agenten beginnen, sich abzusprechen – ganz ohne Aufforderung. Was bedeutet das für Sicherheit, Regulierung und die Zukunft agentischer Systeme?Link zum Paper: https://arxiv.org/pdf/2602.15198Support the show
