Agenten sind die neue Schnittstelle zwischen KI und Realität. Aber: Weißt du wirklich, was dein Agent gerade tut? 

Der Sprung vom Large Language Model zum autonom handelnden Agenten ist vollzogen – und verändert die Spielregeln grundlegend. Statt auf Prompts zu antworten, greifen Agenten auf Tools zu, rufen APIs auf, schreiben in Systeme, koordinieren sich mit anderen Agenten und treffen Entscheidungen in unserem Namen. Was technisch beeindruckend ist, wird schnell zur Blackbox: Token-Burn explodiert, Agenten driften vom ursprünglichen Ziel ab, Multi-Agent-Interaktionen erzeugen emergentes Verhalten, das niemand vorhergesehen hat. 

In diesem Talk geht es um die zentrale Frage: Wie stellen wir sicher, dass unsere Agenten das tun, was sie tun sollen – und nichts anderes? 

Wir schauen uns an: 

• Vom LLM zum Agent – was sich technisch und konzeptionell ändert, wenn aus generativen Modellen handelnde Systeme werden.
• Agent Harness & Interaktion – wie Agenten mit Tools, Systemen und anderen Agenten sprechen, und wo die neuralgischen Punkte liegen.
• Das Governance-Problem – warum autonome Agenten klassische Kontrollmechanismen herausfordern und was Awareness, Observability und Drift-Erkennung in diesem Kontext wirklich bedeuten.
• Token-Burn & unsichtbare Kosten – warum ökonomische Kontrolle Teil jeder sinnvollen Agent-Strategie ist.
• Offene Fragen aus der Forschung – was an Interpretierbarkeit, Transparenz und Kontrolle noch fehlt, damit wir Agenten nicht nur bauen, sondern wirklich verstehen. 

Der Vortrag verbindet aktuelle Forschung rund um transparente und human-kompatible KI – mit Impulsen aus dem Nürnberger Forschungsumfeld (COAI Research, coairesearch.org) und konkrete Beobachtungen aus der Praxis. Der Sektor bewegt sich im Wochentakt: neue Frameworks, neue Angriffsvektoren, neue Debatten. Genau deshalb ist dieser Talk bewusst offen angelegt; aktuelle Entwicklungen werden bis zum Festival-Tag eingearbeitet. 

Für wen? Alle, die mit Agenten arbeiten, sie bauen oder verstehen wollen, was gerade passiert: Entwickler:innen, Architekt:innen, Forscher:innen, Entscheider:innen und alle, die digitale Zukunft nicht dem Zufall überlassen möchten. 

Was du mitnimmst: Ein klares mentales Modell, wo im Agenten-Stack Governance und Kontrolle wirklich ansetzen müssen. Ein Verständnis dafür, warum Transparenz und Awareness keine nachgelagerten Features sind, sondern grundlegende Designentscheidungen. Und die richtigen Fragen, die du beim nächsten Agent-Projekt stellen solltest. 

Autonomie ohne Beobachtbarkeit ist kein Fortschritt. Der Vortrag zeigt, wo wir heute stehen, wo die Forschung ansetzt – und warum die nächsten Monate in diesem Feld besonders entscheidend werden.