KI-Agenten, Kill-Switches und der Kampf um Trainingsdaten (22.07.2026)

Lukas: Herzlich willkommen zu KI im echten Leben. Mein Name ist Lukas, und wie immer sitzt mir Clara gegenüber, die für uns den Praxis-Check macht. Clara schaut sich an, was von den großen KI-Meldungen wirklich im Alltag ankommt und was eher Hype ist. Schön, dass du da bist.

Clara: Danke Lukas, ich bin gespannt. Die Liste heute ist ja ziemlich bunt, von Suchmaschinen bis Zeichenwettbewerben zwischen KI-Modellen.

Lukas: Genau, wir fangen mal ganz praktisch an, nämlich bei der Frage, woher eigentlich das Wissen kommt, das uns Tools wie ChatGPT oder Perplexity liefern, wenn wir sie zum Recherchieren nutzen.

Clara: Das ist tatsächlich eine Frage, die ich mir selbst öfter stelle. Ich tippe eine Frage ein, bekomme eine glatte Antwort, aber wo kommt die eigentlich her? Man sieht ja oft gar keine Quelle.

Lukas: Genau da setzt die Studie an, über die t3n berichtet. Da wurden zweihundertfünfzigtausend Antworten von KI-Tools untersucht, um zu sehen, welche Quellen am häufigsten zitiert oder als Grundlage genutzt werden.

Clara: Und, was kam raus? Wikipedia, Reddit, klassische Nachrichtenseiten?

Lukas: Genau diese Mischung, plus eben auch sehr viele Foren- und Community-Inhalte. Das Problem ist, dass diese Quellen selbst schon sehr unterschiedliche Qualität haben, und die KI wählt daraus, ohne dass wir als Nutzer das im Detail durchschauen.

Clara: Das heißt im Alltag, wenn ich als Selbstständige schnell was nachschlage, verlasse ich mich im Zweifel auf eine Quelle, die ich nie selbst geprüft hätte, weil sie mir gar nicht angezeigt wird.

Lukas: Genau, und das ist der Kern des Problems. Es geht nicht darum, dass die Antworten grundsätzlich falsch sind, sondern dass die Nachvollziehbarkeit fehlt.

Clara: Für mich heißt das im Endeffekt: bei wichtigen Themen trotzdem noch mal selbst querchecken, gerade wenn es um Zahlen oder rechtliche Fragen geht. Die KI ist ein guter Startpunkt, aber nicht die letzte Instanz.

Lukas: Das würde ich unterschreiben. Kommen wir zu einem Thema, das gerade in Unternehmen für Diskussionen sorgt, nämlich KI-Agenten und wie man sie kontrolliert.

Clara: Ah, das Stichwort Kill-Switch. Das klingt schon dramatisch.

Lukas: [laughs] Ja, genau darum geht's. Eine Umfrage, die Okta beauftragt hat, zeigt, dass sechsundachtzig Prozent der Entscheider KI-Agenten für geschäftskritisch halten, aber neunundsechzig Prozent verzögern die Einführung, weil ihnen die Kontrolle fehlt.

Clara: Das passt zu dem, was ich aus Gesprächen mit mittelständischen Unternehmen kenne. Alle wollen Agenten, die selbstständig Aufgaben erledigen, aber keiner will aufwachen und merken, dass ein Agent über Nacht irgendwas gelöscht hat.

Lukas: Genau solche Fälle gibt es ja auch schon real. Bei einem Unternehmen namens PocketOS hat ein Agent versehentlich eine Produktionsdatenbank gelöscht, und bei Meta ist ein E-Mail-Löschvorgang außer Kontrolle geraten.

Clara: [sighs] Das ist genau die Art von Geschichte, die mir immer wieder zeigt: Autonomie ohne Leitplanken ist kein Fortschritt, sondern ein Risiko mit Zeitverzögerung.

Lukas: Deshalb schlägt Okta-Manager Sven Kniest ja auch ein zentrales Kontrollzentrum vor, mit dem man die digitalen Identitäten von KI-Agenten nachvollziehbar verwalten kann, inklusive eben dieser Kill-Switch-Funktion.

Clara: Das klingt vernünftig, aber mal ehrlich, wie viele mittelständische Unternehmen haben überhaupt die IT-Ressourcen, um so ein Kontrollzentrum aufzubauen und zu pflegen?

Lukas: Das ist der berechtigte Einwand. Genau da setzt eine andere Meldung an, die ich spannend finde. Der Anbieter Nexoware hat eine AI Agent Platform speziell für IT-Dienstleister gebaut.

Clara: Also nicht generisch wie ChatGPT, sondern zugeschnitten auf konkrete Prozesse?

Lukas: Genau. Es gibt fertige Agenten, zum Beispiel für Ticket-Klassifizierung oder automatisierte Abrechnung, oder man baut sich über einen Designer eigene Agenten mit selbst festgelegtem Autonomiegrad.

Clara: Der Punkt mit dem selbst festgelegten Autonomiegrad gefällt mir. Das heißt, ich kann als Unternehmen entscheiden, ob der Agent nur Vorschläge macht oder wirklich selbst handelt.

Lukas: Genau, und dazu kommt Human-in-the-Loop je nach Risikograd, plus in Europa gehostete, DSGVO-konforme Sprachmodelle. Das ist schon ein Unterschied zu den großen US-Plattformen.

Clara: Das ist für mich ehrlich gesagt der spannendere Teil der ganzen Agenten-Debatte. Nicht die riesigen Konzernlösungen, sondern Anbieter, die verstehen, dass ein Handwerksbetrieb oder eine kleine IT-Firma andere Anforderungen hat als ein Weltkonzern.

Lukas: Passend dazu noch kurz ein Blick auf die Sicherheitsseite. Das Startup Glow aus Palo Alto ist gerade mit einer Bewertung von 1,2 Milliarden Dollar aus der Stealth-Phase gekommen.

Clara: Was machen die genau?

Lukas: Die überwachen mit spezialisierten KI-Agenten in Echtzeit, was auf Mitarbeitergeräten passiert, welche Software installiert wird, welche Agenten laufen, und blockieren riskante Anwendungen proaktiv, statt erst hinterher aufzuräumen.

Clara: Das zeigt eigentlich ganz gut, wohin sich der Markt entwickelt. Je mehr Agenten im Unternehmen unterwegs sind, desto mehr braucht es eben auch Werkzeuge, die diese Agenten selbst überwachen. Eine Art KI, die auf KI aufpasst.

Lukas: Genau, und das mit Kunden schon aus Gesundheitswesen, Einzelhandel und Finanzdienstleistungen, also durchaus regulierten Branchen, wo Fehler teuer werden können.

Clara: Das macht Sinn. Gerade da will ja niemand experimentieren.

Lukas: Kommen wir zu einem ganz anderen Aspekt, der mich persönlich überrascht hat. KI-Firmen kaufen offenbar massenhaft alte, gedruckte Bücher auf, um sie als Trainingsdaten zu nutzen.

Clara: Warte, alte Bücher? Also physische Bücher, die dann eingescannt werden?

Lukas: Genau, laut golem geht es darum, rechtlich unbedenkliches Material zu bekommen, das nicht durch aktuelle Urheberrechtsstreitigkeiten belastet ist, wie das bei vielen digitalen oder aus dem Internet gesammelten Inhalten der Fall ist.

Clara: Das klingt fast ein bisschen kurios, aber ich verstehe die Logik. Wenn du unsicher bist, ob deine Trainingsdaten rechtlich sauber sind, dann ist ein altes Buch, dessen Rechte du klar erwerben kannst, tatsächlich der sicherere Weg.

Lukas: Und das passt ziemlich gut zu einer anderen Meldung von Hacker News. Ein Gericht hat einen Vergleich über 1,5 Milliarden Dollar bestätigt, den Anthropic zahlen muss, weil für das Training von Claude raubkopierte Bücher genutzt wurden.

Clara: [pauses] 1,5 Milliarden, das ist keine Kleinigkeit. Das zeigt doch ziemlich deutlich, dass die Zeit der, sagen wir mal, unbekümmerten Datensammlung vorbei ist.

Lukas: Genau, und ich glaube, das erklärt auch, warum jetzt plötzlich alte Bücher aufgekauft werden. Die Unternehmen wollen aus diesen juristischen Risiken raus und lieber saubere Lizenzen haben, auch wenn das aufwendiger ist.

Clara: Für uns als Nutzer ist das eigentlich eine gute Nachricht. Wenn Trainingsdaten sauberer beschafft werden, sinkt langfristig auch das Risiko, dass Urheberrechtsstreitigkeiten die Tools, die wir täglich nutzen, plötzlich instabil machen.

Lukas: Guter Punkt. Jetzt aber mal was Leichteres, das mir richtig Spaß gemacht hat. Es gab einen sogenannten Drawing-Arena-Test, bei dem GPT-5.6, Claude, Grok und Gemini die Mona Lisa und Van Goghs Sternennacht nachzeichnen sollten.

Clara: [laughs] Also die Modelle als digitale Maler? Das will ich sehen.

Lukas: Genau, mit einem digitalen Buntstift-Werkzeugset, Farbe, Druck, Strichbreite selbst gewählt. Und am Ende wurden die Ergebnisse per Bildvergleich bewertet.

Clara: Und wer hat gewonnen?

Lukas: GPT-5.6 hat die überzeugendsten und günstigsten Ergebnisse geliefert. Grok hat trotz massivem Werkzeugeinsatz kaum brauchbare Bilder produziert, und Claude war zwar ordentlich, aber etwa zwanzigmal teurer und deutlich langsamer.

Clara: Zwanzigmal teurer für ein Bild, das am Ende ähnlich gut ist? Das ist schon ein Praxis-Killer, wenn man das im großen Stil einsetzen wollte.

Lukas: Genau, und das Spannendste fand ich einen anderen Punkt. Alle Modelle haben ihre beste Zwischenversion durch weiteres Nachbessern am Ende wieder verschlechtert.

Clara: Also mehr Selbstkorrektur hat nicht zu einem besseren Ergebnis geführt, sondern eher zum Gegenteil?

Lukas: Exakt. Und ich finde, das ist gar nicht nur bei Zeichnungen relevant. Das ist ein Muster, das man auch bei Texten oder Code sieht. Ständiges Nachjustieren führt nicht automatisch zu mehr Qualität.

Clara: Das deckt sich mit meiner Erfahrung. Manchmal ist die zweite Version eines Textes, den ich mit KI erstellt habe, tatsächlich schlechter als die erste, weil das Modell anfängt, unnötig Dinge zu verändern, nur weil ich um eine Überarbeitung gebeten habe.

Lukas: Ein guter Reminder, dass man als Nutzer manchmal einfach zufrieden sein und aufhören sollte, statt endlos zu optimieren.

Clara: Genau, gutes Stichwort für alle, die im Alltag mit diesen Tools arbeiten.

Lukas: Zum Abschluss noch ein Blick auf ein neues Werkzeug für die Zusammenarbeit im Team. Jack Dorsey, Mitgründer von Twitter und Block, hat mit Buzz eine Gruppenchat-Plattform vorgestellt.

Clara: Also eine Art Slack-Konkurrent?

Lukas: Genau, aber mit dem Anspruch, Mitarbeiter und KI-Agenten im selben Arbeitsbereich zu vereinen. Modellunabhängig, dezentral, open source, und es soll sowohl Slack als auch GitHub ein Stück weit ersetzen.

Clara: Das ist schon ein ambitionierter Anspruch. Chat, Agenten und Projektverwaltung in einem Fenster, das klingt fast zu gut, um wahr zu sein.

Lukas: Er selbst sagt aber auch klar, dass sich Buzz noch in einer frühen Entwicklungsphase befindet, ein sofortiger Umstieg wird ausdrücklich nicht empfohlen.

Clara: Das finde ich ehrlich gesagt sympathisch, dass er das offen zugibt, statt es als fertige Revolution zu verkaufen. Für ein kleines Team lohnt es sich vielleicht, mal reinzuschauen, aber für den produktiven Einsatz im Unternehmen würde ich noch abwarten.

Lukas: Ich glaube, das ist generell eine gute Faustregel bei allem, was wir heute besprochen haben. Die Ideen sind oft schon sehr weit, aber zwischen einer spannenden Ankündigung und einem stabilen Werkzeug für den Arbeitsalltag liegt eben noch eine Strecke.

Clara: Genau, und diese Strecke sollte man nicht unterschätzen, egal ob es um Kill-Switches für Agenten, um saubere Trainingsdaten oder um neue Chat-Tools geht.

Lukas: Fassen wir kurz zusammen. KI-Suchtools liefern Antworten, deren Quellen wir oft nicht durchschauen, deshalb bleibt eigenes Nachprüfen wichtig. KI-Agenten in Unternehmen brauchen klare Kontrolle, Identitätsmanagement und im Zweifel einen Not-Aus-Schalter, und es gibt inzwischen auch praxisnahe Plattformen speziell für den Mittelstand. Und beim Thema Trainingsdaten und Urheberrecht bewegt sich gerade viel, was langfristig für sauberere und stabilere Tools sorgen könnte.

Clara: Und bei aller Technik nicht vergessen, ab und zu einfach mal zu schauen, ob mehr KI wirklich zu einem besseren Ergebnis führt, oder ob man beim zweiten Durchgang lieber die Finger von der Weiterbearbeitung lässt.

Lukas: Ein schönes Schlusswort. Danke dir, Clara, für den Praxis-Check heute, und danke euch fürs Zuhören bei KI im echten Leben. Bis zur nächsten Folge.

Clara: Bis bald, und bleibt kritisch bei allem, was zu glatt klingt.