KI-Agenten zwischen Hype, Kontrolle und Regulierung (15.07.2026)

Lukas: Herzlich willkommen zu einer neuen Folge von KI im echten Leben. Ich bin Lukas, und wie immer ist Clara bei mir, die für uns den Praxis-Check macht und genau hinschaut, ob das, was gerade an KI-News durch die Redaktionen geht, wirklich im Alltag ankommt. Schön, dass du da bist, Clara.

Clara: Hi Lukas, ja, ich hab schon die Liste gesehen, die wir heute durchgehen. Da ist einiges dabei, wo ich sofort skeptisch werde.

Lukas: Dann fangen wir genau da an. Basic Thinking hat sich fünf Tools angeschaut, mit denen Firmen messen können, wie sichtbar ihre Marke eigentlich in ChatGPT, Claude oder Perplexity ist. Also quasi SEO, aber für KI-Antworten.

Clara: Okay, das klingt erstmal logisch, weil ja tatsächlich immer mehr Leute nicht mehr googeln, sondern direkt den Chatbot fragen. Aber mal ehrlich, wer nutzt so ein Tool wirklich schon aktiv? Das ist doch noch ziemlich Nische.

Lukas: Laut Artikel eher Enterprise-Marketing-Teams und größere Shops. Truffle wird als Testsieger für B2B genannt, AthenaHQ speziell für Shopify-Händler.

Clara: Für den Mittelstand also erstmal nichts. Ich glaube, das ist einer dieser Trends, die in zwei Jahren relevant sind, aber heute noch Spielerei für große Marketingabteilungen mit Budget.

Lukas: Kann sein. Aber die Grundidee zeigt schon, wohin sich Sichtbarkeit im Netz verschiebt. Lass uns zum nächsten Thema, das finde ich spannender für den Alltag: Heise hat berichtet, warum viele Firmen KI-Coding-Tools wie GitHub Copilot noch nicht freigeben, obwohl Entwickler sie längst privat nutzen.

Clara: Ah, das kenne ich aus Gesprächen mit Leuten aus der IT. Die Tools sind im Grunde schon da, nur eben heimlich, im Browser-Tab nebenbei. Und die Firma tut so, als gäbe es sie nicht.

Lukas: Genau das Problem beschreibt der Artikel. Es geht nicht darum, ob die Tools nützlich sind, das ist längst klar. Es geht um Risiko-Management, Code-Sicherheit, Lizenzfragen, und wer haftet, wenn generierter Code einen Fehler verursacht.

Clara: Und da zögern Unternehmen lieber, statt eine klare Regel aufzustellen. Verstehe ich ehrlich gesagt sogar. Lieber einmal richtig hinschauen, als hinterher ein Sicherheitsloch im Produktivsystem zu haben.

Lukas: Der pragmatische Ansatz, den der Artikel vorschlägt, ist ja nicht Verbot oder Freifahrtschein, sondern klare Leitplanken. Also welche Repos, welche Daten, welche Freigabeprozesse.

Clara: Das ist eigentlich die Kernfrage bei fast jedem KI-Tool am Arbeitsplatz, oder? Nicht ob, sondern wie kontrolliert.

Lukas: Genau, und das führt uns direkt zum nächsten, deutlich größeren Thema. Die deutschen Medienanstalten haben jetzt offiziell Bescheide gegen Google und Perplexity erlassen.

Clara: Warte, was heißt das konkret? Die haben doch bisher einfach Suchergebnisse zusammengefasst.

Lukas: Genau da liegt der Streitpunkt. Die Medienanstalten sagen, wenn Google mit den AI Overviews die klassische Linkliste verdrängt, ist das kein neutrales Vermitteln mehr, sondern eigener Inhalt. Und bei Perplexity ist es ähnlich, weil die Plattform selbst entscheidet, welche fremden Inhalte wie stark eingebunden werden.

Clara: Also im Klartext, die werden wie Medienanbieter behandelt und müssen sich an entsprechende Regeln halten.

Lukas: Genau. Und das Gutachten dahinter geht sogar noch weiter und sagt, KI-generierte Zusammenfassungen sind grundsätzlich eigene Inhalte der Anbieter, nicht einfach neutrale Weiterleitung.

Clara: Das erklärt auch, warum Verlage seit Monaten so laut protestieren. Wenn ich als Nutzer die Antwort direkt im Chat bekomme, klicke ich nicht mehr auf die Originalquelle. Und dann fehlt der Traffic, der Verlage eigentlich finanziert.

Lukas: Und genau davor warnt das Gutachten auch, vor einer Verschiebung der Verhandlungsmacht zulasten der Verlage.

Clara: Ich finde das ehrlich gesagt überfällig. Als Nutzerin merke ich ja selbst, wie bequem diese Zusammenfassungen sind, aber irgendjemand muss die Inhalte am Ende ja auch noch produzieren.

Lukas: Beide Unternehmen können übrigens Rechtsmittel einlegen, das ist also noch nicht das letzte Wort. Aber ein wichtiges Signal für die Regulierung von KI-Suchfunktionen in Deutschland.

Clara: Mal sehen, ob das wirklich was ändert oder ob es am Ende nur ein Papiertiger bleibt. [pauses] Aber lass uns zur Studie kommen, die find ich fast am spannendsten heute.

Lukas: Die von Strand Partners im Auftrag von AWS, ja. 63 Prozent der deutschen Unternehmen setzen KI ein, 83 Prozent davon sehen schon Produktivitätsgewinne.

Clara: Klingt erstmal gut.

Lukas: Aber nur 15 Prozent schaffen den Sprung zu wirklich neuen Produkten oder Geschäftsmodellen. Und das ist sogar weniger als im Vorjahr, und unter dem europäischen Durchschnitt von 22 Prozent.

Clara: Das trifft ziemlich genau das, was ich in Unternehmen immer wieder sehe. Man nutzt ChatGPT für schnellere Texte oder Copilot für Meeting-Notizen, das spart Zeit, klar. Aber daraus ein neues Geschäftsmodell zu bauen, ist eine ganz andere Hausnummer.

Lukas: Die Studie nennt als größte Hürden fehlende Digitalkompetenzen, mangelnde Budgets und steigende Compliance-Kosten.

Clara: Compliance-Kosten find ich interessant, weil man ja eigentlich denkt, KI macht Prozesse günstiger. Aber klar, wenn du erstmal Rechtsabteilung, Datenschutz und Governance aufbauen musst, kostet das erstmal mehr, bevor es sich rechnet.

Lukas: Und ein Detail, das ich fast noch alarmierender finde: fast die Hälfte der deutschen KI-Startups überlegt, wegen besserer Finanzierung ins Ausland zu gehen.

Clara: Das ist schon ein Warnsignal, ja. Wenn die eigenen Startups sagen, wir bauen das lieber in den USA oder sonst wo auf, weil es dort einfacher ist zu skalieren, dann verlieren wir am Ende genau die Firmen, die den nächsten Sprung schaffen könnten.

Lukas: Was mich zur TÜV-Studie bringt, die ins gleiche Bild passt. 56 Prozent der Unternehmen sehen großen Nachholbedarf bei digitalen Anwendungskompetenzen.

Clara: Und je größer die Firma, desto größer die Lücke, richtig?

Lukas: Genau, und besonders betroffen sind Handel und öffentliche Verwaltung. Zusätzlich sagen 46 Prozent, sie brauchen dringend mehr Tiefenwissen in IT-Sicherheit, Datenanalyse und KI-Entwicklung.

Clara: Das erklärt für mich diese 15-Prozent-Zahl von eben ziemlich direkt. Wenn dir im Unternehmen die Leute fehlen, die wirklich verstehen, wie man mit den Tools neue Prozesse oder Produkte baut, bleibst du halt bei oberflächlicher Nutzung stecken.

Lukas: Der TÜV-Verband fordert deshalb eine langfristige Digitalkompetenzoffensive, mit flexiblen Lernformaten und weniger Bürokratie bei Förderungen.

Clara: Klingt vernünftig, aber solche Forderungen les ich seit Jahren. Die Frage ist immer, ob danach auch was passiert oder ob es bei der Pressemitteilung bleibt.

Lukas: [laughs] Fairer Punkt. Lass uns zu einem Sicherheitsthema wechseln, das mich wirklich überrascht hat. Herrenlose KI-Agenten, die unbemerkt Nutzerrechte behalten.

Clara: Warte, erklär das mal, das klingt fast gespenstisch.

Lukas: Im Grunde geht es darum, dass Firmen immer schneller KI-Agenten aufsetzen, für einzelne Aufgaben, Projekte, Tests. Aber wenn diese Agenten nicht mehr gebraucht werden, werden sie oft nicht ordentlich abgeschaltet. Sie bleiben aktiv, mit echten Zugriffsrechten auf Systeme und Daten.

Clara: Also digitale Karteikarten, die niemand mehr kontrolliert, aber die trotzdem noch Türen offen haben.

Lukas: Genau. Und Dr. Heiko Klarl von Nexis sagt, ein reines Inventar reicht nicht, weil diese Agenten autonom handeln und ihre Berechtigungen sogar im laufenden Betrieb verändern können.

Clara: Das ist für mich der Punkt, an dem KI am Arbeitsplatz aufhört, harmlos zu sein. Wenn niemand mehr genau weiß, welcher Agent worauf Zugriff hat, ist das ein riesiges Einfallstor.

Lukas: Die Empfehlung ist deshalb ein Dreischritt: Erkennen, Bewerten, Korrigieren. Klassisches Asset-Management reicht laut Klarl nicht mehr aus, es braucht echte Governance.

Clara: Governance für KI-Agenten, das wird glaub ich eins der großen Themen 2026 in jeder IT-Abteilung. Und passend dazu bringt ja auch Rubrik jetzt sein Rubrik AI raus, oder?

Lukas: Genau, das erweitert die Security-Cloud um agentenbasierte Automatisierung. Es analysiert kontinuierlich Datenbestände, Identitäten und eingesetzte KI-Agenten, protokolliert deren Aktionen und kann sie im Zweifel auch rückgängig machen.

Clara: Also im Grunde ein Kontrollsystem für die Kontrollsysteme. Macht Sinn, wenn man bedenkt, was wir eben über herrenlose Agenten gesagt haben.

Lukas: Und in eine ähnliche Richtung, wenn auch auf Hardware-Ebene, geht die Partnerschaft von Swissbit und Nexperia. Die bauen zusammen sichere Speicher- und Halbleiterlösungen für KI- und Cloud-Infrastruktur, mit Fokus auf Datenschutz und Zuverlässigkeit.

Clara: Klingt für den Alltag erstmal weit weg, aber am Ende läuft ja jede KI-Anwendung auf irgendeiner Hardware, die genauso sicher sein muss wie die Software drüber.

Lukas: Absolut. Kommen wir zu etwas, das direkt in die Entwicklerpraxis geht: Mistral AI hat eine neue Agents API vorgestellt.

Clara: Mistral, das französische Unternehmen, richtig? Was macht die API anders als das, was es schon gibt?

Lukas: Sie erweitert die klassischen Sprachmodelle um Codeausführung, Websuche, Bildgenerierung und sogenannte MCP-Tools, also standardisierte Werkzeuge, die Agenten nutzen können. Und wichtig, ein persistentes Gedächtnis über mehrere Konversationen hinweg.

Clara: Das Gedächtnis ist der Punkt, der mich immer am meisten interessiert. Bisher vergisst so ein Chat ja meistens alles, sobald das Fenster zu ist.

Lukas: Genau, und durch die integrierte Websuche verbessern sich die Ergebnisse laut Mistral deutlich. Bei einem Faktentest steigt die Genauigkeit von Mistral Large von 23 auf 75 Prozent.

Clara: Das ist schon ein gewaltiger Sprung. Zeigt aber auch, wie unzuverlässig die reinen Sprachmodelle ohne aktuelle Informationen eigentlich sind.

Lukas: Zusätzlich gibt es Konversationsverzweigung, Streaming und sogenannte Agent-Handoffs, also dass ein Agent eine Aufgabe an einen anderen weitergeben kann, zum Beispiel ein Coding-Assistent an einen Finanzanalysten.

Clara: Also mehrere spezialisierte Agenten, die sich die Arbeit aufteilen, statt ein Alleskönner-Modell. Das klingt für Unternehmensanwendungen tatsächlich praktikabler als ein einzelner riesiger Chatbot.

Lukas: Und passend dazu noch ein kleines, aber sehr praktisches Tool aus der Entwickler-Community: Grepathy, vorgestellt auf Hacker News.

Clara: Sag mal, was macht das genau?

Lukas: Es wertet lokal die Session-Protokolle von KI-Coding-Agenten wie Claude Code aus und erstellt daraus automatisch Markdown-Dateien, die dokumentieren, warum bestimmte Code-Entscheidungen getroffen wurden.

Clara: Also eine Art Tagebuch für die KI, damit man später nachvollziehen kann, was sie sich gedacht hat.

Lukas: Genau, und diese Dateien werden zusammen mit dem Code committet. Reviewer und Teammitglieder sehen dann, welche Entscheidungen der Agent eigenständig getroffen hat, ohne dass die explizit angefragt wurden.

Clara: Das finde ich richtig sinnvoll, gerade weil wir eben über Nachvollziehbarkeit und Kontrolle gesprochen haben. Wenn ein Agent im Code plötzlich eigene Entscheidungen trifft, will ich als Entwickler genau wissen, warum.

Lukas: Und es läuft komplett lokal, ohne Server oder Accounts, über Git-Hooks. Sensible Daten werden automatisch entfernt.

Clara: Das ist genau die Art von pragmatischem, kleinem Tool, das ich mag. Kein großes Marketingversprechen, sondern eine konkrete Lücke, die geschlossen wird.

Lukas: Okay, fassen wir zusammen. Wir haben heute gesehen, dass KI-Sichtbarkeit für Marken ein neues, aber noch sehr nischiges Feld ist. Firmen tun sich schwer, KI-Coding-Tools offiziell freizugeben, obwohl sie längst genutzt werden. Die Medienanstalten ziehen bei Google und Perplexity regulatorisch die Zügel an. Und die große Studienlage zeigt: viele deutsche Unternehmen nutzen KI zwar, aber nur wenige schaffen den Sprung zu echten neuen Geschäftsmodellen, vor allem wegen fehlender Kompetenzen und Budgets.

Clara: Und auf der technischen Seite sehen wir, dass Governance und Nachvollziehbarkeit immer wichtiger werden, egal ob bei herrenlosen Agenten, bei Rubriks Sicherheitslösung oder bei einem kleinen Tool wie Grepathy. Die Werkzeuge werden mächtiger, aber die Kontrolle darüber wird zur eigentlichen Herausforderung.

Lukas: Genau der Punkt, den wir hier immer wieder betonen: Nicht die Technik allein entscheidet, sondern wie verantwortungsvoll Unternehmen und Teams damit umgehen. Danke dir, Clara, für den Praxis-Check heute.

Clara: Sehr gerne, Lukas. Bis zur nächsten Folge, und bleibt skeptisch bei allem, was zu gut klingt, um wahr zu sein.