KI-Agenten, Milliarden-Blase und 6G-Überwachungsrisiken (19.06.2026)

Lukas: Herzlich willkommen bei KI im echten Leben, ich bin Lukas. Heute bin ich wieder mit Clara zusammen, die uns wie immer den Praxis-Check liefert und kein Blatt vor den Mund nimmt. Hallo Clara, schön, dass du dabei bist.

Clara: Hallo Lukas, ja, freue mich. Es gibt heute wieder einiges zu besprechen, oder?

Lukas: Absolut. Fangen wir gleich mit einem Thema an, das ich sehr spannend finde, weil es so konkret ist. Ein langjähriger Microsoft-Copilot-Nutzer hat aufgehört, Copilot zu verwenden, und ist zu Googles Gemini gewechselt. Und der Auslöser waren drei konkrete Fehlschläge.

Clara: Was für Fehler waren das denn?

Lukas: Einmal hat Copilot falsche technische Ratschläge gegeben, basierend auf veralteten iOS-Informationen. Dann hat er historisch falsche Angaben über ein Pariser Stadtviertel gemacht. Und das Krasseste: Er hat Öffnungszeiten eines Schwimmbades schlicht erfunden.

Clara: [laughs] Öffnungszeiten erfunden. Das ist natürlich das klassische Halluzinations-Problem. Und das Tückische ist ja, dass die KI dabei nicht sagt, ich bin mir unsicher. Die antwortet einfach selbstsicher.

Lukas: Genau. Und in allen drei Fällen hat Gemini laut dem Nutzer deutlich besser abgeschnitten. Was mich dabei beschäftigt: Ist das jetzt ein grundsätzliches Copilot-Problem oder einfach Pech?

Clara: Ich glaube, das ist weder noch. Das ist ein allgemeines KI-Problem, das je nach Modell und Anwendungsfall unterschiedlich stark auftritt. Aber was mich an dieser Geschichte interessiert: Der Mann hat drei konkrete Beispiele dokumentiert. Das ist kein Bauchgefühl, das ist Evidenz.

Lukas: Und das zeigt eigentlich, wie man KI-Tools sinnvoll bewerten sollte. Nicht nach dem ersten Wow-Effekt, sondern über Zeit, in echten Situationen.

Clara: Genau. Und für Leute, die KI im Alltag oder im Job nutzen, ist das entscheidend. Wenn ich mich auf eine Antwort verlasse und die ist falsch, kostet mich das Zeit oder schlimmstenfalls Vertrauen beim Kunden.

Lukas: Kommen wir zu einem anderen Thema, das ich ein bisschen zwiespältig finde. Replit hat in New York eine Konferenz namens Vibecon veranstaltet. Künstler, Filmemacher, Entwickler, alle reden über Kreativität und KI. Und das zentrale Schlagwort war: Taste, also Geschmack.

Clara: Taste als Schlüsselkompetenz des KI-Zeitalters. Was soll das konkret bedeuten?

Lukas: Die Idee ist: Wenn KI immer mehr technische Aufgaben übernimmt, wird der entscheidende menschliche Beitrag eben Urteilsvermögen und ästhetisches Gespür. Zu wissen, was gut ist, was passt, was funktioniert. Replit-CEO Amjad Masad hat das sogar mit Spike Jonze diskutiert, dem Filmregisseur.

Clara: Spike Jonze, okay, das ist immerhin ein interessanter Gesprächspartner. Aber ich frage mich, ob das nicht auch ein bisschen Selbstbeweihräucherung ist. Tech-Konferenz lädt Künstler ein, alle nicken sich zu, wie wichtig Kreativität ist.

Lukas: [laughs] Das ist ein fairer Einwand. Und tatsächlich haben einige Besucher genau das kritisiert. Die Atmosphäre war manchen zu künstlich, und der Begriff Taste blieb letztlich schwer greifbar.

Clara: Was mich grundsätzlich beschäftigt: Ist Geschmack wirklich erlernbar, oder hat man den einfach? Das ist ja keine neue Frage, die stellen Kunstschulen seit Jahrzehnten.

Lukas: Genau. Und die KI macht das nicht einfacher. Weil KI ja selbst keinen Geschmack hat, sie optimiert auf Muster. Was als geschmackvoll gilt, entscheiden immer noch Menschen.

Clara: Für mich klingt Vibecon nach einem Event, das gut gemeint ist, aber noch nicht so genau weiß, was es eigentlich sagen will. Interessant als Stimmungsbild, aber kein konkreter Mehrwert für jemanden, der morgen früh mit KI arbeiten muss.

Lukas: Gut gesagt. Bleiben wir im technischen Bereich. Es gab zwei Meldungen rund um KI-Agenten für Softwareentwicklung, die ich zusammen besprechen möchte. Erstens: Der iX-Workshop zu Claude Code, Anthropics KI-Agenten für Entwickler. Und zweitens: Databricks hat ein Open-Source-Tool namens Omnigent veröffentlicht, das als Steuerungsschicht über mehreren KI-Agenten gleichzeitig sitzt.

Clara: Okay, Claude Code kenne ich ein bisschen. Das ist der Agent, der selbstständig Code schreibt, testet, refaktoriert. Aber was ist Omnigent genau?

Lukas: Stell dir vor, du hast nicht einen KI-Agenten, sondern fünf. Claude Code, Codex von OpenAI, und noch andere. Omnigent ist die Schicht darüber, die all das koordiniert, Sicherheitsregeln durchsetzt, Kosten kontrolliert und dafür sorgt, dass du nicht bei jedem Agenten einzeln konfigurieren musst.

Clara: Das klingt mächtig. Aber auch nach einem Tool, das man erstmal verstehen muss, bevor man es einsetzen kann.

Lukas: Absolut. Databricks selbst empfiehlt, erstmal in unkritischen Umgebungen anzufangen und eigene Code-Audits einzuplanen. Das ist ehrlich, aber es zeigt eben auch: Das ist noch nichts für den schnellen Einsatz.

Clara: Für wen ist das dann gedacht? Für große Engineering-Teams in Unternehmen, die schon mit mehreren KI-Agenten experimentieren?

Lukas: Genau das. Mittelständische Softwareunternehmen oder Entwicklerteams, die skalieren wollen. Der iX-Workshop zu Claude Code zielt ähnlich ab: erfahrene Entwickler, die lernen wollen, wie man den Agenten wirklich effizient einsetzt, mit eigenen Architekturregeln und parallelen Aufgaben.

Clara: Was mich interessiert: Verändert das den Job von Entwicklern grundlegend? Oder ist das einfach ein besseres Werkzeug?

Lukas: [pauses] Ich glaube, das ist beides. Routine-Coding wird stärker automatisiert. Aber jemand muss die Agenten steuern, die Qualität prüfen, die Architektur verantworten. Das verschiebt sich, aber es verschwindet nicht.

Clara: Mhm. Also mehr Orchestrieren, weniger Tippen. Ich finde das realistisch. Aber ich würde mir wünschen, dass solche Workshops auch ehrlich darüber reden, was schiefgehen kann, wenn ein Agent selbstständig Code deployed.

Lukas: Kommen wir zu einer Frage, die gerade viele beschäftigt. KI-Boom oder Blase? In den USA wurden 2025 fast 286 Milliarden Dollar privat in KI investiert. Deutschland kam auf knapp vier Milliarden. Und gleichzeitig mehren sich die Zweifel, ob die Versprechen wirklich eingelöst werden.

Clara: 286 Milliarden. Das ist eine Zahl, bei der ich erstmal schlucken muss.

Lukas: Ja. Und die Frage ist: Entsteht da ein echter Produktivitätssprung, oder werden gerade Erwartungen aufgebläht, die sich nicht erfüllen?

Clara: Ich erlebe das in Gesprächen mit Leuten aus dem Mittelstand immer wieder. Die haben KI-Tools eingeführt, und nach ein paar Monaten fragen sie sich, ob der Aufwand wirklich gerechtfertigt war. Nicht weil die Tools schlecht sind, sondern weil die Integration viel mehr kostet als gedacht.

Lukas: Das ist ein wichtiger Punkt. Die Technologie selbst ist beeindruckend. Aber sie in bestehende Prozesse zu integrieren, Mitarbeiter mitzunehmen, Datenschutz zu klären, das kostet Zeit und Geld.

Clara: Und dann sitzt da ein Unternehmen mit einer teuren Lizenz und fragt sich, warum die Produktivität nicht durch die Decke geht.

Lukas: Experten sind gespalten. Die einen sagen, agentische KI-Systeme, also Agenten, die selbstständig Aufgaben erledigen, werden tatsächlich einen Sprung bringen. Die anderen warnen vor einer Marktkorrektur.

Clara: Ich tippe auf: beides passiert. Es wird eine Korrektur geben, manche Unternehmen werden Geld versenkt haben. Und gleichzeitig werden ein paar Anwendungsfälle wirklich transformativ sein. Die Kunst ist zu wissen, welche.

Lukas: Gut gesagt. Kurz möchte ich noch Tobit Laboratories erwähnen. Der Gründer Tobias Groten ist im Mai plötzlich gestorben, und sein 29-jähriger Sohn Ludwig übernimmt jetzt den Vorstandsvorsitz. Das Unternehmen will weiterhin konsequent auf KI setzen, mit einer eigenen Plattform namens SideKick, die generative KI sowohl in der Cloud als auch On-Premise anbietet.

Clara: Das ist eine sehr menschliche Geschichte hinter einer Technologiemeldung. Ein junger Mann, der plötzlich ein Unternehmen übernehmen muss. Ich finde es bemerkenswert, dass er das annimmt.

Lukas: Ja. Und das On-Premise-Thema ist interessant, gerade für Mittelständler, die ihre Daten nicht in die Cloud geben wollen oder dürfen.

Clara: Das ist ein echtes Bedürfnis. Viele Unternehmen, die ich kenne, wollen KI nutzen, aber keine sensiblen Daten nach außen geben. Da ist eine eigene Infrastruktur ein echter Vorteil.

Lukas: Kommen wir zu einem Thema, das mich wirklich beschäftigt: Sicherheit bei KI-Agenten. Google DeepMind hat eine sogenannte AI Control Roadmap veröffentlicht. Die Kernidee: Eigene KI-Agenten werden behandelt wie potenzielle interne Sicherheitsrisiken.

Clara: Das ist eine interessante Wendung. Google misstraut also seinen eigenen Agenten.

Lukas: Genau. Und das klingt erst paradox, ist aber eigentlich sehr vernünftig. Wenn ein Agent selbstständig handelt, kann er auch Fehler machen oder manipuliert werden. Die Roadmap kombiniert klassische Cybersicherheitsmaßnahmen wie Sandboxing mit einem neuen Ansatz: Schwächere Modelle überwachen in Echtzeit, was stärkere Modelle tun.

Clara: Also KI überwacht KI. Das klingt nach einem Kontrollsystem, das selbst wieder Kontrollbedarf hat.

Lukas: [laughs] Das ist das Turtles-all-the-way-down-Problem. Aber im Ernst: Der Ansatz basiert auf dem MITRE ATT&CK-Framework, das aus der klassischen Cybersicherheit kommt. Das ist kein Neuland, das ist bewährte Methodik auf ein neues Problem angewendet.

Clara: Was mich interessiert: Für wen ist das gedacht? Für Google intern, oder soll das ein Standard für die ganze Branche werden?

Lukas: Beides. Es gibt auch ein Grundlagenpapier für politische Entscheidungsträger. Das zeigt, dass Google hier auch regulatorisch Einfluss nehmen will.

Clara: Was ich gut finde: Dass überhaupt darüber gesprochen wird, dass Agenten Risiken darstellen können. Das ist ehrlicher als zu sagen, unsere KI ist sicher, vertraut uns einfach.

Lukas: Absolut. Und das führt direkt zur nächsten Meldung. Google hat zusammen mit Microsoft, Nvidia und Hugging Face eine offene Spezifikation namens Agentic Resource Discovery vorgestellt, kurz ARD. Die Idee: KI-Agenten sollen im Web selbstständig passende Werkzeuge und Dienste finden können, ohne dass Entwickler das vorher alles manuell konfigurieren müssen.

Clara: Also eine Art Suchmaschine für KI-Agenten.

Lukas: Genau. Anbieter beschreiben ihre Dienste in einer standardisierten JSON-Datei, Registries indexieren das, und ein Agent kann dann bei einer Aufgabe selbst nachschauen, welches Tool passt.

Clara: Das klingt praktisch. Aber ich frage mich: Was passiert, wenn ein Agent ein Tool findet und nutzt, das nicht vertrauenswürdig ist? Da sind wir wieder beim Sicherheitsthema.

Lukas: Sehr guter Punkt. Und das zeigt, wie eng Agentic Resource Discovery und die DeepMind-Sicherheits-Roadmap zusammenhängen. Je autonomer Agenten werden, desto wichtiger wird Governance.

Clara: Für mich als Anwenderin klingt ARD noch sehr nach Infrastruktur. Das ist etwas, was im Hintergrund passiert und das ich erstmal nicht direkt merke.

Lukas: Stimmt. Aber wenn es funktioniert, macht es KI-Agenten deutlich mächtiger und flexibler. Google integriert das bereits in die Gemini Enterprise Agent Platform.

Clara: Dann wird man sehen, ob das in der Praxis hält, was es verspricht.

Lukas: Zum Abschluss noch eine Meldung, die nichts mit KI-Tools zu tun hat, aber mit KI-Infrastruktur und Datenschutz. Die Datenschutzkonferenz von Bund und Ländern warnt vor einer Technologie namens ISAC, Integrated Sensing and Communication, die in künftigen 6G-Netzen stecken soll. Die Idee: Das Mobilfunknetz wird gleichzeitig zum Radarsystem, das Bewegungen und sogar Vitaldaten erfassen kann.

Clara: [sighs] Das klingt nach einem Datenschutz-Albtraum.

Lukas: Das Besonders Kritische daran: ISAC funktioniert rein physikalisch über reflektierte Funkwellen. Das bedeutet, es werden potenziell alle Personen im Strahlungsbereich erfasst, auch ohne Smartphone, auch ohne Einwilligung.

Clara: Das ist eine andere Qualität als Cookies oder App-Tracking. Da kann ich mich nicht abmelden, indem ich mein Gerät weglasse.

Lukas: Genau. Und die DSK fordert deshalb, Datenschutz schon jetzt in die 6G-Standardisierung einzubauen, nach dem Prinzip Privacy by Design. Nicht erst nachträglich.

Clara: Das ist das Vernünftigste, was man tun kann. Aber ich bin skeptisch, ob das wirklich passiert. Bei früheren Technologien wurde Datenschutz auch oft zuerst ignoriert und dann irgendwie nachgerüstet.

Lukas: Das ist leider ein realistischer Blick auf die Geschichte. Aber dass die DSK das jetzt öffentlich thematisiert, während die Standardisierung noch läuft, ist zumindest ein gutes Zeichen.

Clara: Ja. Und es zeigt, dass KI nicht im Vakuum existiert. Die Infrastruktur drumherum, Netze, Sensoren, Datenströme, das alles hat gesellschaftliche Konsequenzen.

Lukas: [pauses] Gut gesagt. Dann lass mich kurz zusammenfassen, was wir heute besprochen haben. Erstens: KI-Tools wie Copilot oder Gemini sind nicht gleich gut, und konkrete Fehlschläge zeigen, warum kritisches Testen wichtig ist. Zweitens: Kreativität und KI ist ein echtes Thema, aber Konferenzen wie Vibecon zeigen auch, dass die Diskussion noch unscharf ist. Drittens: KI-Agenten für Entwickler werden mächtiger, aber brauchen Steuerung und Sicherheitskonzepte, das zeigen sowohl Omnigent als auch DeepMinds Sicherheits-Roadmap. Viertens: Die KI-Investitionen sind gigantisch, aber ob der Produktivitätssprung kommt, ist noch offen. Und fünftens: Neue Infrastrukturtechnologien wie ISAC in 6G erfordern Datenschutz von Anfang an, nicht als Nachgedanke. Clara, ein letztes Wort von dir?

Clara: Mein Fazit: KI ist weder Zauberei noch Hype, sondern ein Werkzeug, das man kritisch einsetzen muss. Wer das tut, kann echten Nutzen ziehen. Wer blind vertraut, wird enttäuscht. Das gilt für Tools, für Agenten und für Infrastruktur. Danke, Lukas.

Lukas: Danke Clara, danke euch fürs Zuhören. Bis zur nächsten Folge von KI im echten Leben.