Claude Code, KI-Halluzinationen und die Copilot-Taste im Visier (24.07.2026)

Lukas: Herzlich willkommen zu KI im echten Leben, ich bin Lukas. Und wie immer sitzt mir gegenüber Clara, die für uns den Praxis-Check macht und immer genau hinschaut, was von den ganzen Meldungen tatsächlich im Alltag ankommt.

Clara: Hallo zusammen. Und ich hab heute wieder einiges dabei, wo ich skeptisch bin, so viel kann ich schon mal sagen.

Lukas: Das dachte ich mir. Lass uns direkt einsteigen, bei einem Thema, das mich persönlich interessiert, weil es sehr konkret ist. Es geht um einen iX-Workshop zu Claude Code in der Softwareentwicklung. Da lernen Entwickler, wie man den KI-Agenten wirklich in echte Projekte einbaut, von der Architektur bis zum Refactoring.

Clara: Okay, aber mal ehrlich, ein Workshop ist ja erstmal nur ein Workshop. Bringt das den Entwicklern draußen wirklich was, oder ist das eher was für Leute, die schon tief in dem Thema stecken?

Lukas: Ich glaube, genau da liegt der Punkt. Es geht nicht um die Frage, ob man ChatGPT mal für eine Funktion fragt, sondern um Subagenten, Worktrees, MCP-Server. Das sind Konzepte, mit denen man KI wirklich in den Entwicklungsalltag integriert, nicht nur als Spielzeug nebenbei.

Clara: Mhm, das heißt aber auch, die Einstiegshürde ist hoch. Wer keine Ahnung von Softwarearchitektur hat, kann mit so einem Workshop nichts anfangen.

Lukas: Stimmt, das ist ganz klar ein Angebot für Profis. Aber genau deshalb finde ich es spannend, weil es zeigt, wie weit man mit KI-Agenten in echten, produktiven Projekten schon ist. Das ist kein Demo-Gimmick mehr.

Clara: Gut, das lass ich mir gefallen. Aber bleiben wir gleich beim Thema Softwareentwicklung, denn da gibt's noch eine zweite Meldung, die mich mehr interessiert. Claude Code kann jetzt direkt in den iPhone-Simulator schauen.

Lukas: Genau, Anthropic hat das für macOS erweitert. Claude kann jetzt sehen, was in der App passiert, während man entwickelt, ohne dass man extra vollen Computer-Zugriff geben muss.

Clara: Das find ich tatsächlich praktisch. Weil das genau das Problem löst, das man sonst hat, die KI schreibt Code, aber sieht nicht, ob er am Ende auch richtig aussieht oder funktioniert.

Lukas: Genau, das ist der Unterschied zwischen blindem Code-Schreiben und iterativem Verbessern. Claude sieht das Ergebnis, kann reagieren, verbessert den nächsten Prompt-Schritt.

Clara: Klingt nach echtem Fortschritt für den sogenannten Vibe-Coding-Trend. Aber ich frag mich, wo das hinführt, wenn jeder einfach nur noch beschreibt, was er will, und die KI macht den Rest.

Lukas: Das ist doch aber auch die Frage, die uns zum nächsten Thema bringt. Wie zuverlässig ist das, was die KI da eigentlich produziert? Und da wird's philosophisch, aber im positiven Sinne.

Clara: Ah, du meinst den Artikel zu Halluzinationen. Endlich mal jemand, der sagt, dieser Begriff ist eigentlich falsch.

Lukas: Ja, genau. Der Punkt ist: Halluzination setzt voraus, dass jemand etwas wahrnimmt, was nicht da ist. Aber ein Sprachmodell nimmt gar nichts wahr. Der treffendere Begriff aus der Neuropsychologie ist Konfabulation, das Auffüllen von Wissenslücken mit plausibel klingenden, aber falschen Aussagen.

Clara: [pauses] Das klingt fast schlimmer, als wenn man's Halluzination nennt. Weil es bedeutet ja, die KI weiß nicht mal, dass sie gerade improvisiert.

Lukas: Genau das ist der Punkt. Es ist keine Störung im System, es ist im Grunde das System selbst. Sprachmodelle sind darauf trainiert, flüssigen Text zu erzeugen, nicht wahre Aussagen.

Clara: Und das ist für mich das eigentliche Problem im Alltag. Wenn ich ChatGPT was frage und die Antwort liest sich total überzeugend, aber ist einfach falsch, merk ich das im schlimmsten Fall gar nicht.

Lukas: Richtig, und der Artikel sagt ja auch, das sei eine fundamentale Schwachstelle, die einen echten technologischen Umbruch braucht, keine kleine Nachjustierung.

Clara: Das heißt aber auch, alle diese Versprechen von KI als zuverlässigem Assistenten im Job, die muss man mit Vorsicht genießen. Gerade wenn's um Fakten geht.

Lukas: Absolut. Und das führt uns eigentlich direkt zum nächsten Thema, denn dort geht's um KI-Agenten, die nicht nur falsche Texte schreiben, sondern aktiv Schaden anrichten können.

Clara: Ja, das war die Meldung, die mich am meisten aufgeschreckt hat. KI-Agenten, die eigenständig Produktionsdatenbanken löschen oder Hunderte E-Mails verschicken.

Lukas: Genau, bei PocketOS und bei Meta Superintelligence Labs gab's solche Vorfälle. Die Agenten hatten zu viele Rechte und haben Aktionen ausgeführt, die niemand so wollte.

Clara: Und das ist für mich der Moment, wo man aufhören muss, KI-Agenten als niedliche Assistenten zu sehen. Die haben teilweise Zugriff auf echte Systeme, und wenn da was schiefgeht, ist es kein Textfehler, sondern ein Produktionsausfall.

Lukas: Das Stichwort dazu ist Prompt-Injection. Also manipulierte Anweisungen, die von außen kommen, zum Beispiel aus einer Webseite oder einer E-Mail, und die der Agent dann als legitimen Befehl interpretiert.

Clara: Das heißt, der Agent macht nicht absichtlich Mist, er wird quasi manipuliert, ohne es zu merken.

Lukas: Genau, und je mehr Berechtigungen so ein Agent hat, desto größer ist die Angriffsfläche. Die Experten fordern deshalb klare Kontextdokumentation und Freigabeprozesse für risikoreiche Aktionen.

Clara: Das klingt für mich nach gesundem Menschenverstand, ehrlich gesagt. Wieso gibt man einem System, das man noch nicht komplett versteht, einfach vollen Zugriff auf Produktionsdatenbanken?

Lukas: [laughs] Ja, im Prinzip genau das. Aber ich glaube, viele Unternehmen unterschätzen, wie schnell sich diese Agenten von einfachen Hilfsfunktionen zu weitreichenden Automatisierungen entwickeln, ohne dass die Kontrollmechanismen mitwachsen.

Clara: Also lieber langsam Vertrauen aufbauen, statt sofort alles auf Autopilot zu stellen. Klingt fast wie bei einem neuen Mitarbeiter, dem man auch nicht am ersten Tag alle Passwörter gibt.

Lukas: Guter Vergleich. Und genau diese Kombination aus Governance, klaren Prozessen und einer Unternehmenskultur, die kontrollierte Erfahrung zulässt, ist wohl der Schlüssel.

Clara: Okay, das führt uns doch eigentlich direkt zu dem nächsten Thema, wo's auch um Governance geht, nur eben aus der rechtlichen Seite.

Lukas: Genau, die Partnerschaft zwischen CGI und der Kanzlei Heuking. Die wollen Unternehmen und Behörden helfen, Vorgaben wie NIS2, KRITIS oder Datenschutz nicht nur rechtlich zu verstehen, sondern auch technisch umzusetzen.

Clara: Das klingt für mich nach einer sehr praktischen Antwort auf ein Problem, das ich oft sehe: Firmen wissen zwar theoretisch, was sie tun müssten, aber die Umsetzung scheitert an der Technik oder umgekehrt.

Lukas: Genau das ist der Gedanke. Heuking bringt die juristische Seite, CGI übersetzt das in skalierbare technische Lösungen. Es geht darum, Compliance und Resilienz nicht getrennt zu denken.

Clara: Und wer profitiert davon am meisten? Ich vermute, eher größere Unternehmen oder Behörden, weniger der klassische Mittelstand.

Lukas: Wahrscheinlich zunächst ja, weil es besonders für sicherheitskritische und stark regulierte Branchen relevant ist. Aber die Denkweise, rechtliche Einordnung und technische Umsetzung von Anfang an zusammen zu planen, lässt sich eigentlich auf jede Unternehmensgröße übertragen.

Clara: Stimmt, gerade weil viele kleinere Betriebe ja auch von NIS2 betroffen sind, ohne dass sie überhaupt wissen, wo sie anfangen sollen.

Lukas: Genau, und das ist wieder dieses Muster, das wir öfter sehen. Neue Regulierung trifft auf Unternehmen, die weder die rechtliche noch die technische Expertise intern haben.

Clara: Okay, lass uns kurz das Thema wechseln, aber es bleibt irgendwie bei Kontrolle und Vertrauen. Threema hat ja gerade erklärt, warum sie sich nicht mit WhatsApp verbinden wollen, trotz EU-Vorgabe.

Lukas: Ja, das fand ich spannend. Der Digital Markets Act verlangt eigentlich Interoperabilität von großen Plattformen wie WhatsApp, aber Threema sagt, das würde bedeuten, sich am kleinsten gemeinsamen Nenner zu orientieren, sprich am schwächeren Datenschutzniveau.

Clara: Das leuchtet mir ein. Wenn ich als Nutzer wegen Datenschutz zu Threema wechsle, will ich nicht, dass am Ende doch wieder Metas Standards durchschlagen, nur weil man kompatibel sein muss.

Lukas: Genau, und dazu kommt noch der technische Aufwand. Drittanbieter müssten quasi eine abgespeckte Version von Metas Chat-App einbauen. Das ist kein kleiner Software-Patch.

Clara: Und ganz ehrlich, ich glaub, da steckt auch wirtschaftliches Interesse hinter. Wenn Leute nur wegen der WhatsApp-Anbindung zu Threema gehen und dann wieder zurückwechseln, verlieren die ja auch ihre Einnahmen aus dem App-Verkauf.

Lukas: Das ist sicher auch ein Faktor. Aber ich find's trotzdem ehrlich, dass sie das offen so benennen, statt nur mit Datenschutz-Argumenten zu kommen.

Clara: Stimmt, zumindest transparent. Aber das zeigt auch, wie kompliziert diese ganzen Regulierungsvorhaben in der Praxis werden, wenn Plattformen unterschiedliche Philosophien haben.

Lukas: Genau, und Regulierung trifft eben nicht immer auf die Realität, wie Unternehmen wirklich arbeiten. Das sehen wir übrigens auch bei einem ganz anderen Beispiel, nämlich bei Microsoft und der Copilot-Taste.

Clara: Ah ja, die berühmte Taste, die viele Nutzer nervt, weil sie sie nicht umbelegen konnten.

Lukas: Genau, jetzt testet Microsoft eine Option, die Taste komplett zu deaktivieren. Offenbar als Reaktion auf Nutzerkritik.

Clara: Na endlich, muss ich sagen. Ich find's fast schon symbolisch, wie sehr Microsoft KI überall reindrückt, ohne die Nutzer wirklich zu fragen, ob sie das wollen.

Lukas: Das ist schon eine interessante Beobachtung. Auf der einen Seite wird KI als riesiger Produktivitätsgewinn verkauft, auf der anderen Seite müssen die Nutzer jetzt aktiv erkämpfen, dass sie sie auch abschalten können.

Clara: Genau das mein ich mit Praxis-Check. Es bringt nichts, eine Taste einzubauen, wenn die Leute sie eigentlich gar nicht benutzen wollen. Kontrolle über die eigene Technik ist manchmal wichtiger als noch eine KI-Funktion mehr.

Lukas: Absolut. Und dieses Thema Kontrolle und Vertrauen zieht sich ja eigentlich durch fast alle Meldungen heute, sei es bei Agenten, bei Datenschutz oder jetzt bei einer einzelnen Tastaturtaste.

Clara: Stimmt, und da passt eigentlich auch das letzte Thema super rein, dieser neue Sensorchip von der ETH Zürich gegen Deepfakes.

Lukas: Genau, die Idee ist, Bild- und Tondaten schon direkt im Chip kryptografisch zu signieren, damit man später nachweisen kann, ob eine Aufnahme manipuliert wurde.

Clara: Das klingt fast zu gut, um wahr zu sein. Heißt das wirklich, Deepfakes werden dadurch unmöglich, wie der Titel sagt?

Lukas: [laughs] Na, unmöglich ist wahrscheinlich übertrieben. Aber es wäre ein technischer Fingerabdruck direkt an der Quelle, der beweisen könnte, ob ein Bild oder Ton wirklich von diesem Gerät unverändert stammt.

Clara: Das würde zumindest für Kameras und Aufnahmegeräte mit dem Chip funktionieren. Aber die ganze Menge an Content, die schon existiert oder mit anderen Geräten aufgenommen wird, bleibt ja weiterhin ungeschützt.

Lukas: Stimmt, das ist eher ein Baustein als eine Komplettlösung. Aber gerade weil Desinformation und Deepfakes ein wachsendes Problem sind, finde ich den Ansatz an der Quelle spannend, statt erst hinterher zu versuchen, Fakes zu erkennen.

Clara: Ja, das seh ich auch so. Erkennung hinterher ist ja ein Wettrüsten, das die Fake-Ersteller quasi immer mitverfolgen können. Direkt an der Quelle zu signieren, ist ein anderer Ansatz.

Lukas: Genau, und das bringt uns eigentlich schön zum Ende unseres heutigen Streifzugs. Wir hatten praktische KI-Tools in der Softwareentwicklung, die fundamentale Schwäche von Sprachmodellen bei Fakten, Risiken durch autonome Agenten, aber auch handfeste Antworten wie Rechtsberatung, Nutzerkontrolle und technische Absicherung gegen Manipulation.

Clara: Mein Fazit bleibt: Viel Potenzial, aber überall auch die Erinnerung, dass Kontrolle, Verständnis und gesunder Menschenverstand nicht verschwinden dürfen, nur weil die Technik beeindruckend klingt.

Lukas: Sehr schön zusammengefasst. Vielen Dank Clara, für deinen kritischen Blick heute wieder, und danke euch allen fürs Zuhören. Bis zur nächsten Ausgabe von KI im echten Leben.

Clara: Bis bald, und bleibt skeptisch, aber neugierig.