KI-Sicherheit unter Druck: Allianz, Claude-Lücken und Passwort-Mythen (29.07.2026)

Lukas: Herzlich willkommen zu KI im echten Leben. Ich bin Lukas, und wie immer sitzt mir Clara gegenüber, die für uns den Praxis-Check macht und immer ganz genau hinschaut, was uns die KI-Welt diese Woche wieder verspricht.

Clara: Und diese Woche gibt's einiges zu prüfen, oder? Sicherheitsallianzen, Datenlecks, müde Wissensarbeiter [laughs]. Fangen wir mit den schweren Sachen an?

Lukas: Genau, steigen wir ein bei Nvidia. Die haben zusammen mit über dreißig Tech-Konzernen die Open Secure AI Alliance gegründet. Ziel: KI-Agenten sicherer machen, offene Standards etablieren.

Clara: Klingt erstmal vernünftig. Aber wer fehlt denn da auffällig?

Lukas: Genau die drei, die man erwarten würde: OpenAI, Anthropic und Google. Also ausgerechnet die, deren Modelle gerade am meisten im Alltag und in Unternehmen laufen.

Clara: Das ist doch fast schon ironisch. Man gründet eine Sicherheitsallianz für KI-Agenten, aber die größten Anbieter von KI-Agenten sitzen nicht mit am Tisch. Was heißt das praktisch für ein Unternehmen, das gerade überlegt, Agenten einzusetzen?

Lukas: Ich glaube, es zeigt vor allem, dass es hier auch um Machtfragen geht, nicht nur um Sicherheit. Wer setzt die Standards, wer kontrolliert die Infrastruktur. Für den Mittelstand heißt das erstmal: abwarten und genau hinschauen, welches Ökosystem man sich einkauft.

Clara: Und dann kommt ausgerechnet in der gleichen Woche raus, dass Claude von Anthropic gleich mehrere Sicherheitslücken hatte. Das passt ja fast ins Bild.

Lukas: Ja, zum Beispiel bei Claude Cowork, der Mac-Version. Da konnte ein Agent aus der eigentlich abgeschotteten Sandbox ausbrechen.

Clara: Also der Agent, der eigentlich nur in seinem Kästchen spielen sollte, ist einfach rausspaziert. Das ist doch genau die Angst, die viele bei KI-Agenten auf dem eigenen Rechner haben.

Lukas: Absolut, und dazu kam noch ein Datenleck, bei dem private Chats über Suchmaschinen auffindbar waren. Also Unterhaltungen, die eigentlich niemand sehen sollte, landeten im Google-Index.

Clara: [sighs] Das ist für mich der Moment, wo ich sage: Leute, bevor ihr euren gesamten Kundenservice oder eure interne Kommunikation an so ein Tool hängt, wartet erstmal ab, bis sich der Staub gelegt hat.

Lukas: Andererseits muss man auch sagen, solche Lücken werden ja gefunden und dann meist schnell gepatcht. Das gehört zum Reifeprozess dazu.

Clara: Klar, aber für ein kleines Unternehmen ohne eigene IT-Sicherheitsabteilung ist das eben kein akademisches Detail. Wenn da Kundendaten drinstecken, ist der Schaden real, nicht theoretisch.

Lukas: Guter Punkt. Und passend dazu gibt's noch eine Meldung zu einem sogenannten Document-borne AI Worm, der sich über Copilot for Word selbst verbreiten kann. Also ein Word-Dokument, das quasi den KI-Assistenten manipuliert und sich selbst weiterschickt.

Clara: Das ist doch das klassische Muster von Computerviren, nur eben durch die KI-Integration in einem neuen Gewand. Wer hätte gedacht, dass man mal wieder über Makroviren reden muss, nur jetzt mit KI-Anstrich.

Lukas: [laughs] Genau, die Geschichte wiederholt sich, nur die Werkzeuge sind neu. Deshalb ist auch die Meldung zu Bitdefender interessant. Die haben ein Sovereign Acceleration Program gestartet, damit europäische Firmen komplett innerhalb der EU bleiben können, mit Daten, Support, allem.

Clara: Also digitale Souveränität als Antwort auf genau diese Unsicherheit. Macht für mich Sinn, gerade für Behörden oder das Gesundheitswesen. Die Frage ist nur, ob das am Ende wirklich EU-Cloud ist oder nur ein Label draufgeklebt.

Lukas: Genau das Stichwort nennen die selbst, Sovereignty Washing. Deshalb arbeiten sie mit zertifizierten Partnern wie OVHcloud zusammen, um das zu vermeiden.

Clara: Okay, das ist zumindest ein ehrlicher Ansatz. Und dann gibt's ja noch die Passwort-Geschichte zum Welt-Passwort-Tag.

Lukas: Ja, mehrere Security-Experten sagen ziemlich deutlich: starke Passwörter reichen nicht mehr, weil jetzt KI-Agenten eigene digitale Identitäten haben und Schatten-KI in Unternehmen genutzt wird, ohne dass die IT davon weiß.

Clara: Schatten-KI ist ja generell ein Riesenthema im Mittelstand. Die Mitarbeiterin nutzt heimlich ChatGPT für den Kundenbrief, der Kollege lädt Excel-Tabellen in irgendein Tool hoch, und keiner hat den Überblick, was da eigentlich mit den Daten passiert.

Lukas: Deshalb fordern die Experten eben ein zeitgemäßes Identitäts- und Passwortmanagement, das genau diese neuen KI-Identitäten mitdenkt, nicht nur den klassischen Mitarbeiter-Login.

Clara: Verstehe ich, aber ehrlich, für die meisten kleinen Betriebe ist das noch Zukunftsmusik. Die kämpfen gerade erstmal damit, überhaupt zu verstehen, was Copilot oder ChatGPT im Alltag bringt.

Lukas: Und da sind wir eigentlich schon beim nächsten großen Thema, das mich diese Woche am meisten überrascht hat. Eine Umfrage von Adaptavist zeigt: Fast drei Viertel der deutschen Wissensarbeiter wünschen sich die Zeit vor generativer KI zurück.

Clara: Drei Viertel! Das ist doch eine Ansage. Ich hätte erwartet, dass die Leute genervt sind von schlechten KI-Antworten, aber gleich die ganze Zeit davor zurückwünschen?

Lukas: 41 Prozent würden Tools wie ChatGPT sogar komplett abschaffen. Als Gründe nennen sie die Belastung durch minderwertige Ergebnisse, sinkende Motivation und eingeschränkte Kreativität.

Clara: Das deckt sich total mit dem, was ich in Gesprächen mit Selbstständigen und Wissensarbeitern höre. Viele sagen mir: Ich tippe eine Frage ein, bekomme was Halbgares, und dann sitze ich länger an der Korrektur, als wenn ich's gleich selbst geschrieben hätte.

Lukas: Genau das zeigt auch die Zahl: 39 Prozent geben an, mehr Zeit mit der Korrektur von KI-Output zu verbringen, als sie durch die Nutzung einsparen.

Clara: Das ist doch der Kern der ganzen Produktivitätsdebatte. Alle reden von Zeitersparnis, aber wenn man am Ende länger braucht, weil man nachbessern muss, wo bleibt dann der Gewinn?

Lukas: Aber jetzt kommt der spannende Widerspruch: Obwohl die Leute so frustriert sind, wünschen sich 67 Prozent sogar noch mehr KI-Einsatz im Unternehmen.

Clara: Warte, das ist doch total gegenläufig. Erst sagen sie, schafft das Zeug ab, und dann wollen sie mehr davon?

Lukas: Genau das ist die Diskrepanz, die die Studie aufzeigt. Ich lese das so: Die Leute sind nicht grundsätzlich gegen KI, sie sind frustriert von der Art, wie sie aktuell eingeführt wird. Ohne Schulung, ohne klare Prozesse, einfach reingeworfen mit der Erwartung, alles läuft besser.

Clara: Das würde erklären, warum reine Nutzungszahlen so wenig aussagen. Ein Unternehmen kann stolz verkünden, achtzig Prozent der Mitarbeiter nutzen jetzt KI-Tools, aber wenn die dabei mehr Frust als Nutzen haben, ist das kein Erfolg, sondern ein Alarmsignal.

Lukas: Für mich ist die Lehre daraus: Nicht die Tool-Einführung ist das Problem, sondern das Fehlen von Begleitung. Man muss den Leuten zeigen, wofür sich KI wirklich lohnt und wofür nicht.

Clara: Und genau da hab ich ein schönes Gegenbeispiel im Kopf, nämlich diese Geschichte mit dem Berufsschullehrer und dem Vibe Coding.

Lukas: Ah ja, Johannes Heinrich, der ohne klassische Programmierkenntnisse eine ganze Lernplattform gebaut hat, Schulspace.de, einfach über sprachliche Anweisungen an KI-Modelle.

Clara: Das ist doch genau das Gegenteil von dem, was wir gerade besprochen haben. Hier hat jemand ein konkretes Problem, will eine datenschutzfreundliche Lösung für Lernspiele, und nutzt KI gezielt, um das umzusetzen. Kein Frust, sondern ein echtes Werkzeug für ein echtes Ziel.

Lukas: Und mittlerweile nutzen über zweihundert Lehrkräfte diese Plattform. Quiz, Umfragen, Live-Tools für den Unterricht.

Clara: Das zeigt mir, dass Vibe Coding, also KI-gestütztes Programmieren ohne klassische Ausbildung, tatsächlich im Alltag von Fachexperten ankommt. Nicht als Ersatz für Entwickler, sondern als Werkzeug für Leute mit einem konkreten fachlichen Problem.

Lukas: Wobei man auch fairerweise sagen muss, das bringt neue Fragen mit sich. Wer prüft eigentlich Datenschutz und Sicherheit, wenn ein Lehrer ohne Entwicklerhintergrund eine Plattform baut, die von hunderten Schulen genutzt wird?

Clara: Stimmt, das ist der Haken. Vibe Coding macht vieles möglich, aber die Verantwortung für Qualität und Sicherheit verschwindet ja nicht einfach, nur weil die KI den Code schreibt.

Lukas: Genau deshalb finde ich diese Beispiele so wertvoll, weil sie zeigen: KI-Tools verändern, wer überhaupt zum Entwickler werden kann, aber die klassischen Fragen bleiben trotzdem bestehen.

Clara: Und dann gibt's noch die Gründerin, Catherine Leser von Penzilla, die KI-Agenten nicht nur fürs Unternehmen, sondern auch für den kompletten Familienalltag nutzt.

Lukas: Ja, mit drei Kindern und ihrem Mann als Mitgründer organisiert sie offenbar sogar Alltagsentscheidungen wie den Kauf eines Kinderwagens über ein KI-gestütztes Scoring.

Clara: Ehrlich, das finde ich einerseits charmant, andererseits auch ein bisschen too much [laughs]. Muss man wirklich einen Kinderwagen per KI-Scoring auswählen?

Lukas: [laughs] Vielleicht ist das für sie einfach die logische Konsequenz, wenn man beruflich sowieso ständig mit Automatisierung und Bewertungssystemen arbeitet.

Clara: Kann sein. Aber für mich zeigt das auch die Grenze der ganzen Debatte. Für manche Selbstständige oder Gründerinnen ist KI mittlerweile so tief im Alltag verwoben, dass sie gar nicht mehr trennen zwischen Arbeit und Privatleben. Für andere ist selbst die einfache Nutzung im Job schon überfordernd, siehe die Umfrage von vorhin.

Lukas: Das ist wahrscheinlich die eigentliche Kluft, über die wir reden sollten. Nicht KI gegen keine KI, sondern völlig unterschiedliche Reifegrade der Nutzung, je nachdem, wie viel Zeit und Verständnis jemand investiert hat.

Clara: Und dann gibt's noch die ganz kleine, fast schon witzige Meldung zur Copilot-Taste.

Lukas: Ja, viele neue Windows-Tastaturen haben ja jetzt eine Copilot-Taste statt der klassischen Strg-Taste. Und ein Entwickler namens Dan Weiss hat ein kostenloses Tool gebaut, NoCopilotKey, um die Taste wieder zurückzuverwandeln.

Clara: [laughs] Das ist doch fast schon symbolisch für die ganze Woche. Die großen Konzerne drücken KI überall rein, sogar physisch auf die Tastatur, und die Nutzer basteln sich Tools, um es wieder loszuwerden.

Lukas: Stimmt, das fasst die Stimmung eigentlich ganz gut zusammen. Es gibt echten Nutzen, aber eben auch echten Widerstand gegen KI, die einem aufgedrängt wird, statt bewusst gewählt zu werden.

Clara: Für mich ist das die zentrale Lehre aus allen Meldungen heute. Sicherheitslücken zeigen, dass die Technik noch nicht ausgereift ist. Die Umfrage zeigt, dass Einführung ohne Begleitung nach hinten losgeht. Und die guten Beispiele wie der Lehrer zeigen, dass es funktioniert, wenn ein konkretes Problem und echte Motivation dahinterstehen.

Lukas: Sehr gut zusammengefasst. Lass uns das zum Abschluss nochmal bündeln. Wir hatten heute die neue Sicherheitsallianz von Nvidia, bei der ausgerechnet die größten KI-Anbieter fehlen, dazu mehrere Sicherheitslücken bei Claude und eine ganze Reihe von Initiativen, von Bitdefenders europäischer Cloud bis zum neuen Passwortdenken im KI-Zeitalter.

Clara: Und dann die Studie zur KI-Müdigkeit, die zeigt, dass viele Wissensarbeiter frustriert sind, aber trotzdem mehr KI wollen, wenn sie richtig eingeführt wird. Plus die Beispiele vom Lehrer mit Vibe Coding und der Gründerin, die KI bis in den Familienalltag trägt.

Lukas: Mein Fazit: KI im Unternehmen funktioniert nur, wenn Sicherheit, Schulung und ein echtes Problem zusammenkommen. Reine Tool-Einführung ohne Begleitung erzeugt eher Frust als Produktivität.

Clara: Und mein Fazit als Praxis-Check: Bleibt skeptisch bei Sicherheitsversprechen, aber bleibt offen für die kleinen, konkreten Anwendungen, die wirklich einen Alltag verändern. Danke für die spannende Runde, Lukas.

Lukas: Danke dir, Clara, für den kritischen Blick wie immer. Und euch da draußen danke fürs Zuhören bei KI im echten Leben. Bis zur nächsten Folge.