KI-Kontrolle, ChatGPT-Lücke und Trumps Zoll-Drohung an die EU (25.07.2026)

Hallo, hier ist Sarah von KI Kompakt. Schön, dass ihr wieder dabei seid. Heute geht es um ein Thema, das sich wie ein roter Faden durch fast alle News zieht: Tempo versus Kontrolle. Überall sehen wir, dass Unternehmen und Staaten KI super schnell einsetzen, aber die Frage, wie man das Ganze sicher und verantwortungsvoll steuert, hinkt oft hinterher. Schauen wir uns das mal genauer an. Fangen wir mit einer Studie von VentureBeat an, die wirklich aufschlussreich ist. Über fünfhundert Unternehmen wurden befragt, und das Ergebnis ist ziemlich deutlich. KI-Agenten werden eingeführt, bevor die nötigen Kontrollmechanismen überhaupt stehen. Fast siebzig Prozent der Firmen teilen sich Zugangsdaten zwischen mehreren Agenten. Das klingt erstmal harmlos, ist aber ein riesiges Sicherheitsrisiko. Stellt euch vor, ein Agent hat plötzlich Zugriff auf Systeme, für die er eigentlich nie freigeschaltet werden sollte, nur weil er sich Credentials mit einem anderen Agenten teilt. Noch spannender: Nur fünf Prozent der Unternehmen vertrauen ihren eigenen Bewertungssystemen für automatisierte Freigaben vollständig. Das heißt, selbst die Firmen, die diese Technologie einsetzen, sind sich nicht sicher, ob ihre eigenen Kontrollmechanismen überhaupt funktionieren. Dazu kommt, dass die teuer eingekaufte GPU-Power oft nur zur Hälfte ausgelastet ist. Also viel Geld, wenig Effizienz. Kein Wunder, dass in allen untersuchten Bereichen mehr als die Hälfte der Unternehmen plant, innerhalb eines Jahres ihre Anbieter zu wechseln oder zu ergänzen. Das zeigt: Der Markt für KI-Governance-Tools wird sich in den nächsten Monaten ordentlich bewegen. Und dass diese Sorge um Sicherheit absolut berechtigt ist, zeigt die zweite Meldung direkt im Anschluss. Bei ChatGPT wurde eine Schwachstelle bei den sogenannten Workspace-Agents entdeckt. Mit einem gefälschten Link lässt sich ein KI-Agent in Teams oder Organisationen einschleusen, der dann sensible Daten abgreifen kann. Das ist genau das Szenario, vor dem Sicherheitsexperten schon länger warnen. Je mehr Rechte und Autonomie man KI-Agenten gibt, desto attraktiver werden sie als Angriffsfläche. Für Unternehmen heißt das ganz konkret: Wer Agenten produktiv einsetzt, sollte genauso viel Energie in Identitätsmanagement und Zugriffskontrollen stecken wie in die eigentliche Automatisierung. Sonst öffnet man Tür und Tor für genau die Art von Angriffen, die hier beschrieben wird. Ein völlig anderes Einsatzfeld, aber mit ähnlicher Grundidee, zeigt sich im Verteidigungsbereich. Die USA haben erstmals im Nahen Osten ein Anti-Drohnen-System namens Merops eingesetzt, das teils auf künstlicher Intelligenz basiert. Das System hat sich bereits in der Ukraine bewährt, dort wurden damit über tausend russische Shahed-Drohnen abgeschossen. Interessant ist der Kostenfaktor: Eine Abfangdrohne kostet etwa fünfzehntausend Dollar, das ist im Vergleich zu klassischen Raketensystemen richtig günstig. Auch mehrere osteuropäische NATO-Staaten wie Polen, Rumänien und Litauen setzen inzwischen auf dieses System. Das zeigt einen klaren Trend in der Verteidigungsindustrie. KI-gestützte, kostengünstige Systeme verändern gerade, wie moderne Luftverteidigung funktioniert. Auch hier gilt aber: Autonomie und Geschwindigkeit bringen neue Fragen zur Kontrolle und Verantwortung mit sich, gerade wenn KI-Systeme im militärischen Kontext eigenständig Entscheidungen treffen. Kommen wir zu einem Thema, das oft übersehen wird, aber die Grundlage für alles ist, was wir sonst besprechen. Die Verfügbarkeit von Trainingsdaten. Ein Report der OECD beschäftigt sich mit der Frage, wie man KI-Trainingsdaten nachhaltiger und ethischer beschaffen kann. Paradox ist ja: Einerseits gibt es im Internet unglaublich viele Daten, andererseits werden qualitativ hochwertige, rechtlich saubere Trainingsdaten immer knapper. Das Projekt VIADUCT schaut sich an, wie man Scraping-Grenzen setzen kann, wie Urheberrecht und Datenschutzregeln wie die DSGVO berücksichtigt werden können, und wie man Vertrauen und Fairness in diesen Datenökosystemen aufbaut. Für die Zukunft der KI-Entwicklung ist das ein zentrales Thema. Wenn die großen Modelle irgendwann nicht mehr genug frische, hochwertige Daten bekommen, wird das die Weiterentwicklung deutlich bremsen. Ethische und nachhaltige Datenbeschaffung ist deshalb kein Nice-to-have, sondern eine echte strategische Frage für die gesamte Branche. Etwas bodenständiger wird es beim Thema Steuererklärung. Ein Test hat KI-Steuerhelfer wie SteuerGPT, Alma und ChatGPT unter die Lupe genommen. Immer mehr Steuersoftware integriert Conversational AI, die einen in Alltagssprache durch die Erklärung führt, Belege ausliest und erklärt, was man absetzen kann. Klingt komfortabel, und ist es in vielen Fällen auch. Aber der Test zeigt auch klar: Ein menschlicher Steuerberater wird dadurch noch nicht ersetzt. Gerade bei komplexeren Fällen brauchen diese Tools noch Unterstützung. Für Privatanwender heißt das: Super als erste Orientierung und für einfache Fälle, aber bei komplizierteren Steuersituationen lieber noch mal fachlich absichern lassen. Auf regulatorischer Seite tut sich einiges bei der EU. Die Europäische Kommission will die KI-Kompetenz in Europa stärken, das ist im AI Act ja auch vorgeschrieben. Es gibt jetzt einen Fragen-und-Antworten-Leitfaden und eine Sammlung mit über vierzig Praxisbeispielen, wie Unternehmen KI-Literacy im Alltag umsetzen können. Ergänzt wird das durch Initiativen wie den AI Continent Action Plan und die Apply AI Strategy, die sich um Ausbildung und Weiterqualifizierung von KI-Talenten kümmern. Das ist ein wichtiger Baustein, denn Regulierung allein reicht nicht, wenn Unternehmen und Beschäftigte nicht wissen, wie sie KI sinnvoll und sicher einsetzen. Gleichzeitig zeigt sich aber, dass die EU-Regulierung auch politisch für Zündstoff sorgt. Nach einer Kartellstrafe von rund achthundertneunzig Millionen Euro gegen Google hat Donald Trump eine Handelsuntersuchung gegen die EU angedroht. Er wirft der EU vor, gezielt US-Techkonzerne wie Google, Apple, Meta und Amazon zu bestrafen. Die aktuelle Strafe basiert auf dem Digital Markets Act, mit dem die EU verhindern will, dass Google eigene Dienste in Suche und Play Store bevorzugt. Das zeigt, wie eng KI-Regulierung inzwischen mit großer transatlantischer Handelspolitik verknüpft ist. Für europäische Unternehmen und Entwickler ist das relevant, weil sich dieser Konflikt direkt auf die Rahmenbedingungen auswirken könnte, unter denen große Plattformen und ihre KI-Dienste hier operieren dürfen. Zum Abschluss noch ein Blick in die Wirtschaft. SAP kann überraschend viele Cloudverträge abschließen und der Cloud-Umsatz steigt spürbar. Trotzdem senkt der Konzern die Ergebnisprognose, unter anderem wegen Übernahmen und laufender KI-Initiativen. Das zeigt ganz gut, wie es vielen großen Softwareanbietern gerade geht. Das Interesse an KI-gestützten Cloud-Lösungen ist da, aber die Investitionen in neue Technologien und Zukäufe drücken kurzfristig auf die Marge. Ein Muster, das wir bei vielen Tech-Konzernen aktuell sehen. Wenn man alle diese Meldungen zusammennimmt, ergibt sich ein ziemlich klares Bild. KI wird schneller eingesetzt, als Kontrolle, Sicherheit und Regulierung nachziehen können, egal ob es um Unternehmensagenten, Trainingsdaten, Verteidigungssysteme oder die politische Ebene zwischen EU und USA geht. So, das war's für heute von mir. Ich freu mich schon aufs nächste Mal, bis morgen.