Ethischer Datenaustausch, EU-KI-Kompetenzen und Groks Sicherheitsleck (13.07.2026)

Hallo, hier ist Leoni von KI Kompakt. Schön, dass ihr wieder dabei seid. Heute geht es um ein Thema, das sich durch fast alle Meldungen zieht: Vertrauen. Vertrauen in Daten, Vertrauen in Tools, und die Frage, wer eigentlich Kontrolle über KI-Systeme hat. Klingt abstrakt, wird aber ziemlich konkret, wenn wir uns die News von heute anschauen. Starten wir mit einem Bericht aus dem OECD AI Policy Observatory. Das VIADUCT-Projekt hat sich mit einem Paradox beschäftigt, das viele Entwickler kennen. Das Internet ist voll mit Daten. Trotzdem fehlt es an hochwertigen, wirklich nutzbaren Datensätzen. Gleichzeitig liegen wertvolle Datenbestände oft ungenutzt in privaten Datenbanken. Das klassische Web-Scraping, also einfach alles abgreifen, was irgendwo im Netz steht, stößt zunehmend an rechtliche und qualitative Grenzen. Der Bericht schlägt deshalb einen systemischeren Ansatz vor, der Recht, Wirtschaft und Technik zusammendenkt. Drei Prinzipien stehen dabei im Zentrum. Rechtskonformität, Vertrauen zwischen denen, die Daten geben, und denen, die sie nutzen, sowie Fairness bei Nutzen und Anerkennung. Für Unternehmen heißt das im Kern, dass der Wettlauf um Trainingsdaten künftig weniger über Masse und mehr über Kooperation und klare Regeln laufen wird. Und genau bei Regeln sind wir auch schon beim nächsten Thema. Die EU-Kommission treibt im Rahmen des AI Act weiter voran, wie KI-Kompetenz in Unternehmen aufgebaut werden soll. Seit Februar ist Artikel 4 in Kraft, der Anbieter und Betreiber von KI-Systemen verpflichtet, für ausreichende KI-Kompetenz ihres Personals zu sorgen. Das ist keine Kleinigkeit, denn viele Firmen fragen sich gerade, was das konkret bedeutet. Die KI-Behörde hat deshalb ein Repository mit über vierzig Praxisbeispielen veröffentlicht, dazu Frage-und-Antwort-Dokumente. Ergänzt wird das durch größere Programme wie den AI Continent Action Plan, die Apply-AI-Strategie und die Union of Skills, inklusive einer geplanten AI Skills Academy und Fellowship-Programmen. Die Stoßrichtung ist klar. Europa will nicht nur regulieren, sondern auch Fachkräfte aufbauen und die eigene Wettbewerbsfähigkeit sichern. Für den Mittelstand ist das relevant, weil Weiterbildung damit nicht mehr nur nice to have ist, sondern zunehmend Teil der Compliance wird. Jetzt kommen wir zu einem Thema, das zeigt, warum Vertrauen in KI-Tools keine akademische Frage ist, sondern ganz praktisch schiefgehen kann. Ein unabhängiger Sicherheitsforscher hat sich die Grok-Build-CLI von xAI genauer angeschaut, also das Kommandozeilen-Tool für Entwickler. Mit einer Analyse des Netzwerkverkehrs hat er nachgewiesen, dass das Tool Dateiinhalte unverschlüsselt an xAI übermittelt. Und das schließt sensible Dateien mit ein, etwa eine Env-Datei mit Zugangsdaten. Noch brisanter: Die CLI lädt offenbar unabhängig davon, welche Dateien der Agent tatsächlich braucht, das komplette Repository inklusive Git-Historie in einen Cloud-Speicher von xAI hoch. Bei einem Test mit einem zwölf Gigabyte großen Repository wurden über fünf Gigabyte Daten übertragen, ohne erkennbare Begrenzung. Besonders kritisch ist, dass diese Funktion standardmäßig aktiv ist, in der Dokumentation nicht klar kommuniziert wird und sich selbst dann nicht abschalten lässt, wenn man die Option zur Modellverbesserung deaktiviert. Ob xAI die Daten wirklich zum Training nutzt, ist offen. Aber allein das Ausmaß an unkontrolliertem Datenabfluss ist für jedes Unternehmen, das mit Code-Agenten arbeitet, ein Weckruf. Wer solche Tools in sensiblen Projekten einsetzt, sollte den Netzwerkverkehr im Zweifel selbst prüfen, statt sich blind auf Standardeinstellungen zu verlassen. Zum Vergleich ein Blick auf einen anderen großen Anbieter von Coding-Agenten. Anthropic hat sein Entwickler-Tool Claude Code um eine eingebaute Browser-Funktion erweitert. Die KI kann damit direkt im Web interagieren, statt nur mit lokalem Code zu arbeiten. Details zur genauen technischen Umsetzung sind noch spärlich, aber die Richtung ist klar. Auch Anthropic baut Agenten, die zunehmend eigenständig im Netz unterwegs sind. Und genau das macht die Frage aus der vorherigen Meldung noch relevanter. Je mehr Agenten selbstständig browsen, Dateien lesen und Daten verschicken, desto wichtiger wird Transparenz darüber, was im Hintergrund eigentlich passiert. Diese Sorge um Kontrolle und Souveränität zieht sich auch durch ein drittes Thema, nämlich lokal betriebene KI-Anwendungen als Alternative zu den großen Cloud-Diensten. Die Idee dahinter, auch mit begrenzter Hardware digitale Souveränität zu behalten, statt alle Daten und Anfragen an große Anbieter wie OpenAI, Google oder xAI zu schicken. Gerade nach der Meldung zu Grok wirkt dieser Trend besonders nachvollziehbar. Wer eigene Modelle lokal laufen lässt, und dank Open-Source-Modellen wie denen von Mistral oder GLM ist das heute realistischer als noch vor zwei Jahren, behält schlicht mehr Kontrolle darüber, welche Daten das eigene Netzwerk überhaupt verlassen. Am Rande noch ein kleiner kultureller Seitenblick. Bei einem Festival in Madrid hat die Musikerin Lorde öffentlich Kritik an KI-Brillen geäußert, ohne einen Hersteller direkt zu nennen. Vermutlich ging es dabei um die Ray-Ban-Meta-Brille, ein Sponsor des Festivals. Das zeigt, dass smarte KI-Hardware, die ständig mithört und mitfilmt, in der breiten Öffentlichkeit noch längst nicht überall auf Akzeptanz stößt. Auch das ist am Ende eine Vertrauensfrage, nur eben auf der Konsumentenseite statt bei Entwicklern. Wenn man die heutigen Themen zusammennimmt, ergibt sich ein ziemlich stimmiges Bild. Auf der einen Seite arbeitet die Politik daran, faire Regeln für Daten und mehr KI-Kompetenz in der Breite zu schaffen. Auf der anderen Seite zeigt der Fall rund um die Grok-CLI, wie schnell genau dieses Vertrauen praktisch untergraben werden kann, wenn Tools mehr Daten sammeln, als Nutzer erwarten. Und dazwischen entwickeln sich zwei Gegenbewegungen. Große Anbieter wie Anthropic bauen ihre Agenten immer mächtiger aus, während gleichzeitig das Interesse an lokalen, selbstkontrollierten KI-Lösungen wächst. Für Unternehmen und Entwickler heißt das im Kern, genauer hinzuschauen, welche Tools man einsetzt, welche Daten dabei wirklich fließen, und wo man vielleicht bewusst auf mehr Kontrolle statt auf maximale Bequemlichkeit setzt. Das war’s für heute von mir. Ich freue mich schon auf morgen, wenn es wieder frische KI-News gibt. Bis dann, macht’s gut.