KI zwischen Datenhunger, Sicherheit und Kontrolle: Chatbots, Meta, EU (18.10.2026)

Hallo, hier ist Maya von KI Kompakt. Heute geht es um Vertrauen und Kontrolle. Wer bekommt unsere Daten aus KI-Chats? Wie steuern wir Bildmodelle präziser? Wer prüft eigentlich, ob KI-Firmen sicher arbeiten? Und was darf ein Konzern wie Meta mit Webinhalten anfangen? Dazu kommt noch ein Blick nach Brüssel. Fangen wir mit den Chatbots an. Das spanische Forschungsinstitut Imdea Networks hat untersucht, was in KI-Chats im Hintergrund passiert. Das Ergebnis ist unangenehm. Sechs von neun getesteten Chatbots geben in der Webversion Informationen aus Gesprächen an Tracking- und Werbedienste weiter. Darunter sind ChatGPT, Claude und Gemini. Bei den Android-Apps trifft das immerhin noch auf drei von acht Anbietern zu. Konkret ging es um Chat-Titel, Chat-Links, Prompts und in einem Fall sogar um Screenshots. Empfänger waren unter anderem Google, Meta und Tiktok. Am weitesten geht laut den Forschern Grok. Dort landen Titel und Links bei sieben Werbe- und Analysediensten. Ein Beispiel: Jemand fragt nach einer Hypothek bei 85.000 Dollar Gehalt. Der automatisch erzeugte Titel lautet dann "$85k NYC Salary: $280k-$350k Mortgage". Das ist ziemlich persönlich, und genau so etwas wandert weiter. Bei Grok sind Chat-Links außerdem standardmäßig öffentlich abrufbar. Wer einen geteilten Chat öffnet, schickt Titel und letzten Prompt an Meta und Tiktok. Tiktok bekommt zusätzlich einen Screenshot. Die Forscher haben mit Köder-Links getestet. Sie registrierten 70 Abrufe von 70 IP-Adressen aus 14 Ländern, teils Tage nach dem Gespräch. Bei ChatGPT und Claude sieht es etwas anders aus. Sie schickten keine Titel, aber Chat-Links und Kennungen an Dienste wie Datadog und Intercom. Die Autoren sagen selbst, dass das auch der Fehlerüberwachung oder dem Support dienen kann. Es ist also nicht automatisch Werbung. Trotzdem fließen Daten ab. Gemini, Grok und Mistral übermittelten in den Apps automatisch erzeugte Chat-Titel. Noch ein Punkt: Bei vier von neun kostenlosen Diensten sammeln Tracker auch dann weiter, wenn man nicht notwendige Cookies ablehnt. Und zwischen kostenlosen und bezahlten Konten gibt es kaum Unterschiede. Die Forscher haben im April Datenschutzbehörden in der EU und Großbritannien informiert. xAI hat nicht geantwortet. Google verweist darauf, dass Google Analytics der Leistungsüberwachung von Gemini dient. Was heißt das für euch? Für Unternehmen ist das ein klares Signal. Wer Chatbots im Arbeitsalltag nutzt, sollte genau prüfen, was in Prompts landet. Kundendaten, Finanzdaten oder interne Strategien gehören nicht einfach in einen Webchat. Und Grok-Links sollte man wirklich nur teilen, wenn man weiß, dass sie öffentlich sind. Für Datenschutzbeauftragte liefert die Studie jetzt konkrete Belege. Das dürfte die Debatte in Europa weiter anheizen. Dann zu einem erfreulicheren Thema, nämlich Bildgenerierung. Hier geht es um Nano Banana, das Bildmodell von Google. Ein Artikel von t3n erklärt, warum selbst gute Prompts oft nicht das liefern, was man will. Der Grund ist simpel. Bildmodelle berechnen Wahrscheinlichkeiten. Sie verstehen Anweisungen nicht wie ein Mensch. Das Beispiel dazu: "warmes Licht". Das kann ein Sonnenuntergang sein. Es kann aber auch eine warmweiße Glühbirne aus dem Supermarkt sein. Das Modell muss raten. Die Lösung heißt Referenzbilder. Statt Licht, Stil oder Komposition umständlich zu beschreiben, zeigt man sie dem Modell direkt. Der Text wird dann nur noch zum begleitenden Änderungsauftrag. Das Prinzip funktioniert laut Artikel modellübergreifend. Man kann es auch auf OpenAIs neuestes Bildmodell, ChatGPT Image 2.0, übertragen. Der zweite Tipp betrifft Workflow-Tools wie Krea oder Flora AI. Dort liegen Text-, Bild- und Videobausteine auf einer gemeinsamen Arbeitsfläche. Ein Referenzbild lässt sich vom Canvas in beliebig viele Szenen ziehen. Man muss es nicht neu hochladen, und der Kontext geht nicht verloren. Für Marketing-Teams ist das spannend. Stile, Figuren und Produkte bleiben über mehrere Bilder hinweg konsistent. Der Artikel ist ehrlich: Die Einarbeitung kostet Zeit, und die Tool-Landschaft ändert sich schnell. Das Prinzip bleibt aber gleich. Und genau darauf sollte man setzen, nicht auf ein einzelnes Tool. Jetzt zur Sicherheit. Bei OpenAI gibt es Streit. Drei ehemalige Mitarbeiter aus dem Bereich KI-Sicherheit wurden entlassen: Tomek Korbak, Jasmine Wang und Mikita Balesni. Der Vorwurf lautet, sie hätten interne Informationen weitergegeben. Die drei bestreiten das. In einem offenen Brief, den Balesni auf X veröffentlicht hat, warnen sie, dass OpenAI KI nicht allein sicher machen kann. Der Brief richtet sich an drei interne Gremien: das Safety and Security Committee, die Safety Advisory Group und den Mission Advisory Council. Balesni schreibt, ihnen sei nicht schriftlich mitgeteilt worden, warum sie gehen mussten. Im Abschlussgespräch hieß es laut ihm, OpenAI vertraue ihm nicht mehr, weil er zu oft mit anderen Organisationen gesprochen habe. Das deute auf eine Weitergabe von Unternehmensgeheimnissen hin. Balesni sagt dagegen, seine Arbeit sei jederzeit mit Führungskräften, der Leitung der Research-Abteilung und dem Vorstand abgestimmt gewesen. Die Ex-Mitarbeiter haben zwei Hauptforderungen. Erstens soll OpenAI sein Versprechen einlösen, externen Rat und Sicherheits-Audits einzuholen. Das hatte Sam Altman zugesagt. Dazu gehört Zugang für unabhängige Sicherheitsexperten, so wie ihn auch OpenAI-Mitarbeiter haben. Zweitens geht es um die Überwachbarkeit von Modellen. Man wisse nicht, wie sich nicht überwachbare Modelle sicher entwickeln und veröffentlichen ließen. Und die Überwachbarkeit von Frontier-Modellen nehme ab. Das Argument dahinter ist wichtig. Der Austausch mit Externen innerhalb definierter Prozesse sei ein essenzieller Sicherheitsmechanismus, sagen die drei. Wer Angst vor Konsequenzen hat, schweigt. Und dann bleiben Sorgen unbemerkt. Die Ex-Mitarbeiter sprechen vom gravierenden Risiko, dass eine Katastrophe passiert. Dazu passt: OpenAI hatte zuvor bereits sein Krisen-Team für KI-Sicherheit aufgelöst. Das ist erst einmal die Sicht der Betroffenen. Eine ausführliche Gegenposition liegt hier nicht vor. Aber die Frage bleibt bestehen, wie viel unabhängige Kontrolle bei den großen Anbietern wirklich möglich ist. Von der Sicherheit zur Regulierung. Die EU-Kommission will mehr KI-Fachkräfte gewinnen und die KI-Kompetenz stärken. Der rechtliche Hebel ist Artikel 4 des AI Act. Er verlangt von Anbietern und Betreibern von KI-Systemen, dass sie Maßnahmen zur KI-Kompetenz ihres Personals ergreifen. Der Artikel gilt seit dem 2. Februar 2025. Durch den Digital Omnibus wurde er geändert. Der schreibt kein bestimmtes Kompetenzniveau mehr vor. Das nimmt etwas Druck raus, besonders für kleinere Firmen. Wichtig für Unternehmen: Die nationalen Marktüberwachungsbehörden beginnen am 2. August 2026 mit der Aufsicht und Durchsetzung von Artikel 4. Wer bisher nichts dokumentiert hat, sollte sich das jetzt ansehen. Kommission und Mitgliedstaaten sollen vor allem kleine und mittlere Unternehmen unterstützen, auch mit praktischen Beispielen. Das KI-Büro hat dafür Fragen und Antworten veröffentlicht und ein Verzeichnis mit mehr als 40 Initiativen gestartet. Das KI-Gremium soll zusätzlich Empfehlungen verabschieden. Dazu kommt der KI-Kontinent-Aktionsplan vom April 2025. Er sieht die AI Skills Academy vor, mit einem Pilotstudiengang zu generativer KI und einem Ausbildungsprogramm. Außerdem gibt es Förderformate, um mehr Frauen für KI zu gewinnen. Über das Programm "MSCA Choose Europe" sollen Hochschulen internationale Talente anwerben können, mit Fördermitteln und langfristigen Perspektiven wie unbefristeten Stellen. Das klingt nach Papier, ist aber relevant. Europa kämpft um Talente, und die Pflicht zur Kompetenz landet direkt bei den Firmen. Zum Schluss noch Meta. Das Unternehmen hatte seine kommerziellen Nutzungsbedingungen angepasst. Danach durfte Meta Inhalte von Domains, Webseiten und URLs eines Geschäftskontos nutzen, um Produkte und Dienste bereitzustellen, zu entwickeln, zu verbessern, zu erforschen und zu trainieren. Rechtsexperten lasen das als mögliche Erlaubnis, Publisher-Webseiten für das Training von KI-Modellen auszulesen. Nach der Kritik hat Meta die Passage entfernt. Das Unternehmen betont, die Regelung habe nur Werbe- und Geschäftsprodukte betroffen. An der Arbeitsweise der Web-Crawler habe sich nichts geändert. Warum ist das relevant? Das Thema Urheberrecht und Trainingsdaten ist ein Dauerbrenner. Verlage und Webseitenbetreiber achten genau darauf, wie Nutzungsbedingungen formuliert sind. Schon unklare Formulierungen reichen, damit Misstrauen entsteht. Wer ein Geschäftskonto bei einer großen Plattform hat, sollte AGB-Änderungen deshalb nicht einfach durchwinken. Wenn man alles zusammennimmt, zeigt sich ein Muster. KI wird leistungsfähiger und überall eingebaut. Gleichzeitig wird klarer, wie wenig Transparenz es gibt: bei Chat-Daten, bei Trainingsrechten und bei der Sicherheit in den Labs. Die Regulierung in Europa setzt auf Kompetenz und Aufsicht. Für Anwender heißt das, genauer hinzuschauen und das eigene Wissen auszubauen. Das gilt bei Prompts genauso wie bei Bildmodellen. Das war es für heute. Ich freue mich auf morgen. Bis dann! Übrigens: Dieser Podcast ist vollständig KI-generiert. Alle Quellen und Hintergründe findet ihr auf unserer Website.