KI-Chatbots verraten Gespräche, Unternehmen bremsen bei KI-Einsatz (14.10.2026)

Hallo, hier ist Maya von KI Kompakt. Heute geht es um eine Frage, die sich durch fast alle Meldungen zieht: Wie viel Kontrolle haben wir eigentlich über KI, wenn sie im Alltag und im Unternehmen ankommt? Es geht um Chatbots, die Daten weitergeben, um Agenten, die selbst bezahlen, um Firmen, die auf die Bremse treten, und um neue Regeln aus Brüssel. Fangen wir mit dem Datenschutz an. Das Forschungsinstitut IMDEA Networks hat neun KI-Chatbots untersucht: ChatGPT, Claude, Perplexity, Grok, Gemini, Mistral, Meta AI, DeepSeek und Microsoft Copilot. Das Ergebnis ist unangenehm. Sechs der neun Webversionen geben Informationen aus Gesprächen an Tracking- und Werbedienste weiter. Bei den Android-Apps waren es drei von acht. Empfänger sind unter anderem Google, Meta und TikTok. Was wird da konkret übermittelt? Zum Beispiel automatisch erzeugte Chat-Titel. Bei Gemini, Grok und Mistral landeten Titel wie „Parkinson-Symptome im Frühstadium“ bei Dritten. Das ist ein Gesundheitsthema, und es steht im Klartext in der Überschrift. Dazu kommen E-Mail-Adressen und Nutzer-IDs. Bei Anthropic, Mistral und Perplexity wurden laut Studie E-Mail-Adressen weitergegeben. Am weitesten geht es bei Grok. Dort sind geteilte Chats standardmäßig öffentlich. Meta bekam Titel und letzten Prompt, TikTok sogar einen Screenshot der Unterhaltung. Die Forschenden haben außerdem Köder-Links in geteilten Grok-Chats ausgelegt. Das Ergebnis waren 70 Abrufe von 70 IP-Adressen aus 14 Ländern, teils Tage nach dem Gespräch. Und noch ein Detail: Wer alle nicht notwendigen Cookies ablehnt, wird trotzdem getrackt. 80,8 Prozent der beobachteten Drittanbieter-Tracker blieben aktiv. Google erklärt, Analytics diene bei Gemini der Leistungsüberwachung und Störungserkennung. xAI, Mistral und Perplexity haben auf die Anfrage nicht geantwortet. Die spanische Datenschutzbehörde AEPD hat inzwischen eine Beratung im Europäischen Datenschutzausschuss beantragt. Für Unternehmen heißt das ganz praktisch: Sensible Inhalte gehören nicht in Chat-Titel oder geteilte Links. Und wer Chatbots im Betrieb einsetzt, sollte genau prüfen, welche Variante er nutzt. Damit zu den Agenten, die man künftig noch weniger im Blick hat. Anchor Browser hat sich mit Amazon Bedrock AgentCore payments verbunden. Das Ziel: KI-Agenten sollen kostenpflichtige Seiten und APIs selbstständig bezahlen können. Technisch läuft das über das x402-Protokoll. Stößt der Agent auf eine HTTP-402-Antwort, also „Zahlung erforderlich“, bezahlt er und wiederholt die Anfrage genau einmal, alles in derselben Browser-Sitzung. Spannend ist die Sicherheitsarchitektur. Wallet-Zugang, Signierung und Ausgabenlimits liegen in einer verwalteten Infrastruktur. Private Schlüssel gelangen also nie in die Laufzeitumgebung des Agenten. Als Wallet-Anbieter werden Coinbase Developer Platform und Stripe Privy unterstützt. Über Amazon CloudWatch sieht man Zahlungsversuche, Genehmigungen und Ablehnungen. Aktiviert wird das Ganze über eine einzige Einstellung, session.x402 auf true. Der Standard ist false, denn die Einstellung autorisiert echte Zahlungen. Meine Einordnung: Das ist ein Baustein für eine Agenten-Wirtschaft, in der Software für Inhalte und Dienste bezahlt, ohne dass ein Mensch klickt. Für Entwickler ist das bequem, vor allem weil bestehende Playwright- oder Puppeteer-Workflows unverändert weiterlaufen. Gleichzeitig steigt der Bedarf an Budgetgrenzen und Protokollierung. Wer Agenten Geld in die Hand gibt, braucht klare Limits. Und das führt direkt zur nächsten Meldung. Denn in vielen Unternehmen zeigt sich gerade, dass der schnelle Einstieg nicht immer der gute war. Der Guardian beschreibt, dass viele Firmen ihren KI-Einsatz wieder einschränken. Gründe sind Fehler, schwache Arbeitsergebnisse sowie Sicherheits- und Datenschutzrisiken. Meta hat Stellenstreichungen und den verstärkten Einsatz von KI-Agenten zurückgefahren. Palantir, Booz Allen Hamilton und Nvidia beschränken laut Reuters die Nutzung durch Mitarbeitende, weil sie ihre Daten bei KI-Anbietern gefährdet sehen. Die Zahlen dazu sind ernüchternd. Laut einem Arbeitspapier der Atlanta Fed sagen 90 Prozent der befragten Führungskräfte, KI-Initiativen hätten sich bei ihnen noch nicht in Produktivitätsgewinnen niedergeschlagen. In einer Umfrage von Ernst & Young meldeten 36 Prozent der KI-Verantwortlichen in Großunternehmen einen KI-Vorfall, etwa mit Datenverlust, finanziellem oder Markenschaden. Und eine Studie der University of Pittsburgh fand keinen Produktivitätsanstieg nach KI-Investitionen und Entlassungen. Trotzdem nannten in den USA 2026 bislang mehr als 112.000 angekündigte Stellenstreichungen KI als Grund. Ein Fall zeigt, wie teuer Schlamperei werden kann. Im Prozess gegen 3M um eine Gasexplosion in Houston wurde das Unternehmen zu 61,5 Millionen Dollar verurteilt. Der Gutachter hatte laut Chatprotokollen ChatGPT genutzt, obwohl er 3M 90.000 Dollar berechnet hatte. Und bei Walmart klagen Beschäftigte über Tools mit unsinnigen Laufrouten und unrealistischen Dienstplänen. Microsofts Strategiechefin Kathleen Hogan bringt es auf den Punkt: Zugang und Nutzung bedeuten noch keine Transformation. Ein fehlerhafter Prozess bleibt auch mit KI-Agenten fehlerhaft. Besser funktionierte die Kombination aus Nachwuchsingenieuren und erfahrenen Kollegen. Dazu passt eine Indeed-Umfrage: Mehr als die Hälfte der Beschäftigten sagt, sie bekomme nicht die nötige KI-Schulung. Nur 45 Prozent der Manager fühlen sich gerüstet, KI-affine Mitarbeitende zu führen. Für den Mittelstand ist das eine gute Nachricht, wenn man sie richtig liest. Man muss nicht der Schnellste sein. Man muss erst Prozesse und Menschen vorbereiten. Genau da setzt die EU an. Die Kommission will mehr KI-Fachleute ausbilden und anwerben und die KI-Kompetenz in der Breite verbessern. Artikel 4 des KI-Gesetzes verpflichtet Anbieter und Betreiber, die KI-Kompetenz ihres Personals zu fördern. Die Pflicht gilt seit dem 2. Februar 2025. Durch den Digital Omnibus, der Mitte Juli 2026 in Kraft trat, ist allerdings kein bestimmtes Kompetenzniveau mehr vorgeschrieben. Ab dem 2. August 2026 beaufsichtigen die nationalen Marktüberwachungsbehörden die Einhaltung. Hilfestellung kommt vom AI Office. Es hat ein Verzeichnis mit mehr als 40 Beispielen für KI-Kompetenzinitiativen von Unternehmen und öffentlichem Sektor gestartet. Wichtig: Wer diese Beispiele einfach nachahmt, hat damit nicht automatisch die Vorgaben erfüllt. Ergänzend gibt es den KI-Kontinent-Aktionsplan mit einer AI Skills Academy, Stipendien und Wiedereinstiegsangeboten, um mehr Frauen für KI zu gewinnen. Die Aktion „MSCA Choose Europe“ kofinanziert die Anwerbung internationaler KI-Forschender. Für Unternehmen heißt das: Schulung ist nicht nur Kür, sie ist Pflicht und zugleich der Hebel, der laut den Studien oft fehlt. Zum Schluss noch drei Meldungen aus dem Markt. Erstens: Character.ai hat in den USA Gläubigerschutz beantragt und muss ohne Käufer schließen. Das Unternehmen ist erst fünf Jahre alt. Eltern, deren Kinder sich nach Chats mit dem Bot das Leben nahmen, bangen nun um ihren Schadenersatz. Disney bietet 20 Millionen Dollar für ausgewählte Forderungen und eine nicht-exklusive Lizenz für bestimmte Rechte. Im Verfahren darf aber noch jemand überbieten. Ein bitteres Beispiel dafür, dass Sicherheit bei Chatbots auch eine Frage der Haftung ist. Zweitens: Google macht es einfacher, eigene Apps zu bauen. Mit AI Studio lassen sich Android-Apps per Textanweisung erstellen. Nötig sind ein Google-Konto und ein Mindestalter von 18 Jahren. Die Nutzung ist bislang kostenfrei. Die Apps sind zunächst für das eigene Gerät gedacht, später sollen sie sich mit Familie und Freunden teilen lassen. Eine Veröffentlichung im Play Store ist nicht nötig, aber später möglich. Für Entwickler und Fachabteilungen ist das ein weiterer Schritt hin zu Software auf Zuruf. Drittens: die Hardware. Nvidia verlagert Berichten zufolge seine Blackwell-Chips vom Typ GB202 von der GeForce RTX 5090 zu den Profi-Karten RTX Pro 6000 und RTX Pro 5000. Die Folge: Die RTX 5090 kostet inzwischen mindestens 6.500 Euro. Der Bedarf an Rechenleistung für KI schlägt also bis in den Endkundenmarkt durch. Was bleibt? KI ist im Alltag angekommen, und jetzt werden die Rechnungen sichtbar: bei Datenschutz, bei Sicherheit, bei Haftung und bei fehlender Qualifikation. Wer Chatbots, Agenten oder Apps per KI einsetzt, sollte weniger auf Tempo setzen und mehr auf Kontrolle, Schulung und klare Grenzen. Das war es für heute. Ich freue mich auf morgen. Dieser Podcast ist übrigens vollständig KI-generiert, und alle Quellen und Hintergründe findest du auf unserer Website.