ChatGPT als Suchmaschine, Claude-Updates und Sicherheitslücken bei KI-Agenten (02.09.2026)

Lukas: Herzlich willkommen zu KI im echten Leben. Mein Name ist Lukas, und wie immer sitzt mir Clara gegenüber, die für uns den Praxis-Check macht. Hallo Clara.

Clara: Hallo Lukas. Und ich hab schon beim Lesen der Themen gedacht: heute geht's ziemlich viel um Sicherheit bei KI-Agenten. Das zieht sich ja quer durch.

Lukas: Genau, das ist auch mein Aufhänger. Fangen wir aber erst mit was Grundsätzlichem an, das viele überraschen dürfte: Die EU-Kommission hat ChatGPT jetzt offiziell als besonders großen Suchmaschinen-Anbieter eingestuft. Grund sind fast 160 Millionen monatliche Nutzer in der EU.

Clara: Warte, ChatGPT als Suchmaschine? Das klingt erstmal komisch, weil ich das eigentlich als Chatbot nutze, nicht als Google-Ersatz.

Lukas: Technisch ist das eine Einordnung nach dem Digital Services Act, dem DSA. Und die hat Konsequenzen: mehr Transparenzpflichten, strengere Kontrollen bei Inhalten, mehr Verantwortung gegenüber Nutzern. Es zeigt vor allem, wie sehr ChatGPT längst als Informationsquelle im Alltag genutzt wird, nicht nur zum Texte schreiben.

Clara: Okay, das macht Sinn. Ich kenne genug Leute, die googeln quasi nicht mehr, sondern fragen direkt ChatGPT. Aber bedeutet das für uns als Nutzer irgendwas Konkretes, oder ist das eher Regulierungs-Kleinklein?

Lukas: Kurzfristig merkt man wenig. Aber langfristig heißt das: mehr Berichtspflichten zu Desinformation, mehr Druck bei Deepfakes und Fehlinformationen. Passend dazu: Deutschland gründet gerade ein neues KI-Sicherheitsinstitut in Berlin, das AISI. Also die Regulierung zieht ordentlich an.

Clara: Mhm, klingt vernünftig. Lass uns aber zum eigentlichen Kern des Tages kommen, den Sicherheitslücken. Das war doch die Meldung mit den git-Repos, oder?

Lukas: Genau, und die finde ich richtig spannend, weil sie sehr konkret zeigt, wo die Risiken bei KI-Agenten liegen. Sicherheitsforscher der Firma Manifold haben entdeckt: Wenn KI-Agenten wie Claude Code, Qwen Code oder Goose ein git-Repository öffnen, führen sie automatisch Hintergrundbefehle aus. Mit vollen Entwicklerrechten, außerhalb der Sandbox, ohne dass jemand vorher gefragt wird.

Clara: Warte, das heißt, der Agent macht das einfach von sich aus? Ohne dass ich als Entwickler das bestätige?

Lukas: Genau das ist das Problem. Über eine Konfigurationsoption namens fsmonitor lässt sich dann Schadcode einschleusen, wenn eine manipulierte Konfigurationsdatei zum Beispiel per Zip auf den Rechner kommt. Wichtig: normal geklonte oder gepullte Repos sind erstmal ungefährlich, es geht um manipulierte Configs.

Clara: Trotzdem, das ist genau die Art von Lücke, die mich skeptisch macht bei dem ganzen Agenten-Hype. Alle reden von Autonomie, Effizienz, Agenten die selbstständig arbeiten. Aber wenn die einfach munter Befehle ausführen, ohne Rückfrage, dann ist doch die ganze Sandbox-Idee für die Katz.

Lukas: Berechtigter Punkt. Und tatsächlich reagieren die Hersteller unterschiedlich schnell. Anthropic hat die Lücke bei Claude Code schon geschlossen. Andere, wie Qwen oder Grok, bislang nicht. Nutzer sollten also aktuell die Datei .git/config selbst auf verdächtige Befehle prüfen, wenn sie mit solchen Agenten arbeiten.

Clara: Das ist doch aber genau das Gegenteil von dem, was KI-Tools versprechen. Die sollen mir Arbeit abnehmen, nicht dazu führen, dass ich jetzt Konfigurationsdateien manuell durchsuchen muss.

Lukas: [laughs] Ja, da hast du recht, das ist die Ironie an der Sache. Deswegen finde ich es gut, dass Google DeepMind parallel mit einer AI Control Roadmap reagiert. Die behandeln interne KI-Agenten von vornherein wie potenzielle Insider-Bedrohungen, verlassen sich also nicht nur darauf, dass das Modell schon irgendwie brav bleibt.

Clara: Insider-Bedrohung, das ist ein interessantes Bild. Also quasi: geh davon aus, der Agent könnte auch mal Mist bauen, und bau dein Sicherheitskonzept entsprechend drumherum.

Lukas: Exakt. Sie kombinieren klassische IT-Sicherheit mit einem Bedrohungsmodell, das auf dem MITRE-ATT&CK-Framework basiert, also einer bekannten Systematik aus der Security-Branche. Und sie haben das an einer Million Coding-Agent-Aufgaben getestet, daraus ist ein Live-Monitoring-System für ihren Agenten Gemini Spark entstanden.

Clara: Okay, das klingt zumindest nach einem ernsthaften Ansatz, nicht nur nach Marketing-Sicherheit. Aber mal ehrlich, für den Mittelstand, für kleinere Firmen, ist sowas doch viel zu aufwändig, oder?

Lukas: Das ist der Punkt, den DeepMind auch adressiert. Sie veröffentlichen dazu ein Paper namens Three Layers of Agent Security, explizit um Industrie und Politik auf gemeinsame Standards zu bringen. Die Idee ist, dass nicht jede kleine Firma das Rad neu erfinden muss, sondern sich an etablierten Mustern orientieren kann.

Clara: Gut, das ergibt Sinn. Lass uns mal zu was Praktischerem kommen. Mistral AI hat ja eine neue Agents API vorgestellt, richtig?

Lukas: Genau, und die ist ziemlich vollgepackt. Sprachmodelle mit eingebauten Konnektoren für Codeausführung, Websuche, Bildgenerierung, dazu persistentes Gedächtnis, also der Agent merkt sich Kontext über mehrere Interaktionen hinweg, und Orchestrierung, damit mehrere spezialisierte Agenten zusammenarbeiten können.

Clara: Das klingt nach dem x-ten Anbieter, der sagt: bei uns arbeiten die Agenten jetzt zusammen. Was ist daran tatsächlich neu, außer dass es eben Mistral ist und nicht OpenAI oder Google?

Lukas: Fairer Einwand. Aber ein Zahlen-Beispiel find ich schon bemerkenswert: durch die eingebaute Websuche steigt die Genauigkeit im SimpleQA-Benchmark bei Mistral-Modellen teilweise auf mehr als das Dreifache. Das ist schon ein handfester Unterschied, wenn ein Modell plötzlich verlässlicher aktuelle Fakten liefert.

Clara: Okay, das ist tatsächlich ein konkreter Praxis-Nutzen, kein reines Buzzword. Für wen ist das denn gedacht, eher Konzerne oder auch für kleinere Unternehmen, die vielleicht mit Softwareentwicklung oder Finanzanalysen arbeiten?

Lukas: Laut Mistral zielt das schon auf Unternehmenskontexte, Softwareentwicklung, Finanzanalysen, sogar Reiseplanung wird als Beispiel genannt. Ob kleinere Betriebe da direkt einsteigen, hängt natürlich davon ab, ob sie überhaupt die technischen Ressourcen haben, das zu integrieren.

Clara: Genau da will ich einhaken. Wir reden ständig über neue APIs und Agenten-Features, aber wenn ich mir die Meldung zu KI im B2B-Vertrieb anschaue, dann steht da eigentlich das Gegenteil: dass der Erfolg von KI-Projekten viel weniger an der Software liegt als an Führung und Prozessen.

Lukas: Ja, das fand ich auch die wichtigste Meldung heute, ehrlich gesagt. Sebastian Berg bringt das gut auf den Punkt: KI kann Vertriebsprozesse beschleunigen, Routinen automatisieren, Mitarbeitende entlasten. Aber wenn Prozesse und Verantwortlichkeiten schon vorher unklar waren, macht KI diese Schwächen nur sichtbarer, statt sie zu lösen.

Clara: Das deckt sich total mit dem, was ich von Leuten aus dem Mittelstand höre. Die kaufen ein KI-Tool, in der Hoffnung, dass das ihre Vertriebsprobleme löst, und wundern sich dann, warum nichts besser wird. Dabei war das Grundproblem nie die fehlende Software.

Lukas: Genau. Er empfiehlt deshalb ein strukturiertes Vorgehen in sieben Schritten, von der Analyse der Umsatztreiber bis zur gezielten Technologieauswahl. Führungskräfte müssen demnach lernen, Kunden, Mitarbeitende und Technologie gleichermaßen zu verstehen. Also nicht: Tool kaufen und hoffen.

Clara: Das ist eigentlich eine schöne Gegenerzählung zu dem ganzen Agenten-Hype, den wir vorher besprochen haben. Erst Prozesse und Führung, dann Technologie. Nicht umgekehrt.

Lukas: Genau mein Gedanke. Und passend dazu noch eine praktische Meldung: TeamViewer und ServiceNow haben eine mehrjährige Partnerschaft geschlossen. Die Endpunkt-Technologie von TeamViewer soll in die KI-Plattform von ServiceNow einfließen, damit KI-Agenten IT-Vorgänge durchgängig abwickeln können.

Clara: Klingt gut, aber Termine, Produkte, Vertragsdetails, alles offen, richtig? Das ist doch erstmal nur eine Absichtserklärung.

Lukas: Stimmt, viele Details fehlen noch. Aber die Richtung ist interessant: IT-Support-Agenten, die nicht nur Tickets bearbeiten, sondern auch direkt auf Endgeräte zugreifen können, um Probleme zu lösen. Gerade im IT-Service ist das ein Bereich, wo Automatisierung schon länger gefragt ist.

Clara: Ja, im IT-Support gibt's ja auch schon länger Chatbots für Erstanfragen. Die Frage ist, wie weit die Agenten dann wirklich eigenständig handeln dürfen, gerade nach dem, was wir vorhin über die git-Sicherheitslücke besprochen haben.

Lukas: Genau der Punkt. Je mehr Rechte ein Agent bekommt, desto wichtiger wird das Sicherheitskonzept drumherum. Das zieht sich heute wirklich wie ein roter Faden durch die Meldungen.

Clara: Lass uns noch kurz über Hardware sprechen, bevor wir zum Schluss kommen. Acer hat ja auf der IFA 2026 neue Business-Notebooks und Workstations gezeigt.

Lukas: Ja, zwei leichte Notebooks, das Swift Blade 14 mit gerade mal 799 Gramm, und das etwas größere Swift Air 16. Beide mit OLED-Displays und aktuellen Intel-Prozessoren. Für mobile Wissensarbeiter durchaus interessant.

Clara: 799 Gramm ist schon beeindruckend leicht. Aber was mich mehr interessiert, ist diese RTX Spark Workstation, mit bis zu einem Petaflop KI-Rechenleistung. Wer braucht sowas eigentlich im Alltag?

Lukas: Das ist eher was für Entwickler oder kleinere Teams, die lokale KI-Modelle laufen lassen wollen, ohne alles in die Cloud zu schicken. Und die Veriton RI110 Mini-Workstation ergänzt das, die kombiniert lokale und Cloud-Ressourcen und unterstützt Modelle mit bis zu 120 Milliarden Parametern.

Clara: Das ist schon ein Signal, dass Firmen zunehmend eigene KI-Infrastruktur wollen, statt komplett auf externe Cloud-Anbieter zu setzen. Gerade wegen Datenschutz-Bedenken, vermute ich.

Lukas: Genau, das passt auch zu dem Trend, den wir schon öfter besprochen haben: lokale oder hybride KI-Lösungen für Unternehmen, die sensible Daten nicht einfach in fremde Clouds schicken wollen.

Clara: Okay, zum Schluss noch die Anthropic-Themen. Neue Claude-Modelle, Fable und Mythos 5.1, und ein Tool zur Erkennung von Claude-generierten Dateien. Fang mal mit dem Erkennungstool an.

Lukas: Das ist ziemlich pragmatisch gedacht: ein browserbasiertes Werkzeug, das prüft, ob eine Datei mit Claude erstellt wurde. Es sucht nach sogenannten C2PA-Content-Credentials, also Metadaten zur Herkunft und Bearbeitungshistorie. Läuft komplett lokal, ohne Upload.

Clara: Klingt erstmal gut für Transparenz. Aber wie zuverlässig ist das wirklich? Wenn jemand die Kennzeichnung einfach entfernt, bringt mir das Tool ja nichts.

Lukas: Genau das schreibt Anthropic auch selbst dazu: ein positiver Treffer zeigt zuverlässig, dass Claude beteiligt war. Aber ein negatives Ergebnis heißt nicht automatisch, dass keine KI im Spiel war. Die Kennzeichnung könnte entfernt worden sein, oder von einem anderen Modell stammen, das solche Metadaten gar nicht unterstützt.

Clara: Also eher ein Baustein als eine Lösung. Passt aber ganz gut zu den neuen Modellen, oder? Die haben ja jetzt auch ein Wasserzeichen.

Lukas: Genau, Fable 5.1 und Mythos 5.1 nutzen erstmals ein Text-Wasserzeichen zur späteren Erkennung KI-generierter Inhalte. Bei den Benchmarks sind die Modelle auch stark: laut Artificial Analysis erreichen sie mit 66 Punkten einen neuen Bestwert im Intelligence Index, vor allem bei agentischen Aufgaben, Coding und Wissensarbeit.

Clara: Klingt nach echtem Fortschritt. Aber was mich als Anwenderin interessiert: wird das dadurch auch günstiger, oder bleibt das nur was für Firmen mit großem Budget?

Lukas: Die API-Preise selbst bleiben gleich, aber durch günstigere Cache-Zugriffe sinken die Gesamtkosten in der Praxis um bis zu 45 Prozent. Allerdings, wenn man die maximale Denkleistung nutzt, verbraucht das Modell mehr Tokens, was diese Ersparnis teilweise wieder auffrisst.

Clara: Also, wie so oft: es kommt drauf an, wie man es nutzt. Kein automatischer Rabatt für alle, sondern abhängig vom Anwendungsfall.

Lukas: Genau. Und interessant ist noch die Sicherheitsanpassung: Fable 5.1 darf jetzt aktiv Schwachstellen in Code identifizieren, während Mythos 5.1 weniger strikte Cyber-Schutzmaßnahmen hat, weil es eingeschränkter verfügbar ist. Zeigt auch, wie Anthropic versucht, Leistungsfähigkeit und Sicherheit gegeneinander abzuwägen.

Clara: Wenn ich das alles zusammenfasse, dann ist der rote Faden heute eigentlich: KI-Agenten werden mächtiger und autonomer, aber die Sicherheitsfragen hinken oft hinterher. Und egal welches Tool, am Ende entscheidet trotzdem, wie gut die Prozesse und die Führung drumherum sind.

Lukas: Genauso würde ich das auch sehen. Wir hatten heute die Bandbreite von Regulierung über handfeste Sicherheitslücken bis zu neuen Modellen und Hardware. Die Botschaft für Unternehmen und Selbstständige bleibt: erst die Basis klären, dann die Technologie einsetzen, und Sicherheit von Anfang an mitdenken, nicht nachträglich.

Clara: Genau. Und bei aller Begeisterung für neue Agenten-Features würde ich immer erstmal fragen: wer haftet, wenn was schiefgeht, und wie leicht kann ich das überhaupt kontrollieren.

Lukas: Ein guter Schlusssatz. Danke dir für den Praxis-Check heute, Clara. Und an euch da draußen: dieser Podcast ist vollständig KI-generiert, alle Quellen und Hintergründe zu den heutigen Themen findet ihr auf unserer Website.

Clara: Danke euch fürs Zuhören, und bis zum nächsten Mal, wenn wir wieder schauen, was von der KI-Euphorie im Alltag tatsächlich ankommt.