KI-Agenten, API-Klau und Anthropic-Fonds für das Gemeinwohl (20.10.2026)

Hallo, hier ist Maya von KI Kompakt. Heute geht es vor allem um eine Frage: Wie viel Zugriff geben wir KI-Agenten, und was passiert, wenn dabei etwas schiefgeht? Dazu kommen schnellere Infrastruktur für genau diese Agenten, ein Blick in die Medizin und eine ziemlich große Ankündigung von Anthropic. Fangen wir mit dem Positivbeispiel an. Jeetu Patel, Präsident und Produktchef von Cisco, nutzt vier bis fünf persönliche KI-Agenten. Dazu gehören Metas Muse, Instinct und OpenAIs Dots. Sie bündeln für ihn Nachrichten, fassen Telefonkonferenzen zu Quartalszahlen zusammen und besorgen Konzertkarten für seine Tochter. Spannend ist ein Alltagsfall: Patel gab einem Agenten zum ersten Mal Zugriff auf sein E-Mail-Postfach. Der Agent wies ihn sofort darauf hin, dass er im Jahr rund 9.000 Dollar für Abonnements zahlt. Auf Anfrage lieferte er eine Tabelle mit allen Abos, Kosten und Laufzeiten. Patel suchte zwei Abos aus, der Agent kündigte sie und schickte Bestätigungen. Das empfand Patel nach eigenen Worten als etwas unheimlich. Ersparnis: etwa 1.000 bis 1.200 Dollar pro Jahr. Dazu kam ein versehentlich abgeschlossener Dropbox-Tarif für 11,95 Dollar, obwohl er schon 2 Terabyte hatte. Bei 20 Dollar im Monat hat sich der Agent laut Patel schon mehrfach bezahlt gemacht. Wichtig ist aber seine Warnung. Patel hat E-Mail und Kalender nicht mit den privaten Agenten verknüpft. Dafür nutzt er einen internen Arbeitsagenten. Und den Quellcode-Bestand der Firma sollte man seiner Meinung nach keinem Agenten wie Muse geben. Der Markt dahinter ist groß: Instinct, gegründet von einem 23-Jährigen, hat gerade in einer Series-C-Runde eine Milliarde Dollar eingesammelt und wird mit 10 Milliarden bewertet. Für Unternehmen heißt das: Mitarbeitende bringen solche Agenten ohnehin mit. Klare Regeln, was angebunden werden darf, sind also keine Kür mehr. Wie schnell es unangenehm werden kann, zeigt der zweite Fall. Angreifer sind über Nacht in ein älteres System des KI-Coding-Tools OpenCode eingedrungen. Sie haben die API-Schlüssel von 1,4 Prozent der Nutzer der OpenCode Console erbeutet. Auf den KI-Konten der Betroffenen liefen danach Kosten von mehreren hundert bis über 1.000 Dollar auf. Anthropic und Google haben die betroffenen Schlüssel gesperrt, OpenAI hat Rückerstattungen zugesagt. Mitgründer Dax Raad betont, die Open-Source-App und das Kommandozeilenwerkzeug seien nicht betroffen, weil die Schlüssel dort nie beim Unternehmen landen. OpenCode spricht von einem groß angelegten Distillation-Angriff, also dem Abgreifen von Modellfähigkeiten. Skeptiker halten das für überzogen. Sie sehen einen gewöhnlichen Einbruch, bei dem eine Nutzung für Distillation nicht belegt ist. Auffällig: Der Einbruch passierte in der Nacht, in der OpenCode das Modell GLM-5.3-Flash für Nutzer kostenlos gemacht hat. Wie die Angreifer reingekommen sind und wie die Schlüssel gespeichert waren, hat das Unternehmen nicht gesagt. Betroffene sollen ihre Schlüssel direkt bei den Anbietern widerrufen und ersetzen. Der Vorfall dauert an. Der zweite Teil der Geschichte ist fast noch interessanter. Laut Raad haben Angreifer 48 Stunden lang ununterbrochen versucht, einzudringen. Das Team hat deshalb rund um die Uhr KI-Verteidigungsagenten eingesetzt. Bei der Analyse des Schadcodes haben manche Modelle aber wegen ihrer Sicherheitsfilter blockiert. Das hat eine Debatte ausgelöst. David Sacks, Co-Vorsitzender des President's Council of Advisors on Science and Technology, schrieb auf X, die Schutzmechanismen seien kontraproduktiv gewesen. OpenCode bekam später Zugang zu OpenAIs Programm Daybreak Blue. Das stellt geprüften Nutzern Modelle bereit, die bei defensiver Sicherheitsarbeit seltener ablehnen. Die Lehre: Filter, die Missbrauch verhindern sollen, können auch Verteidiger ausbremsen. Und die Anbieter müssen differenzieren, wer da fragt. Passend dazu ein Gedanke aus der Security-Welt. ComputerWoche hat zehn Kennzahlenbereiche für CISOs zusammengestellt, vom Incident Response über Schwachstellenmanagement bis zur Compliance. Die Experten sind sich einig: Eine Metrik taugt nur, wenn sie eine konkrete Frage beantwortet. Richard Absalom vom Information Security Forum sagt, eine Kennzahl ohne wichtige Information für Entscheider wird sehr wahrscheinlich ignoriert. Fred Rica warnt vor Zahlen ohne Kontext, etwa 100.000 blockierten Events an der Firewall. Frank Kim vom SANS Institute nennt Mean Time to Detect und Mean Time to Respond. Beim Schwachstellenmanagement vergleicht er die Lage mit unverschlossenen Türen. Das Window of Exposure zeigt, wie lange sie offenstehen. Das passt gut zu OpenCode: Wer Agenten und Schlüssel verwaltet, sollte genau diese Fenster messen und dem Vorstand in Geschäftsrisiko übersetzen. Jetzt zur Technik unter der Haube. Wenn Agenten in vielen Schritten mit wachsendem Kontext arbeiten, zählt die Zeit bis zum ersten Token. Bei der getrennten Verarbeitung von Prefill und Decode muss der Prefill-Knoten in mehrstufigen Gesprächen den Kontext bisher immer wieder neu berechnen. Ein jetzt in vLLM beigesteuerter bidirektionaler KV-Transfer dreht das um. Der Decode-Knoten gibt bereits berechnete KV-Blöcke an den Prefill-Knoten zurück, koordiniert durch einen Router, der nur Metadaten hält. In Benchmarks auf Amazon EC2 P5en-Instanzen sank die Zeit bis zum ersten Token bei den längsten Prompts um bis zu das 1,6-Fache bei Qwen3-32B. Bei GLM-5-FP8 waren es bis zu 3,3-fach. Konkret: Bei GLM-5-FP8 stieg die Zeit ohne die Funktion von 500 Millisekunden bei 2.000 Tokens auf 2.334 Millisekunden bei 20.000 Tokens. Mit der Funktion waren es nur 358 auf 702 Millisekunden. Der Transfer selbst kostet etwa 30 bis 130 Millisekunden, spart aber deutlich mehr Rechenzeit. Zwei Details für Entwickler: Die KV-Blöcke werden standardmäßig 480 Sekunden vorgehalten, das sollte zum Takt der Gesprächsrunden passen. Und unter 64 wiederverwendbaren Tokens lohnt sich der Transfer nicht. Wer Agenten im Betrieb hat, sollte sich das anschauen, denn lange Agenten-Sessions sind genau der Fall, in dem es wehtut. Kurz noch in die Medizin. Das US Marine Corps verteilt leichtere Blutkühler, bessere Blutwärmer und kleine KI-gestützte Ultraschallgeräte. Hintergrund: Man rechnet damit, dass ein technisch starker Gegner Evakuierung und Nachschub stört. Die KI-Ultraschallgeräte gab es bisher nur auf höheren Versorgungsstufen. Jetzt kommen sie an die Erstversorgung. Sie helfen, innere Blutungen zu erkennen und zu entscheiden, wer zuerst evakuiert oder operiert werden muss. Das zeigt, wohin sich KI in der Medizin bewegt: weg vom Krankenhaus, hin zu Orten ohne Spezialisten und ohne Infrastruktur. Zum Schluss die große Finanzmeldung. Anthropic, der Entwickler von Claude, will vor dem geplanten Börsengang fünf Prozent seiner Anteile in einen Fonds für das öffentliche Wohl einbringen, vorbehaltlich der Zustimmung der Aktionäre. Nach der Mai-Runde, bei der Anthropic mit 965 Milliarden Dollar bewertet wurde, sind das rund 48 Milliarden Dollar. Für jede Wertsteigerung um 50 Prozent sollen weitere 2 Prozent folgen. Der Fonds könnte große Spenden an gemeinnützige Organisationen oder direkte Auszahlungen an bestimmte Bevölkerungsgruppen ermöglichen. Anthropic schreibt, KI könne enormen wirtschaftlichen Nutzen bringen, aber für viele Beschäftigte auch Instabilität. 200 Millionen Dollar seien schon zugesagt, doch bei diesem Tempo brauche es mutigere Ansätze. Der Börsengang ist für November geplant, berichtet wird von einer möglichen Bewertung von 1,5 Billionen Dollar. Elon Musk reagierte prompt und kündigte an, selbst Aktien an die Öffentlichkeit zu verschenken. Ob das echte Umverteilung ist oder gute Vorbereitung für die Börse, wird man sehen. Klar ist: Die Arbeitsmarktfrage ist bei den Anbietern selbst angekommen. Was bleibt? Agenten werden mächtiger, billiger zu betreiben und schneller. Gleichzeitig wachsen Angriffsfläche und gesellschaftlicher Druck. Wer sie nutzt, sollte Zugriffe eng begrenzen, Schlüssel im Blick behalten und Sicherheit messbar machen. Das war es für heute von mir. Ich freue mich auf morgen! Und noch ein Hinweis: Dieser Podcast ist vollständig KI-generiert. Alle Quellen und Hintergründe findest du auf unserer Website.