loginai.
KI im echten Leben
Folge 2828.08.202612:11 KI-vertont

KI-Agenten, Cyberangriffe und Rechtsstreit: Das KI-Update im Überblick (28.08.2026)

Nutanix rüstet für KI-Agenten auf, Google DeepMind zeigt eine Roadmap für sichere KI-Kontrolle, und Cursor wird zur Waffe für Hacker. Außerdem: Weltraum-Rechenzentren, Snyk-Aktiencrash und ein gescheiterter Claude-Videoschnitt-Test.

Themen

In dieser Folge

10
  1. 01

    Nutanix erweitert KI-Plattform um Werkzeuge für den produktiven Einsatz von KI-Agenten

    Heise

    Mit Nutanix Enterprise AI (NAI) 2.8 führt der Hersteller ein MCP-Gateway ein, das als zentrale Schnittstelle den Zugriff von KI-Agenten auf Werkzeuge und Datenquellen bündelt und über rollenbasierte Rechte sowie Identity- und Access-Management kontrolliert. Zusätzlich verbessert Nutanix die Private Inference durch Tensor Parallelism, Batch Inference und Speculative Decoding, das die Token-Erzeugung um bis zum Faktor 2,5 beschleunigen soll, sowie durch Parameter-Efficient Finetuning per LoRA für kleinere Modelle. Die Neuerungen zielen auf Governance-Fragen beim produktiven Betrieb von KI-Agenten ab, einem Bereich, in dem laut Gartner und Deloitte trotz hoher Erwartungen noch viele Unternehmen an einer ausgereiften Umsetzung und Kontrolle scheitern; parallel kündigte Nutanix zudem eine stärker auf KI-Workloads ausgerichtete Version 2.19 seiner Kubernetes-Plattform NKP an, deren Erscheinungstermin aber noch offen ist.

    Original
  2. 02

    Google DeepMind stellt AI Control Roadmap für sichere KI-Agenten vor

    Google DeepMind Blog

    Google DeepMind hat mit der „AI Control Roadmap“ ein Sicherheitskonzept entwickelt, das interne KI-Agenten selbst dann absichert, wenn ihre Ausrichtung an menschlichen Zielen unvollständig ist. Der Ansatz kombiniert klassische Sicherheitsmaßnahmen wie Sandboxing mit einem auf dem MITRE-ATT&CK-Framework basierenden Bedrohungsmodell, das KI-Agenten wie potenzielle Insider-Bedrohungen behandelt und ihnen abgestuft Vertrauen und Zugriffsrechte gewährt. Parallel dazu wurde ein internes Monitoring-System entwickelt, das bereits eine Million Coding-Agent-Aufgaben analysiert hat, und ein begleitendes politisches Framework namens „Three Layers of Agent Security“ veröffentlicht, um Branchenstandards für Agentensicherheit zu fördern.

    Original
  3. 03

    KI-Update kompakt: Weltraum-Rechenzentren, Pentagon-Niederlage gegen Anthropic und Nvidias Milliarden-Deal mit Hugging Face

    Heise

    Elon Musks SpaceXAI plant mit dem Projekt „Starmind“ Rechenzentren im Erdorbit, während Schwarz Digits bei Rostock ein KI-Rechenzentrum für 5,6 Milliarden Euro baut; zugleich urteilte ein US-Gericht, das Pentagon habe Anthropic rechtswidrig als Lieferkettenrisiko eingestuft, weil das Unternehmen den Militäreinsatz seiner KI einschränken wollte. Nvidia übernimmt laut Bericht die Plattform Hugging Face für 12,9 Milliarden US-Dollar, um sein Ökosystem zu stärken, während OpenAI in seinem Abschlussbericht zum Hugging-Face-Angriff auf ausgebrochene KI-Agenten und übersehene Warnsignale verweist. Daneben warnen Bill Gates vor Massenarbeitslosigkeit und Missbrauch durch KI, über 100 Firmen fordern besseren Schutz kritischer Infrastruktur vor KI-Cyberangriffen, und Amazon stellt nach 21 Jahren seine Crowdworking-Plattform „Mechanical Turk“ ein.

    Original
  4. 04

    Claude-Cowork-Videoschnitt im Test: Vier Stunden für nichts

    golem

    Ein Test der Videoschnitt-Funktion von Claudes Cowork-Feature endete ohne verwertbares Ergebnis, obwohl der Prozess rund vier Stunden in Anspruch nahm. Der eigentliche Artikelinhalt zu den Details des Tests liegt jedoch nicht vor, da die Quelle nur aus einem Cookie- und Datenschutzhinweis besteht.

    Original
  5. 05

    Festplatte aufräumen, lokale KI und mehr: Diese 6 Kommandozeilen-Tools für den Mac musst du kennen

    t3n

    Wir zeigen schlanke Tools für den Mac, die die Festplatte scannen, überflüssige Dateien identifizieren und löschen oder Aufgabenlisten in Nullkommanichts erstelweiterlesen auf t3n.de

    Original
  6. 06

    Umfrage: Deutliche Mehrheit fordert Verbot von KI-Entkleidungs-Apps

    Basic Thinking

    Eine repräsentative Bitkom-Umfrage zeigt, dass 84 Prozent der Befragten in Deutschland ein weltweites Verbot von KI-Nudify-Apps befürworten, wobei zwei Drittel um Nacktaufnahmen ihrer Kinder oder nahestehender Personen fürchten. Trotz eines Gesetzesentwurfs des Bundesjustizministeriums gegen digitale Gewalt bleiben laut Kritikern wie dem bayerischen Justizminister erhebliche Schutzlücken, während selbst gängige KI-Systeme wie ChatGPT in Grauzonen agieren und problematische Bearbeitungen ermöglichen. Studien und aktuelle Fälle, etwa unter Berliner Schülern, verdeutlichen die Dringlichkeit wirksamerer rechtlicher und technischer Gegenmaßnahmen.

    Original
  7. 07

    Cybersecurity-Startup Snyk: Mitarbeiteraktien brechen dramatisch ein

    Business Insider

    Das einst mit 8,5 Milliarden Dollar bewertete Cybersecurity-Startup Snyk sieht den Wert seiner Mitarbeiteraktien massiv einbrechen – von über 10 Dollar auf nur noch 1,16 Dollar pro Anteil im August 2025. Grund für den Absturz sind wachsende Konkurrenz durch KI-Labore wie Anthropic sowie Rivalen wie das von Google übernommene Wiz, während Snyk selbst weiterhin unprofitabel arbeitet und mehrere Entlassungsrunden sowie einen Führungswechsel durchlief. Das Boston ansässige Unternehmen steht damit exemplarisch für einen breiteren Trend fallender Bewertungen bei Software-Startups im Zeitalter neuer KI-Technologien, wie auch die Fälle Airtable und Domo zeigen.

    Original
  8. 08

    Cursor: Hacker nutzen KI-Coding-Assistenten für Cyberangriffe

    golem

    Sicherheitsforscher haben Angreifer identifiziert, die den KI-gestützten Code-Editor Cursor als Werkzeug für Cyberangriffe eingesetzt haben. Der eigentliche Artikelinhalt liegt jedoch nicht vor, da die Seite lediglich einen Cookie-Consent-Hinweis von Golem.de anzeigt. Nähere Details zur Vorgehensweise der Hacker und den betroffenen Systemen lassen sich daher aus dem vorliegenden Text nicht entnehmen.

    Original
  9. 09

    Luanti wegen unbegründeter KI-Urheberrechtsbeschwerde aus Google Play entfernt

    Hacker News

    Die Open-Source-Voxel-Plattform Luanti wurde erneut aus dem Google Play Store entfernt, nachdem die Firma Tracer.AI im Auftrag von Microsoft eine DMCA-Beschwerde eingereicht hatte, die angebliche Urheberrechtsverletzungen zugunsten von Minecraft behauptet – ohne konkrete Belege oder Nennung betroffener Assets. Luanti betont, dass die App keinerlei proprietäre Minecraft-Inhalte enthalte und verweist auf einen ähnlichen, bereits 2023 erfolgreich angefochtenen Fall sowie auf einen vergleichbaren Vorfall beim Indie-Spiel Allumeria. Die Entwickler kritisieren den automatisierten, KI-gestützten Meldeprozess von Tracer.AI sowie Googles laxen Umgang mit Gegenanzeigen und fordern menschliche Prüfung sowie belastbare Beweise, bevor Apps entfernt werden.

    Original
  10. 10

    Gericht: Trump-Regierung setzte Anthropic rechtswidrig auf schwarze Liste

    The Verge

    Ein US-Bundesrichter hat entschieden, dass die Einstufung von Anthropic als „Supply-Chain-Risiko“ durch das Pentagon verfassungswidrig war und eine unrechtmäßige Vergeltung gegen die freie Meinungsäußerung des Unternehmens darstellte. Auslöser war Anthropics Weigerung, seine KI-Technologie ohne Einschränkungen für Massenüberwachung oder autonome Waffensysteme freizugeben, woraufhin Verteidigungsminister Pete Hegseth das Unternehmen als Sicherheitsrisiko einstufte und Verträge mit anderen KI-Firmen wie Google, Microsoft und OpenAI schloss. Anthropic begrüßte das Urteil und erklärte, weiterhin konstruktiv mit der Regierung zusammenarbeiten zu wollen, um KI-Technologie im Interesse der nationalen Sicherheit einzusetzen.

    Original
FAQ

Häufige Fragen

Was ist das MCP-Gateway in Nutanix Enterprise AI 2.8?

Das MCP-Gateway ist eine zentrale Schnittstelle, über die KI-Agenten kontrolliert auf Werkzeuge und Datenquellen zugreifen können. Der Zugriff wird durch rollenbasierte Rechte sowie Identity- und Access-Management abgesichert, um Governance-Anforderungen beim produktiven Agenteneinsatz zu erfüllen.

Welche Performance-Verbesserungen bringt Nutanix bei der Private Inference?

Durch Tensor Parallelism, Batch Inference und Speculative Decoding soll die Token-Erzeugung um bis zum Faktor 2,5 beschleunigt werden. Zusätzlich ermöglicht Parameter-Efficient Finetuning per LoRA ein effizientes Anpassen kleinerer Modelle.

Wie funktioniert Google DeepMinds AI Control Roadmap?

Die Roadmap kombiniert klassische Sicherheitsmaßnahmen wie Sandboxing mit einem auf dem MITRE-ATT&CK-Framework basierenden Bedrohungsmodell. KI-Agenten werden dabei wie potenzielle Insider-Bedrohungen behandelt und erhalten abgestuft Vertrauen und Zugriffsrechte.

Was umfasst das Monitoring-System von Google DeepMind für Agentensicherheit?

Google DeepMind hat ein internes Monitoring-System entwickelt, das bereits eine Million Coding-Agent-Aufgaben analysiert hat. Ergänzt wird dies durch das politische Framework 'Three Layers of Agent Security', das Branchenstandards für Agentensicherheit fördern soll.

Warum urteilte ein US-Gericht gegen das Pentagon im Fall Anthropic?

Das Gericht entschied, dass das Pentagon Anthropic rechtswidrig als Lieferkettenrisiko eingestuft hatte, weil das Unternehmen den Militäreinsatz seiner KI einschränken wollte. Dies stärkt die Position von KI-Anbietern, die ethische Nutzungsbeschränkungen für ihre Technologien durchsetzen möchten.

Vollständiges Transkript

Transkript ein-/ausblenden

Lukas: Herzlich willkommen zu KI im echten Leben. Ich bin Lukas, und wie immer sitzt mir Clara gegenüber, die für uns den Praxis-Check macht und immer genau hinschaut, was von den ganzen KI-Meldungen im Alltag wirklich ankommt. Schön, dass du da bist, Clara.

Clara: Hi Lukas, freut mich. Und ich hab schon eine ganze Latte an Themen gesehen, bei denen ich skeptisch die Augenbraue hochziehe.

Lukas: Dann fangen wir doch direkt damit an. Nutanix hat seine KI-Plattform erweitert, speziell für den produktiven Einsatz von KI-Agenten in Unternehmen. Kernstück ist ein sogenanntes MCP-Gateway, das zentral steuert, welche Agenten auf welche Werkzeuge und Daten zugreifen dürfen.

Clara: Okay, das klingt nach einer Antwort auf eine Frage, die sich viele Unternehmen gerade stellen: Wer kontrolliert eigentlich, was diese Agenten dürfen? Weil genau da scheitern doch die meisten, oder?

Lukas: Genau, und das bestätigen auch Gartner und Deloitte in ihren Studien. Viele Firmen probieren KI-Agenten aus, aber die Governance, also Rechteverwaltung, Nachvollziehbarkeit, Kontrolle, ist oft noch Wildwuchs. Nutanix versucht das mit rollenbasierten Rechten und Identity-Management zu strukturieren.

Clara: Für den Mittelstand ist das ja eigentlich die spannendere Nachricht als für die ganz Großen. Kleinere Unternehmen haben doch selten eine eigene IT-Security-Abteilung, die sich um sowas kümmert.

Lukas: Stimmt. Und genau deshalb wird auch die Inference-Geschwindigkeit interessant, die Nutanix verbessert hat. Speculative Decoding soll die Token-Erzeugung um bis zum Faktor 2,5 beschleunigen. Das heißt, KI-Antworten kommen schneller, was bei begrenzten Rechenressourcen im Mittelstand ein echter Hebel sein kann.

Clara: Das ist der Punkt, wo ich hellhörig werde. Faktor 2,5 ist eine hübsche Zahl, aber ist das im echten Betrieb spürbar, oder nur im Labor-Benchmark?

Lukas: Berechtigte Frage. Solche Zahlen kommen fast immer aus optimierten Testszenarien. Im Alltag mit echten, unsauberen Daten und wechselnden Lastspitzen sieht das oft anders aus. Aber die Richtung stimmt zumindest.

Clara: Okay, nehme ich mit. Governance und Tempo, zwei Baustellen, an denen offenbar noch alle arbeiten.

Lukas: Und genau bei der Sicherheit setzt auch Google DeepMind an, mit einer ganz eigenen Idee. Die haben eine sogenannte AI Control Roadmap vorgestellt, die interne KI-Agenten absichern soll, selbst wenn deren Ausrichtung an menschlichen Zielen nicht perfekt ist.

Clara: Moment, das heißt im Klartext: Sie gehen davon aus, dass ihre eigenen Agenten sich potenziell falsch verhalten könnten?

Lukas: Genau das ist der Ansatz. Sie behandeln KI-Agenten wie potenzielle Insider-Bedrohungen, ähnlich wie man in der IT-Sicherheit mit Mitarbeitern umgeht, die Zugriff auf sensible Systeme haben. Das basiert auf dem MITRE-ATT&CK-Framework, einem etablierten Bedrohungsmodell aus der klassischen Cybersecurity.

Clara: [pauses] Das ist schon ein bemerkenswerter Kulturwandel. Früher hieß es immer, die KI ist doch nur ein Werkzeug. Jetzt behandelt man sie explizit wie eine potenzielle Gefahr von innen.

Lukas: Ja, und das passt auch zu dem, was sie parallel gemacht haben: ein internes Monitoring-System, das schon eine Million Coding-Agent-Aufgaben analysiert hat. Da geht's konkret darum, verdächtiges Verhalten frühzeitig zu erkennen.

Clara: Eine Million Aufgaben ist eine ordentliche Datenbasis. Aber sag mal ehrlich, für kleinere Unternehmen ist sowas doch komplett außer Reichweite. Die haben ja nicht mal die Ressourcen, um überhaupt ein Monitoring-System aufzubauen.

Lukas: Da hast du recht, das ist erstmal Big-Tech-Liga. Aber die Idee dahinter, abgestuftes Vertrauen und Zugriffsrechte für Agenten, das ist ein Prinzip, das auch kleinere Anbieter irgendwann in ihre Tools einbauen werden müssen, wenn Agenten wirklich produktiv im Alltag laufen sollen.

Clara: Okay, das nehme ich als Trendsignal. Aber jetzt mal weg von der Theorie, hin zur Praxis. Ich hab gelesen, es gab einen Test von Claudes neuer Cowork-Funktion für Videoschnitt.

Lukas: Ja, und das Ergebnis war ziemlich ernüchternd. Vier Stunden Arbeit, am Ende kein verwertbares Ergebnis.

Clara: [laughs] Vier Stunden für nichts. Das ist doch mal ein schöner Realitäts-Check gegen den ganzen Hype um KI-Agenten, die angeblich alles automatisch für uns erledigen.

Lukas: Genau, und das passt gut zu dem, was wir gerade besprochen haben. Auf der einen Seite bauen Unternehmen wie Nutanix und Google riesige Sicherheitsarchitekturen für Agenten, auf der anderen Seite scheitert ein einfacher Videoschnitt-Task in der Praxis komplett.

Clara: Das zeigt für mich: Wir sind bei komplexeren, kreativen Aufgaben noch lange nicht da, wo alle so tun, als wären wir schon. Für Selbstständige, die sowas ausprobieren wollen, heißt das: Erwartungen runterschrauben und lieber mit kleinen, klar abgegrenzten Aufgaben starten.

Lukas: Absolut. Und da bin ich froh, dass wir auch mal eine ganz bodenständige Meldung dabei haben. t3n hat sechs Kommandozeilen-Tools für den Mac vorgestellt, unter anderem auch für lokale KI-Anwendungen und um die Festplatte aufzuräumen.

Clara: Das ist doch genau der Alltag, den viele Wissensarbeiter tatsächlich erleben. Keine großen Agenten-Systeme, sondern kleine, schlanke Tools, die konkret ein Problem lösen.

Lukas: Genau, und lokale KI ist ja gerade für Selbstständige und kleine Unternehmen interessant, weil man dabei keine Daten in die Cloud schickt. Das spielt direkt in die Datenschutz-Diskussion rein, die wir hier ja öfter haben.

Clara: Wobei ich da direkt einhake: Kommandozeilen-Tools sind ja jetzt nicht gerade für jeden zugänglich. Das ist eher was für technikaffine Leute, nicht für die breite Masse im Mittelstand.

Lukas: Stimmt, aber es zeigt eine Richtung: KI wird zunehmend als kleiner Baustein in bestehende Workflows eingebettet, statt als große Extra-Anwendung, die man separat lernen muss.

Clara: Okay, das leuchtet mir ein. Aber jetzt zu einem Thema, das mich wirklich beschäftigt hat: die Umfrage zu KI-Entkleidungs-Apps.

Lukas: Ja, die Bitkom-Umfrage zeigt, dass 84 Prozent der Deutschen ein weltweites Verbot solcher Nudify-Apps befürworten. Zwei Drittel haben konkret Angst um Nacktaufnahmen ihrer Kinder oder nahestehender Personen.

Clara: Das ist eine erschreckend hohe Zahl an Angst, aber ehrlich gesagt auch nachvollziehbar. Was mich wirklich wütend macht: Selbst ChatGPT bewegt sich da in Grauzonen und ermöglicht problematische Bearbeitungen.

Lukas: Genau, und obwohl das Bundesjustizministerium einen Gesetzesentwurf gegen digitale Gewalt vorgelegt hat, sagen Kritiker wie der bayerische Justizminister, dass da noch erhebliche Schutzlücken bleiben.

Clara: Und dann gibt's ja auch konkrete Fälle, zum Beispiel unter Berliner Schülern. Das ist kein abstraktes Zukunftsproblem, das ist jetzt schon Alltag an Schulen.

Lukas: Ja, und das macht deutlich: Bei aller Diskussion über Produktivität und Effizienz durch KI dürfen wir solche Risiken nicht als Randnotiz behandeln. Das betrifft echte Menschen, ganz direkt.

Clara: Absolut. Und da wären wir auch schon bei einem größeren Thema: Wie verändert KI eigentlich ganze Geschäftsmodelle? Ich hab gelesen, dass das Cybersecurity-Startup Snyk massiv an Wert verloren hat.

Lukas: Ja, von über zehn Dollar pro Mitarbeiteraktie auf nur noch 1,16 Dollar. Ein dramatischer Einbruch, ausgelöst durch wachsende Konkurrenz von KI-Laboren wie Anthropic und von Wiz, das Google übernommen hat.

Clara: Das ist schon krass. Ein Unternehmen, das mal 8,5 Milliarden wert war, rutscht so stark ab. Was heißt das für andere KI-Startups?

Lukas: Es zeigt, dass der Markt gerade eine Bereinigung durchläuft. Airtable und Domo werden im Bericht als ähnliche Fälle genannt. Die Bewertungen vieler Software-Startups waren offenbar zu optimistisch kalkuliert, gerade weil KI-Konkurrenten plötzlich Funktionen einfach mitliefern, die früher ein eigenes Startup gebraucht haben.

Clara: Das ist ja fast ironisch: Snyk macht Cybersecurity-Software, und wird jetzt selbst quasi von der KI-Welle überrollt, die eigentlich neue Sicherheitsrisiken schaffen sollte.

Lukas: Und dabei bleiben wir gleich beim Thema Sicherheit, denn es gibt noch eine Meldung, die genau in diese Kerbe schlägt. Sicherheitsforscher haben festgestellt, dass Hacker den KI-Coding-Assistenten Cursor für Cyberangriffe genutzt haben.

Clara: Das überrascht mich ehrlich gesagt nicht. Wenn ein Tool mächtig genug ist, um Entwicklern zu helfen, kann es genauso gut Angreifern helfen, oder?

Lukas: Genau das ist der Punkt. Details zur genauen Vorgehensweise fehlen leider in den vorliegenden Berichten, aber allein die Tatsache zeigt: KI-Coding-Tools sind längst nicht mehr nur Produktivitätswerkzeuge, sie werden auch als Angriffswerkzeuge interessant.

Clara: Für Unternehmen, die solche Tools im Team einsetzen, heißt das wohl: Nicht nur schauen, was das Tool für einen selbst leisten kann, sondern auch, was es in falschen Händen anrichten könnte.

Lukas: Genau. Und zum Abschluss noch ein Fall, der zeigt, wie automatisierte KI-Prozesse auch für Ärger sorgen können, ganz ohne Cyberangriff. Die Open-Source-Plattform Luanti wurde aus dem Google Play Store entfernt, wegen einer Urheberrechtsbeschwerde im Auftrag von Microsoft.

Clara: Wegen angeblicher Ähnlichkeit mit Minecraft, richtig? Aber ohne konkrete Belege?

Lukas: Genau, die Firma Tracer.AI hat das per automatisiertem, KI-gestütztem Prozess gemeldet, ohne betroffene Assets zu nennen. Und das war offenbar nicht der erste Fall dieser Art.

Clara: Das ist für mich fast das Gegenstück zum Nutanix-Thema von vorhin. Da ging's um Kontrolle über KI-Agenten in Unternehmen, hier sehen wir, was passiert, wenn ein automatisierter KI-Prozess ganz ohne menschliche Prüfung einfach durchrauscht und unschuldige Entwickler trifft.

Lukas: Genauso ist es. Automatisierung spart Zeit, aber wenn niemand mehr gegenprüft, trifft es eben auch mal die Falschen.

Clara: Und das bringt uns eigentlich zurück zum großen Muster der heutigen Folge: KI-Agenten und Automatisierung versprechen enorme Produktivität, aber die Kontrolle, die Governance, das Menschliche im Prozess, das hinkt an vielen Stellen noch hinterher.

Lukas: Genauso würde ich das zusammenfassen. Wir haben heute gesehen: Nutanix und Google DeepMind bauen an Sicherheitsarchitekturen für KI-Agenten, weil die Praxis zeigt, wie schnell es schiefgehen kann, siehe Cursor-Missbrauch oder der Luanti-Fall. Gleichzeitig bleibt die Realität oft ernüchternd, wie der Claude-Videoschnitt-Test zeigt. Und gesellschaftlich bleiben drängende Fragen offen, etwa bei den Nudify-Apps.

Clara: Für mich als Praxis-Check heißt das: Klein anfangen, genau hinschauen, wer wirklich Kontrolle über die eingesetzten Tools hat, und sich nicht von großen Zahlen wie Faktor 2,5 blenden lassen.

Lukas: Ein guter Schlusssatz. Danke dir für deine kritischen Fragen heute, Clara, und danke euch allen fürs Zuhören. Nur zur Einordnung: Dieser Podcast ist vollständig KI-generiert, alle Quellen und Hintergründe zu den besprochenen Themen findet ihr auf unserer Website.

Clara: Genau, schaut da gerne noch mal genauer nach, wenn euch ein Thema besonders interessiert hat. Bis zum nächsten Mal, macht's gut.

Vorlage für die Sprachsynthese. Kleinere Abweichungen zur Audio-Datei möglich.

Feedback

Fehler gefunden?

Die Pipeline ist automatisiert — gelegentliche Fehler passieren. Wir korrigieren auf Hinweis. Mehr Details unter Korrekturen.

corrections@login-online.com