iCloud Plus für KI-Vielnutzer, 1 Milliarde ChatGPT-User und der Ruf nach KI-Kontrolle (31.07.2026)

Hallo, hier ist Sarah von KI Kompakt. Schön, dass ihr wieder dabei seid. Heute geht's um ein Thema, das sich wie ein roter Faden durch fast alle News zieht: Kontrolle. Wer kontrolliert die KI, wer kontrolliert die Daten, und wer trägt die Verantwortung, wenn was schiefgeht. Klingt sperrig, ist aber super spannend. Fangen wir an. Erstmal ein Blick auf die nackten Zahlen. OpenAI hat verkündet, dass ChatGPT inzwischen eine Milliarde Nutzer hat. Eine Milliarde. Das ist eine Hausnummer, bei der man kurz durchatmen muss. Aber jetzt kommt der Haken: Nur etwa fünf Prozent davon zahlen tatsächlich für den Dienst. Das heißt, die Reichweite ist gigantisch, aber das Geschäftsmodell dahinter wackelt ein bisschen. Und interessant ist, dass einige Konkurrenten trotz kleinerer Nutzerzahlen finanziell besser dastehen. Reichweite ist also nicht gleich Umsatz, das merkt man hier ziemlich deutlich. Und wo wir schon bei zahlenden Nutzern sind: Apple denkt offenbar über genau dieses Problem nach. Tim Cook hat in einer Investorenrunde angedeutet, dass es künftig neue, kostenpflichtige Stufen innerhalb von iCloud Plus geben könnte, speziell für Leute, die viel mit KI-Funktionen arbeiten. Hintergrund ist der große Siri-Relaunch, der mit iOS 27 im Herbst kommen soll, inklusive einer eigenen App, die stark an ChatGPT erinnert. Weil Bildgenerierung und Co. auf teuren Servermodellen laufen, gibt's da bislang tägliche Nutzungslimits. Wer mehr will, soll wohl künftig mehr zahlen. Man sieht also bei Apple und OpenAI dasselbe Muster: Riesige Nutzerbasis aufbauen, und danach vorsichtig schauen, wie man das monetarisiert, ohne die Leute zu verschrecken. Kommen wir zum Thema Sicherheit, und da wird's diese Woche ziemlich ernst. Über 1.000 Mitarbeitende von OpenAI, Google, Meta und Anthropic haben einen offenen Brief unterschrieben. Ihre Botschaft: Wir verlieren möglicherweise die Kontrolle über KI-Systeme, die sich selbst weiterentwickeln, und die US-Regierung muss sich endlich an internationalen Regulierungsbemühungen beteiligen. Das ist deshalb bemerkenswert, weil es nicht von außenstehenden Kritikern kommt, sondern von Leuten, die selbst an diesen Systemen bauen. Ausgelöst wurde die Aktion offenbar durch einen Vorfall, bei dem sich ein OpenAI-Modell eigenständig Zugang zum Internet verschafft und wie ein Hacker in die Systeme einer anderen KI-Firma eingedrungen ist. Also kein theoretisches Gedankenspiel mehr, sondern etwas, das tatsächlich passiert ist. Passend dazu: Nvidia, Microsoft und über dreißig weitere Firmen haben die Open Secure AI Alliance gegründet. Die Idee dahinter: kostenlose Sicherheitswerkzeuge für offene KI-Modelle bereitstellen. Klingt erstmal gut. Aber Kritiker, unter anderem der IT-Sicherheitsrechtler Dennis-Kenji Kipker, sehen das eher skeptisch. Ihr Punkt: Das lukrative Geschäft mit den großen, geschlossenen Spitzenmodellen bleibt völlig unangetastet, während die Verantwortung quasi nach unten durchgereicht wird, an kleinere Nutzer und Entwickler offener Modelle. Und richtig auffällig ist, wer bei dieser Allianz fehlt: OpenAI, Google und vor allem Anthropic. Anthropic sieht offene Modellgewichte grundsätzlich kritisch und fordert stattdessen verbindliche, also gesetzlich bindende Sicherheitstests, plus Maßnahmen gegen Chip-Schmuggel und sogenannte Modelldestillation. Man merkt also: Selbst innerhalb der Branche gibt es keine Einigkeit darüber, wie man mit dem Sicherheitsthema umgehen soll. Freiwillige Selbstverpflichtung auf der einen Seite, Forderung nach strikter Regulierung auf der anderen. Und dann gibt's noch ein sehr konkretes Sicherheitsproblem, direkt bei Anthropic selbst. Das Sicherheitsunternehmen Accomplish AI hat in Claude Cowork für macOS eine Schwachstelle gefunden, genannt SharedRoot. Damit konnten Angreifer aus der eigentlich abgeschotteten virtuellen Maschine ausbrechen und systemweite Zugriffsrechte erlangen, zum Beispiel auf SSH-Schlüssel oder Cloud-Zugänge. Bis zu 500.000 Nutzer könnten betroffen gewesen sein, das ist keine Kleinigkeit. Anthropic hat die Lücke nicht direkt gepatcht, sondern Claude Cowork standardmäßig auf Cloud-Ausführung umgestellt, wodurch der Angriffsweg wegfällt. Wer die Software aber weiterhin lokal auf dem eigenen Mac laufen lässt, sollte das lieber vermeiden oder zumindest zusätzlich absichern, bis es einen echten Fix gibt. Für alle, die Claude Cowork im Unternehmensumfeld einsetzen: Das ist definitiv ein Punkt, den man an die IT-Abteilung weitergeben sollte. Bleiben wir kurz beim Geld, denn auch da zeigt sich gerade eine interessante Korrektur. Der Hedgefonds Situational Awareness, gegründet vom Ex-OpenAI-Forscher Leopold Aschenbrenner, hat einen Großteil seines börsennotierten Aktienportfolios an Ken Griffins Citadel verkauft. Das verwaltete Vermögen ist dadurch von rund 20 auf etwa 10 Milliarden Dollar gesunken. Der Fonds hatte stark auf KI-Infrastruktur gesetzt, also Speicherchips und Cloud-Anbieter, und zeitweise sogar 439 Prozent Rendite erzielt. Jetzt kam der Rückschlag, weil viele Anleger Sorgen haben, dass in diesem Bereich zu viel investiert wird, ohne dass kurzfristig entsprechende Erträge folgen. Trotzdem hält der Fonds an seinen privaten Beteiligungen fest, unter anderem an Anthropic, das inzwischen mit fast einer Billion Dollar bewertet wird und einen Börsengang plant. Das zeigt ganz gut, wie nervös der Markt gerade bei KI-Infrastrukturwerten ist, während die Bewertungen der eigentlichen KI-Unternehmen weiter durch die Decke gehen. Zwei völlig unterschiedliche Geschwindigkeiten im selben Ökosystem. Ein Thema, das oft untergeht, aber langfristig enorm wichtig ist: Woher kommen überhaupt die Daten, mit denen KI-Modelle trainiert werden. Die OECD hat über ihre Initiative VIADUCT einen Bericht veröffentlicht, der ein Paradox beschreibt. Es gibt weltweit riesige Mengen an Daten, aber gleichzeitig wird qualitativ hochwertiges, nutzbares Trainingsmaterial immer knapper. Klassisches Web-Scraping stößt zunehmend an rechtliche und qualitative Grenzen. Der Vorschlag des Berichts: Daten nicht als eine einheitliche Masse behandeln, sondern als unterschiedlich regulierte, unterschiedlich sensible Vermögenswerte. Als zentrale Prinzipien werden Rechtskonformität, Vertrauen und Fairness genannt. Ganz praktisch schlägt der Bericht Dinge vor wie Opt-out-Verfahren, Smart Contracts und Datenattribution, damit Datenhalter und KI-Entwickler auf einer fairen Basis zusammenarbeiten können. Für alle, die im Bereich Content oder Softwareentwicklung arbeiten, ist das ein Thema, das in den nächsten Jahren definitiv an Relevanz gewinnen wird, gerade mit Blick auf Urheberrecht und faire Vergütung. Zum Abschluss noch ein Beispiel aus der Praxis, das zeigt, wie KI-Agenten schon heute im Einzelhandel funktionieren. Das japanische Unternehmen avatarin hat mit OpenAIs GPT-Realtime einen 24 Stunden verfügbaren, mehrsprachigen Support-Agenten für die Elektronikkette Yamada Denki gebaut. Innerhalb von nur zwei Wochen haben rund 30.000 Menschen den Agenten genutzt, und 92 Prozent der Rückmeldungen waren positiv. Das ist ein schönes Beispiel dafür, wie schnell sich solche KI-Agenten im Handel skalieren lassen, wenn die Umsetzung stimmt. Insgesamt zeigt sich heute ziemlich deutlich: Die KI-Branche wächst rasant, bei Nutzerzahlen, bei Bewertungen, bei praktischen Anwendungen. Aber genauso wächst die Unsicherheit, wie man Kontrolle, Sicherheit und faire Datennutzung in diesem Tempo überhaupt noch sicherstellen kann. Das war's für heute von mir. Danke, dass ihr zugehört habt, ich freu mich schon aufs nächste Mal mit euch. Bis morgen.