KI-Sicherheit, OpenAI-Ermittlungen & quelloffene Modelle im Fokus (14.06.2026)

Hallo, hier ist Sarah von KI Kompakt. Heute haben wir eine spannende Mischung aus Sicherheitsdebatten, neuen Modellen und einem kleinen Ausflug in die Welt der Welpen-Datenanalyse. Fangen wir an. Ein Thema zieht sich heute wie ein roter Faden durch mehrere Meldungen: KI-Sicherheit. Und das auf ganz unterschiedlichen Ebenen. Da ist zum einen die Klage von Devin Kim gegen xAI, Elon Musks KI-Unternehmen. Kim war einer der ersten Mitarbeiter dort und behauptet, im September 2024 entlassen worden zu sein, weil er intern Sicherheitsbedenken gegenüber dem Chatbot Grok geäußert hat. Er soll konkrete Maßnahmen gefordert haben, die von xAI-Mitgründer Jimmy Ba ignoriert wurden. Die Klage wirft dem Unternehmen Vergeltung und unrechtmäßige Entlassung vor. Was die Sache besonders pikant macht: Zeitgleich hat eine kanadische Datenschutzbehörde festgestellt, dass Groks Bildgenerierungstool tatsächlich gegen Datenschutzgesetze verstoßen hat, weil es die Erstellung nicht einvernehmlicher sexualisierter Deepfakes ermöglichte. Das ist kein kleines Detail. Das zeigt, dass die Bedenken, die Kim geäußert haben soll, nicht aus der Luft gegriffen waren. Für die Branche insgesamt ist das ein wichtiges Signal: Wer intern auf Risiken hinweist, muss geschützt werden, nicht bestraft. Passend dazu gibt es heute auch einen Artikel über KI-Guardrails, also die technischen Sicherheitsmechanismen, die Hersteller in ihre Modelle einbauen. ChatGPT und Claude verweigern konsequent Anfragen zu gefährlichen Themen, zum Beispiel zum Bau von Waffen. Das funktioniert über mehrere Schichten: Trainingsdaten, Feinabstimmung, Filterregeln. Aber der Artikel stellt auch eine unbequeme Frage: Reichen diese Leitplanken noch aus, wenn KI-Systeme immer autonomer werden? Agenten, die selbstständig im Netz agieren, Code ausführen und Entscheidungen treffen, sind schwerer zu kontrollieren als ein Chatbot, der auf eine Frage antwortet. Das ist eine der zentralen Herausforderungen der nächsten Jahre, und die Branche hat noch keine befriedigende Antwort darauf. Dann ist da noch OpenAI, das gerade unter erheblichem Druck steht. Eine Koalition von Generalstaatsanwälten mehrerer US-Bundesstaaten hat Ermittlungen eingeleitet. New York hat dem Unternehmen eine Vorladung zugestellt. Es geht um Werbepraktiken, den Umgang mit Nutzerdaten, Gesundheitsdaten und den Schutz von Minderjährigen und älteren Menschen. OpenAI sagt, man nehme die Bedenken ernst und arbeite konstruktiv mit den Behörden zusammen. Das klingt nach dem üblichen Unternehmens-Statement, aber die Breite der Untersuchung ist bemerkenswert. Es geht nicht nur um Datenschutz im klassischen Sinne, sondern um die Frage, wie ein Unternehmen, das Millionen von Menschen täglich nutzen, mit vulnerablen Gruppen umgeht. Das ist eine gesellschaftlich relevante Debatte, die wir noch öfter hören werden. Auf der Produktseite gibt es heute Interessantes aus dem Open-Source-Bereich. Das chinesische Unternehmen Zhipu hat GLM-5.2 veröffentlicht, ihr bislang leistungsfähigstes Open-Source-Modell. Es unterstützt ein Kontextfenster von einer Million Token, ist stark bei langfristigen autonomen Aufgaben und soll als Basis für leistungsstarke Coding-Modelle dienen. Zhipu positioniert GLM-5.2 ausdrücklich als Reaktion auf zunehmende Zugangsbeschränkungen bei bestimmten Frontier-Modellen. Das ist ein klares Statement: Wir bauen eine offene Alternative. Der API-Zugang soll in der kommenden Woche folgen. Für Entwicklerinnen und Entwickler, die nach leistungsstarken Open-Source-Alternativen suchen, ist das definitiv einen Blick wert. Zusammen mit Modellen wie Mistral zeigt sich, dass die Open-Source-Welt der kommerziellen KI zunehmend auf Augenhöhe begegnet. Apropos Claude: Anthropics Modell gewinnt im Unternehmensbereich weiter an Boden. Zwar ist ChatGPT nach wie vor der meistgenutzte KI-Chatbot weltweit, aber Claude punktet besonders mit Anwendungen wie Claude Code für Programmieraufgaben und Claude Cowork für agentische Computersteuerung. Wer im Arbeitsalltag viel mit Code oder komplexen Workflows zu tun hat, sollte Claude auf dem Radar haben. Die Stärken liegen klar im professionellen Einsatz, weniger im lockeren Alltagsgespräch. Apple versucht derweil, mit einer überarbeiteten Siri auf dem Mac Anschluss zu finden. Mit macOS 27 Golden Gate kommt eine neue Version des Sprachassistenten, die laut ersten Tests von The Verge zwar Verbesserungen zeigt, auf dem Desktop aber weniger überzeugend wirkt als auf dem iPhone. Das liegt schlicht daran, dass Mac-Nutzerinnen und -Nutzer für die meisten Aufgaben ohnehin Tastatur und Maus verwenden. Ein Sprachassistent fühlt sich da oft wie ein Umweg an. Die getestete Developer-Beta hat noch erkennbare Kinderkrankheiten, und bis zur finalen Version ist noch einiges zu tun. Apple hat hier schlicht viel aufzuholen gegenüber dem, was Google, Microsoft und OpenAI in den letzten zwei Jahren auf den Markt gebracht haben. Und dann war da noch die vielleicht charmanteste Meldung des Tages. Ein Redakteur von Business Insider hat wochenlang handschriftliche Aufzeichnungen über die Toilettengewohnheiten seines Welpen Oliver in ChatGPT eingegeben. Die KI hat daraus strukturierte Datensätze gebaut, Kennzahlen wie die Accident Reduction Rate berechnet und herausgefunden, dass Missgeschicke vor allem mittags zwischen zwölf und fünfzehn Uhr und abends zwischen zwanzig und zweiundzwanzig Uhr passieren, oft nach Mahlzeiten, Nickerchen oder Spieleinheiten. Das klingt erst mal lustig, zeigt aber etwas Ernstes: KI kann aus unstrukturierten, handschriftlichen Alltagsdaten sinnvolle Muster extrahieren, die man selbst nicht sieht. Das ist ein kleines, aber treffendes Beispiel dafür, wie KI im ganz alltäglichen Leben praktisch nützlich sein kann, auch jenseits von Unternehmenssoftware und Sprachmodellen. Was heute deutlich wird: KI ist längst kein Nischenthema mehr. Die Debatten reichen von Whistleblower-Klagen über staatliche Ermittlungen bis hin zu Open-Source-Modellen aus China und einem Welpen namens Oliver. Die Technologie ist überall, und die Fragen rund um Sicherheit, Verantwortung und Kontrolle werden lauter. Bis morgen, ich freu mich schon auf die nächsten Meldungen. Tschüss!