KI-Ethik, Burnout-Warnsignale und Claude Opus 5: Die Woche im Überblick (26.07.2026)

Hallo, hier ist Sarah von KI Kompakt. Schön, dass ihr wieder eingeschaltet habt. Heute schauen wir uns an, wie eng verzahnt die verschiedenen Baustellen der KI-Welt inzwischen sind. Von der Frage, woher die Trainingsdaten überhaupt kommen, über neue Modelle bis hin zu ganz praktischen Problemen im Alltag, zum Beispiel an Universitäten. Fangen wir vorne an. Ein aktueller Bericht der GPAI, veröffentlicht über das OECD AI Policy Observatory, bringt ein Problem auf den Punkt, das viele in der Branche schon länger umtreibt. Es gibt zwar unglaublich viele Daten im Internet, aber gute, nutzbare Trainingsdaten werden knapper. Das klingt erstmal paradox, macht aber Sinn, wenn man genauer hinschaut. Klassisches Scraping, also das automatische Absammeln von Inhalten im Netz, stößt zunehmend an rechtliche Grenzen. Dazu kommen technische Hürden und ein Qualitätsproblem, das inzwischen einen eigenen Namen hat, nämlich KI-generierten Slop. Also minderwertige, von KI selbst erzeugte Inhalte, die das Netz zunehmend fluten und als Trainingsmaterial eher schädlich als hilfreich sind. Der Bericht macht klar, Datenaustausch ist kein rein technisches Problem, das man mal eben mit einer besseren Suchmaschine löst. Es ist ein systemisches Thema, das Recht, Wirtschaft und Technik gleichzeitig betrifft. Gesundheitsdaten unterliegen anderen Regeln als urheberrechtlich geschützte Werke, und Geschäftsgeheimnisse nochmal anderen. Die Autoren schlagen deshalb drei Leitprinzipien vor, Rechtskonformität, Vertrauen und Fairness, und plädieren für faire Vereinbarungen zwischen denen, die Daten besitzen, und denen, die KI-Modelle entwickeln. Für alle, die im KI-Bereich arbeiten, ist das ein wichtiges Signal. Die Zeit des unkontrollierten Scrapings neigt sich dem Ende zu, und wer langfristig plant, sollte sich jetzt schon mit fairen Datenpartnerschaften beschäftigen. Passend dazu tut sich auch auf der Regulierungsseite einiges. Die EU-Kommission verstärkt ihre Bemühungen rund um KI-Kompetenzen, und das ist relevanter für Unternehmen, als es auf den ersten Blick klingt. Seit Februar 2025 verpflichtet Artikel 4 des AI Act Anbieter und Betreiber von KI-Systemen dazu, für ein ausreichendes Maß an KI-Kompetenz bei ihrem Personal zu sorgen. Das ist keine Kleinigkeit, denn es bedeutet, Unternehmen müssen aktiv nachweisen können, dass ihre Mitarbeitenden verstehen, wie die eingesetzten KI-Systeme funktionieren und wo ihre Grenzen liegen. Um das zu unterstützen, hat die Kommission ein Repository mit über vierzig Praxisbeispielen aufgebaut, dazu Q&A-Dokumente und größere Programme wie den AI Continent Action Plan, die Apply AI Strategy und die Union of Skills. Darin stecken unter anderem eine AI Skills Academy und verschiedene Fellowship- und Talentprogramme. Ergänzt wird das Ganze durch den kürzlich vorgeschlagenen Digital Omnibus, der gezielte Anpassungen am AI Act vorsieht. Für den Mittelstand heißt das konkret, wer KI-Tools einsetzt, kommt um Schulungen nicht mehr herum, das ist jetzt Teil der rechtlichen Realität in Europa. Wie diese Kompetenz im Alltag tatsächlich aussehen kann, zeigt ein Beispiel aus der Praxis. Die selbstständige Autorin Anna Burgess Yang beschreibt, wie sie ChatGPT und Claude in ihrem Arbeitsalltag einsetzt, etwa für Rechnungen oder Social-Media-Inhalte. Interessant ist aber vor allem, wo sie klare Grenzen zieht. Bei kreativen Prozessen und bei allem, was mit direktem Kundenkontakt zu tun hat, verlässt sie sich nicht auf KI-generierte Inhalte. Ihr Punkt ist simpel und trotzdem wichtig, KI-unterstützte Arbeit, bei der ein Mensch die Kontrolle behält, ist etwas anderes als komplett KI-generierter Output. Wer diese Unterscheidung nicht macht, riskiert das Vertrauen der eigenen Kundschaft. Das ist eine Haltung, die man sich gerade jetzt merken sollte, wo immer jüngere Menschen den Sprung in die Selbstständigkeit wagen und KI oft als selbstverständliches Werkzeug mitnehmen. Ihr Fazit, KI kann bestehende Ideen kombinieren und beschleunigen, aber echtes Denken und persönliche Beziehungen bleiben etwas, das man nicht outsourcen kann. Und genau an diesem Punkt, an der Grenze zwischen sinnvoller Nutzung und blindem Vertrauen in KI, setzt auch unsere nächste Geschichte an, dieses Mal aus der Bildungswelt. Ein Geschichtsprofessor an der Alcorn State University, Jason Gibson, hat sich etwas ziemlich Cleveres einfallen lassen, um KI-Schummeleien bei Prüfungen aufzudecken. Er versteckte unsichtbaren Text in einer Prüfungsaufgabe, der KI-Tools anwies, sinnlose Abschweifungen über Madagaskar in die Antworten einzubauen. Das Prinzip nennt sich Prompt-Injection, und es hat funktioniert wie am Schnürchen. Zweiunddreißig von fünfunddreißig Studierenden hatten die Aufgabe offenbar ungeprüft in einen Chatbot kopiert und die Antwort einfach übernommen, inklusive der plötzlichen, völlig unpassenden Madagaskar-Passagen. Das ist auf den ersten Blick amüsant, zeigt aber ein ernstes strukturelles Problem. Hochschulen weltweit suchen händeringend nach Strategien, wie sie mit KI-Nutzung bei Prüfungen umgehen sollen. Manche gehen radikale Wege, wie etwa die University of Chicago Law School, die für Erstsemester einfach Laptops im Unterricht verbietet. Andere, wie in diesem Fall, setzen auf technische Tricks. Für alle, die im Bildungsbereich arbeiten oder Kinder und Studierende im Umfeld haben, ist das ein Denkanstoß, wie fließend die Grenze zwischen Werkzeugnutzung und blindem Abschreiben inzwischen geworden ist. Zum Abschluss noch die spannendste Produktneuigkeit des Tages, Anthropic hat Claude Opus 5 veröffentlicht, den Nachfolger von Opus 4.8. Und das Modell hat es in sich. Bei gleichbleibenden Kosten soll es deutlich mehr Leistung liefern, besonders auffällig in der Softwareentwicklung. In manchen Benchmarks kommt Opus 5 sogar nahe an das deutlich teurere Highend-Modell Fable 5 heran, was für alle, die im großen Stil mit Claude arbeiten, ein spürbarer Effizienzgewinn sein könnte. Auch beim Aufspüren von Sicherheitslücken zeigt sich Opus 5 stark, fast auf dem Niveau des spezialisierten Modells Mythos 5. Anthropic betont aber ausdrücklich, dass das Modell bewusst zurückhaltend bleibt, wenn es um das aktive Ausnutzen solcher Lücken geht. Die Sicherheitsvorkehrungen bleiben ähnlich streng wie beim Vorgänger. Diese Veröffentlichung kommt nicht zufällig gerade jetzt, denn der Wettbewerbsdruck durch das chinesische Modell Kimi K3 wächst. Kimi K3 gilt als besonders effizient und günstig, und genau das ist der Punkt, an dem Anthropic mit Opus 5 gegenhalten will, mehr Leistung zum gleichen Preis. Zieht man diese Themen zusammen, zeigt sich ein Muster. Die KI-Branche kämpft an mehreren Fronten gleichzeitig, um bessere Daten, um klare Regeln, um verantwortungsvolle Nutzung im Alltag, um Integrität in Bildung und Beruf, und natürlich um technologische Führerschaft zwischen den großen Anbietern. Alles hängt mit allem zusammen. Das war's für heute von mir. Ich freue mich schon aufs nächste Mal, wenn's weitergeht mit den spannendsten Entwicklungen aus der KI-Welt. Bis morgen, macht's gut.