KI-Kontroversen: ChatGPT als Erzieher, Schummel-Falle und Gema-Urteil gegen Suno (02.08.2026)

Hallo, hier ist Sarah von KI Kompakt. Heute geht es viel um Vertrauen. Wer vertraut KI wie weit, und wo wird dieses Vertrauen gerade ziemlich hart auf die Probe gestellt. Fangen wir mit einer Geschichte an, die einem regelrecht die Augenbrauen hochzieht. YouTuber Hank Green, bekannt für seine Wissenschafts-Erklärvideos, hat sich bei seinen Fans entschuldigt. Er habe sich beim Erstellen seiner Inhalte zu stark auf KI als Recherchehilfe verlassen. Das ist deshalb spannend, weil Green genau für die Art von verlässlichem, gut recherchiertem Content bekannt ist, den Millionen Menschen als Bildungsquelle nutzen. Wenn selbst so jemand öffentlich zugibt, den KI-Anteil unterschätzt zu haben, zeigt das, wie schleichend sich diese Tools in kreative und journalistische Prozesse einschleichen. Die Grenze zwischen Hilfsmittel und Ersatz für eigene Recherche verschwimmt eben schneller, als man denkt. Und dann ist da Sam Altman, der mal wieder für Gesprächsstoff sorgt. Der OpenAI-Chef hat vorgeschlagen, Eltern könnten mit dem neuen Produkt ChatGPT Work Familienkalender und die Interessen ihrer Kinder verknüpfen. Das Ergebnis: ein automatisch generierter Podcast über Fußballspiele, Geburtstage und Neuigkeiten, den man morgens auf der Fahrt zur Schule hört. Die Reaktionen im Netz waren gnadenlos. Die "Gravity Falls"-Legende Alex Hirsch hat mit einer simplen Gegenfrage mehr Zustimmung bekommen als Altman selbst, nämlich schlicht: Warum redet man nicht einfach mit seinen Kindern? Das reiht sich ein in eine ganze Serie ähnlicher Aussagen von Tech-Chefs, die KI munter in den privatesten Lebensbereich hineinschieben wollen. Und es passiert ausgerechnet in einer Phase, in der OpenAI mit Klagen konfrontiert ist, die ChatGPT mit ernsten psychischen Krisen bei Nutzern in Verbindung bringen. Die Ironie dabei ist kaum zu übersehen. Auch im Bildungsbereich zeigt sich, wie tief KI mittlerweile im Alltag verwurzelt ist, und zwar nicht immer im positiven Sinne. Ein Geschichtsprofessor an der Alcorn State University hat sich einen ziemlich raffinierten Trick ausgedacht, um Studierende beim Abschreiben mit ChatGPT zu überführen. Er versteckte unsichtbaren weißen Text in der Prüfung, der KI-Chatbots dazu brachte, sinnlose Abschweifungen über Madagaskar einzubauen. Das Ergebnis: 32 von 35 Studierenden flogen auf. Für Hochschulen weltweit ist das ein Weckruf. Sie überlegen jetzt verstärkt, ob Laptop-Verbote oder mündliche Prüfungen die bessere Antwort sind. Das zeigt ziemlich deutlich, dass Bildungseinrichtungen mit den klassischen Prüfungsformaten an ihre Grenzen kommen, wenn KI so nahtlos verfügbar ist. Kommen wir zur Wirtschaftsseite, denn da tut sich einiges Grundsätzliches. Eine Studie von Okta hat sich angeschaut, welche Software in Unternehmen aktuell am stärksten wächst. Und hier gibt es eine Erkenntnis, die viele überraschen dürfte. Ganz vorne liegen erwartungsgemäß Anthropic, OpenAI und Cursor. Aber gleich danach folgen etablierte Namen wie Google Workspace, Microsoft 365, Slack, Adobe, Notion und Zoom, alle mit erstaunlich robustem Wachstum. Das widerlegt die These, KI-native Startups würden die klassische Software einfach verdrängen. Stattdessen passiert offenbar beides gleichzeitig. Unternehmen führen neue, spezialisierte KI-Tools ein und bauen parallel die KI-Funktionen in ihren vertrauten Arbeitsanwendungen aus. Für alle, die im Mittelstand oder in Unternehmen mit Software-Entscheidungen zu tun haben, ist das eine wichtige Einordnung. Es geht seltener um Entweder-oder, sondern meistens um Sowohl-als-auch. Ein Thema, das grundsätzlicher ist und uns wahrscheinlich noch lange begleiten wird, ist die Frage der Trainingsdaten. Ein neuer Bericht aus dem VIADUCT-Projekt beschreibt ein Paradox, das in der Branche inzwischen jeder kennt. Es gibt weltweit einen Überschuss an Daten, aber gleichzeitig einen Mangel an qualitativ hochwertigen, rechtssicher nutzbaren Trainingsdaten. Das massenhafte Scraping öffentlicher Webinhalte, wie es lange Standard war, stößt zunehmend an rechtliche und technische Grenzen, etwa durch Klagen oder gezielte Zugriffssperren. Der Bericht macht klar, dass Datenaustausch kein rein technisches Problem ist, sondern eines, das Recht, Wirtschaft und Technik gleichzeitig betrifft. Je nach Datentyp, ob Gesundheitsdaten, urheberrechtlich geschützte Inhalte oder Geschäftsgeheimnisse, gelten völlig unterschiedliche rechtliche und ethische Spielregeln. Als Lösung schlagen die Autoren drei Leitprinzipien vor: Rechtskonformität, Vertrauen und Fairness. Konkret geht es um Ansätze wie Opt-out-Verfahren, Smart Contracts und Datenattribution. Das klingt erstmal technisch, hat aber enorme praktische Relevanz für jeden, der KI-Modelle trainiert oder Daten dafür bereitstellt. Und genau in diesem rechtlichen Spannungsfeld gibt es heute auch eine sehr konkrete Entscheidung. Die Gema hat vor dem Landgericht München erneut einen wichtigen Sieg errungen, dieses Mal gegen den KI-Musikgenerator Suno. Das Gericht urteilte, dass Suno sechs geschützte Musikwerke, darunter "Atemlos" und "Daddy Cool", ohne Genehmigung fürs KI-Training verwendet hat. Sunos Argument, es handle sich lediglich um mathematische Parameter statt gespeicherter Werke, hat das Gericht nicht überzeugt, ebenso wenig wie der Verweis auf US-amerikanisches Fair-Use-Recht. Suno prüft jetzt eine Berufung, aber das Urteil hat Signalwirkung. Es zeigt Rechteinhabern wie Universal und Sony, die parallel gegen KI-Musikgeneratoren klagen, dass deutsche Gerichte hier durchaus konsequent gegen ungenehmigte Trainingspraktiken vorgehen. Für alle Entwickler von KI-Modellen im Musikbereich ist das ein deutliches Warnsignal, dass rechtliche Grauzonen zunehmend geschlossen werden. Zum Abschluss noch eine Meldung, die auf den ersten Blick fast schon nach Science-Fiction klingt, aber ziemlich real ist. Anthropics neues Modell Claude Mythos Preview hat laut einem Bericht der New York Times Schwachstellen in einer abgeschwächten Version des Verschlüsselungsstandards AES gefunden. Und zwar 200 bis 1000 Mal schneller als menschliche Kryptografie-Experten. Für aktuell genutzte Verschlüsselungsverfahren besteht dadurch noch keine unmittelbare Gefahr, aber Fachleute sind alarmiert, wie rasant KI in der Kryptografie-Forschung fortschreitet, zumal der Angriff nahezu autonom entwickelt wurde. Zusätzlich fand das Modell einen verbesserten Angriff auf das Post-Quanten-Verfahren Hawk, das als Kandidat für künftige Sicherheitsstandards gilt. Das ist relevant für alle, die sich mit IT-Sicherheit beschäftigen, denn es zeigt, dass KI-Modelle nicht nur bei Texten oder Bildern immer leistungsfähiger werden, sondern auch in hochspezialisierten mathematischen Disziplinen, die bisher als Domäne menschlicher Experten galten. Zusammengefasst zeigt der heutige Tag ein Muster. KI verändert leise, aber stetig, wie wir arbeiten, lernen, Musik machen und sogar Sicherheit denken, und dabei entstehen ständig neue Reibungspunkte zwischen Nutzen, Vertrauen und rechtlichen Grenzen. Das war's für heute von mir. Ich freue mich schon aufs nächste Mal mit euch, bis morgen.