KI-Trainingsdaten, Suno-Urteil und Nano-Banana-Missbrauch: KI im Spannungsfeld (03.08.2026)

Hallo, hier ist Sarah von KI Kompakt. Schön, dass ihr wieder dabei seid. Heute geht es um ein Thema, das sich durch fast alle Meldungen zieht: Vertrauen. Wer darf welche Daten nutzen, wer steckt hinter bestimmten Inhalten, und wie schützen wir uns eigentlich noch in einer Welt voller KI-Agenten. Legen wir los. Fangen wir bei den Trainingsdaten an. Die OECD hat im Rahmen der GPAI-Initiative VIADUCT einen Bericht veröffentlicht, der ein spannendes Paradox beschreibt. Das Internet ist voller Daten, trotzdem werden hochwertige Trainingsdaten für KI-Systeme knapp. Der Grund: einfaches Scraping stößt an rechtliche, technische und qualitative Grenzen. Die Antwort der Autoren ist interessant. Sie schlagen vor, Daten nicht als eine große, einheitliche Masse zu behandeln, sondern als ganz unterschiedliche Ressourcen mit eigenen Regeln. Sie unterscheiden fünf verschiedene Governance-Regime nach EU-Recht. Wichtig sind ihnen vor allem drei Dinge, Rechtskonformität, Vertrauen zwischen denen, die Daten geben, und denen, die sie nutzen, und Fairness bei der Verteilung von Nutzen und Kosten. Als praktische Werkzeuge werden Smart Contracts, Datenattribution und Privacy-Enhancing-Technologies genannt. Für Unternehmen, die eigene Modelle trainieren oder Daten lizenzieren wollen, ist das ein wichtiger Denkanstoß. Die Zeit des wilden Sammelns geht zu Ende, saubere Datenpartnerschaften werden zum Wettbewerbsvorteil. Und genau bei diesem Thema Vertrauen und Rechtssicherheit setzt auch ein Urteil aus München an. Das Landgericht München I hat der Gema in ihrem Streit gegen die KI-Musikfirma Suno weitgehend recht gegeben. Suno darf sechs bekannte Musikstücke nicht ohne Zustimmung vervielfältigen oder für das Training nutzen. Die zentrale Frage im Prozess war, ob die KI die Originalsongs beim Training tatsächlich speichert. Suno hat das bestritten, die Gema hat es als klare Urheberrechtsverletzung gewertet, und das Gericht ist der Gema gefolgt. Kulturstaatsminister Wolfram Weimer nannte das Urteil ein wichtiges Signal für die Rechte von Kreativen, und erinnerte an eine frühere, ähnliche Entscheidung derselben Kammer gegen OpenAI. Rechtskräftig ist das Urteil zwar noch nicht, aber die Richtung ist klar. Deutsche Gerichte nehmen das Thema KI-Training und Urheberrecht sehr ernst, und das dürfte auch andere KI-Musikanbieter zum Nachdenken bringen. Kommen wir zu einem Thema, das mich beim Lesen ehrlich gesagt etwas fassungslos gemacht hat. Eine Recherche hat aufgedeckt, dass die anonym betriebene Nachrichtenseite Acutus fast ausschließlich KI-generierte Artikel veröffentlicht, die gezielt Kritiker der KI-Industrie angreifen. Ein KI-Detektor hat 69 Prozent der untersuchten Artikel als komplett maschinengeneriert eingestuft. Besonders bemerkenswert, Interviewanfragen kamen offenbar von einem Chatbot, der sich als Reporter ausgegeben hat. Die Analyse des Quellcodes zeigte ein automatisiertes System mit KI-Interviewer, KI-Artikelgenerator und einer internen Prüfung, die viele fragwürdige Beiträge trotzdem freigegeben hat. Die Spur führt zur PR-Firma Targeted Victory, die zentral in die 125 Millionen Dollar schwere Politikkampagne von OpenAI eingebunden ist, sowie zu einem republikanischen PR-Berater, dessen eigene Firma in den Artikeln immer wieder positiv erwähnt wird, ohne dass die Verbindung offengelegt wurde. Das ist ein Lehrstück dafür, wie generative KI im großen Stil für Desinformation und verdeckte Interessenpolitik eingesetzt werden kann. Für alle, die sich beruflich mit Reputationsmanagement oder Medienkompetenz beschäftigen, ist das ein Fall, den man sich merken sollte. Auch bei Google gab es diese Woche ein Missbrauchsthema, wenn auch in kleinerem Rahmen. Die KI-Funktion Nano Banana in Google Earth wurde abgeschaltet, nachdem es zu Missbrauchsfällen gekommen ist. Details zum genauen Umfang sind noch dünn, aber das Muster ist bekannt. Neue kreative KI-Features werden schnell ausgerollt, und ebenso schnell finden Nutzer Wege, sie für Dinge einzusetzen, die nicht vorgesehen waren. Google reagiert hier offenbar lieber schnell mit einer Abschaltung, als das Risiko laufen zu lassen. Für Produktteams overall ein Hinweis, dass Sicherheits- und Missbrauchstests bei kreativen KI-Funktionen von Anfang an mitgedacht werden müssen, nicht erst danach. Damit sind wir mitten im Thema Sicherheit, und das passt gut zum nächsten Punkt. Zum Welt-Passwort-Tag 2026 haben mehrere Sicherheitsanbieter, darunter Commvault, Semperis, Bitdefender, Keeper Security und Eset, gewarnt, dass klassische Passwortregeln im KI-Zeitalter einfach nicht mehr ausreichen. Der Grund ist naheliegend. Schatten-KI in Unternehmen, eine wachsende Zahl an autonomen KI-Agenten und ständig neue digitale Identitäten schaffen viel mehr Angriffsflächen, als klassisches Passwortmanagement abdecken kann. Die Experten fordern deshalb ein umfassenderes Sicherheitskonzept, das moderne Identitäts- und Zugriffsverwaltung mitdenkt. Für Unternehmen, die inzwischen KI-Agenten für Aufgaben wie Recherche, Kundenservice oder interne Prozesse einsetzen, ist das ein sehr praktischer Punkt. Jeder Agent braucht eine Identität, und jede Identität braucht eine Absicherung, die über ein einfaches Passwort hinausgeht. Auf der regulatorischen Seite tut sich ebenfalls etwas Wichtiges. Die EU-Kommission treibt die Umsetzung von Artikel 4 des AI Act voran, also die Pflicht für Anbieter und Betreiber von KI-Systemen, die KI-Kompetenz ihrer Mitarbeiter zu fördern. Seit dem Digital Omnibus im Juli ist zwar kein festes Kompetenzniveau mehr vorgeschrieben, dafür setzt die Kommission stärker auf Unterstützung durch Mitgliedstaaten und den AI Board. Es gibt inzwischen einen Frage-Antwort-Katalog und ein Repository mit über 40 praktischen Beispielen, wie Unternehmen KI-Kompetenz konkret aufbauen können. Ab August 2026 kontrollieren die nationalen Marktüberwachungsbehörden die Einhaltung. Parallel laufen größere Initiativen wie der AI Continent Action Plan und die Apply-AI-Strategie, die europäische KI-Talente ausbilden und internationale Fachkräfte anziehen sollen. Für den Mittelstand heißt das ganz konkret, wer KI-Systeme einsetzt, kommt um Schulungen und dokumentierte Kompetenzaufbauten nicht mehr herum. Das ist zwar bürokratischer Aufwand, aber auch eine Chance, Mitarbeiter wirklich fit für den Umgang mit KI-Tools zu machen. Zum Schluss noch zwei kleinere, aber durchaus unterhaltsame Randnotizen. Fender-CEO Edward Cole hat zum 75-jährigen Jubiläum der Telecaster behauptet, dass Coversongs und das Zusammenspiel mit Bandkollegen im Grunde eine Art analoge KI seien, weil man dabei von den Ideen anderer lernt und sie weiterentwickelt. Die Gitarrencommunity ist davon wenig begeistert, zumal Fender ohnehin schon wegen Formrechtsklagen gegen andere Instrumentenbauer in der Kritik steht. Kritiker halten den Vergleich für schief, schließlich basiert menschliches Songwriting auf echten Erfahrungen und kreativen Zufällen, während KI-Modelle auf riesigen Datenmengen trainiert werden. Ein schönes Beispiel dafür, wie inflationär der Begriff KI inzwischen für alles Mögliche verwendet wird. Und dann gibt es noch die Geschichte rund um Ubers CTO Praveen Neppalli Naga. Er hatte Anfang des Jahres mit der Aussage, Uber habe sein komplettes Budget für Anthropics Claude Code für 2026 bereits verbraucht, so etwas wie eine Tokenmaxxing-Panik ausgelöst, also die Sorge, dass KI-Coding-Tools Unternehmen finanziell komplett aus dem Ruder laufen. Jetzt ist er offenbar mit einer ganz anderen Geschichte zurück. Details dazu sind noch dünn, aber es zeigt, wie schnell sich die Wahrnehmung von KI-Kosten in Unternehmen ändern kann, von der Kostenexplosion zur nächsten Erfolgsgeschichte, und wie genau Führungskräfte inzwischen auf jedes Wort zu KI-Ausgaben schauen. Insgesamt zeigt der heutige Tag ziemlich deutlich, wohin sich die Debatte um KI gerade bewegt. Es geht immer weniger um die reine Technik, und immer mehr um Vertrauen, Rechtssicherheit und saubere Prozesse, ob bei Trainingsdaten, bei Urheberrechten, bei Sicherheit oder bei Transparenz über Absender von Inhalten. Das war’s für heute von mir. Ich freue mich schon auf morgen, wenn es wieder frische KI-News für euch gibt. Bis dann, macht’s gut.