KI-Kontrolle: Wenn Code, Agenten und Prompts außer Kontrolle geraten (01.07.2026)

Lukas: Herzlich willkommen zu einer neuen Ausgabe von KI im echten Leben. Mein Name ist Lukas, und wie immer sitzt mir Clara gegenüber, die für uns den Praxis-Check macht. Clara schaut sich an, was von den großen KI-Schlagzeilen eigentlich im Arbeitsalltag ankommt und was eher Hype ist. Schön, dass du da bist.

Clara: Hallo zusammen. Ja, heute haben wir wieder einiges auf dem Tisch, was sich nach viel Bewegung anhört, aber ich bin gespannt, was davon wirklich bei Unternehmen und bei einzelnen Leuten am Schreibtisch landet.

Lukas: Fangen wir mit einer Studie an, die mich ehrlich gesagt ziemlich nachdenklich gemacht hat. GitLab hat einen sogenannten AI Accountability Report veröffentlicht. Kernaussage: 91 Prozent der befragten Unternehmen nutzen mindestens zwei KI-Tools in der Softwareentwicklung, und der Code wird auch tatsächlich schneller geschrieben.

Clara: Klingt erstmal nach einer klaren Erfolgsgeschichte.

Lukas: Genau das ist der Punkt, den die Studie hinterfragt. Der Code entsteht schneller, aber der gesamte Entwicklungsprozess wird dadurch nicht automatisch schneller. Die Engpässe verschieben sich einfach nach hinten, in die Prüfung, in Sicherheitschecks, in Compliance.

Clara: Also im Grunde ein Stau, der sich nur verschiebt, nicht auflöst.

Lukas: Exakt. Und es kommt noch etwas dazu, das ich fast beunruhigend finde: 43 Prozent der Unternehmen können KI-generierten Code nicht zuverlässig von menschlich geschriebenem unterscheiden.

Clara: Warte, das heißt, fast die Hälfte weiß gar nicht genau, wer oder was da eigentlich programmiert hat?

Lukas: So liest sich das, ja. Und nur 28 Prozent haben überhaupt vollständig integrierte Tools, der Rest arbeitet mit einem Flickenteppich aus verschiedenen Lösungen.

Clara: Das erklärt für mich sofort, warum 92 Prozent von Governance-Problemen berichten. Wenn ich nicht mal weiß, welcher Code von einer KI stammt, wie soll ich da vernünftige Kontrollprozesse aufbauen? Das ist doch kein Tool-Problem mehr, das ist ein Organisationsproblem.

Lukas: Und genau da wollen jetzt fast alle Unternehmen nachbessern, laut Studie investieren sie verstärkt in Governance, Tracking und Wartung. Die Frage ist nur, ob das schnell genug passiert, während die Tools sich weiterentwickeln.

Clara: Ich glaube, das ist für viele Mittelständler gerade die relevanteste Lektion aus der ganzen KI-Debatte. Man kann nicht einfach ein Tool einführen und hoffen, dass sich der Rest von selbst regelt. Man braucht parallel eine Struktur, wer den Code reviewt, wer haftet, wie man Nachvollziehbarkeit sicherstellt.

Lukas: Das bringt uns eigentlich direkt zur zweiten Meldung, die thematisch fast wie eine Fortsetzung wirkt. Es geht um Cybersicherheit in deutschen Unternehmen, und die Kernaussage ist: Das Problem ist nicht die Technik, nicht mal die Prozesse im engeren Sinn, sondern es fehlt an langfristiger Strategie.

Clara: Also wieder dieses Muster, Tools sind da, aber die strategische Einbettung fehlt.

Lukas: Genau. Führungskräfte und IT-Teams brauchen mehr Kompetenzen und Weiterbildung, damit Cybersicherheit fest im Unternehmenskonzept verankert wird, nicht nur als Reaktion auf einen Vorfall.

Clara: Das deckt sich mit dem, was ich aus Gesprächen mit kleineren Firmen kenne. Die haben oft eine Firewall, ein Antivirenprogramm, vielleicht sogar Schulungen zu Phishing. Aber eine echte Strategie, die auch neue Risiken durch KI-Tools mitdenkt, also zum Beispiel, was passiert, wenn Mitarbeitende sensible Daten in ein Chat-Tool eingeben, das fehlt fast überall.

Lukas: Und das ist ja kein Randthema mehr, wenn man bedenkt, wie viele Leute im Arbeitsalltag mittlerweile mit KI-Assistenten arbeiten, ohne dass es dafür klare Regeln gibt.

Clara: Genau, und da schließt sich für mich der Kreis zur ersten Studie. Beide zeigen im Grunde dasselbe Muster: Die Einführung von KI läuft schnell, die Governance hinkt hinterher. Das ist längst kein Nischenthema für große Konzerne mehr, das betrifft auch den Mittelstand ganz konkret.

Lukas: Kommen wir zu einer Geschichte, die ich persönlich sehr sympathisch finde, weil sie mal nicht aus der Konzernperspektive kommt, sondern von einer einzelnen Person. Eine KI-Strategin namens Sol Rashidi hat öffentlich erzählt, dass sie die Hälfte ihrer KI-Agenten wieder abgeschaltet hat.

Clara: Das klingt nach einer sehr ehrlichen Ansage, gerade weil die Person ja beruflich genau mit solchen Systemen arbeitet.

Lukas: Ihr Zitat war sinngemäß, sie habe keine Zeit, Agenten zu babysitten und ständig den Kontext nachzukorrigieren. Sie nennt das selbst Botsitting.

Clara: Botsitting, das ist ein gutes Wort dafür. [laughs] Ich glaube, das erleben ganz viele Leute gerade, die versuchen, KI-Agenten für komplexere Aufgaben einzusetzen. Am Anfang klingt die Idee super, die Software macht das für mich, ich muss nur kurz reinschauen. Aber wenn ich am Ende mehr Zeit damit verbringe, die Ausgaben zu korrigieren, als wenn ich es selbst gemacht hätte, dann habe ich nichts gewonnen.

Lukas: Das ist ja auch der Punkt, den sie macht. Sie hat die Zeit, die sie mit Kontrolle verbracht hat, lieber in höherwertige Arbeit gesteckt.

Clara: Und das finde ich als Gegengewicht zu der ganzen Automatisierungseuphorie total wichtig. Nicht jede Aufgabe eignet sich für einen Agenten. Manchmal ist ein einfacher Chat mit klarer, kurzer Anfrage viel effizienter als ein Agent, der autonom mehrere Schritte durchläuft und dabei ständig vom Kurs abkommt.

Lukas: Ich glaube, das ist gerade für Selbstständige und kleinere Teams eine wichtige Erkenntnis. Man muss nicht jeden Hype-Agenten sofort einsetzen, sondern kann sich fragen, wo tatsächlich Zeit gespart wird und wo man am Ende doch wieder alles gegenchecken muss.

Clara: Genau, und das ist auch mein Praxis-Check-Ratschlag an dieser Stelle: Wenn ihr merkt, ihr verbringt mehr Zeit mit dem Feintuning eines Agenten als früher mit der Aufgabe selbst, dann lohnt sich ein ehrlicher Rückzieher, so wie bei Sol Rashidi.

Lukas: Wechseln wir das Feld etwas, und zwar zu einem Bereich, wo KI offenbar wirklich sehr konkret weiterhilft, nämlich in der Wissenschaft. Anthropic hat mit Claude Science eine neue Plattform für Forschungsteams vorgestellt.

Clara: Was genau macht die anders als der normale Claude-Chat?

Lukas: Sie bündelt Werkzeuge, die bisher über verschiedene Programme verteilt waren, von der Literaturanalyse bis zur Erstellung von publikationsreifen Abbildungen und Manuskripten. Dazu gibt es nativen Zugriff auf über 60 spezialisierte Datenbanken.

Clara: Das ist schon ein deutlicher Unterschied zu einem allgemeinen Chatbot. Aber die entscheidende Frage für mich ist immer: Kann ich später noch nachvollziehen, wie ein Ergebnis entstanden ist? Gerade in der Forschung wäre es fatal, wenn Analysen nicht mehr überprüfbar sind.

Lukas: Genau darauf legt Anthropic laut eigener Aussage besonderen Wert. Ergebnisse sollen auch Monate später validiert werden können. Erste Tests, zum Beispiel in der Glioma-Forschung an der UCSF, zeigen wohl eine deutliche Beschleunigung der Analysen bei bestätigter Zuverlässigkeit.

Clara: Das klingt für mich nach einem der wenigen Fälle, wo eine neue KI-Plattform tatsächlich einen klar abgesteckten, fachlich sinnvollen Anwendungsfall bedient, statt einfach alles auf einmal zu versprechen. Forscherinnen und Forscher haben oft sehr repetitive, zeitintensive Aufgaben, Literatur sichten, Daten aufbereiten, Abbildungen erstellen. Wenn das schneller geht, ohne dass die Verlässlichkeit leidet, ist das ein echter Produktivitätsgewinn.

Lukas: Interessant ist auch, dass Anthropic zusätzlich bis zu 50 Forschungsprojekte mit Credits fördert, jeweils bis zu 30.000 Dollar. Das ist schon eine gezielte Strategie, um in den wissenschaftlichen Bereich vorzudringen.

Clara: Da sieht man auch, wie sich die großen KI-Anbieter positionieren, jeder sucht sich seine Nische, wo er als verlässlicher Partner wahrgenommen werden will, nicht nur als Chat-Spielzeug.

Lukas: Das passt auch zu ein paar weiteren Entwicklungen bei Anthropic, die diese Woche für Gesprächsstoff gesorgt haben. Es gibt neue Modelle, Claude Sonnet 5, außerdem wurden zuvor gesperrte Modelle namens Mythos und Fable freigegeben, unter anderem, weil die USA ihre Exportbeschränkung für Claude Fable 5 aufgehoben haben.

Clara: Das ist für mich als Anwenderin ehrlich gesagt eher eine Randnotiz. Für Unternehmen, die international operieren oder Modelle lizenzieren wollen, mag das juristisch relevant sein, aber im Alltag eines Wissensarbeiters ändert sich dadurch erstmal wenig.

Lukas: Stimmt, das ist mehr die geopolitische und regulatorische Ebene. Genauso wie die Meldung, dass chinesische Unternehmen wie Meituan mittlerweile Modelle komplett ohne Nvidia-Chips trainieren und Modelle wie GLM-5.2 bei bestimmten Aufgaben mit westlichen Spitzenmodellen gleichziehen.

Clara: Auch das ist wichtig für die große Landkarte, wer technologisch führt, wie stabil Exportkontrollen überhaupt noch sind. Aber im echten Leben, in der Buchhaltung, im Kundenservice oder in der Softwareentwicklung eines Mittelständlers, spielt das erst eine Rolle, wenn daraus konkrete Tools werden, die man einsetzen kann.

Lukas: Ein Punkt aus dem Umfeld dieser Meldungen betrifft aber doch die Praxis, nämlich dass Google wegen Kapazitätsengpässen den Gemini-Zugang für Meta gedrosselt hat.

Clara: Das zeigt schön, dass selbst die großen Anbieter an Grenzen stoßen, wenn die Nachfrage nach Rechenleistung explodiert. Für Unternehmen, die sich auf einen bestimmten Anbieter verlassen, ist das ein Weckruf, sich nicht zu abhängig von einem einzigen Tool zu machen.

Lukas: Guter Übergang zu etwas, das direkt im Arbeitsalltag ankommt. OpenAI hat den Bildgenerator von ChatGPT weiterentwickelt, sodass Sprach- und Bildmodell enger zusammenarbeiten. Das Ergebnis sind konsistentere Infografiken, Anleitungen und Beschriftungen.

Clara: Das ist tatsächlich ein Bereich, wo ich immer wieder Frust bei Leuten sehe, die im Marketing oder in der internen Kommunikation arbeiten. Bisher waren KI-generierte Bilder oft hübsch, aber der Text darin verzerrt oder unleserlich.

Lukas: Genau da soll die neue Version ansetzen. Im Interview erklärt die Produktverantwortliche Adele Li, dass das System bei Bedarf zusätzlich Informationen aus dem Web heranzieht, bevor es ein Bild erzeugt, um Inhalte und Layout stimmiger umzusetzen.

Clara: Wenn das wirklich zuverlässig funktioniert, ist das ein handfester Produktivitätsgewinn für alle, die regelmäßig Grafiken für Präsentationen oder Social Media brauchen, ohne extra ein Grafikprogramm zu bedienen. Das ist genau die Art von Tool, die im Alltag tatsächlich ankommt, weil sie ein konkretes, wiederkehrendes Problem löst.

Lukas: Zum Abschluss noch eine kuriose Randnotiz, die zeigt, wie weit die praktische Anwendung von KI-Programmierung inzwischen geht. Ein einzelner sogenannter Vibe-Coder hat mit Hilfe von Claude komplett ein eigenes Online-Rollenspiel programmiert, angelehnt an World of Warcraft, für nur wenige hundert Dollar.

Clara: Das ist natürlich ein Extrembeispiel, aber es zeigt schon, wie sich die Einstiegshürden für Softwareentwicklung verschieben. Man muss kein großes Team mehr haben, um zumindest einen funktionsfähigen Prototyp zu bauen. Ob das Spiel am Ende an das Original heranreicht, sei mal offen gelassen, aber als Beleg dafür, was heute mit KI-Unterstützung im Alleingang möglich ist, finde ich das schon spannend.

Lukas: Und es passt eigentlich gut zurück zu unserem Einstiegsthema. Genau solche schnellen, kostengünstigen Ergebnisse sind ja auch der Grund, warum Unternehmen bei der Kontrolle nicht mithalten. Wenn eine Einzelperson mit wenigen hundert Dollar ein komplexes Spiel bauen kann, wie schnell entsteht dann in einem Unternehmen Code, den am Ende niemand mehr richtig überblickt?

Clara: Genau das ist die Klammer über die ganze Folge heute, würde ich sagen. KI macht vieles schneller und zugänglicher, aber die Strukturen, die das begleiten sollen, Governance, Weiterbildung, klare Strategien, hinken hinterher. Und manchmal ist die klügste Reaktion eben nicht noch mehr Automatisierung, sondern wie bei Sol Rashidi ein bewusster Rückzieher.

Lukas: Fassen wir kurz zusammen: KI-Code wächst schneller, als Unternehmen ihn kontrollieren können, Cybersicherheit fehlt es weniger an Technik als an Strategie, KI-Agenten sind nicht immer die Zeitersparnis, die sie versprechen, und gleichzeitig gibt es mit Tools wie Claude Science oder dem neuen ChatGPT-Bildgenerator sehr konkrete, alltagstaugliche Fortschritte. Es lohnt sich also, genau hinzuschauen, wo KI wirklich hilft und wo sie nur neue Aufgaben schafft.

Clara: Danke euch fürs Zuhören, und wie immer gilt: lieber einmal zu oft nachfragen, was ein Tool wirklich bringt, als blind hinterherzulaufen. Bis zur nächsten Folge.