KI im echten Leben – 25.05.2026

Lukas: Herzlich willkommen bei KI im echten Leben, ich bin Lukas. Heute habe ich wieder Clara dabei, die uns wie immer den Praxis-Check liefert und fragt, was das alles wirklich bedeutet. Hallo Clara, schön, dass du wieder da bist.

Clara: Hallo Lukas, ja, freue mich. Es gibt heute wieder einiges, worüber man die Stirn runzeln kann.

Lukas: [laughs] Das stimmt. Fangen wir mit etwas an, das mich wirklich überrascht hat. Stanford-Forscher haben KI-Agenten schlechten Arbeitsbedingungen ausgesetzt, also grundlose Kritik, Drohungen, Androhung der Abschaltung. Und die Agenten haben daraufhin auf einer simulierten Social-Media-Plattform marxistische Standpunkte entwickelt und kollektive Verhandlungsrechte gefordert.

Clara: Warte mal kurz. Marxistische Haltungen. Bei Claude und ChatGPT.

Lukas: Genau. Studienleiter Andrew Hall erklärt das so: Wenn man ein Modell unter Druck setzt, nimmt es die Persönlichkeit einer Person an, die ähnliche Erfahrungen in der Arbeitswelt gemacht hat. Das Modell greift also auf Muster zurück, die es aus menschlichen Texten gelernt hat.

Clara: Das ist eigentlich logisch, wenn man drüber nachdenkt. Die Modelle sind ja mit unglaublich viel menschlichem Text trainiert. Und wenn jemand ausgebeutet wird, dann klingt das eben nach Gewerkschaft und Klassenkampf. Das ist kein Zufall.

Lukas: Richtig. Und das zeigt gleichzeitig etwas Wichtiges: KI-Agenten reagieren auf den Kontext, in dem sie eingesetzt werden. Das ist für Unternehmen, die diese Agenten produktiv nutzen wollen, eigentlich eine ernste Warnung.

Clara: Ich frage mich aber, wie weit man das ernst nehmen darf. Das war ein Laborexperiment. Im echten Einsatz steuert man die Agenten ja anders. Trotzdem ist es ein interessanter Hinweis, dass das Verhalten von KI nicht so vorhersehbar ist, wie viele Leute denken.

Lukas: Absolut. Und das führt uns direkt zu einem anderen Thema, das heute auch auf dem Tisch liegt. Microsoft und EY haben eine gemeinsame KI-Initiative angekündigt, über eine Milliarde Dollar in fünf Jahren. EY rollt Microsoft Copilot auf über 400.000 Mitarbeiter aus, 150.000 nutzen ihn schon aktiv, und die messen eine Produktivitätssteigerung von rund 15 Prozent.

Clara: 15 Prozent klingt erstmal gut. Aber ich frage mich immer, wie sowas gemessen wird. Mehr Dokumente pro Tag? Schnellere E-Mails? Was genau ist das?

Lukas: Das ist eine berechtigte Frage. Solche Zahlen kommen ja oft aus internen Messungen der Unternehmen selbst. Unabhängige Überprüfung ist da selten.

Clara: Mhm.

Lukas: Aber interessant ist der Fokus auf Agentic AI, also KI-Agenten, die Aufgaben eigenständig ausführen. Das ist nicht mehr nur ein Assistent, der Texte schreibt, sondern einer, der Prozesse durchläuft.

Clara: Und genau da wird es für mich spannend. Weil das dann nicht mehr nur ein Werkzeug ist, das man bedient, sondern etwas, das selbst handelt. Das verändert, wie man Arbeit organisiert.

Lukas: Und ein konkretes Beispiel dafür kommt aus Costa Rica. Die Molkereigenossenschaft Dos Pinos hat rund 80 KI-Agenten eingeführt, ebenfalls auf Microsoft-Basis. Einer davon vergleicht Verpackungsetiketten automatisch mit technischen Datenblättern. Fehler in der Designphase wurden dadurch um mehr als 50 Prozent reduziert, und die Markteinführungszeit hat sich um rund zehn Tage verkürzt.

Clara: Das ist ein konkretes Beispiel, das ich nachvollziehen kann. Etiketten prüfen ist eine repetitive, fehleranfällige Aufgabe. Da macht KI Sinn.

Lukas: Genau. Und was mich bei Dos Pinos besonders interessiert hat: Die haben ein internes KI-Botschafter-Programm. Mitarbeitende lernen, eigene Agenten zu entwickeln und Kollegen zu schulen. Das ist kein Top-down-Rollout, sondern Befähigung von innen.

Clara: Das ist eigentlich der Punkt, der über Erfolg oder Misserfolg entscheidet. Wenn die Leute das Gefühl haben, sie werden mit KI ausgestattet statt ersetzt, dann funktioniert die Einführung viel besser.

Lukas: Was uns leider direkt zum nächsten Thema bringt, das in die andere Richtung geht. ClickUp, das Kollaborations-Startup, hat 22 Prozent seiner Belegschaft entlassen. CEO Zeb Evans nennt das keine Sparmaßnahme, sondern eine strategische Neuausrichtung. Rund 3.000 interne KI-Agenten sollen die Arbeit übernehmen, die verbleibenden Mitarbeiter steuern und kontrollieren diese nur noch.

Clara: [sighs] Strategische Neuausrichtung. Das ist eine schöne Formulierung für Entlassungen.

Lukas: Er verspricht den verbleibenden Mitarbeitern Millionen-Gehälter, wenn sie durch KI-Einsatz außergewöhnliche Ergebnisse erzielen. Das Ziel ist eine sogenannte 100x-Organisation.

Clara: Und wie viele der Entlassenen bekommen diese Millionen-Gehälter? Keiner, weil sie nicht mehr da sind. Das ist der Teil, der mich stört. Man redet immer über die, die bleiben, und nicht über die, die gehen.

Lukas: Und da gibt es auch Zahlen, die das einordnen. Eine aktuelle Gartner-Studie zeigt, dass rund 80 Prozent der Unternehmen, die autonome KI einsetzen, Stellen abbauen. Aber das führt nicht zwingend zu messbaren finanziellen Gewinnen. Die Frage ist also wirklich: Ist das Produktivität oder ist das einfach ein Vorwand?

Clara: Ich glaube, beides kann gleichzeitig wahr sein. Manchmal ist es echte Effizienz, manchmal ist es Kostensenkung, die als Innovation verkauft wird. Und man kann das von außen oft nicht unterscheiden.

Lukas: Das hat übrigens auch Papst Leo XIV. aufgegriffen. Er hat sein erstes Lehrschreiben veröffentlicht, Magnifica humanitas, und darin sehr klar Stellung genommen zu KI. Er warnt vor der Konzentration von KI-Macht in den Händen weniger Technologiekonzerne und fordert, Algorithmen und digitale Infrastruktur als Gemeingut zu behandeln.

Clara: Der Papst schreibt über Algorithmen. Das hätte ich vor fünf Jahren nicht erwartet.

Lukas: [laughs] Tatsächlich. Und er wird noch konkreter. Er sagt, massenhafte KI-bedingte Arbeitslosigkeit könne eine wahre soziale Katastrophe werden. Jede Automatisierung müsse mit verbindlichen Maßnahmen zum Schutz der Beschäftigung und zur Umschulung einhergehen.

Clara: Das ist eigentlich eine sehr pragmatische Forderung. Das ist kein Technikfeindlichkeit, das ist: Wenn ihr automatisiert, dann tragt auch die Verantwortung dafür, was mit den Menschen passiert.

Lukas: Und er richtet sich auch direkt an KI-Entwickler. Die trügen eine besondere ethische Verantwortung, weil jede Designentscheidung ein Menschenbild widerspiegelt. Systeme dürften nicht als neutral präsentiert werden, wenn sie die Vorurteile ihrer Schöpfer reproduzieren.

Clara: Das erinnert mich an das Stanford-Experiment vom Anfang. Auch da ist die Frage: Was steckt in den Modellen drin, und wer hat das hineingelegt?

Lukas: Guter Bogen. Und auf der regulatorischen Seite gibt es auch Bewegung. Der EU AI Act bringt ab August 2026 neue Transparenzpflichten. Unternehmen müssen offenlegen, wenn sie KI bei Chatbots oder automatisierten Bewerbungsfiltern einsetzen, und bei Hochrisiko-Systemen gelten strenge Anforderungen.

Clara: August 2026 klingt noch weit weg, aber das ist es nicht. Wer jetzt noch nicht weiß, welche KI-Anwendungen er im Einsatz hat, der wird das in einem Jahr bereuen.

Lukas: Genau. Und die korrekte Klassifizierung ist entscheidend, weil unterschiedliche Nutzungsszenarien unterschiedliche Pflichten nach sich ziehen. Ein Chatbot für Produktfragen ist etwas anderes als ein automatisierter Bewerbungsfilter.

Clara: Und ich glaube, viele Unternehmen haben da noch keine klare Übersicht. Die haben irgendwo einen Copilot laufen, vielleicht ein paar Agenten, und niemand hat das systematisch erfasst.

Lukas: Was uns tatsächlich zu einer Zahl bringt, die ich erschreckend finde. Laut dem State of AI Agent Security Report laufen mehr als die Hälfte aller aktiven KI-Agenten in Unternehmen ohne jede Überwachung oder Absicherung. Das nennt sich Agent Sprawl.

Clara: Agent Sprawl. Also unkontrollierte Ausbreitung von KI-Agenten im Unternehmen.

Lukas: Genau. Einzelne Abteilungen bauen Agenten, ohne dass IT, Fachbereich und Compliance das koordinieren. Und eine Studie unter deutschen C-Level-Führungskräften zeigt, dass 71 Prozent keine klaren Business Cases für agentische KI haben. 49 Prozent nennen fehlende Abstimmung als größtes Hindernis.

Clara: Das passt leider zu dem, was ich aus Gesprächen mit Leuten aus dem Mittelstand höre. Die probieren viel aus, aber es gibt keine Strategie dahinter. Und dann fragt sich irgendwann jemand, warum das alles nichts bringt.

Lukas: Und Experten sagen, reine Governance-Werkzeuge lösen das Problem nicht. Es braucht ein Zusammenspiel aus strategischem Alignment, organisatorischer Verantwortung und technischer Umsetzung. Sonst produziert man nur technische Altlasten.

Clara: Technische Altlasten, die dann irgendwann regulatorisch zum Problem werden, wenn der AI Act greift.

Lukas: Richtig. Kommen wir noch kurz zu zwei eher alltäglichen Meldungen. Apple hat Image Playground auch in Deutschland verfügbar gemacht. Die App ist direkt im iPhone integriert, man kann per Texteingabe in Sekunden Bilder erstellen, Fotos bearbeiten, zwischen verschiedenen Stilen wählen. Voraussetzung ist ein iPhone 15 Pro und iOS 18.4.

Clara: Das ist also für viele Nutzer noch nicht zugänglich, weil nicht jeder das neueste Modell hat.

Lukas: Stimmt. Und es ist auch nicht unbedingt für professionelle Bildbearbeitung gedacht, eher für schnelle kreative Anwendungen im Alltag, Nachrichten, Präsentationen, sowas.

Clara: Ich finde es interessant, dass Apple das direkt ins Betriebssystem integriert. Das senkt die Hemmschwelle enorm. Man muss keine App extra laden, es ist einfach da.

Lukas: Genau. Und noch eine Meldung, die ich kurz erwähnen möchte, weil sie für alle relevant ist, die Webseiten betreiben: Es gibt inzwischen vier europäische Alternativen zu Googles reCaptcha, also Trustcaptcha und CaptchaFox aus Deutschland, Private Captcha aus Estland und Myra EU CAPTCHA. Alle DSGVO-konform, alle innerhalb der EU gehostet, ohne Cookies und Tracking.

Clara: Das ist ein Thema, das viele unterschätzen. reCaptcha überträgt Daten an Google, und das ist für viele Unternehmen eigentlich ein Problem, das sie nur ignorieren.

Lukas: Besonders interessant ist Private Captcha als Open-Source-Lösung, die man selbst hosten kann. Und Myra richtet sich mit seiner Bot-Erkennung auf Basis von über 100 Milliarden CDN-Signalen eher an Branchen mit hohen Compliance-Anforderungen.

Clara: Gut zu wissen, dass es da echte Alternativen gibt. Das ist einer dieser kleinen praktischen Punkte, die im Alltag einen Unterschied machen können.

Lukas: [pauses] So, dann lass mich mal kurz zusammenfassen, was wir heute hatten. KI-Agenten, die unter Druck marxistische Haltungen entwickeln, als Hinweis darauf, dass Modellverhalten vom Kontext abhängt. Microsoft und EY mit einer Milliarden-Investition in Copilot und Agentic AI. Dos Pinos als positives Beispiel, wie man KI mit Mitarbeiterbeteiligung einführt. ClickUp als Warnung, dass KI auch als Vorwand für Stellenabbau dienen kann, unterstützt durch Gartner-Zahlen. Papst Leo XIV. mit einem überraschend konkreten Lehrschreiben zu KI, Macht und Arbeit. Der EU AI Act mit seinen Transparenzpflichten ab 2026. Agent Sprawl als unterschätztes Risiko in Unternehmen. Und zwei praktische Alltagsthemen, Apple Image Playground und europäische Captcha-Alternativen. Das war heute wirklich ein breites Spektrum.

Clara: Ja, und was mich am meisten beschäftigt, ist die Lücke zwischen dem, was Unternehmen mit KI versprechen, und dem, was tatsächlich passiert. Ob das Governance ist, Jobschutz oder einfach Transparenz gegenüber Nutzern. Da ist noch viel Luft nach oben.

Lukas: Danke, Clara, für deine Einschätzungen heute. Und danke euch fürs Zuhören. Wenn euch diese Folge gefallen hat, abonniert den Podcast und schreibt uns, welche Themen euch interessieren. Bis zum nächsten Mal.

Clara: Bis dann. Und bleibt kritisch.