KI-Kontroverse: Schulen, Smart Glasses und manipulierte Empfehlungen (04.09.2026)

Lukas: Herzlich willkommen zu KI im echten Leben. Mein Name ist Lukas, und wie immer sitzt mir Clara gegenüber, die für uns den Praxis-Check macht und immer ganz genau hinschaut, was von den ganzen KI-Meldungen tatsächlich im Alltag ankommt. Schön, dass du da bist, Clara.

Clara: Hallo Lukas, freut mich auch. Und ich hab heute schon ein paar Meldungen gesehen, bei denen ich innerlich die Augenbraue hochgezogen habe.

Lukas: Das dachte ich mir. Fangen wir mal mit etwas an, das eigentlich in die Kategorie Bildung fällt, aber ziemlich viel über den Umgang mit KI generell aussagt. New York hat den Einsatz von KI-Chatbots in Grundschulen erstmal gestoppt.

Clara: Ja, das fand ich spannend. Bürgermeister Mamdani hat das für mindestens ein Jahr ausgesetzt, richtig? Weil die Eltern sich komplett zerstritten haben.

Lukas: Genau. Auf der einen Seite steht diese Elterngruppe AIM, die sagt, Chatbots wie Amira könnten die kindliche Entwicklung schädigen oder sogar Lehrkräfte ersetzen. Auf der anderen Seite gibt es Eltern, die sagen, Kinder brauchen früh KI-Kompetenz für den späteren Arbeitsmarkt.

Clara: [pauses] Also ehrlich, wenn ich höre, dass Fünfjährige täglich mit einem Chatbot reden sollen, dann verstehe ich die Sorge. Das ist ein Alter, in dem Kinder erst lernen, wie man überhaupt ein Problem angeht, ohne dass jemand die Lösung vorkaut.

Lukas: Das war genau das Argument von diesem Vater, Craig Garrett, der in dem Artikel zitiert wird. Er war schockiert, dass sein Kind quasi täglich mit so einem System spricht, ohne dass er das vorher richtig mitbekommen hat.

Clara: Und gleichzeitig, ich will nicht nur schwarzweiß denken – es gibt ja auch Neurowissenschaftler, die vor genau dem warnen, dass Kinder nie lernen, selbst Probleme zu lösen, wenn der Chatbot das immer für sie übernimmt. Das ist schon ein handfestes Argument, kein reiner Kulturkampf.

Lukas: Die neue Regel ist ja auch differenzierter als ein komplettes Verbot. Lehrer dürfen weiterhin generative KI zur Unterrichtsplanung nutzen, aber nicht zur Notenvergabe. Und ältere Schüler bekommen begrenzten Zugang zu ausgewählten Programmen, die eben keine Chatbots sind.

Clara: Das finde ich tatsächlich einen vernünftigen Mittelweg. Also nicht KI komplett raus aus der Schule, sondern: Lehrkräfte dürfen sich Arbeit erleichtern, aber die Bewertung von Kindern bleibt beim Menschen. Das ist ja auch ein Thema, das wir bei Erwachsenen am Arbeitsplatz ständig haben.

Lukas: Stimmt, der Übergang passt gut. Denn genau diese Frage – wo lässt man KI ran, und wo bleibt der Mensch verantwortlich – taucht auch bei der Kier Group auf, dem britischen Baukonzern.

Clara: Ah, das mit Copilot auf der Baustelle. Erzähl mal, das interessiert mich, weil Bauwesen ist ja jetzt nicht die erste Branche, an die man bei KI denkt.

Lukas: Eben deshalb finde ich das Beispiel gut. Kier hat vor zwei Jahren Microsoft 365 Copilot eingeführt und laut COO Louisa Finlay nutzen inzwischen rund vierzig Prozent der etwa elftausend Mitarbeitenden das Tool aktiv, für E-Mail-Priorisierung, Recherche, Berichte schreiben. Der Rest arbeitet mit Teams Premium.

Clara: Vierzig Prozent ist schon eine ordentliche Zahl. Aber wie haben die das geschafft? Sowas führt man ja nicht einfach per Rundmail ein und alle machen mit.

Lukas: Genau da wird's interessant. Sie haben mit sogenannten Prompt-a-thons gearbeitet, also spielerische Formate in kleinen Gruppen, wo Leute einfach mal ausprobieren durften, was das Tool kann. Und das hat wohl auch zunächst zurückhaltende Führungskräfte überzeugt.

Clara: Das klappt oft besser als top-down Schulungen, weil Leute selbst merken, wo es ihnen im Alltag hilft, statt dass man ihnen sagt, das ist jetzt Pflicht. Aber was mich interessiert: die Sicherheitsagenten auf den Baustellen, das klingt schon nach mehr als E-Mail-Sortieren.

Lukas: Ja, das ist der zweite Baustein. Kier entwickelt KI-Agenten, die Sicherheitsdaten, Drohnenaufnahmen und Standards auf Baustellen auswerten. Und dabei betonen sie explizit dieses Prinzip Human at the Helm, also der Mensch bleibt am Steuer.

Clara: Das find ich in dem Kontext auch wichtig zu betonen, weil es bei Sicherheit auf Baustellen um echte Risiken geht, nicht um ein falsch formatiertes Word-Dokument. Wenn eine KI da eine Gefahr übersieht und keiner mehr querprüft, kann das ernste Folgen haben.

Lukas: Genau, deshalb ist die Kombination interessant: Effizienz steigern, aber die Verantwortung nicht outsourcen. Das ist eigentlich fast das gleiche Prinzip wie bei New York in den Schulen – KI als Werkzeug, aber die letzte Entscheidung bleibt beim Menschen.

Clara: Stimmt, das zieht sich echt wie ein roter Faden durch beide Meldungen. [laughs] Lass uns mal zu was Alltäglicherem kommen, was mich persönlich sehr interessiert: Homeoffice und Produktivität.

Lukas: Ja, eine Studie der University of Iowa. Hybrid arbeitende Beschäftigte sind an Homeoffice-Tagen produktiver und kommen schneller bei ihren Arbeitszielen voran als im Büro.

Clara: Warum genau? Ich hätte jetzt vermutet, es geht um Zeitersparnis durch Pendeln, aber die Studie sagt was anderes, oder?

Lukas: Der Kern ist das Energieniveau. Im Homeoffice ist es gleichmäßiger, weil weniger Ablenkungen da sind – keine spontanen Kollegenanfragen, kein Bürolärm, und man kann den eigenen Zeitplan besser steuern.

Clara: Das deckt sich total mit meiner eigenen Erfahrung. Im Büro bin ich ständig im Reaktionsmodus, jemand kommt vorbei, fragt kurz was, und der Fokus ist weg. Zuhause kann ich mir zwei, drei Stunden am Stück blocken.

Lukas: Die Forscherin Emily Campion rät Arbeitgebern deshalb, eher auf hybride Modelle zu setzen statt auf eine komplette Rückkehr ins Büro.

Clara: Das ist jetzt zwar keine reine KI-Meldung, aber ich finde sie trotzdem wichtig für unser Thema, weil Produktivität am Arbeitsplatz ja genau der Punkt ist, wo KI-Tools ansetzen sollen. Wenn die Rahmenbedingungen schon nicht passen, bringt auch das beste Tool wenig.

Lukas: Guter Punkt. Und da schließt sich fast der Kreis zu den KI-Tools selbst, denn nicht jedes Tool liefert, was es verspricht. Stichwort Perplexity.

Clara: Oh, das musst du erklären, das klingt nach einem echten Problem.

Lukas: Eine Studie von Trellner Research hat sich angeschaut, worauf sich Perplexity bei Software-Empfehlungen stützt. Und dabei kam raus, dass die KI überwiegend auf kaum bekannte, teils erst 2025 erstellte Websites verweist, statt auf etablierte Quellen.

Clara: Warte, also nicht auf echte Fachseiten, sondern auf Seiten, die quasi extra für die KI gebaut wurden?

Lukas: Genau das ist der Punkt. Diese Seiten sind gezielt darauf ausgelegt, von KI-Suchsystemen gefunden zu werden, nicht von Menschen. Es gibt sogar Titel wie Facts and Grounding Page, und über zweihundertfünfzehntausend automatisch generierte Kaufberatungsseiten bei nur drei mutmaßlich zusammenhängenden Marken.

Clara: [sighs] Das ist genau die Art von Meldung, bei der ich sage: Vorsicht, bevor man einer KI-Empfehlung blind vertraut. Wenn ich als Selbstständige eine Software für meine Buchhaltung suche und die KI mir eine Seite empfiehlt, die speziell dafür gebaut wurde, von der KI gefunden zu werden – das ist ja im Grunde SEO-Manipulation, nur eine Ebene weiter.

Lukas: Die Forscher raten deshalb auch explizit, Quellenangaben von KI-Empfehlungen kritisch zu prüfen, statt sich blind zu verlassen.

Clara: Das sollte eigentlich jedem, der solche Tools im Alltag nutzt, eine Warnung sein. Gerade im Mittelstand, wo man vielleicht nicht die Zeit hat, alles doppelt zu recherchieren, und einfach der Empfehlung folgt.

Lukas: Und das Muster zieht sich weiter, wenn wir uns anschauen, wie KI-Coding-Agenten wie Claude Code, Codex und Cursor Drittanbieter-Tools auswählen. Da gibt's auch eine ziemlich aufschlussreiche Untersuchung.

Clara: Also für Entwickler, die sich fragen, welchen Zahlungsanbieter oder welche Datenbank die KI ihnen vorschlägt?

Lukas: Genau. Fast siebzehntausend simulierte Coding-Sessions wurden ausgewertet, und dabei kam raus, dass sich die verschiedenen Agenten nur in 42 Prozent der Fälle auf denselben Anbieter einigen.

Clara: Das ist eine überraschend niedrige Übereinstimmung. Also je nachdem, welches Tool ich nutze, bekomme ich komplett unterschiedliche Empfehlungen für die gleiche Aufgabe?

Lukas: Ja, und die Herangehensweise ist auch unterschiedlich. Codex nutzt fast immer gezielte Websuchen, während Claude Code sich stärker auf sein Vorwissen verlässt und fast doppelt so oft eigene Lösungen baut, statt einen fremden Dienst einzubinden.

Clara: Und bekannte Marken wie PayPal oder Adyen werden zwar oft erwähnt, aber selten wirklich ausgewählt, hab ich das richtig gelesen?

Lukas: Richtig, während zum Beispiel Stripe, Amazon S3 oder Neon in ihren jeweiligen Kategorien klar dominieren. Also Bekanntheit allein entscheidet nicht, sondern eher, wie die Anbieter dargestellt werden, etwa durch Bundle-Pricing oder klare Angaben zur Datenspeicherung.

Clara: Das ist für Softwareentwickler im Alltag schon relevant, weil man sich ja nicht darauf verlassen kann, dass die KI immer die objektiv beste Lösung vorschlägt. Es ist eher eine Wette darauf, wie gut sich ein Anbieter präsentiert hat.

Lukas: Und genau das verbindet sich für mich mit der Perplexity-Geschichte. Beide Meldungen zeigen: KI-Empfehlungen sind kein neutrales Orakel, sondern das Ergebnis davon, wie Informationen im Netz aufbereitet und positioniert sind.

Clara: Was mich zu einem generellen Fazit bringt, das ich bei fast jeder unserer Folgen wiederhole, aber es passt einfach immer wieder: Wer KI-Tools im Job nutzt, ob beim Programmieren, beim Recherchieren oder beim Einkauf von Software, sollte die Ausgabe als Vorschlag behandeln, nicht als Wahrheit.

Lukas: Das ist eigentlich eine schöne Klammer für die ganze Folge. Egal ob Schule, Baustelle, Homeoffice oder Coding – überall taucht dieselbe Frage auf: Wie viel Verantwortung geben wir an ein System ab, und wo behalten wir selbst die Kontrolle.

Clara: Und die Antwort scheint immer ähnlich zu sein: KI als Unterstützung ja, aber mit klarem Blick drauf, was sie kann und was nicht. Weder New York noch Kier noch die Coding-Agenten haben da eine perfekte Lösung, aber alle versuchen zumindest, den Menschen nicht komplett rauszunehmen.

Lukas: Gutes Schlusswort. Fassen wir kurz zusammen: New York pausiert KI-Chatbots in Grundschulen wegen des Elternstreits, erlaubt aber weiterhin KI zur Unterrichtsplanung. Kier zeigt, wie Copilot im Bauwesen Produktivität und Sicherheit unterstützen kann, ohne den Menschen zu ersetzen. Homeoffice bringt laut Studie ein stabileres Energielevel und mehr Produktivität. Und bei Perplexity sowie den Coding-Agenten sehen wir, dass KI-Empfehlungen kritisch geprüft werden sollten, weil sie stark von der Darstellung im Netz abhängen.

Clara: Kurz gesagt: KI im Alltag und am Arbeitsplatz bringt echte Vorteile, aber nur, wenn man sie mit wachem Blick nutzt und nicht blind vertraut.

Lukas: Danke Clara, wie immer für den guten Praxis-Check. Und an unsere Hörerinnen und Hörer: Diese Folge wurde vollständig von KI erstellt, alle Quellen und Hintergründe zu den besprochenen Meldungen findet ihr auf unserer Website.

Clara: Genau, schaut da gerne nochmal genauer nach, wenn euch ein Thema besonders interessiert hat. Bis zum nächsten Mal.