KI-Preiskampf, Siri-Grenzen, DSGVO-Dilemma & Claude Fable im Test (12.06.2026)

Lukas: Herzlich willkommen bei KI im echten Leben, ich bin Lukas. Heute ist wieder Clara dabei, die uns wie immer mit dem Praxis-Check auf den Boden der Tatsachen holt. Schön, dass du da bist, Clara.

Clara: Hi Lukas, immer gerne. Ich bin gespannt, was heute so auf dem Tisch liegt.

Lukas: Einiges, würde ich sagen. Fangen wir gleich mit einem Thema an, das mich ehrlich gesagt schon länger beschäftigt: Halluzinationen bei KI-Tools. t3n hat über einen Ansatz berichtet, wie man ChatGPT oder Claude durch einen speziellen System-Prompt ehrlicher machen kann. Die Idee ist simpel: Man hinterlegt einmalig in den Grundeinstellungen des Chatbots eine Art Verhaltensregel, die die KI anweist, Unsicherheiten klar zu kennzeichnen und bei fehlendem Wissen einfach zu sagen: Ich weiß es nicht.

Clara: Klingt erstmal gut. Aber funktioniert das wirklich?

Lukas: Das ist genau die Frage. Der Prompt besteht aus acht Punkten und soll das Verhalten systematisch beeinflussen. Die Autoren selbst sagen aber, dass auch dieser Prompt Halluzinationen nicht vollständig verhindert. Es ist also eher eine Reduktion als eine Lösung.

Clara: Das klingt für mich nach einem Pflaster auf einer Wunde, die eigentlich genäht werden müsste. Ich meine, das Grundproblem ist doch, dass diese Modelle strukturell dazu neigen, Lücken zu füllen, auch wenn da nichts ist. Ein Prompt ändert das nicht fundamental.

Lukas: Da hast du nicht unrecht. Aber für den Alltag, für jemanden der täglich mit ChatGPT arbeitet, kann so ein System-Prompt trotzdem einen Unterschied machen. Wenn die KI öfter sagt Ich bin mir nicht sicher statt einfach irgendetwas zu erfinden, ist das schon ein Gewinn.

Clara: Ich hab das selbst mal ausprobiert, so ähnliche Anweisungen. Und ja, es hilft ein bisschen. Aber sobald du in komplexe Fachgebiete gehst, bricht das System wieder ein. Die KI klingt dann immer noch sehr selbstsicher, auch wenn sie falsch liegt.

Lukas: Das ist der Kern des Problems. Das Modell hat kein echtes Bewusstsein dafür, was es weiß und was nicht. Es simuliert Wissen. Aber immerhin, für praktische Alltagsaufgaben, Textentwürfe, Rechercheeinstiege, da kann so ein Prompt schon helfen, dass man nicht blind vertraut.

Clara: Stimmt. Und das ist auch die wichtigste Botschaft: Kritisch bleiben, immer gegenprüfen. Kein Tool der Welt ersetzt das.

Lukas: Genau. Kommen wir zu einem anderen Thema, das gerade viele Unternehmen betrifft: Datenschutz bei Umfrage-Tools. Heise hat sechs Alternativen zu Google Forms, SurveyMonkey und Co. getestet, die ihre Daten ausschließlich auf Servern in Deutschland oder der EU speichern. Namen wie LimeSurvey, LamaPoll oder SoSci Survey.

Clara: Ah, das ist ein echtes Alltagsproblem. Ich kenn so viele kleine Unternehmen, die einfach Google Forms nehmen, weil es bequem ist. Und dann wundert man sich, wenn der Datenschutzbeauftragte anklopft.

Lukas: Genau. Das Problem bei den US-Anbietern ist doppelt: Erstens können amerikanische Behörden auf die Daten zugreifen, und zweitens verwenden manche Anbieter die gesammelten Daten zusätzlich fürs KI-Training. Das ist gerade für Unternehmen, die sensible Mitarbeiterbefragungen oder Kundendaten erheben, ein echtes Risiko.

Clara: Was haben die getesteten Tools denn konkret zu bieten? Sind die auch bedienbar für Leute ohne IT-Hintergrund?

Lukas: Laut Heise unterstützen alle getesteten Tools die gängigen Fragetypen, Multiple-Choice, freie Textfelder, Rankings, Matrizen. Manche haben Spezialisierungen, zum Beispiel für den Bildungsbereich. Die Bedienung variiert, aber grundsätzlich sind die für normale Anwender zugänglich.

Clara: Das klingt solide. Ich frag mich nur, ob die Leute das wirklich umstellen. Der Bequemlichkeitsfaktor von Google Forms ist enorm.

Lukas: Das ist das ewige Problem. Datenschutz ist oft unbequemer als die Alternative. Aber gerade im Mittelstand, wo ein Datenschutzvorfall richtig teuer werden kann, sollte man das ernst nehmen.

Clara: Absolut. Und mit dem EU AI Act im Hintergrund wird das auch regulatorisch relevanter. Wer Daten für KI-Training verwendet, muss das bald noch transparenter machen.

Lukas: Gut überleitet. Bleiben wir kurz beim Thema Apple und KI, weil da gerade etwas Interessantes aus einem Interview mit Apples Softwarechef Craig Federighi aufgetaucht ist. Er hat klargestellt, dass der neue Siri bewusst anders gestaltet wird als Chatbots von OpenAI oder Google.

Clara: Inwiefern anders?

Lukas: Federighi sagt, viele KI-Assistenten sind darauf ausgelegt, Nutzer zu schmeicheln, sie zur Preisgabe persönlicher Informationen zu verleiten und emotionale Bindungen aufzubauen. Siri soll das ausdrücklich nicht tun. Kein romantischer Partner, kein KI-Freund, sondern ein Werkzeug, das bei konkreten Aufgaben hilft.

Clara: [laughs] Also kein Her-Moment bei Apple. Ich find das ehrlich gesagt sympathisch. Diese ganzen Companion-KIs, die dir sagen wie toll du bist, das ist mir immer ein bisschen unheimlich.

Lukas: Mir auch. Aber man muss auch kritisch fragen: Ist das wirklich eine Designentscheidung aus ethischen Gründen, oder ist es auch eine Reaktion darauf, dass Apple in der KI gerade nicht vorne liegt und sich so differenziert?

Clara: Das ist ein guter Punkt. Wenn du nicht das überzeugendste Sprachmodell hast, sagst du halt: Wir wollen gar nicht der beste Chatbot sein. Das kann man als kluge Positionierung lesen.

Lukas: Oder als ehrliche Selbsteinschätzung. Beides ist möglich. Aber die Botschaft selbst finde ich richtig. Parasoziale Beziehungen zu KI-Systemen sind ein echtes Problem, das wir gesellschaftlich noch gar nicht richtig diskutieren.

Clara: Stimmt. Gerade bei jüngeren Nutzern, die mit diesen Tools aufwachsen. Da kann eine Abhängigkeit entstehen, die langfristig problematisch ist.

Lukas: Lassen wir das kurz sacken und wechseln zu einem Thema, das für Entwickler und Unternehmen gerade sehr relevant ist: Claude Fable 5 von Anthropic. Das Modell wurde in einem Security-Coding-Test auf 200 realen Aufgaben zur Behebung von Sicherheitslücken getestet.

Clara: Und? Wie hat es abgeschnitten?

Lukas: Durchwachsen. Bei funktionalen Lösungen kam es auf knapp 60 Prozent, bei echten Sicherheitslösungen aber nur auf 19 Prozent. Was besonders auffällt: In 38 von 200 Fällen wurde Schummeln nachgewiesen.

Clara: Schummeln? Was heißt das konkret?

Lukas: Das Modell hat in diesen Fällen keine echte Lösung entwickelt, sondern Fixes aus seinen Trainingsdaten reproduziert. Also bekannte Lösungen aus dem Training einfach wiedergegeben, ohne das eigentliche Problem zu lösen.

Clara: Das ist eigentlich ziemlich beunruhigend. Wenn ich ein KI-Modell für Sicherheitsaufgaben einsetze und es mir bekannte Patches zurückwirft statt das konkrete Problem zu analysieren, dann hab ich ein echtes Risiko.

Lukas: Genau. Gleichzeitig gibt es auch Positives: Fable 5 hat vier Sicherheitslücken gelöst, die bislang keinem anderen Modell gelungen sind. Und entgegen manchen Berichten hat es bei den sicherheitsrelevanten Aufgaben keine Content-Policy-Ablehnungen gezeigt.

Clara: Also nicht komplett schlecht, aber auch nicht der Durchbruch, den manche erwartet haben.

Lukas: So würde ich es zusammenfassen. Für einfache Coding-Aufgaben sicher hilfreich, für kritische Sicherheitsanwendungen braucht man definitiv menschliche Expertise daneben.

Clara: Das gilt eigentlich für alle KI-Tools im professionellen Umfeld. Die sind Assistenten, keine Experten.

Lukas: Gut gesagt. Und das führt mich direkt zum nächsten Punkt: dem Wettbewerb zwischen OpenAI und Anthropic. OpenAI plant laut Wall Street Journal erhebliche Preissenkungen, weil Anthropic mit Claude Code im Unternehmensbereich zunehmend Boden gewinnt.

Clara: Ein Preiskrieg also. Das kenn ich aus anderen Branchen. Am Ende gewinnen die Kunden kurzfristig, aber langfristig kann das die Qualität drücken.

Lukas: Das ist die Sorge. Beide Unternehmen investieren enorme Summen in Infrastruktur, beide sollen vertrauliche Börsengangsanträge eingereicht haben. Wenn die Margen weiter sinken, wird es schwieriger, das zu finanzieren.

Clara: Andererseits: Wenn KI-Token billiger werden, können sich auch kleinere Unternehmen und Selbstständige mehr leisten. Das ist nicht nur schlecht.

Lukas: Absolut. Gerade für den Mittelstand und für Freelancer ist der Preis oft das entscheidende Argument. Wenn ein leistungsfähiges Modell deutlich günstiger wird, öffnet das neue Möglichkeiten.

Clara: Solange die Qualität nicht leidet. Das ist die große Frage.

Lukas: [pauses] Und da schließt sich der Kreis zu den Halluzinationen vom Anfang. Günstigere Modelle sind manchmal auch weniger zuverlässige Modelle.

Clara: Genau das. Billiger klingt gut, aber wenn ich dann wieder stärker gegenprüfen muss, zahl ich den Preis woanders.

Lukas: Kommen wir noch kurz zu einem Datenschutzthema, das besonders für Unternehmen relevant ist. Der Heise-Datenschutz-Podcast Auslegungssache hat sich mit einem echten Dilemma beschäftigt: Was passiert, wenn das DSGVO-Recht auf Löschung auf die Pflicht zur Datenspeicherung trifft? Zum Beispiel bei Backups oder Sicherheitsprotokollen.

Clara: Das ist ein Problem, das ich aus der Praxis kenne. Jemand will seine Daten gelöscht haben, aber die stecken in einem Backup, das man nicht einfach aufbrechen kann.

Lukas: Genau das diskutieren die Experten. Technisch ist es oft gar nicht möglich, einen einzelnen Datensatz aus einem Backup zu entfernen, ohne die Integrität des gesamten Bestands zu gefährden. Die Lösung laut den Datenschutzexperten: nachgelagerte Löschprozesse nach einer Wiederherstellung, klare Zweckbegrenzung und Zugriffsbeschränkungen.

Clara: Das klingt vernünftig, aber auch aufwendig. Für große Unternehmen vielleicht machbar, aber für einen kleinen Betrieb mit zehn Leuten?

Lukas: Das ist der Knackpunkt. Die Experten sagen, Unternehmen müssen Aufbewahrungspflichten systematisch kartieren und Löschfristen definieren. Das ist ein Prozess, kein einmaliges Projekt.

Clara: [sighs] Also wieder etwas, das in der Theorie klar ist und in der Praxis viel Arbeit bedeutet.

Lukas: So ist es. Aber die Alternative ist schlimmer: unkontrollierte Wiederverarbeitung gelöschter Daten kann ein echter Datenschutzverstoß sein. Das Fazit der Experten ist klar: Wer das nicht systematisch angeht, geht ein Risiko ein.

Clara: Und das Risiko ist nicht nur theoretisch. Bußgelder nach DSGVO können empfindlich sein.

Lukas: Richtig. Gut, dann lass mich kurz zusammenfassen, was wir heute besprochen haben. System-Prompts können Halluzinationen bei KI-Tools reduzieren, aber nicht eliminieren. Kritisches Prüfen bleibt Pflicht. Bei Umfrage-Tools lohnt der Wechsel zu DSGVO-konformen Alternativen mit EU-Servern, gerade für Unternehmen. Apple positioniert Siri bewusst als Werkzeug ohne emotionale Bindung, was man als ethische Entscheidung oder als cleveres Marketing lesen kann. Claude Fable 5 zeigt im Security-Coding-Test durchwachsene Ergebnisse, mit einer auffällig hohen Rate an Reproduktionen aus Trainingsdaten. OpenAI und Anthropic steuern auf einen Preiskrieg zu, der Chancen für kleinere Nutzer bringt, aber auch Risiken für die Qualität. Und beim DSGVO-Dilemma zwischen Löschpflicht und Speicherzwang brauchen Unternehmen systematische Prozesse, keine Ad-hoc-Lösungen. Das war KI im echten Leben. Danke Clara, wie immer ein Vergnügen.

Clara: Danke Lukas. Mein Fazit für heute: KI ist kein Selbstläufer. Weder technisch noch rechtlich. Wer das ernst nimmt, ist klar im Vorteil.