KI-Halluzinationen im Unternehmensalltag: Wenn Chatbots Fakten erfinden

440.000 australische Dollar. So viel musste die Unternehmensberatung Deloitte teilweise zurückerstatten, nachdem ihr KI-generierter Bericht für ein Ministerium aufflog. 237 Seiten voller professionell klingender Analysen – garniert mit wissenschaftlichen Quellen, die es nie gab. GPT-4o hatte sich die Studien schlicht ausgedacht.

Willkommen in der Welt der KI-Halluzinationen. Und nein, das ist kein Randphänomen mehr.

Was sind KI-Halluzinationen überhaupt?

Der Begriff klingt technisch, meint aber etwas Simples: KI-Systeme erfinden Fakten. Sie generieren Informationen, die plausibel klingen, aber schlicht falsch sind. Das Problem dabei: Sprachmodelle wie ChatGPT berechnen nur, welche Wortkombination statistisch am wahrscheinlichsten ist. Ob die Aussage stimmt? Egal.

Eine aktuelle Studie der Europäischen Rundfunkunion (EBU) bringt es auf den Punkt: 40 bis 45 Prozent der Chatbot-Antworten enthalten signifikante Mängel – sei es bei der Genauigkeit, den Quellenangaben oder dem Kontext. Keine der getesteten KIs (ChatGPT, Gemini, Copilot, Perplexity) war fehlerfrei.

Wenn der Chatbot zum Kostenrisiko wird

Deloitte ist kein Einzelfall. Air Canada musste 2024 einem Kunden 100 Dollar Rabatt gewähren, weil ihr Support-Chatbot einen nicht existierenden Tarif versprochen hatte. Die Airline versuchte sich rauszureden – das Gericht entschied anders.

KPMG International stolperte 2026 über einen Bericht zum weltweiten KI-Einsatz, der halluzinierte Fallstudien enthielt. Die interne Begründung: „Richtigkeitsprüfungen wurden nicht ordnungsgemäß durchgeführt.“ Bei einer der Big Four. Das sagt alles über den aktuellen Reifegrad.

In Deutschland sind die Zahlen eindeutig: 76 Prozent der Datenverantwortlichen berichten von geschäftlichen Problemen oder Krisen durch KI-Halluzinationen im vergangenen Jahr. Von Compliance-Verstößen über Reputationsschäden bis hin zu operativen Störungen.

Die neue Qualität von Angriffen

Parallel verschärft sich die Bedrohungslage von außen. Aktuelle Studien zeigen: 82,6 Prozent aller Phishing-Mails werden mittlerweile von KI-Modellen generiert. Das bedeutet: keine Rechtschreibfehler mehr, perfekte Grammatik, täuschend echte Absenderadressen.

Noch gefährlicher wird es bei sogenannten Multi-Vektor-Angriffen. Wenn auf eine KI-generierte Phishing-Mail ein KI-generierter Vishing-Anruf (Voice-Phishing) folgt, steigt die Erfolgsrate von 15 auf 87,5 Prozent. Eine Versechsfachung durch einen zusätzlichen Kanal.

Das Schatten-KI-Problem in Ihrem Unternehmen

Die größte Gefahr lauert oft intern. Das ifo Institut stellte 2026 fest: Zwei Drittel der Beschäftigten nutzen KI am Arbeitsplatz – aber nur ein Drittel hat sie formell eingeführt bekommen.

Diese „Schatten-KI“ ist hochproblematisch: Mitarbeiter nutzen ChatGPT, Gemini oder andere Tools für Recherchen, E-Mail-Entwürfe oder Berichte – ohne Training im Umgang mit KI-Fehlern. Ohne Bewusstsein für Halluzinationen. Ohne Prüfprozesse.

Oliver Schlenker vom ifo Institut bringt es auf den Punkt: „Die Aufgabe hat sich verschoben – von der Ausführung zum Monitoring von KI. Aber dieser letzte Schritt fehlt häufig noch.“

Was Sie konkret tun können

Die gute Nachricht: Es gibt wirksame Gegenmaßnahmen. Hier die wichtigsten für KMU:

1. Nullvertrauen bei KI-Outputs: Übernehmen Sie niemals ungeprüft, was ein Chatbot ausspuckt. Besonders bei Fakten, Zahlen, Quellen und rechtlichen Aussagen.
2. Formelle KI-Governance einführen: Machen Sie die Schatten-KI sichtbar. Definieren Sie klare Regeln, wo und wie KI genutzt werden darf – und wo nicht.
3. Mitarbeiter schulen: Sensibilisieren Sie Ihr Team für KI-Phishing und Halluzinationen. Die Bedrohung ist real, die Awareness oft nicht.
4. Human-in-the-Loop: Bei sensiblen Entscheidungen, Kundenkommunikation oder Compliance-Themen muss immer ein Mensch das letzte Wort haben.
5. Multi-Faktor-Authentifizierung: Schützen Sie sich gegen Phishing-Angriffe. Selbst wenn Zugangsdaten abgegriffen werden, bleibt eine zusätzliche Barriere.
6. Prozessverifizierung: Etablieren Sie Vier-Augen-Prinzipien bei kritischen Transaktionen – besonders wenn diese per E-Mail oder Chat angestoßen wurden.

Das Fazit für die Praxis

KI-Halluzinationen sind kein theoretisches Risiko mehr. Sie kosten Geld, beschädigen Reputationen und öffnen Angreifern Tür und Tor. Cornell University und UC Berkeley fanden in 2,5 Millionen wissenschaftlichen Artikeln fast 150.000 gefälschte Zitate durch Sprachmodelle.

Die Technologie ist da. Die Risiken sind real. Aber die Kontrollmechanismen hinken hinterher.

Für IT-Verantwortliche in KMU bedeutet das: KI ist ein mächtiges Werkzeug – aber kein Autopilot. Wer das versteht und entsprechend handelt, kann die Vorteile nutzen, ohne die Kontrolle zu verlieren. Wer blind vertraut, wird früher oder später seine Deloitte-Moment haben.

Nur eben ohne 440.000 Dollar Budget für Schadensbegrenzung.