Wenn ChatGPT Falsches über Ihren Betrieb sagt: Warum KI halluziniert und was Sie tun können

Manchmal empfiehlt ChatGPT einen Betrieb und nennt dabei die falsche Telefonnummer, veraltete Öffnungszeiten oder eine Leistung, die es nie gab. Für lokale Anbieter ist das oft ärgerlicher als gar nicht genannt zu werden, denn ein Kunde, der vor verschlossener Tür steht, kommt selten wieder. Dieser Artikel erklärt, warum KI-Systeme solche Fehler produzieren und wie Sie die Wahrscheinlichkeit senken, dass über Ihren Betrieb Falsches im Umlauf ist.

Warum eine KI überhaupt etwas Falsches behauptet

Ein Sprachmodell wie das hinter ChatGPT ruft keine geprüfte Faktendatenbank ab. Es sagt Wort für Wort das statistisch wahrscheinlichste nächste Textstück voraus. Klingt eine Aussage glaubwürdig, kann das Modell sie ausgeben, selbst wenn sie schlicht nicht stimmt. Fachleute nennen dieses Verhalten „Halluzination“.

OpenAI hat 2025 in einer Untersuchung beschrieben, woher das kommt. Die Kernaussage: Modelle halluzinieren, weil Training und Bewertung das Raten gegenüber dem Eingeständnis von Unsicherheit belohnen. Lassen sich falsche Aussagen im Trainingsmaterial nicht sauber von Fakten trennen, entstehen plausible Unwahrheiten laut den Autoren durch „natürlichen statistischen Druck“. Hinzu kommt, dass übliche Test-Verfahren ein geratenes, falsches Ergebnis oft besser bewerten als ein ehrliches „Ich weiß es nicht“. Also rät das Modell lieber.

Für Sie als Betriebsinhaber bedeutet das: Eine KI, die Ihre Öffnungszeiten nicht sicher kennt, schweigt nicht zwingend. Sie nennt eine Zeit, die plausibel aussieht.

Der zweite Grund: veraltetes Wissen

Jedes Modell hat einen Wissensstichtag. Alles, was danach passiert ist, etwa Ihr Umzug, eine neue Nummer oder geänderte Sprechzeiten, steckt nicht im Trainingswissen. Verlässt sich ein System allein darauf, arbeitet es mit dem Stand von gestern.

Deshalb koppeln die Anbieter ihre Modelle zunehmend an eine Live-Suche. Google beschreibt sein Verfahren „Grounding with Google Search“ ausdrücklich so: Es verbinde das Modell mit aktuellen Web-Inhalten, um die faktische Genauigkeit zu erhöhen und Halluzinationen zu reduzieren, indem Antworten auf realen Informationen beruhen. Zugleich liefere das Verfahren Quellenangaben, die die Behauptungen des Modells belegen. Was ein System aktuell im Netz findet, prägt also die Antwort. Genau hier haben Sie einen Hebel.

Wichtig zu wissen: Nicht jede Antwort löst eine Live-Suche aus. Ein Modell entscheidet je nach Frage, ob eine Suche die Antwort verbessert. Fällt diese Entscheidung gegen die Suche, greift wieder das ältere Trainingswissen. Das erklärt, warum dieselbe Frage bei ChatGPT, Gemini und Perplexity unterschiedlich beantwortet werden kann und warum eine Antwort heute korrekt und morgen fehlerhaft ausfällt.

Typische Fehler, die lokale Betriebe treffen

• Falsche oder veraltete Öffnungszeiten und Feiertagsregelungen.
• Eine alte Telefonnummer oder Adresse aus einem Eintrag, den seit Jahren niemand gepflegt hat.
• Leistungen, die Sie gar nicht anbieten, oder umgekehrt fehlende Angebote, obwohl sie Ihr Kerngeschäft sind.
• Verwechslung mit einem ähnlich benannten Betrieb im Nachbarort.
• Erfundene Details wie ein Gründungsjahr oder eine Auszeichnung, die es nie gab.

Solche Fehler entstehen selten aus böser Absicht des Systems. Meist speist sich die Antwort aus widersprüchlichen oder alten Angaben, die das Modell im Netz oder im Training vorgefunden hat. Je uneinheitlicher die Datenlage, desto größer der Spielraum für eine falsche Vermutung.

Wie ein solcher Fehler in der Praxis entsteht

Ein Beispiel, das viele Betriebe kennen: Vor Jahren wurde ein Eintrag in einem Branchenverzeichnis angelegt, mit der damaligen Adresse und Festnetznummer. Später zog der Betrieb um, die Nummer wechselte, doch der alte Eintrag blieb online. Fragt nun jemand eine KI nach dem Betrieb, findet das System zwei widersprüchliche Angaben und übernimmt möglicherweise die falsche, weil sie in mehr Quellen auftaucht oder in einem Eintrag steht, der sonst vollständig wirkt.

Die KI hat hier nichts frei erfunden. Sie hat aus vorhandenem, aber unsauberem Material die scheinbar beste Schätzung gebildet. Für den Kunden ist das Ergebnis dasselbe: eine falsche Auskunft. Genau deshalb ist die Pflege der eigenen Datenspur die wirksamste Vorsorge.

Warum Sie den Fehler nicht direkt löschen können

Es gibt keinen Knopf, mit dem Sie eine falsche Aussage im Modell korrigieren. Das Trainingswissen lässt sich von außen nicht bearbeiten. Beeinflussen können Sie die Quellen, aus denen ein System bei der Live-Suche schöpft. Sind die überprüfbaren, gut auffindbaren Angaben über Ihren Betrieb eindeutig und aktuell, hat die KI eine belastbare Grundlage und greift seltener zu einer erfundenen Variante.

Das ist derselbe Mechanismus, den Google mit den Quellenangaben beim Grounding meint: Das Modell stützt sich auf das, was es belegen kann. Ihre Aufgabe ist es, dafür zu sorgen, dass das Belegbare auch stimmt.

Was Sie konkret tun können

• Kernangaben überall angleichen. Name, Adresse, Telefonnummer und Öffnungszeiten sollten auf Ihrer Website, im Google-Unternehmensprofil und in Branchenverzeichnissen identisch sein. Widersprüche zwischen diesen Quellen sind eine häufige Ursache falscher KI-Antworten.
• Das Google-Unternehmensprofil aktuell halten. Es zählt zu den meistgenutzten Quellen für lokale Angaben. Pflegen Sie Umzüge, neue Nummern und Feiertagszeiten zeitnah ein.
• Leistungen klar benennen. Schreiben Sie in eindeutigen Sätzen, was Sie anbieten und was nicht. Je klarer der Text, desto weniger muss die KI vermuten.
• Regelmäßig gegenprüfen. Fragen Sie ChatGPT, Gemini und Perplexity selbst nach Ihrem Betrieb und notieren Sie, was falsch dargestellt wird. Erst wenn Sie den konkreten Fehler kennen, können Sie die dahinterliegende Quelle korrigieren.

Wichtig zur Einordnung: Eine hundertprozentige Kontrolle über KI-Antworten gibt es nicht. Sie können die Fehlerwahrscheinlichkeit deutlich senken, indem Sie die Datenlage sauber halten. Eine bestimmte Antwort garantieren lässt sich damit nicht. Wer den Aufwand strukturiert angehen möchte, findet in der KI-Sichtbarkeits-Dokumentation die Befunde zu den eigenen Quellen samt Priorisierung.

Wo Ihr Betrieb heute steht

Ob ChatGPT, Gemini und andere KI-Systeme Ihren Betrieb heute schon empfehlen, lässt sich messen. Der kostenlose KI-Sichtbarkeits-Check von mehr gefunden zeigt Ihnen den Stand; wer es genauer wissen möchte, findet in der KI-Sichtbarkeits-Dokumentation jeden Befund mit Beleg und einen umsetzbaren Handlungsplan. Beides unverbindlich und ohne Vorbereitung.

Quellen

• OpenAI: Why language models hallucinate (2025)
• Kalai, Nachum, Vempala, Zhang: Why Language Models Hallucinate (arXiv:2509.04664)
• Google AI for Developers: Grounding with Google Search

Zurück zu allen Ratgebern