In „Prompting für Einsteiger“ hast du gelernt, wie du mit einer einfachen 4-Schritte-Struktur (Rolle, Aufgabe, Kontext, Format) deutlich bessere Prompts schreibst und KI gezielter einsetzt.
Vielleicht fühlst du dich gleichzeitig fasziniert und verunsichert: Auf der einen Seite staunst du, was KI in Sekunden ausspuckt – auf der anderen Seite fragst du dich, ob du diesen Antworten wirklich trauen kannst und ob das alles noch „deins“ ist.
In diesem Artikel geht es um die andere Seite der Medaille:
Was passiert, wenn KI sich irrt – und wie gehst du verantwortungsvoll damit um?
Denn so beeindruckend ChatGPT & Co. sind: Sie machen Fehler. Sie erfinden Dinge. Und sie sind kein geschützter Raum für beliebige Daten.
In diesem Artikel erfährst du:
- warum KI keine „Wahrheitsmaschine“ ist,
- was Halluzinationen sind und wie du sie erkennst,
- wie du eine einfache Qualitätssicherung für KI-Antworten einbaust,
- wie du „Critique & Improve“ gezielt für sensible Themen nutzt
- und welche Daten du nicht in einen Prompt schreiben solltest.
1. Wie KI „denkt“ – und wo ihre Grenzen liegen
Damit du Fehler einschätzen kannst, musst du grob verstehen, wie ein Sprachmodell arbeitet.
Muster statt Verständnis
Sprachmodelle wie ChatGPT werden mit sehr vielen Texten trainiert. Sie lernen dabei, Muster in Sprache zu erkennen:
- welche Wörter häufig zusammenkommen,
- wie Sätze gebaut sind,
- wie bestimmte Themen typischerweise erklärt werden.
Wenn du eine Frage stellst, berechnet das Modell nicht „die Wahrheit“, sondern die wahrscheinlichste nächste Textfortsetzung – basierend auf all diesen Mustern.
Das hat zwei wichtige Konsequenzen:
- Die KI versteht nicht wie ein Mensch.
Sie hat keine Intuition, keine eigenen Erfahrungen, keine echte Vorstellung von „Wahrheit“. - Eine Antwort kann sprachlich perfekt sein – und trotzdem inhaltlich falsch oder veraltet.
Kein Live-Zugriff auf die Realität
Je nach Tool und Version
- ist der Wissensstand auf einen bestimmten Zeitraum begrenzt oder
- es gibt zwar Web-Zugriff, aber der ist ebenfalls nicht unfehlbar.
Wichtig ist: Ein Sprachmodell ist kein Echtzeit-Abbild der Welt und ersetzt keine Fachrecherche.
Merksatz:
KI ist ein extrem sprachbegabter Mustererkenner – kein allwissender Fakten-Gott.
Und genau deshalb ist es immens wichtig, deine Erfahrung, dein Wissen und deine innere Wahrheit mit ihrem Wissen zu verflechten bzw. dein Gefühl, deine menschliche Intelligenz (aka „Human Brilliance“) als Kompass zu nutzen. Denn KI kann in letzter Instanz Muster erkennen und verstärken – aber sie kann nicht fühlen, was für dich stimmig ist und deine Wahrheit spricht.
2. Halluzinationen: Wenn KI überzeugend Quatsch erzählt
Vielleicht hast du es schon erlebt: Du fragst etwas, die Antwort klingt souverän – und stellt sich später als Unsinn heraus.
Das nennt man oft Halluzination:
Die KI „halluziniert“ Informationen, die nicht stimmen oder völlig ausgedacht sind.
Typische Beispiele für Halluzinationen
- Erfundene Quellen:
Die KI nennt Studien, Bücher oder Links, die es gar nicht gibt – aber super seriös klingen. - Falsche Zahlen:
Prozentwerte, Jahreszahlen oder Statistiken werden „geraten“, weil sie zum Muster passen. - Erfundene Paragrafen oder Regelungen:
Gerade bei Rechtsfragen mischt die KI Formulierungen, die plausibel aussehen, aber nicht existieren.
Warum passiert das?
Die KI „weiß“ nicht, was wahr ist. Sie „weiß“ nur, wie eine typische Antwort auf so eine Frage aussehen könnte.
Wenn dir KI schon einmal souverän formulierten Unsinn verkauft hat, heißt das also nicht, dass du „zu naiv“ oder „zu unkritisch“ bist. Es zeigt nur, wie wirkungsvoll Sprache sein kann – und wie wichtig dein wacher, fühlender Blick darauf ist.
Woran du Halluzinationen erkennst
Es gibt keine perfekte Methode, aber ein paar Warnsignale:
- sehr spezifische Fakten ohne Quelle („Genau 73,4 % der Menschen…“),
- Quellen oder Studien, die du bei einer schnellen Websuche nicht findest,
- Widersprüche innerhalb der Antwort (z. B. im ersten Absatz A, im dritten das Gegenteil),
- übertriebene Sicherheit im Tonfall („auf jeden Fall“, „zweifelsfrei“, „ganz klar“), obwohl das Thema eigentlich komplex ist.
Das heißt nicht, dass jede KI-Antwort falsch ist – aber du solltest sie immer als Entwurf sehen, nicht als fertige Wahrheit.
Du kannst jede Halluzination auch als Erinnerung lesen: Vertraue nicht nur der glatten Formulierung, sondern auch deinem Gefühl. Zieht sich innerlich etwas zusammen, wenn du die Antwort liest? Oder fühlt es sich weit, ruhig und stimmig an?
3. Qualitätssicherung: So prüfst du KI-Antworten in der Praxis
Stell dir vor, du hättest eine sehr fleißige, aber gelegentlich schlampige Praktikantin. Genau so kannst du KI behandeln:
„Du machst den ersten Entwurf – ich bleibe verantwortlich für die Qualität.“
Hier sind drei einfache Qualitätsschritte, die du direkt in deinen Arbeitsalltag einbauen kannst.
Schritt 1: Plausibilitätscheck
Frage dich zuerst:
- Passt die Antwort zu meiner Frage?
- Passt sie zur Zielgruppe?
- Sind Aussagen offensichtlich falsch oder widersprüchlich?
Dafür reicht oft ein aufmerksames Durchlesen. Du musst nicht alles nachschlagen – aber du solltest grobe Unstimmigkeiten rausfiltern und die Aussagen inhaltlich prüfen.
Schritt 2: Fakten & Zahlen gegenprüfen
Immer dann, wenn es um konkrete Fakten geht – vor allem bei
- Zahlen, Statistiken,
- Gesetzen, Paragrafen,
- medizinischen oder finanziellen Aussagen –
solltest du mindestens eine zweite Quelle heranziehen (z. B. offizielle Webseiten, Fachliteratur, interne Dokumente).
Faustregel: KI = Vorschlag für „wo ich nachschauen sollte“.
Entscheidung = immer dein Job oder der einer Fachperson.
Schritt 3: Struktur- und Stilcheck
Gerade bei Texten lohnt sich ein kurzer Blick auf:
- Struktur: Gibt es einen klaren Aufbau (Einleitung, Hauptteil, Fazit)?
- Länge: Ist der Text zu lang/zu kurz für den Zweck?
- Sprache: Passt der Ton (z. B. „du“ vs. „Sie“)? Ist er verständlich für die Zielgruppe?
Vieles davon kannst du direkt wieder als Prompt formulieren:
„Bitte kürze den Text um ca. 30 %, ohne wichtige Inhalte zu verlieren, und passe die Anrede konsistent auf ‚Sie‘ an.“
Wenn du deiner Ausarbeitung eine persönlichere Note geben möchtest, binde deine eigenen Beispiele mit ein, gib der KI von dir formulierte Texte als Formulierungsbasis, setze Leitplanken.
4. „Critique & Improve“ als eingebauter QA-Schritt
Du musst die Antwort nicht allein prüfen – du kannst die KI ihre eigene Arbeit noch einmal kritisch anschauen lassen.
So funktioniert „Critique & Improve“
- Die KI erstellt einen Entwurf.
- Du bittest die KI, diesen Entwurf nach klaren Kriterien zu bewerten.
- Die KI überarbeitet den Entwurf auf Basis ihrer eigenen Kritik.
Beispiel-Prompt für eine allgemeine Qualitätssicherung von Texten:
„Bitte bewerte den folgenden Text kritisch im Hinblick auf:
– Verständlichkeit für die gewählte Zielgruppe
– klare Struktur
– passenden Tonfall (z. B. ‚du‘, warm, bestärkend, praxisnah).
Nenne mir zuerst stichpunktartig 3–5 konkrete Verbesserungsvorschläge.
Erstelle danach eine überarbeitete Version des Textes, in der du diese Vorschläge umsetzt.
Text: …“
Damit baust du einen einfachen Qualitätssicherungsschritt ein – ohne selbst jedes Detail neu formulieren zu müssen.
5. Sensible Themen: KI nur im „Entwurfsmodus“ nutzen
Besonders heikel wird es, wenn es um Themen geht, bei denen Fehler wirklich wehtun können:
- Recht und Verträge
- Medizin und Gesundheit
- Finanzen, Steuern, Investments
- Sicherheit, Compliance, Personalentscheidungen
Wichtig:
KI ersetzt keine Fachberatung durch Anwält:innen, Ärzt:innen, Steuerberater:innen oder andere Profis.
Gerade bei diesen Themen ist es ein Akt der Selbstfürsorge, dir Fachpersonen an die Seite zu holen – statt zu versuchen, alles allein mit einer Maschine zu klären.
Wie du KI dennoch sinnvoll einsetzt
Du kannst KI in diesen Bereichen nutzen – aber mit klarer Rolle:
- als Übersetzerin: Fachsprache → einfache Sprache
- als Strukturhilfe: lange Texte in Abschnitte & Stichpunkte zerlegen
- als Fragen-Generatorin: „Welche Punkte sollte ich mit einer Fachperson klären?“
So nutzt du KI als Denkhilfe, nicht als Ersatz für Profis.
6. Datenschutz: Was du besser nicht in einen Prompt schreibst
Neben Halluzinationen ist Datenschutz einer der wichtigsten Punkte, wenn du KI im Alltag nutzt.
Grundprinzip:
Behandle KI immer so, als würdest du mit einer fremden Person im Internet sprechen.
Datenschutz ist nicht nur eine rechtliche Pflicht – er ist auch Ausdruck von Respekt vor der Privatsphäre der Menschen, mit denen du arbeitest.
Diese Daten solltest du vermeiden
Gib insbesondere keine Daten ein, die du nicht auch an eine externe Person mailen würdest, zum Beispiel:
- personenbezogene Daten: Namen, Adressen, Telefonnummern, Geburtsdaten, interne Mitarbeiterdaten,
- vertrauliche Dokumente: Verträge, interne Strategiepapiere, Finanzzahlen, Angebote, Roadmaps,
- Gesundheits- und besonders sensible Daten: Diagnosen, Patient:innen-Informationen, religiöse oder politische Überzeugungen,
- Daten unter Geheimhaltung: alles, was unter NDA, Berufsgeheimnis oder ähnlichen Vereinbarungen steht.
Wie du trotzdem mit echten Inhalten arbeiten kannst
Wenn du echte Fälle bearbeiten willst, gibt es drei Wege, sicherer zu arbeiten:
- Anonymisieren: Ersetze Namen, Kundendaten, Beträge und andere identifizierende Merkmale durch Platzhalter („Person A“, „Firma X“, „xx.xxx €“).
- Zusammenfassen statt Rohdaten: Schreibe eine eigene Kurzfassung, statt das Originaldokument 1:1 einzufügen.
- Richtlinien beachten: Halte dich an die Datenschutz- und IT-Richtlinien deines Unternehmens.
Im Zweifel lieber einmal mehr intern nachfragen („Darf ich das in ein KI-Tool geben?“).
7. Drei Mythen über KI, die du ablegen darfst
Zum Abschluss noch drei verbreitete Missverständnisse – und warum sie problematisch sind.
Mythos 1: „Wenn es gut klingt, wird es schon stimmen.“
Gerade weil KI sprachlich so stark ist, wirkt vieles automatisch „richtig“.
Aber: Guter Stil ist kein Qualitätsbeweis.
Dein Gegenmittel:
- Plausibilitätscheck,
- Fakten gegenprüfen,
- kritische Fragen stellen.
Und: Erlaube dir, deinem eigenen „Hm, irgendwas passt hier nicht“-Gefühl zu glauben – auch wenn der Text glänzt.
Mythos 2: „KI ist objektiv.“
Sprachmodelle werden mit menschlichen Texten trainiert – und darin steckt Bias:
- kulturelle Perspektiven,
- Stereotype,
- einseitige Darstellungen.
Das heißt: KI kann Vorurteile spiegeln oder verstärken, ohne dass es „böse Absicht“ gäbe.
Dein Gegenmittel:
- sensibel lesen,
- bei heiklen Themen (z. B. Geschlecht, Herkunft, Religion) besonders genau hinschauen,
- nicht blind übernehmen.
Wenn sich eine Formulierung für dich abwertend, hart oder schief anfühlt, darfst du sie ändern – selbst wenn sie „typisch“ oder „üblich“ klingt.
Mythos 3: „Je länger der Prompt, desto besser.“
Viele glauben, sie müssten die KI mit riesigen Textwänden füttern, um gute Ergebnisse zu bekommen.
In der Praxis gilt eher: Klarheit schlägt Länge.
Besser:
- präzise Aufgabe,
- relevanter Kontext,
- klares Format,
- dann iterativ nachschärfen.
Deine innere Stimme als letzte Instanz
Bei all den technischen Möglichkeiten bleibt eines konstant: dein Gefühl.
Du kannst jede KI-Antwort durch drei Filter laufen lassen:
- Kopf: Ist das logisch, plausibel, fachlich sauber?
- Herz: Fühlt sich das stimmig, wahrhaftig, respektvoll an?
- Körper: Wird es weit und ruhig – oder eng und angespannt?
Wenn einer dieser Filter „nein“ sagt, darfst du die Antwort anpassen, verwerfen oder mit einer Fachperson klären. KI liefert Text – du entscheidest, was du daraus machst.
Fazit: Nutze KI – dennoch hast du den Hut auf
Wenn du KI sinnvoll nutzen willst, brauchst du zwei Dinge:
- gute Prompts: Rolle, Aufgabe, Kontext, Format,
- Bewusstsein für Grenzen & Risiken von KI.
Zusammengefasst heißt das:
- KI ist ein Mustererkenner, kein Wahrheitsorakel.
- Halluzinationen sind normal, nicht Ausnahme – prüfe wichtige Fakten.
- Nutze „Critique & Improve“, um Antworten zu hinterfragen und zu verbessern.
- Bei sensiblen Themen: KI im Entwurfsmodus lassen, nicht als Entscheiderin.
- Datenschutz ernst nehmen: keine vertraulichen oder personenbezogenen Daten in Prompts.
So entsteht ein Miteinander, in dem KI dich unterstützt, ohne deine Verantwortung zu ersetzen.
FAQ zu Grenzen von KI, Halluzinationen & Datenschutz
1. Ist KI zuverlässig?
KI kann sehr hilfreiche und oft auch sehr präzise Antworten liefern – aber sie ist nicht unfehlbar. Sie arbeitet mit Wahrscheinlichkeiten und Mustern, nicht mit einem eingebauten Wahrheitskompass. Nutze KI-Ergebnisse daher immer als Entwurf, den du prüfst und anpasst.
2. Was sind Halluzinationen bei KI?
Von Halluzination spricht man, wenn KI Informationen erfindet: z. B. Studien, Zahlen, Zitate oder Paragrafen, die es gar nicht gibt. Sie tut das nicht „absichtlich“, sondern weil die erfundene Antwort sprachlich gut in das erwartete Muster passt. Umso wichtiger sind Faktenchecks bei sensiblen Themen.
3. Wie kann ich KI-Antworten auf Qualität prüfen?
Baue dir eine kleine Routine:
- Plausibilitätscheck (passt das zur Frage und zur Zielgruppe?),
- Faktencheck bei Zahlen, Gesetzen, sensiblen Bereichen,
- Struktur- und Stilcheck (Aufbau, Länge, Ton).
Nutze zusätzlich „Critique & Improve“, um die KI ihren eigenen Text nach deinen Kriterien überarbeiten zu lassen.
4. Darf ich vertrauliche Daten in KI-Tools eingeben?
Als Grundregel: Nein, keine vertraulichen oder personenbezogenen Daten. Behandle KI wie eine externe Person im Internet. Anonymisiere Daten, arbeite mit Platzhaltern und halte dich unbedingt an die Datenschutz- und IT-Richtlinien deines Unternehmens.
5. Ersetzt KI Fachberatung?
Nein. KI kann zwar Informationen strukturieren, Fachsprache übersetzen und dir helfen, Fragen für ein Gespräch mit Expert:innen vorzubereiten. Sie ersetzt aber keine individuelle Beratung durch Anwält:innen, Ärzt:innen, Steuerberater:innen oder andere Profis – vor allem nicht bei weitreichenden Entscheidungen.
6. Wie kann ich KI trotzdem sicher im Unternehmen nutzen?
Definiere klare Spielregeln:
- Welche Anwendungsfälle sind erlaubt (z. B. Entwürfe, Ideen, Zusammenfassungen)?
- Welche Daten dürfen niemals in KI-Tools landen?
- Wie werden KI-Ergebnisse geprüft, bevor sie nach außen gehen?
Schule dein Team in diesen Richtlinien und ermutige zu einem wachen, reflektierten Umgang.
7. Was mache ich, wenn sich eine KI-Antwort „komisch“ anfühlt?
Nimm dieses Bauchgefühl ernst. Lies die Antwort noch einmal langsam, markiere Stellen, die sich nicht stimmig anfühlen, und stelle der KI gezielte Rückfragen („Dieser Teil wirkt für mich zu hart/zu technisch/zu absolut. Bitte formuliere ihn weicher/verständlicher/mit klaren Einschränkungen.“). Du darfst jederzeit entscheiden: „Das übernehme ich nicht.“ – und genau das ist gelebte Verantwortung im Umgang mit KI.
Leave a Reply