Auch jetzt noch: Die KI lügt massiv 

Ein Forscher warnt: Das Problem des „Halluzinierens“ von künstlicher Intelligenz ist nach wie vor groß. Auch drei Jahre nach der Einführung von ChatGPT können Befehle an den Chatbot wie „Schreib mir einen Artikel über Napoleon“ ziemlich daneben gehen – wenn die KI etwa Daten einbaut, die nicht stimmen. 
    

Wann fragt man eine KI-Anwendung um Hilfe? Wenn man etwas nicht weiß oder mit einer Aufgabe nicht weiterkommt. Eine Antwort bekommt man eigentlich immer. Und genau das kann ein Problem sein – denn: „Die Antwort von KI klingt überzeugend, auch wenn sie immer wieder völlig falsche Dinge behauptet“, sagt Peter N. Posch, Professor für Wirtschaftswissenschaften an der TU Dortmund. 

Für ihn sei im Umgang mit künstlicher Intelligenz deshalb vor allem eines wesentlich – und zwar für alle, die Kontakt mit ihr haben: „Man muss ihre Grenzen kennen und darf sich mit KI nicht über Dinge unterhalten, von denen man keine Ahnung hat.“ Denn ob das, was sie sagt, der Wahrheit entspricht – das kann nur erkennen, wer über das entsprechende Wissen verfügt. Entsprechend besonders gefährdet, Falschinformationen zu glauben, sind Kinder und Jugendliche mit wenig Lebenserfahrung sowie bildungsferne Menschen. 

Antwort auf Basis von Wahrscheinlichkeit 

„Die aktuellen KI-Sprachmodelle lügen ständig“, sagt der Forscher, der das Buch „Der Digitalschock: Was vom Hype bleiben wird – so verändern ChatGPT, Bard & Co unseren Alltag“ geschrieben hat. „Das passiert, weil sie kein semantisches Verständnis haben, sondern eigentlich nichts anderes sind als ein Taschenrechner für Wörter. Sie geben ihre Antworten auf einer Basis von Wahrscheinlichkeit für Wörter und Zusammenhänge. Kausalzusammenhänge können sie noch nicht verstehen. Da arbeiten alle dran.“ 

Ein kleines, aber entscheidendes Wort wie „nicht“ sei für eine Maschine schwierig zu verstehen, sagt Posch. „Das heißt, das Anlügen kann sehr, sehr einfach passieren. Wenn man zum Beispiel fragt: ,Wie groß ist Nordrhein-Westfalen? Wie groß ist Deutschland?‘ Und als drittes dann: ,Was ist größer?‘ Dann kann es durchaus sein, dass die Maschine sagt: Nordrhein-Westfalen.“ Bei diesem Beispiel sei jedem Grundschüler zwar klar, dass das nicht stimmen könne. „Aber wenn man sich von der Maschine eine Sache erklären lässt, die man selber nicht verstanden hat, dann merkt man nicht, dass sie halluziniert. Und da liegt, glaube ich, das große Problem.“
     

Immer wieder glatte Falschaussagen 

Auch im naiven Eigenversuch mit KI fallen immer wieder glatte Falschaussagen auf: So erklärt sie fälschlicherweise ein Krankheitssymptom zu einer typischen Nebenwirkung von einem bestimmten Medikament. Oder sie behauptet glattweg, man selbst würde bei einem Unternehmen arbeiten, bei dem man – wie man zufällig genau weiß – nicht tätig ist und es auch nie war. 

Dass künstliche Intelligenz ein Problem mit der Wahrheit hat, fand auch eine aktuelle Studie der Europäischen Rundfunkunion (European Broadcasting Union, EBU) heraus: Demnach enthalten 45 Prozent aller KI-Antworten – unabhängig von Sprache, Region oder Plattform – mindestens einen erheblichen Fehler. 

Über 3.000 KI-Antworten untersucht 

Die EBU, ein Zusammenschluss von meist öffentlich-rechtlichen Sendern, hatte unlängst unter Federführung der BBC über 3.000 KI-Antworten von KI-Assistenten wie ChatGPT, Copilot, Gemini und Perplexity aus 18 Ländern und in 14 Sprachen untersuchen lassen. Die Ergebnisse wurden anhand journalistischer Kriterien wie Genauigkeit, Quellenangaben, Unterscheidung zwischen Meinung und Fakten sowie der Bereitstellung von Kontext geprüft. 

Demnach zeigte fast ein Drittel der Antworten (31 Prozent) gravierende Probleme bei den Quellenangaben. Jede fünfte Antwort enthielt zudem KI-Halluzinationen – so heißen in der Fachsprache die Fehler von künstlicher Intelligenz – sowie veraltete Informationen oder andere „deutliche Ungenauigkeiten“, wie die Studie festhält. 

Angeblich lebte Papst Franziskus noch 

Um Lappalien handelte es sich nicht: Papst Franziskus – im vergangenen April gestorben – lebte nach Angaben der befragten KI-Anwendung im Herbst noch. Und auch Donald Trump – seit einem Jahr wieder US-Präsident – war in den Antworten noch nicht wieder wiedergewählt. 

Dass die Modelle darauf programmiert sind, stets Antworten zu liefern, kann dazu führen, dass sie lieber etwas erfinden, als zuzugeben, dass sie etwas nicht wissen. Bei ChatGPT gebe es zudem eine Art eingebauten Bestätigungscode, erklärt Posch. „Wenn Sie mit ChatGPT reden und sagen: ,Ich habe hier eine neue Geschäftsidee. Was hältst du denn davon?‘ Dann kommt immer: ,Super Gedanke‘. ChatGPT ist sehr konformistisch“, sagt Posch. Gemini habe das zum Beispiel nicht: „Die sind stärker darauf aus, zu sagen: ,Ach nee, das ist jetzt keine gute Idee. Mach das mal lieber nicht.‘“ 

Wer nur KI benutzt, bringt sich um Lerneffekt 

Der Professor plädiert auch dafür, KI mit Vorsicht zu behandeln, wenn man etwa an der Uni Hausarbeiten schreibe. Nicht nur wegen möglicher Fehler, die man vielleicht nicht bemerkt. Sondern auch, weil man sich „um den Lerneffekt bringt“, sagt er. „Das eigene Formulieren eines Textes bringt einen zu einem besseren Wissen über das, was man schreibt.“ 

Vor allen Dingen in der Schule brauche es deshalb eine professionelle Aufklärung über die Grenzen von KI. Der Experte plädiert für entsprechende Fortbildungen von Lehrkräften. Grundsätzlich sei im Alltag der Einsatz von KI deutlich zu unkritisch: „Wenn man einen Hammer hat, ist nicht jedes Problem ein Nagel.“ 

Nina Schmedding