Sonntag, 24. August 2025 – zuletzt vor 2 Wochen aktualisiert
Wenn KI halluziniert
Ich habe in einem anderen Artikel gezeigt: KI kann beim Erstellen von Webseiten sehr helfen. Aber es gibt auch ein Problem.
Manchmal macht eine KI etwas Unerwartetes. Das nennt man Halluzinieren. Dann vergisst die KI vorherige Schritte. Oder sie erfindet etwas Neues, das gar nicht passt. Auch beim Programmieren kann das passieren.
Ein Beispiel
Danach habe ich viele Stunden ausprobiert:
- Ich habe Scripte mit Apple-Automator erstellt. → Es hat nicht geklappt.
- Ich habe die Scripteditor-App probiert. → Auch ohne Erfolg.
- Ich habe eine App installiert, mit der man Scripte in Programme umwandeln kann. → Sie heißt Platypus.
Am Ende hatte ich eine App auf meinem MacBook installiert. Die App hieß iPhone80.app.
Das klang gut. Aber die App hat nicht den iPhone-Akku gemessen. Sie hat den Akku vom MacBook gemessen. Das war nicht mein Ziel.
Die KI sagte dazu:
Da hatte ich keine Lust mehr. Ich habe das Gespräch beendet. Wie immer habe ich mich höflich verabschiedet.
Im Artikel ki_webworking.php zeigte ich mich recht angetan von den Möglichkeiten, die KI für Webworker auftut. Mit einer kleinen Einschränkung:
Eine Charaktereigenschaft jeder KI kommt aber auch beim Codieren manchmal plötzlich und unerwartet zutage: Halluzinieren. Dann kann es sein, dass ein vorher funktionierender Code vollkommen umgebaut wird, dass die KI alle vorher abgestimmten Schritte "vergisst", und Neues "erfindet".
Ein Beispiel
Es folgte ein mehrstündiger Dialog. Scripte erstellen mit Apple-Automator, verwerfen, weil es so nicht geht. Dann mit der Scripteditor-App; auch erfolglos. Installation einer App, die lauffähige Apps aus Scripten erstellt (Platypus). Schließlich hatte ich eine funktionierende App auf dem MacBook installiert.
Super! Genau das wollte ich.
Nur – das funktionierte nicht wie erwartet. Nach weiteren Fragen an ChatGPT stellte sich heraus: Wir hatten eine App mit dem sprechenden Namen iPhone80.app erstellt. Aber die App misst nicht den Ladestand des iPhones, wie ich das wollte (und wie auch der Name iPhone80.app vermuten lässt), sondern den Ladestand des Macbooks.
Die Reaktion von ChatGPT:
An dieser Stelle hatte ich die Schnauze voll, und habe mich, wie ich das immer tue, trotzdem mehr oder weniger höflich von ChatGPT verabschiedet.
Copyright-Hinweis
Artikeltexte und Code-Snippets: Creative Commons
CC BY-SA 4.0
Medien (Bilder, Videos, Audios) sind evtl. urheberrechtlich geschützt.
2 Kommentare
Über Ihren Kommentar zu diesem Artikel freue ich mich.
Wenn Sie aber Fragen haben, und eine Antwort erwarten, nutzen Sie bitte das Supportforum! Die Nutzung des Forums ist auch ohne Registrierung möglich.
DJ_Benny schrieb am Donnerstag, 28.08.25 16:36 Uhr:
Cool. Gut zu wissen, dass die KI (noch) nicht vollkommen ist
Christoph Jochum schrieb am Samstag, 04.04.26 22:43 Uhr:
Die Schnauze voll habe ich fast jedes Mal, wenn ich Copilot wieder mal eine Chance gebe.
Nachdem sich das Ding auf die Frage, ob es in der Lage sei, einfaches Javascript zu erzeugen, begeistert über den grünen klee gelobt hatte, gab ich ihm eine Testnuss zu knacken und bekam --- Mist.
Am schlimmsten war, dass sich die KI wiederholt nicht an das gerade gesagte kein bisschen erinnern konnte.
Nach diesem ernüchternden Erlebnis habe ich es einfacher gemacht, und nach dem derzeitigen Bundeskanzler gefragt, worauf mir das Ding eine halbe Stunde lang mit vor Stolz geschwellter Brust Olaf Scholz präsentierte. Erst ein Wikipedia Schnipsel, das ich mit Copy/Paste präsentiert führte am intelligenten Ende zu der Bemerkung, dass natürlich ein gewisser Friedrich Merz dieses Amt innehabe.