Wenn ich mir die unwahren Antworten von KIs so ansehe, muss ich an kleine Kinder denken, die noch nicht gelernt haben zwischen Fiktion und Realität zu unterscheiden. Das gehört eigentlich in einen eigenen Beitrag, aber ich schicke dies voraus, weil es für Eltern oft sehr anstrengend ist, den Kindern diesen Unterschied bei zu bringen, gerade vor dem Hintergrund, dass (Rollen-) Spiel und Fantasie als wichtig gelehrt werden.
Das eigentliche Problem dürfte sein, dass diese Unterscheidungsfähigkeit zu den Fähigkeiten zählt, die - gerade weil sie so wichtig sind, und deshalb im Kindesalter gelehrt werden - in durchschnittlichen Texten, mit den KI ja gefüttert werden, kaum vorkommen.
Betrachtet man ein KI als Kind, wird das Problem, dass die Texte für den KI-Aufbau kaum aufbereitet bzw. erklärt werden, noch brisanter.
Das erinnert mich auch an meine Zeit als Studienanfänger: ich war von der Schule leichten, gut aufbereiteten Input gewöhnt und sollte dann ganz plötzlich komplizierte, didaktisch schlecht aufbereitete Text nicht nur verstehen, sondern auch selbstständig suchen und aussuchen.
Das setzt natürlich voraus, dass wir einer KI eine gewisse Intelligenz unterstellen. Für mich sind die populären LLMs nur stochastische Papageien, die die Wahrscheinlichkeit berechnen, was du hören / lesen möchtest. Darin sind sie dann aber gut.
Edit: Und es gilt immer noch: Wenn Mist reinkommt, kommt auch Mist raus. Vorsicht, womit man den Papagei trainiert.
Das mit dem “Mist rein, Mist raus” wird wohl nur noch schlimmer. LLMs werden, wenn ihre Trainigsdaten nicht ein halbes Jahrzent alt sein sollen, zunehmend mit KI-Slop gefüttert. Die Ergebnisse werden so rapide schlechter, dass manche schon von Habsburger-KI sprechen, in Anlehnung an das, durch Inzest gezeichnete, Adelsgeschlecht.
Habsburger Ki muss ich mir merken
Zugegeben, ohne Intelligenz wird das schwierig. Alternativ müsste man jeden Input mit real oder fiktiv markieren, was natürlich zu aufwendig wäre. Ausserdem müsste die KI merken ob eine fiktive Antwort erlaubt ist und sie als fiktiv deutlich machen.
der Ausdruck stochastischer Papagei gefällt mir