KI ist kein Ding, sondern eine Forschungsrichtung, eine Menge unterschiedlicher Methoden. Die Systeme, die diese Methoden verwenden, nennen wir leider auch oft KI. Das ist irreführend. „Die KI“ gibt es nicht. Es ist ein Computer oder ein System, eine Maschine oder eine Software. […]
Sprachmodelle wurden mit vielen Texten darauf trainiert, das nächste Wort vorherzusagen, das in einem bestimmten Kontext wahrscheinlich ist. Sie sind nicht so konstruiert worden, dass sie irgendetwas wissen. Wenn sie vorher sehr viele Sätze gelesen haben, die alle korrekt sind, kann die Maschine eine Variante von diesem Satz erschaffen, die inhaltlich korrekt ist. Genauso gut kann der Satz völlig in die Hose gehen. […]
Momentan heißt alles KI-Agent, was nicht bei drei auf den Bäumen ist. Dahinter steckt der Menschheitstraum, dass man selbst nicht mehr arbeiten muss, sondern nur noch der Maschine einen Auftrag gibt, die das dann für uns erledigt. Dummerweise verwechselt man die vermeintlich klugen Texte mit echter Klugheit und gesundem Menschenverstand. Die Maschinen scheitern oft an den einfachsten Aufgaben. Wer schon mal mit einem Agenten gechattet hat, der Kundenbeschwerden entgegennimmt, weiß, wovon ich spreche. An deren Inkompetenz kann man verzweifeln. Sprachmodelle finden sich nur zurecht, wenn man ihnen davor den Kontext erklärt und ganz viele Regeln gibt. Das haben wir schon in den 1950er-Jahren mit Computern versucht. Heute fühlt es sich anders an, aber die Probleme sind die gleichen geblieben.
Katharina Zweig, sueddeutsche.de, 06.10.2025 (online)
