Der Informatiker Peter Liggesmeyer aus Kaiserslautern blickt mit gemischten Gefühlen auf die rasante Entwicklung von KI-Sprachmodellen wie ChatGPT. «Es gibt sinnvolle Einsätze, es gibt aber auch Gefahrenpunkte», sagte der Leiter des Fraunhofer-Instituts für Experimentelles Software Engineering IESE der Deutschen Presse-Agentur. «Sie können von Studierenden erstellte Inhalte sprachlich schöner machen.» Gefährlich sei jedoch eine arglose Nutzung, um damit Inhalte zu generieren.

«Wahrheit ist keine Kategorie in diesen Systemen. Sie haben die Tendenz, Inhalte herbei zu halluzinieren», erklärte Liggesmeyer. «Es ist dann oft ein Mix aus Wahrheit und freier Erfindung, es liest sich aber alles plausibel», warnte der Informatiker. «Es ist schwer, Wahrheit von Pseudo-Wahrheit zu unterscheiden.» ChatGPT erfinde etwa Literaturstellen, die es so gar nicht gebe. Von Künstlicher Intelligenz (KI) generierte Inhalte dürften wie Inhalte im Internet nicht kritiklos hingenommen werden. «Man muss vorsichtig sein.»

Inhalte würden bei den Sprachmodellen aus vielen Texten gebaut und reproduziert. «Es ist ein bisschen wie ein Papagei, der sehr viele Texte gehört hat», sagte Liggesmeyer. Sprachmodelle hätten auch Schwierigkeiten mit menschlichen Eigenschaften wie Sarkasmus oder Frustration.

Mit Blick auf seine Disziplin des Software-Engineerings, also des Planens und Erstellens von Softwaresystemen, sagte Liggesmeyer, Programme wie ChatGPT könnten grundlegende Wissensfragen oder Definitionen ziemlich optimal beantworten oder formulieren. «Es gibt gute Musterantworten für mündliche Prüfungen. Beim Software-Engineering müssen aber viele Dinge beachtet werden, oft Kompromisse eingegangen werden», sagte er. Vergleichsweise einfache Dinge wie Sortier-Algorithmen könnten solche Modelle übernehmen. «Die Optimierung im speziellen Fall müsse weiter händisch erledigt werden.»