Prompt-Injection als Falle: US-Wirtschaftsprofessor überführt 32 von 35 Studierenden beim Schummeln mit KI

Roberto Serrano, Wirtschaftsprofessor an der Brown University, hat in der Aufgabenstellung einer Prüfung einen für Menschen unsichtbaren Text versteckt — eine sogenannte Prompt-Injection. Wer die Frage in ein KI-Tool kopierte, übernahm damit unbemerkt die versteckte Anweisung, worauf der Chatbot auffällig unsinnige Antworten erzeugte. Auf diese Weise liessen sich Arbeiten identifizieren, die auf ChatGPT beruhten: 32 von 35 Studierenden fielen in die Falle. Der Fall wurde im Sommersemester 2026 publik und international breit aufgegriffen.

Im Dossier: Prüfen und Bewerten