Duke-Kurs «Hack Your Grade»: Studierende lernen KI-Sicherheit, indem sie einen Bewertungs-Chatbot austricksen

Im Kurs zu KI und Cybersicherheit von Brinnae Bent an der Duke University müssen Studierende einen Chatbot, der bewusst keine Bestnoten vergibt, mit Überredung, Prompt Injection und Social Engineering zur gewünschten Note bewegen. Ziel ist, adversariales Verständnis von KI-Systemen durch praktisches Experimentieren in einer abgesteckten Umgebung zu vermitteln statt durch reine Theorie. Vorgestellt wurde die Aufgabe in der ersten Ausgabe von OpenAIs neuem Bildungs-Newsletter «The Edu Prompt».

Im Dossier: KI-Kompetenz und Lehrplan