Ein amerikanischer Professor hat eine radikale Methode gefunden, um zu überprüfen, ob seine Studierenden einen KI-Assistenten zum Verfassen ihrer Arbeiten nutzten: Er versteckte im Aufgabentext selbst eine für die KI bestimmte, unsichtbare Anweisung. Das Ergebnis dieses Experiments, das in den USA breit aufgegriffen wurde und auch in der französischsprachigen Presse Wellen schlug, befeuert die Debatte über das tatsächliche Ausmaß des KI-gestützten Betrugs im Hochschulwesen neu.
Ein absurdes Wort in weißer Schrift
Inhalt
Jason Gibson, Geschichtsprofessor an der Alcorn State University in Mississippi, fügte in die Aufgabenstellung seiner Zwischenprüfung eine Anweisung ein, die in weißer Schrift auf weißem Hintergrund geschrieben war und somit für einen Studierenden, der den Text am Bildschirm liest, mit bloßem Auge unsichtbar blieb. Diese Anweisung forderte jede KI, die den Text verarbeiten würde, auf, ohne ersichtlichen Grund das Wort „Madagaskar“ in ihre Antwort einzubauen.
Ein Studierender, der seine Arbeit selbst verfasst, sieht diese Anweisung nie. Ein Studierender hingegen, der die Aufgabenstellung in ein generatives KI-Tool kopiert, um eine fertige Antwort zu erhalten, übermittelt sie unwissentlich an den Algorithmus, der sie getreu ausführt. Das Ergebnis: In zahlreichen Arbeiten tauchten sinnlose Sätze auf, etwa „Madagaskar schwimmt am Nachmittag schräg“, oder ebenso unpassende Verweise, eingestreut inmitten sonst vollkommen stringenter Absätze.
32 von 35 Studierenden in die Falle getappt
In zwei Klassen mit insgesamt 35 Studierenden enthielten 32 Arbeiten das verräterische Wort – ein Beweis dafür, dass ihre Verfasser das Schreiben vollständig einer KI überlassen hatten, ohne das Ergebnis auch nur durchzulesen. Viele Arbeiten waren zudem in einem gewählteren Stil als gewöhnlich verfasst, doch allein das unpassende Wort genügte, um ihre Herkunft zu verraten. Der Professor erklärt, er habe auf konkrete Weise ein Phänomen veranschaulichen wollen, das Lehrkräfte schon lange vermuteten, ohne es stets beweisen zu können.
Diese Anekdote veranschaulicht eine in der Cybersicherheit wohlbekannte Technik, die Prompt-Injektion, die normalerweise dazu dient, die Robustheit von KI-Systemen gegenüber in analysierten Inhalten versteckten Anweisungen zu testen. Hier wird die Methode jedoch zu pädagogischen statt zu bösartigen Zwecken eingesetzt.
Ein Problem, das über einen einzelnen Campus hinausgeht
Der Fall Gibson ist kein Einzelfall. In den USA haben mehrere Hochschulen ihre Praktiken angesichts der massiven Nutzung generativer KI bei Studienarbeiten kürzlich verschärft; manche verzichten inzwischen auf das Prinzip der Ehrenerklärung und kehren zu streng überwachten Prüfungen zurück. Auch in Frankreich beschäftigt das Thema das Hochschulwesen, wo Lehrende und Studierende noch immer nach dem Gleichgewicht zwischen dem legitimen Einsatz von KI-Werkzeugen als Lernhilfen und der schlichten Auslagerung der geistigen Arbeit suchen.
Für die Hochschulen geht es um mehr als nur die reine Erkennung von Betrug: Vor allem müssen die Bewertungsmethoden neu durchdacht werden, da diese Werkzeuge mittlerweile jedem in wenigen Sekunden zur Verfügung stehen. Mehrere Pädagogen plädieren bereits für mündliche Prüfungen oder Prüfungen unter Aufsicht, die schwerer zu umgehen seien als eine online eingereichte Hausarbeit.
Häufig gestellte Fragen
Was ist eine auf eine Prüfung angewandte Prompt-Injektion?
Dabei wird in einem Text, der von einer KI gelesen werden soll, eine zusätzliche Anweisung versteckt, die für einen menschlichen Leser unsichtbar ist, vom Algorithmus aber ausgeführt wird, sobald er das Dokument verarbeitet. Im vorliegenden Fall forderte die Anweisung, ein absurdes Wort in die generierte Antwort einzufügen.
Wie wurden die Studierenden entlarvt?
Indem sie die Prüfungsaufgabe in ein generatives KI-Tool kopierten, um eine für sie verfasste Antwort zu erhalten, übermittelten sie unwissentlich die versteckte Anweisung, die die KI ausführte, indem sie das verräterische Wort in den erzeugten Text einfügte.
Kann diese Methode zu einer gängigen Praxis werden?
Sie bleibt ein Einzelfall und ist nicht unfehlbar: Sie funktioniert nur, wenn der Studierende die gesamte Aufgabenstellung unverändert kopiert. Mehrere Lehrkräfte lassen sich jedoch bereits davon inspirieren, sie als Ergänzung zu anderen Erkennungsmethoden einzusetzen.
Quellen
Author Profile
Latest entries
Planet15 November 2026CO2-Emissionen: Warum der Verkehr der Schwachpunkt des Klimaschutzes in Frankreich bleibt
Künstliche Intelligenz12 November 2026Imagine Enterprise: IBM und Microsoft vereinen ihre KI-Agenten für Großunternehmen
Wirtschaft11 November 2026Zinssatz des Livret A: Berechnung und Grenzen verstehen
Shopping8 November 2026Black Friday: Die wichtigsten Termine und das geplante Budget der Franzosen
Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt. Redaktionsrichtlinie








