Eine bahnbrechende Studie von Prof. Scarfe und seinem Team an der University of Reading hat ergeben, dass die Antworten von künstlichen Intelligenzen (KI) bei Universitätsprüfungen besser abschneiden als die von menschlichen Studenten.
Die Forscher stellten fest, dass KI-generierte Bewertungsantworten „ praktisch nicht nachweisbar “ waren, wenn sie von menschlichen Prüfern ausgewertet wurden. Dies unterstreicht die wachsende Besorgnis über akademisches Fehlverhalten und die Notwendigkeit, den Einsatz von KI bei Bildungsbewertungen anzugehen.
Im Rahmen der Studie wurden 33 falsche Studentenidentitäten erstellt, die ChatGPT nutzten, um offizielle „Heimprüfungen“ im Rahmen des Bachelor-Studienganges Psychologie der Universität zu beantworten.
Diese von der KI generierten Antworten wurden anschließend zusammen mit den Antworten der tatsächlichen Studierenden zur Bewertung eingereicht. Die Prüfer, die nichts von der Studie wussten, gaben den KI-Antworten bessere Noten als ihren menschlichen Kollegen.
Tatsächlich erhielten 83 % der KI-Einreichungen bessere Noten als die Antworten der echten Studenten. Dies wirft erhebliche Fragen hinsichtlich der Fairness und Genauigkeit der Leistungsbewertung von Studenten angesichts der überlegenen Leistung der KI auf.
Bedenken wegen akademischem Fehlverhalten im Zusammenhang mit der Nutzung von KI
Die aufschlussreichen Ergebnisse der Studie wecken an den Universitäten Bedenken hinsichtlich der unmittelbaren Auswirkungen der KI auf den Bildungssektor.
Immer mehr Studenten nutzen KI zum Schummeln und nutzen dabei die Unzulänglichkeiten der aktuellen Erkennungssysteme aus. Es gibt Forderungen, Bewertungsmethoden wie Kursarbeiten und Aufsätze zu kürzen, während andere für eine verantwortungsvolle und ethische Integration von KI in die Bildungspraxis plädieren.
Eine vom Zulassungsdienst Ucas durchgeführte Umfrage ergab, dass 53 % der Studenten generative KI zur Prüfungsvorbereitung eingesetzt haben. Die aktuelle KI-Erkennungssoftware war jedoch bei der Erkennung von KI-generierten Inhalten weitgehend erfolglos, sodass die Verantwortung für die Identifizierung von Betrugspraktiken bei menschlichen Prüfern liegt.
Unzulänglichkeiten der KI-Erkennungssoftware
Die niedrige Rate an „Falsch-Positiven“, die von KI-Erkennungssoftware erzeugt werden, führt dazu, dass Universitäten zögern, Studenten des Betrugs zu beschuldigen. Dies bedeutet, dass die menschliche Prüfer die Aufgabe haben, KI-generierte Inhalte zu identifizieren, was mit zunehmender Komplexität der KI immer schwieriger wird.
Die von der University of Reading durchgeführte Studie zeigt, dass aktuelle KI-Prozessoren den „Turing-Test“ bestehen, was bedeutet, dass sie ihn unbemerkt von erfahrenen Prüfern bestehen können.
Aufruf an Universitäten, KI ethisch zu nutzen
Angesichts der Herausforderungen, die KI bei Beurteilungen mit sich bringt, werden Universitäten aufgefordert, KI proaktiv und unter ethischen Gesichtspunkten zu nutzen.
Die Russell Group, zu der Spitzenuniversitäten wie Oxford, Cambridge und das University College London gehören, hat sich verpflichtet, den ethischen Einsatz von KI in der Lehre und bei Leistungsbewertungen zu ermöglichen.
Risiken der Dequalifizierung von Schülern durch den Einsatz von KI
Die Verfügbarkeit von KI-Tools, die Antworten generieren und bei verschiedenen Aufgaben Hilfestellung leisten können, kann die Fähigkeit der Schüler beeinträchtigen, ohne KI-Unterstützung kritisch zu denken, zu analysieren und zu schreiben.
Prof. Karen Yeung, eine Dozentin für Recht, Ethik und Informatik an der Universität Birmingham, sagte, die Zulassung des Einsatzes künstlicher Intelligenz bei Prüfungen an Schulen und Universitäten könne zu einer „Dequalifizierung“ der Schüler führen.