Muss ich Texte oder Bilder, die ich mit KI erstelle, kennzeichnen? Und wenn ja, wie? Schreibt mir die Europäische KI-Verordnung (EU AI Act) bestimmte Kompetenzen im Umgang mit KI vor? Und ganz grundsätzlich: Was ist aus dem EU AI Act eigentlich relevant für mich und meine Lehre?
Diese und viele weitere Fragen zur Europäischen KI-Verordnung standen im Mittelpunkt des Le/Ni: Talks „KI in der Lehre – aber rechtssicher?“, der im Oktober gemeinsam mit dem Projekt „KI in Lehren, Lernen und Prüfen“ stattfand. Referentin war Wiebke Holetzek aus dem Governance, Compliance und Datenschutz Lab.
Einheitlicher Rechtsrahmen für vertrauenswürdige KI
Zu Beginn gab Holetzek einen Überblick über die Grundlagen der Verordnung. Ziel des EU AI Acts ist es, das Vertrauen in Künstliche Intelligenz zu stärken und gleichzeitig die Sicherheit von KI-Systemen unter Wahrung der Grundrechte zu gewährleisten. Mit der Verordnung wurde erstmals ein einheitlicher Rechtsrahmen für den Umgang mit KI in allen EU-Mitgliedstaaten geschaffen.
Risikoklassen, Rollen und Pflichten
Anschließend erläuterte Holetzek die (risikobasierte) Klassifizierung von KI-Anwendungen. Systeme wie ChatGPT zählen dabei zu sogenannten Systemen mit Transparenzrisiken. Bei ihrer Nutzung ist immer zu berücksichtigen, dass der erzeugte Output fehlerhaft oder halluziniert sein kann und daher immer kritisch überprüft werden muss. Zudem gilt: KI-genierte Texte sind keine wissenschaftlichen Quellen und entsprechend nicht zitierfähig.
Darüber hinaus stellte sie die unterschiedlichen Rollen vor, die Akteur:innen im Umgang mit KI einnehmen können, z.B. als Anbieter oder als Betreiber. Diese Rollenzuordnung ist entscheidend dafür, welche Pflichten greifen: Anbieter unterliegen deutlich umfangreicheren und schärferen Anforderungen als bloße Betreiber. Lehrende gelten in der Regel als Nutzer:innen, wenn sie KI im Auftrag der Hochschule nutzen, während die Hochschule selbst die Rolle der Betreiberin übernimmt. Der Pflichtenkreis kann sich jedoch erweitern, etwa dann, wenn Studierende auf Wunsch der Lehrperson KI in der Lehre nutzen.
Transparenzpflicht in der Lehre
Besonders relevant für Lehrende war die Frage, was zu beachten ist, wenn Lehrmaterialien, z.B. Texte, Bilder, Grafiken oder PowerPoint-Folien mithilfe von KI erstellt werden oder wenn Studierende KI in Lehrveranstaltungen einsetzen dürfen.
Grundsätzlich gilt, so Holetzek: Für Lehrende wie für Studierende besteht eine ethische Pflicht zur Transparenz. KI-generierte Inhalte sind kenntlich zu machen. Ein kurzer Hinweis auf einer Folie, unter einer Grafik oder am Ende eines Textes ist in der Regel ausreichend. Es muss erkennbar bleiben, wann mit einem KI-System interagiert wurde bzw. wird und welche Daten dabei verarbeitet werden. Lehrende nehmen hierbei eine Vorbildfunktion ein, indem sie den Einsatz generativer KI konsequent offenlegen und KI-erstellte Inhalte stets transparent ausweisen.
Diese Transparenz ermöglicht den Studierenden, KI-Output kritisch zu hinterfragen, potenzielle Fehlerquellen zu erkennen und eigene KI-Kompetenzen zu entwickeln. Auch Lehrende profitieren: Wenn Studierende ihre Nutzung transparent angeben, lässt sich Misstrauen abbauen und gemeinsam eine offene Lehr- und Lernkultur etablieren.
Rechtliche Anschlussfragen
Ergänzend wurden weitere rechtliche Aspekte thematisiert, die den Einsatz von KI betreffen – insbesondere das Urheberrecht und die Datenschutz-Grundverordnung (DSGVO). In diesem Zusammenhang wurde betont, dass Lehrende wie Studierende künftig über Kompetenzen im Umgang mit KI verfügen müssen, wenn KI offiziell in Lehr- und Lernprozesse integriert wird.
Diskussion zeigt Orientierungsbedarf
Im Anschluss an den Input entwickelte sich eine lebhafte Diskussion. Themen waren unter anderem die konkrete Ausgestaltung von Kennzeichnungspflichten, ob bei Nichtbeachtung Sanktionen drohen und ob KI-Detektoren zur Kontrolle schriftlicher studentischer Arbeiten sinnvoll sind. Die Vielzahl der Fragen machte deutlich, wie groß der Orientierungsbedarf im Umgang mit KI in der Lehre, insbesondere mit Blick auf den EU AI Act, weiterhin ist.
Weiterführender Onlinekurs
Wer sich näher mit dem EU AI Act beschäftigen möchte, dem sei der Onlinekurs des KI-Campus empfohlen. Der Kurs richtet sich zwar nicht explizit an Hochschulmitglieder, bietet jedoch eine fundierte Einführung in die europäische KI-Regulierung und ihre zentralen Inhalte.
Hier kommen Sie zum Kurs „EU AI Act Essentials“ vom KI -Campus:
https://moodle.ki-campus.org/course/view.php?id=313
Hier finden Sie weitere Informationen zur Veranstaltungsreihe „Le/Ni: Talk – Der kollegiale Austausch unter Lehrenden" (intern):
Autor:in: Lea-Sophie Natter, wissenschaftliche Mitarbeiterin im Projekt „KI in Lehren, Lernen und Prüfen“, Team digitaLe, Ressort I – Studium & Lehre.
_______________________
Abonnieren & Abbestellen
Wenn Sie keine Ausgabe des Blogs verpassen möchten, können Sie ihn bequem hier abonnieren. Und falls Sie den Blog zu einem späteren Zeitpunkt wieder abbestellen möchten, ist das natürlich jederzeit formlos möglich.
