AI Act und KI-Kompetenz
Der AI Act ist ein von der Europäischen Union geschaffener Rechtsrahmen, der den Einsatz von Künstlicher Intelligenz hinsichtlich sicherer, transparenter und ethischer Prinzipien regelt. Die Verordnung ist weltweit die erste derart umfassende Regulation der KI.
Für Lehrende bedeutet das nicht nur, dass eine Fortbildungspflicht besteht. (Eine einfache Möglichkeit dazu ist der KI Mooc der VPH.) Es bedeutet auch, dass man sich seiner Verantwortung bewusst sein soll.
KI eröffnet zweifellos Chancen für Unterricht und Bildung. Entscheidend ist jedoch, wofür die Künstliche Intelligenz benutzt wird.
Der EU AI Act folgt einem risikobasierten Ansatz und ist die Grundlage für das (schulische) Arbeiten mit der Künstlichen Intelligenz. Die Kenntnis von potentiellen Risiken und Wirkprinzipien (Fake Bias, Halluzinationen etc. ) ist beim Einsatz von KI unerlässlich.
Die Risikoklassen werden wie folgt beschrieben: kein bzw. minimales Risiko, begrenztes Risiko, hohes Risiko sowie inakzeptables Risiko.
Videospiele oder Spamfilter sind Anwendungen mit keinem bzw. minimalem Risiko, Chatbots hingegen zählen zu Anwendungen mit begrenztem Risiko. Allerdings müssen User über den Einsatz solcher Systeme informiert sein. Mit hohem Risiko bewertet sind Systeme zur biometrischen Erkennung. Inakzeptabel sind alle sozialen Bewertungssysteme, Social Scoring und Emotionserkennung. Die Bewertung von Schüler:innen ist ebenso eine Hochrisikoanwendung.
Grundvoraussetzungen für das Arbeiten mit KI sind die DSGVO und der Schutz der Grundrechte.
Weitere Informationen: In einem TiBS - Artikel vom Jänner 2025 ist ausführlich über den AI Act berichtet worden: Klick!
In diesem explainity-Video wird der EU AI Act in drei Minuten erklärt: Klick!
Hinter diesem QR-Code versteckt sich ein mit dem AI Act gefütterter Chatbot. Realisiert wurde dieser auf der Plattform fobizz. Fobizz ist das von KI Pilotschulen meist genutzte Tool.
Fobizz ist die DSGVO konforme Möglichkeit, KI mit Schüler:innen zu testen und auszuprobieren.