Wahlprüfstein Europawahl 2024
Bündnis für Bildung e.V.
1
Einsatz Künstlicher Intelligenz in Schulen: Streben sie nach dem AI Act regulatorische Anforderungen, die Auswirkungen auf den Einsatz künstlicher Intelligenz im Schulbereich haben, auf europäischer Ebene an? Wenn ja, welche?
Nachdem es gelungen ist, überhaupt Bildung (und etwas abgeschwächter Medien und Kultur) in den Hochrisiko-Ansatz des Kommissions-Vorschlages für den AI Act zu bekommen, ist der erste Schritt getan, dass der regulatorische Bedarf in Bildungsprozessen überhaupt endlich anerkannt ist.
Doch die bisherigen Regelungen sind nicht hinreichend. eProctoring-Systeme für AI-abgestützte Prüfungen, die während der Pandemie insbesondere in Skandinavien und Tschechien zum Einsatz kamen, haben klar offenbart, dass sie alles andere als diskriminierungsfrei sind. Das ist zugleich das Stichwort für den gesamten Einsatz. Es geht nicht nur um geschützte Räume des Einsatzes im Bildungsbereich, die schon mit der DSGVO (und auch dem im Urheberrecht geregelten Einsatz digitaler Lizenzen) avisiert waren, sondern um die Funktionsweise der AI selbst, die Sicherung ihres diskriminierungsfreien Arbeiten, die Überwachung und Transparenz der Trainingsdatengewinnung und der gewünschten Entscheidungsprozesse.
Deshalb formuliert Die Linke die Richtschnur des Regelungsbedarfs im Wahlprogramm: "KI-Systeme, die Grundrechte verletzen, müssen verboten werden: Automatisierte Gesichtserkennung und Verhaltensklassifikation in öffentlich zugänglichen Räumen wollen wir verbieten. In Schulen dürfen keine KI-Systeme eingesetzt werden, die Leistungen, Lernen oder Sozialverhalten bewerten."
2
Regulatorik für technologischen Einsatz im Bildungsbereich: Wie möchten Sie sicherstellen, dass neue digitale Technologien auch im Bildungsbereich schnell und dennoch sicher zum Einsatz kommen?
Der Hochrisiko-Ansatz der Kommission zur Entwicklung des AI-Acts, der sich zugespitzt eher am Verbraucher- und damit Haftungsschutz bei selbstfahrenden Autos orientierte, ist für große gesellschaftliche Bereiche wie Bildung, Kulturaustausch, Medien, in denen gesellschaftliche Öffentlichkeit gelernt und entwickelt wird, tendenziell ungeeignet. Der KI-Einsatz in der Bildung ist nicht abhängig von einer individuellen Entscheidung von Käufer*innen, sondern trifft öffentliche Institutionen, die den demokratischen Dialog in unseren Gesellschaften stabilisieren und für alle sozial offen zugänglich sein müssen. Deshalb ist der KI-Einsatz an Schulen und weiteren Bildungseinrichtungen wesentlich strenger zu reglementieren als im Warenmarkt. Geschützte Daten, Diskriminierungsfreiheit und sichere, transparente Nutzungsumgebungen sind Standards, die digitale und KI-Anwendungen in der Bildung erfüllen müssen.
KI-Systeme, die Grundrechte verletzen, müssen verboten werden: Automatisierte Gesichtserkennung und Verhaltensklassifikation in öffentlich zugänglichen Räumen. Wir setzen uns dafür ein, dass (i)n Schulen keine KI-Systeme eingesetzt werden (dürfen), die Leistungen, Lernen oder Sozialverhalten bewerten. Dafür sind die Regelung im AI-Act bisher nicht hinreichend und müssen zuerst in den mitgliedsstaatlichen Umsetzungen präzisiert werden.