Ethikkommission 2.0

Diskussionen zum Einsatz von KI in der Hochschulbildung: Alle interessierten Akteure der Hochschulwelt sind eingeladen in dieser Session zum Mitglied einer spontanen Ethikkommission zu werden. Ohne Vorbedingungen und als Expertinnen und Experten ihres Hochschulalltags sind die Teilnehmenden aufgerufen, im Kontext von Projektvorstellungen der BMBF-Förderlinie „Innovationen in der Hochschulbildung durch Künstliche Intelligenz und Big Data“ kritische Fragen zu stellen, konstruktive Impulse und Feedback zu geben. Unser Ziel ist es, in kollaborativer Atmosphäre die ethischen und datenschutzrechtlichen Herausforderungen beim Einsatz von KI und Big Data in der Hochschule gemeinsam sichtbar zu machen und anzugehen sowie vorhandenes Wissen und bestehende Sorgen zu teilen.

Die Erwartungen in Bezug auf Big Data und Künstliche Intelligenz bei der Informationsverarbeitung im Hochschulbetrieb sind aktuell groß. Dabei steht die Individualisierung von Lehr- und Lernprozessen häufig als Ziel im Vordergrund. Gleichzeitig existiert jedoch die Sorge, dass der Einsatz großer Datenmengen und algorithmischer Verfahren diskriminierende Strukturen wie bestehende Ungleichheiten (zwischen Geschlechtern, unterschiedlicher Herkunft etc.) verstärken oder technisch-induzierte Verzerrungen erzeugen können, wenn beispielsweise nur vereinzelte Merkmale von Studierenden in Daten repräsentiert werden und schlecht-quantifizierbare Merkmale dabei in den Hintergrund treten.
Eine weitere Herausforderung ist, dass besonders in der Hochschulbildung KI-basierte bzw. algorithmisch getroffene Entscheidungen aufgrund ihrer hohen Kritikalität nachvollziehbar sein müssen.

Aus diesen Gründen braucht es vielfältige Verfahren, die ethische Umstände begleitend zur technischen Umsetzung stetig reflektieren. Gerade in der verstärkten Miteinbeziehung ethischer und datenschutzrechtlicher Aspekte liegen weiterführende innovative Chancen, die wir in diesem Workshop herauskristallisieren wollen.