Bias und Generative KI – Blueprint für ein konstruktives Lernprogramm

Generative KI-Systeme weisen oft systematische Ungleichbehandlungen marginalisierter Gruppen auf, insbesondere der weiblichen Bevölkerung. Dies ist ein strukturelles Problem im gesamten AI Lifecycle, bedingt durch den Gender Data Gap in Trainingsdaten und die mangelnde Diversität im Entwicklungsprozess. Da über 50% der Studierenden in Deutschland weiblich sind, müssen sich Hochschulen mit dieser Thematik auseinandersetzen. Als Lösungsansatz wird eine Spring School für Studierende nicht-technischer Fächer im Februar 2025 pilotiert. In diesem viertägigen Lernprogramm entwickeln die Teilnehmenden ein Verständnis für die Auswirkungen von KI auf die Arbeitswelt, mit Fokus auf die Rolle von Frauen sowie ethische und gesellschaftliche Herausforderungen. Durch projektbasierte Gruppenarbeit erarbeiten sie Lösungen zur Förderung von Vielfalt in technologiegetriebenen Branchen. Das Konzept, welches auch das Erlernen der Methoden EduScrum und Nowland-Nextland umfasst, wird als OER-Blueprint bereitgestellt, um anderen Bildungsanbietern die Nutzung und Weiterentwicklung zu ermöglichen.

Literatur: Bolukbasi, T., Chang, K.-W., Zou, J., Saligrama, V., & Kalai, A. (2016). Man is to computer programmer as woman is to homemaker? Debiasing word embeddings. Proceedings of the 30th International Conference on Neural Information Processing Systems, 4356–4364. Gonen, H. & Goldberg, Y. (2019). Lipstick on a Pig: Debiasing Methods Cover up Systematic Gender Biases in Word Embeddings But do not Remove Them. NAACL 2019. https://arxiv.org/abs/1903.03862 Guo, L. N., Lee, M. S., Kassamali, B., Mita, C., & Nambudiri, V. E. (2022). Bias in, bias out: Underreporting and underrepresentation of diverse skin types in machine learning research for skin cancer detection-A scoping review. Journal of the American Academy of Dermatology, 87(1), 157–159. https://doi.org/10.1016/j.jaad.2021.06.884 Shao, K., & Feng, H. (2022). Racial and Ethnic Healthcare Disparities in Skin Cancer in the United States: A Review of Existing Inequities, Contributing Factors, and Potential Solutions. The Journal of clinical and aesthetic dermatology, 15(7), 16–22.