KI, Bias und die Grenzen technischer Lösungen

Künstliche Intelligenz wird zunehmend mit dem Versprechen eingesetzt, Entscheidungen fairer, objektiver und effizienter zu machen. Zugleich zeigt sich, dass Bias fortbestehen oder sich sogar verstärken - selbst bei „bereinigten“ oder diversifizierten Trainingsdaten. Hochschulen stehen in dieser Phase digitaler Transformation unter besonderem Druck: Als epistemische Institutionen prägen sie demokratische Kultur und gesellschaftliche Zukunft aktiv mit. Bias wird damit zur Zukunftsfrage.

Der Workshop untersucht, warum Bias in KI kein rein technisches, sondern ein gesellschaftliches Problem ist, und weshalb bessere technische Lösungen allein strukturelle Ungleichheiten nicht auflösen können. Anhand von Szenarien aus dem Hochschulkontext analysieren die Teilnehmenden, wie institutionelle Rahmenbedingungen, Machtverhältnisse und Wissensordnungen in KI-Systeme eingeschrieben sind und entwickeln gemeinsam Reflexionsfragen für einen machtkritischen, Bias-sensiblen Umgang mit KI.

Methode: Der Workshop ist interaktiv angelegt und verfolgt das Ziel, Bias in KI nicht primär als technisches, sondern als gesellschaftlich und institutionell eingebettetes Problem erfahrbar zu machen. Neben einem kurzen Input steht vor allem die gemeinsame Reflexion im Mittelpunkt. Teilnehmende interagieren sowohl in Kleingruppen als auch im Plenum und entwickeln gemeinsam ein differenziertes Verständnis davon, was ein machtkritischer und bias-sensibler Umgang mit KI bedeuten kann. Zu Beginn arbeiten wir mit einem bewusst irritierenden Miniszenario, um typische Lösungslogiken offenzulegen, insbesondere die verbreitete Tendenz, zunächst technische Optimierungen vorzuschlagen. Ein kurzer Input rahmt KI anschließend als soziotechnische Praxis. Dabei wird Bias nicht nur als Daten- oder Modellproblem, sondern als Ausdruck gesellschaftlicher Machtverhältnisse, institutioneller Routinen und epistemischer Ordnungen eingeordnet. Der Input bleibt bewusst knapp, um Raum für eigenes Denken zu lassen. Im Zentrum steht eine durch Leitfragen (Was ist hier technisch? Was ist sozial oder institutionell bedingt? Welche impliziten Annahmen über Normalität, Leistung oder Wissen sind eingeschrieben?) strukturierte Gruppenarbeitsphase, in der die Teilnehmenden unterschiedliche Szenarien analysieren: visuelle Kommunikation und die Darstellung von Berufsgruppen, Bias in KI-Detektoren, oder KI als Verstärker epistemischer Kanons und hegemonialer Wissensordnungen. In der abschließenden Plenumsphase werden zentrale Beobachtungen zusammengeführt und wiederkehrende Muster reflektiert: Sind wir erneut bei technischen Lösungen gelandet? Welche strukturellen Faktoren wurden sichtbar? Wo liegen reale Gestaltungsspielräume für Hochschulen? Zum Abschluss formulieren die Teilnehmenden drei zentrale Takeaways. Diese werden im Nachgang als digitale „Erinnerungspostkarten“ gestaltet und den Teilnehmenden zur Verfügung gestellt, als Impuls, die Diskussion in ihre eigenen institutionellen Kontexte weiterzutragen