Integrität im Zeitalter von Künstlicher Intelligenz - neue Rollen und Verantwortlichkeiten

In diesem Workshop beschäftigen wir uns mit den disruptiven Veränderungen in der akademischen Praxis durch Werkzeuge, die auf künstlicher Intelligenz (KI) basieren. Die Frage lautet: Wer ist für die Gewährleistung der akademischen Integrität beim Einsatz dieser Praktiken verantwortlich?
Derzeit liegt die Verantwortung für das akademische Schreiben vollständig bei den Autor:innen, sowohl in Bezug auf den Produktionsprozess als auch auf das Ergebnis. Diese Verteilung der Verantwortung muss überdacht werden, da am Prozess von der Entwicklung bis zum Einsatz von KI und dem Umgang mit den Auswirkungen des KI-Einsatzes mehrere Akteur:innen in unterschiedlichen, d.h. neuen Rollen beteiligt sind. Um das Problem der Verantwortungsdiffusion zu vermeiden, schlagen wir diese neuen Rollen und Funktionen für die Mensch-Maschine-Kollaboration vor:
1. Der "Creator“ der KI entwickelt Algorithmen eines Programms und Modelle, wählt aus und stellt den Satz der verwendeten Daten bereit, testet die Software, überwacht das System usw.
2. Der "Tool Expert“ der KI wählt die KI-Anwendung aus und konfiguriert sie zielgerichtet.
3. Der "User" der KI integriert die KI-Anwendung in seine Arbeit als
a. „Producer“, der bewusst mit der KI kollaboriert.
b. „Consumer“, der KI-generierte Texte empfängt, verbreitet und kommentiert.
4. Die "Affected Person“ ist sich der Beteiligung der KI am Prozess nicht bewusst oder ignoriert sie und ist indirekt von den Ergebnissen betroffen.
Ziel des Workshops ist es, die von uns vorgeschlagenen Rollen und Tätigkeitsbereiche mit Methoden des Design-Thinking-Prozesses durch die Arbeit mit Personas in Kleingruppenarbeit zu konkretisieren. Auf diese Weise soll eine Weiterentwicklung zu einem ersten zweidimensionalen Rollen-Verantwortlichkeitsmodell stattfinden. Damit wollen wir den aus unserer Sicht dringend notwendigen Diskurs über die Zukunft der akademischen Integrität in Zeiten von KI am Beispiel des KI-gestützten wissenschaftlichen Schreibens weiter forcieren.