Feminist AI Ethics Toolkit

Nushin Isabelle Yazdani

März / March - 2019

Fachhochschule Potsdam

Was ist es?

Im Rahmen meiner Bachelor-Thesis zu KI-Ethik habe ich ein Workshop-Konzept/Toolkit entwickelt, um die ethischen Implikationen von KI-Tools zu diskutieren – bezugnehmend auf soziale Gerechtigkeit und intersektionale feministische Ansätze. Basierend auf utopischen/dystopischen Szenarien und Fragestellungen, was mit KI-Technologien in der Zukunft passieren könnte, können die Teilnehmenden gemeinsam reflektieren und Handlungsmechanismen entwickeln.

Was ist das Thema?

Wenn Menschen über Menschen entscheiden, beeinflussen vorgefertigte Wahrnehmungen, Stereotype, Vorurteile und erlernte Verhaltensmuster den Prozess. Um diese Biases aus der Welt zu schaffen, werden immer häufiger Entscheidungsprozesse in algorithmische Systeme ausgelagert – in dem Glauben, die "neutrale Technik" würde objektiver und diskriminierungsfreier entscheiden können als der Mensch. Die Realität jedoch sieht anders aus: Algorithmische Entscheidungssysteme reproduzieren sexistische, rassistische und andere diskriminierende Strukturen, die in der Gesellschaft vorherrschen – oder schaffen ganz neue Möglichkeiten der Unterdrückung und Marginalisierung. Algorithmische Entscheidungssysteme können die soziale Ungerechtigkeit verstärken, die sie eigentlich abschaffen sollten.

Warum sieht es so aus?

Das Toolkit ist ein Resultat vieler Iterationsschleifen, bei denen sich herausgestellt hat, wie wichtig ein konkreter Austausch sowie der Blick in die Zukunft zu diesem Thema ist. Ich habe Inspiration und Feedback in Interviews bekommen, eine Co-Creation-Session zur Entwicklung veranstaltet und den Prototypen in Workshops getestet. Ich glaube, dass dieses Toolkit einen guten Einstieg in den Diskurs zu Fairness, sozialer Gerechtigkeit und neuen Technologien bieten kann. Es ermöglicht Menschen unterschiedlicher Kenntnisstufen und Disziplinien, anhand konkreter Beispiele und offener Fragestellungen miteinander ins Gespräch und ins Diskutieren zu kommen, wie ihre gewünschten Zukünfte aussehen könnten.

Was ist das Besondere?

Bisher gibt es kaum Ansätze, um unterschiedlichsten Menschen, die nicht in die Technologie involviert sind, Wirkweisen und konkrete Problematiken von KI Tools zu vermitteln, bzw. um für Technologists den Fokus vom Technischen auf das Gesellschaftliche zu legen. Wenn man sich vor Augen führt, wer heute den tiefgreifenden Designprozess algorithmischer Entscheidungssysteme gestaltet, muss man erkennen, dass es sich oft nicht um einen Designer handelt. Diejenigen, die Produkte und Prozesse professionell gestalten, sind dabei kaum beteiligt. Es ist die Chance und Pflicht von Designer*innen, Vermittler*innen zwischen Technik und Soziologie zu werden. Es ist die Arbeit der Designer*innen, verschiedene Themenbereiche zu ergründen, das Komplexe verständlicher zu machen, greifbar zu bleiben, zu prototypen, frühzeitig zu testen und vor allem, sich in die Menschen einzufühlen und ihre Bedürfnisse zu erkennen.

Was ist neu?

In der Diskussion um diskriminierende algorithmische Entscheidungssysteme wird die Problematik oft verdinglicht und singulär auf technische Aspekte reduziert, sowohl in der Wirtschaft als auch in vielen wissenschaftlichen Publikationen – aus Unwissenheit oder um sich nicht mit den weitaus komplexeren gesamtgesellschaftlichen Problemen auseinandersetzen zu müssen. Ferner fokussiert sich die Analyse der algorithmischen Systeme bisher meist allein auf die gegenwärtige Anwendung des betreffenden Entscheidungssystems – und lässt Überlegen zu Konsequenzen und missbräuchlichen Anwendungen in der Zukunft unberücksichtigt. Das Toolkit greift in diese Lücke und stellt die gesellschaftlichen Folgen von KI-Systemen zur Debatte.