Künstliche Intelligenz in der Medizin? Intersektionale queerfeministische Kritik und Orientierung

Abstract

Algorithmen werden als zentrale Akteure der digitalen Transformation gehandelt. Künstliche Intelligenz (KI) wird als Lösung für dringende aktuelle und zukünftige Probleme in der Medizin gerahmt. Der Beitrag geht der Frage nach, wie - oft unbewusst - faktisch diskriminierende Werte sozialer Ordnung in Algorithmen eingeschrieben werden und der weithin beklagte Gender Bias sowie rassistische Diskriminierung fortgeschrieben oder sogar verstärkt wird. Es wird erörtert, wie eine mit KI verbundene Automatisierung von Diskriminierung Ansprüche an ein gleichberechtigtes Zusammenleben vielfältiger und widersprüchlicher menschlicher Existenz erneut breit diskutierbar macht. Im Beitrag werden diese Fragen anhand des Einsatzes von KI bei der Hautkrebs- und der Brustkrebsdiagnose erörtert. Diese werden mit theoretischen und methodischen Zugängen aus der Genderforschung, die sozialen Konstruktivismus, Poststrukturalismus und New Materialism mit Ansätzen der Intersektionalitätsforschung und der Queer Theory verbinden, konfrontiert.

Algorithms are considered to be central actors in the digital transformation. Artificial intelligence (AI) is framed as a solution to urgent current and future problems in medicine. The article explores the question of how - often unconsciously - the factually discriminatory values inherent in social orders are encoded in algorithms and how both gender bias and racial discrimination are perpetuated or even reinforced. The article discusses how the automation of discrimination that is associated with AI reopens the debate about the multifaceted and contradictory human co-existence on the basis of equality. These questions are discussed based on two examples - the use of AI in skin cancer and in breast cancer diagnosis. These are put into conversation with theoretical and methodological approaches from gender studies that combine social constructivism, poststructuralism and new materialism with approaches from intersectionality research and queer theory.