Download full text
(external source)
Citation Suggestion
Please use the following Persistent Identifier (PID) to cite this document:
https://doi.org/10.14512/tatup.33.1.48
Exports for your reference manager
Artificial intelligence in melanoma diagnosis: Three scenarios, shifts in competencies, need for regulation, and reconciling dissent between humans and AI
Künstliche Intelligenz in der Melanom-Diagnose: Drei Szenarien, Kompetenzverschiebungen, Regulierungsbedarf und Umgang mit Dissens zwischen Mensch und KI
[journal article]
Abstract Tools based on machine learning (so-called artificial intelligence, AI) are increasingly being developed to diagnose malignant melanoma in dermatology. This contribution discusses (1) three scenarios for the use of AI in different medical settings, (2) shifts in competencies from dermatologists to n... view more
Tools based on machine learning (so-called artificial intelligence, AI) are increasingly being developed to diagnose malignant melanoma in dermatology. This contribution discusses (1) three scenarios for the use of AI in different medical settings, (2) shifts in competencies from dermatologists to non-specialists and empowered patients, (3) regulatory frameworks to ensure safety and effectiveness and their consequences for AI tools, and (4) cognitive dissonance and potential delegation of human decision-making to AI. We conclude that AI systems should not replace human medical expertise but play a supporting role. We identify needs for regulation and provide recommendations for action to help all (human) actors navigate safely through the choppy waters of this emerging market. Potential dilemmas arise when AI tools provide diagnoses that conflict with human medical expertise. Reconciling these conflicts will be a major challenge.... view less
Für die Diagnose von malignen Melanomen in der Dermatologie werden zunehmend Instrumente entwickelt, die auf maschinellem Lernen (sogenannter künstlicher Intelligenz, KI) basieren. Dieser Beitrag diskutiert (1) drei Szenarien für den Einsatz von KI in verschiedenen medizinischen Bereichen, (2) Kompe... view more
Für die Diagnose von malignen Melanomen in der Dermatologie werden zunehmend Instrumente entwickelt, die auf maschinellem Lernen (sogenannter künstlicher Intelligenz, KI) basieren. Dieser Beitrag diskutiert (1) drei Szenarien für den Einsatz von KI in verschiedenen medizinischen Bereichen, (2) Kompetenzverschiebungen von Dermatolog:innen zu Nicht-Spezialist:innen und mündigen Patient:innen, (3) regulatorische Rahmenbedingungen zur Gewährleistung von Wirksamkeit und Unbedenklichkeit und ihre Folgen für KI-Tools sowie (4) kognitive Dissonanz und potenzielle Delegation menschlicher Entscheidungen an KI. Wir kommen zu dem Schluss, dass KI-Systeme menschliche medizinische Expertise nicht ersetzen, sondern eine unterstützende Rolle spielen sollten. Wir zeigen Regulierungsbedarf auf und geben Handlungsempfehlungen, um alle (menschlichen) Akteur:innen dabei zu unterstützen, sicher durch die unruhigen Gewässer dieses neuen Marktes zu navigieren. Potenzielle Dilemmata entstehen, wenn KI-Tools Diagnosen liefern, die im Widerspruch zur menschlichen medizinischen Expertise stehen. Diese Konflikte zu lösen, wird eine große Herausforderung sein.... view less
Keywords
cancer; diagnosis; artificial intelligence; physician-patient relationship; diagnostic; medical ethics
Classification
Technology Assessment
Medical Sociology
Free Keywords
diagnostic accuracy; melanoma
Document language
English
Publication Year
2024
Page/Pages
p. 48-54
Journal
TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis / Journal for Technology Assessment in Theory and Practice, 33 (2024) 1
Issue topic
AI for decision support: What are possible futures, social impacts, regulatory options, ethical conundrums and agency constellations? / KI zur Entscheidungsunterstützung: Was sind mögliche Zukünfte, soziale Auswirkungen, regulatorische Optionen, ethische Fragen und Akteur*innenkonstellationen?
ISSN
2567-8833
Status
Published Version; peer reviewed