Artificial intelligence in melanoma diagnosis: Three scenarios, shifts in competencies, need for regulation, and reconciling dissent between humans and AI

Abstract

Tools based on machine learning (so-called artificial intelligence, AI) are increasingly being developed to diagnose malignant melanoma in dermatology. This contribution discusses (1) three scenarios for the use of AI in different medical settings, (2) shifts in competencies from dermatologists to non-specialists and empowered patients, (3) regulatory frameworks to ensure safety and effectiveness and their consequences for AI tools, and (4) cognitive dissonance and potential delegation of human decision-making to AI. We conclude that AI systems should not replace human medical expertise but play a supporting role. We identify needs for regulation and provide recommendations for action to help all (human) actors navigate safely through the choppy waters of this emerging market. Potential dilemmas arise when AI tools provide diagnoses that conflict with human medical expertise. Reconciling these conflicts will be a major challenge.

Für die Diagnose von malignen Melanomen in der Dermatologie werden zunehmend Instrumente entwickelt, die auf maschinellem Lernen (sogenannter künstlicher Intelligenz, KI) basieren. Dieser Beitrag diskutiert (1) drei Szenarien für den Einsatz von KI in verschiedenen medizinischen Bereichen, (2) Kompetenzverschiebungen von Dermatolog:innen zu Nicht-Spezialist:innen und mündigen Patient:innen, (3) regulatorische Rahmenbedingungen zur Gewährleistung von Wirksamkeit und Unbedenklichkeit und ihre Folgen für KI-Tools sowie (4) kognitive Dissonanz und potenzielle Delegation menschlicher Entscheidungen an KI. Wir kommen zu dem Schluss, dass KI-Systeme menschliche medizinische Expertise nicht ersetzen, sondern eine unterstützende Rolle spielen sollten. Wir zeigen Regulierungsbedarf auf und geben Handlungsempfehlungen, um alle (menschlichen) Akteur:innen dabei zu unterstützen, sicher durch die unruhigen Gewässer dieses neuen Marktes zu navigieren. Potenzielle Dilemmata entstehen, wenn KI-Tools Diagnosen liefern, die im Widerspruch zur menschlichen medizinischen Expertise stehen. Diese Konflikte zu lösen, wird eine große Herausforderung sein.