TA for human security: Aligning security cultures with human security in AI innovation

Abstract

This research article addresses the growing concerns about digital technologies and artificial intelligence and their impact on human security. It explores the inadequacies of current digital technology regulation in protecting fundamental human rights. The authors present a typology of three "security cultures for digital technology" based on Mary Kaldor's work on human security, linking international relations and critical security studies with technology assessment (TA). The following cultures are distinguished: dual use, cybersecurity, and TA. The article concludes with a call for collaborative efforts among policy makers, industry, and civil society to prioritize a human-centered approach and global cooperation mechanisms and to strengthen the TA culture in order to address AI innovation without compromising human rights.

Dieser Forschungsartikel befasst sich mit den zunehmenden Bedenken hinsichtlich digitaler Technologien und künstlicher Intelligenz sowie deren Auswirkungen auf die menschliche Sicherheit. Er untersucht die Unzulänglichkeiten der derzeitigen Regulierung digitaler Technologien beim Schutz grundlegender Menschenrechte. Die Autorinnen stellen eine Typologie von drei "Sicherheitskulturen für die digitale Technologie" vor, die auf Mary Kaldors Arbeit zu menschlicher Sicherheit basiert und die Disziplin internationale Beziehungen und Critical Security Studies mit Technikfolgenabschätzung (TA) verbindet. Folgende Kulturen werden unterschieden: Dual Use, Cybersecurity und TA. Der Beitrag schließt mit einem Aufruf zur Zusammenarbeit zwischen politischen Entscheidungsträger*innen, Branchenführer*innen und der Zivilgesellschaft, um einen menschenzentrierten Ansatz und globale Kooperationsmechanismen in den Vordergrund zu stellen und die TA‑Kultur zu stärken, damit KI‑Innovationen ohne Beeinträchtigung der Menschenrechte angegangen werden können.