Download full text
(external source)
Citation Suggestion
Please use the following Persistent Identifier (PID) to cite this document:
https://doi.org/10.14512/tatup.33.1.34
Exports for your reference manager
Borderline decisions? Lack of justification for automatic deception detection at EU borders
Grenzwertige Entscheidungen? Rechtfertigungsdefizite der automatischen Täuschungserkennung an EU‑Grenzen
[journal article]
Abstract Between 2016 and 2019, the European Union funded the development and testing of a system called "iBorderCtrl", which aims to help detect illegal migration. Part of iBorderCtrl is an automatic deception detection system (ADDS): Using artificial intelligence, ADDS is designed to calculate the probabil... view more
Between 2016 and 2019, the European Union funded the development and testing of a system called "iBorderCtrl", which aims to help detect illegal migration. Part of iBorderCtrl is an automatic deception detection system (ADDS): Using artificial intelligence, ADDS is designed to calculate the probability of deception by analyzing subtle facial expressions to support the decision-making of border guards. This text explains the operating principle of ADDS and its theoretical foundations. Against this background, possible deficits in the justification of the use of this system are pointed out. Finally, based on empirical findings, potential societal ramifications of an unjustified use of ADDS are discussed.... view less
Von 2016 bis 2019 wurde mit Fördergeldern der Europäischen Union ein System namens "iBorderCtrl" entwickelt und getestet. Dieses System soll dabei helfen, illegale Migration zu erkennen. Eine Komponente von iBorderCtrl ist das sog. Automatic-Deception-Detection-System (ADDS). Mithilfe künstlicher In... view more
Von 2016 bis 2019 wurde mit Fördergeldern der Europäischen Union ein System namens "iBorderCtrl" entwickelt und getestet. Dieses System soll dabei helfen, illegale Migration zu erkennen. Eine Komponente von iBorderCtrl ist das sog. Automatic-Deception-Detection-System (ADDS). Mithilfe künstlicher Intelligenz soll das ADDS subtile Gesichtsausdrücke analysieren, um die Wahrscheinlichkeit einer Täuschung zu berechnen, die Grenzschutzbeamt*innen als Entscheidungshilfe nutzen können. Im vorliegenden Beitrag werden das Funktionsprinzip des ADDS sowie seine theoretische Basis erläutert. Vor diesem Hintergrund wird auf mögliche Defizite in der Rechtfertigung des Einsatzes von ADDS hingewiesen. Auf der Grundlage empirischer Untersuchungen werden schließlich mögliche soziale Auswirkungen eines ungerechtfertigten Einsatzes von ADDS diskutiert... view less
Keywords
EU; border protection; illegal immigration; control; decision aid; artificial intelligence; technology assessment
Classification
Technology Assessment
Free Keywords
automatic deception detection; border control; emotion recognition; machine learning; trust
Document language
English
Publication Year
2024
Page/Pages
p. 34-40
Journal
TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis / Journal for Technology Assessment in Theory and Practice, 33 (2024) 1
Issue topic
AI for decision support: What are possible futures, social impacts, regulatory options, ethical conundrums and agency constellations? / KI zur Entscheidungsunterstützung: Was sind mögliche Zukünfte, soziale Auswirkungen, regulatorische Optionen, ethische Fragen und Akteur*innenkonstellationen?
ISSN
2567-8833
Status
Published Version; peer reviewed