Borderline decisions? Lack of justification for automatic deception detection at EU borders

Minkin, Daniel; Brandner, Lou Therese

Grenzwertige Entscheidungen? Rechtfertigungsdefizite der automatischen Täuschungserkennung an EU‑Grenzen
[journal article]

dc.contributor.author	Minkin, Daniel	de
dc.contributor.author	Brandner, Lou Therese	de
dc.date.accessioned	2024-03-26T09:12:39Z
dc.date.available	2024-03-26T09:12:39Z
dc.date.issued	2024	de
dc.identifier.issn	2567-8833	de
dc.identifier.uri	https://www.ssoar.info/ssoar/handle/document/93364
dc.description.abstract	Between 2016 and 2019, the European Union funded the development and testing of a system called "iBorderCtrl", which aims to help detect illegal migration. Part of iBorderCtrl is an automatic deception detection system (ADDS): Using artificial intelligence, ADDS is designed to calculate the probability of deception by analyzing subtle facial expressions to support the decision-making of border guards. This text explains the operating principle of ADDS and its theoretical foundations. Against this background, possible deficits in the justification of the use of this system are pointed out. Finally, based on empirical findings, potential societal ramifications of an unjustified use of ADDS are discussed.	de
dc.description.abstract	Von 2016 bis 2019 wurde mit Fördergeldern der Europäischen Union ein System namens "iBorderCtrl" entwickelt und getestet. Dieses System soll dabei helfen, illegale Migration zu erkennen. Eine Komponente von iBorderCtrl ist das sog. Automatic-Deception-Detection-System (ADDS). Mithilfe künstlicher Intelligenz soll das ADDS subtile Gesichtsausdrücke analysieren, um die Wahrscheinlichkeit einer Täuschung zu berechnen, die Grenzschutzbeamt*innen als Entscheidungshilfe nutzen können. Im vorliegenden Beitrag werden das Funktionsprinzip des ADDS sowie seine theoretische Basis erläutert. Vor diesem Hintergrund wird auf mögliche Defizite in der Rechtfertigung des Einsatzes von ADDS hingewiesen. Auf der Grundlage empirischer Untersuchungen werden schließlich mögliche soziale Auswirkungen eines ungerechtfertigten Einsatzes von ADDS diskutiert	de
dc.language	en	de
dc.subject.ddc	Technik, Technologie	de
dc.subject.ddc	Technology (Applied sciences)	en
dc.subject.other	automatic deception detection; border control; emotion recognition; machine learning; trust	de
dc.title	Borderline decisions? Lack of justification for automatic deception detection at EU borders	de
dc.title.alternative	Grenzwertige Entscheidungen? Rechtfertigungsdefizite der automatischen Täuschungserkennung an EU‑Grenzen	de
dc.description.review	begutachtet (peer reviewed)	de
dc.description.review	peer reviewed	en
dc.identifier.url	https://www.tatup.de/index.php/tatup/article/view/7100	de
dc.source.journal	TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis / Journal for Technology Assessment in Theory and Practice
dc.source.volume	33	de
dc.publisher.country	DEU	de
dc.source.issue	1	de
dc.subject.classoz	Technikfolgenabschätzung	de
dc.subject.classoz	Technology Assessment	en
dc.subject.thesoz	EU	de
dc.subject.thesoz	EU	en
dc.subject.thesoz	Grenzschutz	de
dc.subject.thesoz	border protection	en
dc.subject.thesoz	illegale Einwanderung	de
dc.subject.thesoz	illegal immigration	en
dc.subject.thesoz	Kontrolle	de
dc.subject.thesoz	control	en
dc.subject.thesoz	Entscheidungshilfe	de
dc.subject.thesoz	decision aid	en
dc.subject.thesoz	künstliche Intelligenz	de
dc.subject.thesoz	artificial intelligence	en
dc.subject.thesoz	Technikfolgenabschätzung	de
dc.subject.thesoz	technology assessment	en
dc.rights.licence	Creative Commons - Namensnennung 4.0	de
dc.rights.licence	Creative Commons - Attribution 4.0	en
internal.status	formal und inhaltlich fertig erschlossen	de
internal.identifier.thesoz	10041441
internal.identifier.thesoz	10040019
internal.identifier.thesoz	10041777
internal.identifier.thesoz	10042486
internal.identifier.thesoz	10042197
internal.identifier.thesoz	10043031
internal.identifier.thesoz	10060023
dc.type.stock	article	de
dc.type.document	Zeitschriftenartikel	de
dc.type.document	journal article	en
dc.source.pageinfo	34-40	de
internal.identifier.classoz	20800
internal.identifier.journal	1661
internal.identifier.document	32
internal.identifier.ddc	600
dc.source.issuetopic	AI for decision support: What are possible futures, social impacts, regulatory options, ethical conundrums and agency constellations? / KI zur Entscheidungsunterstützung: Was sind mögliche Zukünfte, soziale Auswirkungen, regulatorische Optionen, ethische Fragen und Akteur*innenkonstellationen?	de
dc.identifier.doi	https://doi.org/10.14512/tatup.33.1.34	de
dc.description.pubstatus	Veröffentlichungsversion	de
dc.description.pubstatus	Published Version	en
internal.identifier.licence	16
internal.identifier.pubstatus	1
internal.identifier.review	1
internal.dda.reference	https://www.tatup.de/index.php/tatup/oai@@oai:TATuP:article/7100
ssoar.urn.registration	false	de

Files in this item

Name:: ssoar-tatup-2024-1-minkin_et_a ...
Size:: 5.934Mb
Format:: PDF

View/Open

This item appears in the following Collection(s)

Technikfolgenabschätzung
Technology Assessment

Show simple item record

Borderline decisions? Lack of justification for automatic deception detection at EU borders

Grenzwertige Entscheidungen? Rechtfertigungsdefizite der automatischen Täuschungserkennung an EU‑Grenzen [journal article]

Files in this item

This item appears in the following Collection(s)

Grenzwertige Entscheidungen? Rechtfertigungsdefizite der automatischen Täuschungserkennung an EU‑Grenzen
[journal article]