Axon – Le fabricant de caméras pour la police refuse l’IA

Axon fabrique de très nombreuses caméras pour la police. Hors, la reconnaissance faciale est un sujet assez controversé en ce qui concerne les caméras disposées dans la rue ; ainsi que sur les uniformes de police.

La société Axon, anciennement connue sous le nom de Taser, a créé son «Comité d’éthique de la technologie de l’intelligence artificielle et des politiques policières» l’an dernier. Le groupe de onze experts de divers domaines vient de publier son premier rapport sur la reconnaissance faciale.

Le comité d’éthique d’Axon énonce certaines lignes de conduite

Les conseils qu’ils donnent sont sans équivoque : il ne faut pas l’utiliser. Plus précisément, leurs conclusions sont les suivantes :

– La reconnaissance faciale n’est tout simplement pas satisfaisante pour qu’elle soit utilisée de manière éthique.

– Ne parlez pas de «précision», parlez de faux négatifs et de faux positifs spécifiques ; car ils sont plus révélateurs et plus pertinents.

– Tout modèle de reconnaissance faciale utilisé ne doit pas être trop personnalisable ; sinon cela ouvrira la voie à des abus.

– Toute demande de reconnaissance faciale ne devrait être initiée qu’avec le consentement et la contribution de ceux qu’elle affectera.

– Tant que rien ne prouvera que ces programmes offrent des avantages réels, il ne devrait pas y avoir de discussion sur leur utilisation.

– Les technologies de reconnaissance faciale n’existent pas et ne seront pas utilisées dans un vide politique ou éthique. Réfléchissez donc au monde réel lorsque vous les développez ou les déployez.

Ces points ne sont que quelques éléments d’un rapport beaucoup plus complet. Il y a pas mal d’entretien interne mais la partie pertinente commence à la page 24. Chacun des points ci-dessus contient quelques pages d’explications et d’exemples.

Axon, pour sa part, écrit qu’il est tout à fait d’accord. « Le premier rapport du conseil nous fournit des recommandations réfléchies et exploitables concernant la technologie de reconnaissance faciale avec laquelle nous sommes d’accord. En accord avec la recommandation du conseil, Axon ne commercialise actuellement pas de produits d’appariement du visage sur nos caméras corporelles. »

Différences entre reconnaissance du visage et l’appariement de visage

Un point intéressant qui n’est pas toujours évoqué est la différence entre la reconnaissance du visage et l’appariement de visage. Bien que le premier soit le terme fourre-tout familier pour désigner ce que nous considérons comme potentiellement invasif, biaisé, etc., il est différent de la terminologie.

La reconnaissance des visages, ou détection, consiste simplement à rechercher les caractéristiques qui composent un visage dans une photo. On peut l’utiliser pour faire la mise au point, ou pour appliquer un effet. La mise en correspondance des visages consiste à exploiter les caractéristiques du visage détecté et à le comparer à une base de données ; afin de le mettre en correspondance avec un fichier. Cela pourrait permettre de déverrouiller votre téléphone à l’aide du visage. Mais cela pourrait également permettre à la police de comparer toutes les personnes entrant dans un aéroport la liste la plus recherchée.

Axon utilise la reconnaissance faciale et le suivi des images pour traiter les nombreuses heures de vidéo produites par les services de police équipés de caméras sur leur uniforme. Lorsque cette vidéo est nécessaire à titre de preuve, les visages autres que ceux directement impliqués peuvent être flous ; ce que vous ne pouvez pas faire si vous ne savez pas où ils se trouvent.

Cette forme particulière de technologie semble anodine dans sa forme actuelle. Il il ne fait aucun doute qu’il existe de nombreuses autres applications avec lesquelles il serait difficile d’être en désaccord. Mais à mesure que les techniques de reconnaissance faciale se généraliseront, il sera bon de disposer de conseils consultatifs comme celui-ci ; en veillant à ce que les entreprises qui les utilisent soient honnêtes.