Les abus d'Amazon Rekognition

Amazon dispose désormais d'un formulaire Web permettant aux utilisateurs de signaler les abus de sa technologie de reconnaissance faciale
"Cela souligne une fois de plus le besoin urgent d'Amazon de se retirer de l'activité de surveillance. Ils ne savent tout simplement pas ce qu'ils font", a déclaré l'avocat des libertés civiles Matt Cagle.
Amazon demande au public de signaler les abus de Rekognition, le puissant outil de reconnaissance faciale de la société qu'il a agressivement présenté aux agences américaines d'application de la loi, dans un simple formulaire Web qui leur demande leur nom, leur adresse e-mail professionnelle, le nom de la société, le numéro de téléphone et un avec l'invite "Que souhaitez-vous signaler?"
Certains défenseurs des droits civiques ont remarqué le site Web avant la réunion annuelle des actionnaires de la société mercredi, au cours de laquelle les actionnaires d'Amazon ont voté contre les propositions visant à interdire la vente de la technologie de reconnaissance faciale au gouvernement et à étudier l'impact de l'utilisation gouvernementale du produit à l'avenir. Mercredi également, le House Oversight Committee a tenu une audience très attendue sur la reconnaissance faciale, qui visait à examiner l'utilisation de la technologie par le gouvernement et les entités commerciales, et la nécessité d'une surveillance sur la façon dont elle est utilisée sur les civils.
"Nous avons toujours eu la possibilité pour les clients de signaler toute utilisation abusive présumée de nos services. Plus tôt cette année, nous avons ajouté un processus de signalement spécifique pour Rekognition", a déclaré un porte-parole d'Amazon dans un communiqué, répondant aux questions de BuzzFeed News. «Nous continuons également d'appuyer les appels en faveur d'un cadre législatif national approprié qui protège les droits civils individuels et garantit que les gouvernements utilisent de manière transparente la technologie de reconnaissance faciale.» Amazon a introduit Rekognition pour la première fois en 2016.
"œ Il est absurde qu'Amazon pense sérieusement que la solution pour prévenir les violations des droits de sa technologie de surveillance du visage est un formulaire en ligne pour que les gens signalent une surveillance secrète dont ils n'ont aucun moyen de connaître", a déclaré Matt Cagle, avocat en technologie et libertés civiles à l'ACLU. de la Californie du Nord. "Cela souligne encore une fois la nécessité urgente pour Amazon de se retirer de l'activité de surveillance. Ils ne savent tout simplement pas ce qu'ils font. "
Aux États-Unis, il n'y a actuellement aucune loi régissant l'utilisation de la reconnaissance faciale, qui a été mise en œuvre par les agences fédérales et locales d'application de la loi, les aéroports, les détaillants et les écoles Il n'y a pas de cadre réglementaire limitant les applications d'application de la loi de la technologie. Il n'existe aucune jurisprudence ni aucun précédent constitutionnel confirmant l'utilisation par la police de la reconnaissance faciale sans mandat. Les tribunaux n'ont même pas décidé si la reconnaissance faciale constitue une perquisition en vertu du quatrième amendement. Pendant ce temps, les rapports et les études sur les inexactitudes et les erreurs de la technologie se multiplient
Amazon, pour sa part, a soutenu que Rekognition avait des applications utiles, telles que la recherche d'enfants disparus et la prévention du vol de colis. La société a également affirmé qu'elle «n'avait pas reçu un seul rapport d'utilisation abusive par les forces de l'ordre» sur son logiciel Rekognition, ce que ce formulaire Web semble résoudre.
Pour Matthew Green, un cryptographe de l'Université Johns Hopkins, la façon dont le formulaire est configuré, la société pourrait potentiellement accéder aux adresses IP des clients afin de révéler qui envoie les rapports. "Cela pourrait avoir un effet dissuasif sur les personnes qui soumettent des soumissions qui impliquent l'application des lois", a-t-il déclaré à BuzzFeed News. "À tout le moins, il pourrait être agréable d'avoir hébergé cela sur le service d'une autre société; bien sûr, même cela pourrait être vulnérable à une assignation à comparaître."
D'autres options auraient pu être utilisées par la société, a expliqué M. Green, comme SecureDrop, le système de soumission de lanceurs d'alerte open source utilisé par de nombreuses organisations journalistiques. Green a déclaré que SecureDrop aurait été un "remplacement plus fort", bien qu'il ait également souligné que cela nécessiterait que les utilisateurs connaissent Tor (un navigateur Web destiné à la navigation Web anonyme), qui, selon lui, est "un peu plus avancé et probablement pas" va être facile à utiliser pour les utilisateurs. "
"Ironiquement, les préoccupations concernant la sécurité pourraient encourager les dénonciateurs à tendre la main aux journalistes au lieu d'Amazon", a déclaré M. Green, "ce qui n'est probablement pas le résultat préféré de l'entreprise". une-