Intéressant

La controverse de FaceApp nous rappelle à quel point nous sommes mal équipés pour l'avenir

La controverse de FaceApp nous rappelle à quel point nous sommes mal équipés pour l'avenir

À moins que vous n'ayez été enfermé dans un donjon cette semaine, vous avez vu l'explosion des photos de vos amis, célébrités ou autres personnalités en ligne que vous suivez semblant toutes froissées et grises, le tout généré par l'application mobile FaceApp. Ce n'est pas le premier moment viral de FaceApp, il est devenu viral une fois auparavant en 2017, mais 2017 n'était pas 2019.

Les grondements sur Cambridge Analytica n'étaient pas encore devenus le tremblement de terre de la vie privée qui commencerait à anéantir la confiance en Facebook et d'autres au cours des deux années qui ont suivi, de sorte que FaceApp pourrait être considéré comme un plaisir inoffensif, pas besoin de lire les conditions d'utilisation. Maintenant, notre compréhension des menaces qui pèsent sur notre vie privée s'est développée et, bien que FaceApp puisse encore être totalement inoffensif, que ce soit ou non le problème depuis un certain temps. Le problème, fondamentalement, c'est nous.

La controverse sur FaceApp expliquée

Cela fait environ une semaine que FaceApp a pris feu pour la deuxième fois - ils ont également été appelés pour être super-problématiques la première fois - et nous sommes déjà passés du FOMO initial à la gueule de bois des médias sociaux - et dans de nombreux cas, il y a un sentiment de honte d'avoir été pris dans ce qui semble être une véritable violation de la vie privée.

CONNEXES: FACEAPP DEVIENT VIRAL AVEC DES CÉLÉBRITÉS AFFICHANT DES IMAGES DE FUTURS PLUS ANCIENS

À présent, vous savez exactement de quoi nous parlons ici: la première moitié de la semaine, tout le monde que vous connaissiez sur les réseaux sociaux prenait des selfies et téléchargeait ce que l'IA de FaceApp devine au mieux à quoi ils ressembleraient en tant que personnes âgées.

Lorsque vous faites un voyage en l'an 3000. pic.twitter.com/O9Dxpwj6ex

- Jonas Brothers (@jonasbrothers) 16 juillet 2019

Moi hébergeant #MasterChef Saison 50 ...... # faceapppic.twitter.com/uKnfxUpC1D

- Gordon Ramsay (@GordonRamsay) 16 juillet 2019

Vers mercredi, les gens ont commencé à souligner que les utilisateurs de FaceApp venaient tous de donner à une entreprise dont ils ne connaissaient pas le droit personnel d'utiliser leur image à toutes fins utiles. C'était une opération rusée de collecte de données pour laquelle nous tombions tous.

Je pensais que nous avions convenu il y a quelque temps que FaceApp était très louche et utilisait probablement les photos des gens pour développer une technologie de reconnaissance faciale qui servira finalement l'état de surveillance? Rien de amusant n'est gratuit dans ces rues de réseaux sociaux.

- Saeed Jones (@theferocity) 16 juillet 2019

Je suis heureux que vous vous amusiez tous avec cette application de vieillissement du visage, mais je ne pourrai jamais me débarrasser du sentiment que toutes ces photos sont placées directement dans une sorte de base de données, dont le but sinistre ne sera pas révélé. jusqu'à ce qu'il soit trop tard.

- Scott Wampler ™ (@ScottWamplerBMD) 16 juillet 2019

Je ne peux pas m'empêcher de penser que cette FaceApp collecte nos données pour quelque chose de louche. Mais je veux l'essayer

- Cornelius (@koolexposure) 16 juillet 2019

Les défenseurs de la protection de la vie privée et les politiciens ont commencé à s'inquiéter de l'endroit exact où ces images étaient stockées, rendant public le fait que le traitement de votre image ne se produisait pas sur votre téléphone, mais sur des serveurs cloud ailleurs. Puis vint la «révélation» que FaceApp avait son siège social dans - cue de la musique inquiétante - St. Pétersbourg, Russie.

CEPENDANT: ils semblent télécharger des images uniques afin d'appliquer les filtres côté serveur. bien que pas aussi flagrant, ce n'est pas évident et je suis sûr que beaucoup de gens ne sont pas cool avec cela.

- Will Strafach (@chronic) 17 juillet 2019

Leur politique de confidentialité n'est pas conforme à distance au RGPD. Il dit que vos données peuvent être transférées vers n'importe quel endroit où elles ont une installation ... ce qui signifie la Russie.

- Elizabeth Potts Weinstein (@ElizabethPW) 17 juillet 2019

BIG: Partagez si vous avez utilisé #FaceApp:

Le @FBI et le @FTC doivent se pencher maintenant sur les risques pour la sécurité nationale et la confidentialité

Parce que des millions d'Américains l'ont utilisé

Il appartient à une société basée en Russie

Et les utilisateurs sont tenus de fournir un accès complet et irrévocable à leurs photos et données personnelles pic.twitter.com/cejLLwBQcr

- Chuck Schumer (@SenSchumer) 18 juillet 2019

Nous voilà donc vendredi et le ton de la conversation a changé de 180 degrés depuis «Hey! C'est cool!' à «Oh non, qu'avons-nous tous fait? dans environ 100 heures. Nous voulons que les gens pensent que nous sommes tous plus intelligents que cela, mais beaucoup de gens peuvent être penauds à ce sujet, en particulier lorsque la moitié d'Internet appelle tous les utilisateurs de FaceApp des marques faciles pour un agent de renseignement russe.

Mais est-ce vraiment si grave?

Devriez-vous être préoccupé par FaceApp?

Ce scénario s'est joué avec des dizaines de tendances virales au cours des dernières années qui impliquaient de télécharger votre image sur quelque chose. L'année dernière, nous avons traversé cette controverse exacte sur l'ensemble de l'application Google `` trouvez une œuvre d'art historique qui vous ressemble '', moins l'élément Red Scare. De même, le «Défi des 10 ans» de Facebook.

Il y a une réelle préoccupation ici, évidemment. Il a toujours été le cas que chaque fois que quelqu'un vous offre quelque chose gratuitement, ce qu'ils recherchent, ce sont les informations que vous devez fournir pour obtenir cette chose gratuite. C'est ainsi que les listes de diffusion se sont constituées depuis plus d'un siècle.

De même, tout le concept des cotes de télévision repose sur la collecte de données auprès des familles dites Nielsen; les ménages qui permettent à la société Nielsen de surveiller les émissions que les gens regardent ou les stations de radio qu'ils écoutent afin que les réseaux puissent fixer un prix pour l'espace publicitaire et que les entreprises puissent décider où faire de la publicité en fonction de la taille de l'audience.

FaceApp - ou Facebook ou d'autres sociétés de médias sociaux et Internet qui gagnent de l'argent en exploitant les données des utilisateurs - est-il vraiment si différent? Les principes sont à peu près les mêmes, mais la portée des données utilisateur collectées auprès des téléspectateurs Nielsen et des utilisateurs de Facebook est comme la différence entre multiplier un nombre par 10 et augmenter un nombre par 10.

Vous pouvez dire ce qu'un ménage Nielsen regarde, mais vous ne pouvez pas vraiment dire qui le regarde, ou s'ils soutiennent une équipe ou une autre pendant le Superbowl. De plus, au moins traditionnellement, Neilsen a été franc sur le but de leur collecte de données et les familles de Neilsen ont compris exactement quelles informations elles abandonnaient dans le processus. Ils pourraient également abandonner le programme et les données cesseraient d'être collectées.

Facebook a construit un profil complet d'un utilisateur basé sur des données collectées même en dehors de Facebook lui-même. Ceci est ensuite utilisé pour micro-cibler la publicité et la diffusion de contenu avec une telle spécificité, et ce sans supervision, que ces profils deviennent problématiques. Si une personne est enceinte, disons, et qu'elle souhaite garder ces informations privées mais qu'elle recherche des OBGYN ou clique sur la page Facebook d'un centre de ressources sur la grossesse, Facebook peut déterminer qu'une utilisatrice est enceinte et commencer à diffuser des publicités mettant en vedette des produits pour bébés à cette personne.

Bien que Facebook puisse avoir des garanties spécifiques autour de ce type de création de profil, nous savons qu'ils n'étaient pas toujours aussi prudents sur la manière dont leurs données étaient utilisées pour cibler les utilisateurs. Facebook a eu des ennuis pour avoir donné aux annonceurs la possibilité il y a quelques années de cibler leur publicité selon des critères ethniques et raciaux en excluant certains groupes ou catégories ayant de fortes associations raciales, ethniques ou religieuses. Ces exclusions pourraient permettre aux annonceurs d'exercer une discrimination à l'égard de ces groupes pour des produits et services tels que le logement ou l'emploi.

Facebook a supprimé plus de 5000 catégories cibles pour ses publicités en fonction de ces préoccupations. Aussi mauvais que cela soit, ils n'ont pu créer ces catégories en premier lieu qu'en inversant l'ingénierie de l'ethnicité, de la race ou des croyances religieuses probables d'un utilisateur en fonction de l'activité de l'utilisateur, ce qui n'est pas simplement offensant mais carrément dangereux dans un monde où ces catégories ont souvent été utilisées comme base d'oppression et bien pire.

S'il est douteux que Facebook collecte des données pour créer ces profils afin d'opprimer les minorités ethniques, religieuses ou raciales, on ne peut pas en dire autant de la Chine, qui dirige actuellement des camps de concentration pour plus d'un million de Uighs à majorité musulmane. pays aux fins de «déradicalisation».

La collecte de données a été un élément majeur de cet effort. Les données collectées à partir de leurs téléphones portables, des interactions publiques et parfois simplement saisies par la police via un enregistrement biométrique forcé dans les postes de police ont été utilisées pour créer de facto des arrestations à domicile, car les systèmes d'IA et les capteurs de reconnaissance faciale alertent la police chaque fois qu'une personne identifiée comme Uigher entre dans un certain public. espaces, tels que les hôpitaux.

Si vous pensez que vos données ne sont pas si importantes, le sort actuel des Uighers devrait dissiper toute idée que vos données ne peuvent pas être utilisées contre vous.

Le problème n'est pas FaceApp

Le problème n'est pas que FaceApp va utiliser l'image de nos visages pour autre chose que de nous divertir en nous transformant tous et nos amis en un groupe d'Olds. Et, malgré les affirmations de nombreuses personnes en ligne et de certains politiciens ici aux États-Unis, rien ne prouve que quiconque se soit rendu compte que FaceApp télécharge vos pellicules sur leurs serveurs cloud.

Ce pour quoi ils utilisent presque certainement votre image, c'est une sorte de données d'entraînement pour le type d'IA générative qui produit des faux profonds, etc. Si tel est le cas, vous n'avez absolument rien à craindre. Une fois que ces données ont été traitées par le système d'IA qu'ils veulent former, elles seront probablement rejetées car elles sont pratiquement inutiles par la suite.

Le PDG de l'entreprise aurait déclaré que les images des gens étaient généralement supprimées après un court laps de temps - mais pour être clair, il n'a rien dit sur l'utilisation de ces images par l'entreprise au-delà de la formation de leur réseau de neurones.

On a beaucoup parlé de la politique de confidentialité de l'entreprise qui se réserve le droit d'utiliser votre image à des fins commerciales légitimes, ce qui pourrait inclure leur utilisation dans la publicité de produits. Ils promettent également de ne pas vendre vos données à des tiers, mais se réservent le droit de partager vos données avec des sociétés affiliées. Ainsi, toute personne qui achète FaceApp peut avoir accès à toutes les données dont elle dispose sur vous.

Les deux sont très problématiques, mais honnêtement, c'est parce qu'il s'agit à peu près de règles juridiques standard pour les entreprises qui s'appuient d'une manière ou d'une autre sur l'exploration de données. On dit beaucoup de choses sur la façon dont Facebook est pire que FaceApp, et ils le sont certainement, mais ce problème est encore plus grand que Facebook.

Le problème que les défenseurs de la vie privée ont est avec le Thunderdome réglementaire dans lequel nous vivons, qui oppose des utilisateurs malheureux sans formation juridique à une bataille de langage avec des avocats qualifiés dont tout le travail consiste à épuiser l'utilisateur en disant simplement `` Eff it '' et en cliquant sur le bouton bouton Accepter.

Le fait que - après avoir découvert par les médias ou le bouche à oreille, comme les gens normaux en d'autres termes, ce qui était réellement dans ces conditions de service - c'est une défense tout à fait acceptable pour l'entreprise de dire `` Eh bien, vous avez accepté à cela en cliquant sur Accepter »est le problème fondamental, et il n'y a pas de solution simple à cela. C'est un problème politique, pas juridique. Cette tactique a été utilisée par des entreprises pour nous amener à céder nos droits sur tout, de nos images et vidéos à notre droit de poursuivre une entreprise pour discrimination.

Et soyons aussi clairs que le problème n'est pas que l'entreprise est russe. Basé à Saint-Pétersbourg, le moment viral de FaceApp a fait ressortir toutes sortes de niveaux de paranoïa presque McCarthyites. Le Parti démocrate a paniqué cette semaine et a demandé à tout le monde travaillant sur les campagnes de supprimer immédiatement FaceApp de leurs téléphones.

Certes, je comprends pourquoi ils sont un peu délicats à ce sujet, mais après 2016, pourquoi diable fait l'un de vous tout des applications de collecte de données sur vos téléphones? Ils collectent tous des données et peuvent tous être utilisés pour obtenir un accès non autorisé. FaceApp est peut-être une sorte de sinistre opération de renseignement russe pour collecter les visages d'Américains pour aider à réélire Donald Trump ou quelque chose du genre, mais si quelqu'un pouvait tracer cette ligne d'une chose à l'autre, j'adorerais la voir.

Le jeu contre FaceApp ne concerne pas non plus FaceApp

Notre recherche de personnes ou de gouvernements néfastes à blâmer témoigne d'une anxiété plus grande qui est en fait un symptôme de ce qui est vraiment problématique à propos de FaceApp. Vous n'avez pas besoin de preuves lorsque vous avez été victime dans le passé d'un stratagème qui, à ce jour, est encore difficile à comprendre. Non pas que ce ne soit pas le cas se produire mais c'est vraiment difficile à comprendre pour la plupart des gens.

Cambridge Analytica fait grattez des dizaines de millions de données d'utilisateurs de Facebook pour aider à cibler les efforts électoraux, mais savez-vous comment ils l'ont fait, ou ce que cela signifie même? Les services de renseignement russes fait s'engager dans une campagne coordonnée de désinformation pour perturber l'élection présidentielle américaine de 2016 et avoir peut-être mené des campagnes similaires en Europe au cours des dernières années, mais avec autant de pièces mobiles et de nombreux détails encore enfermés dans les enquêtes en cours, les conspirations ont pris en l’absence de fait.

Et pendant que nous y sommes, la CIA s'est définitivement engagée dans ce genre de campagnes à travers le monde pendant la guerre froide et le fait probablement encore à ce jour. La Chine ne cache même pas le fait qu'elle arme les données qu'elle collecte sur ses citoyens pour mettre en œuvre un système de contrôle social et comportemental qui isole l'État contre les dissidents.

Mais contrairement aux efforts de propagande passés, la plupart des gens se rendent compte qu'ils sont loin de leur élément en ce qui concerne la technologie impliquée. Si vous n'êtes pas familiarisé avec les faux profonds, l'IA et la façon dont les informations se propagent à travers un réseau social, il est difficile de connecter le sentiment de se sentir dupé aux personnes qui vous ont escroqué. Lorsque vous n'avez personne à charge de l'infraction, tout le monde devient suspect.

Et ce n'est pas de la paranoïa, honnêtement. Les gouvernements et les grandes institutions de toutes sortes ont utilisé la collecte et le contrôle de l’information comme moyen d’acquérir et de maintenir le pouvoir aussi longtemps qu’il y a eu des gouvernements et des institutions de quelque taille que ce soit. Ce qui rend notre situation actuelle si pénible pour les gens, c'est que nous nous réveillons tous au fait que, aussi avisés que nous le pensions tous, nous sommes aussi facilement manipulés que nos ancêtres rustiques qui ont vécu et sont morts en croyant fermement que leur souverain dominait sur eux par droit divin et que c'était juste.

Le problème n'est pas FaceApp ou que nous sommes tous tombés dans une sorte de complot russe effrayant; le problème est que nous ne semblons vraiment pas capables de distinguer l'un de l'autre, ni avant ni après coup. Ajoutez un peu de FOMO et quelques avenants de célébrités payés et nous donnerons à l'application, au quiz ou au produit tout ce qu'ils veulent de nous - même nos visages, les informations d'identification les plus personnelles qui soient - et ne revisiterons cette décision qu'une fois que les autres commencez à souligner que cela pourrait être dangereux.

La véritable préoccupation de FaceApp est qu'elle montre à quel point nous ne sommes pas préparés au niveau de surveillance et de collecte de données à venir. Si nous ne pouvons pas rassembler une once de scepticisme pour FaceApp, qu'est-ce qui va nous faire arrêter et reconsidérer ce que nous partageons? La technologie ne va pas empirer dans la collecte de nos données dans les années à venir, elle va devenir exponentiellement meilleure pour fouiller dans nos vies et extraire toutes sortes de choses que nous aimerions garder pour nous. Nous devons trouver des moyens pour au moins les faire travailler pour cela.

Si nous pouvons donner un selfie à une application étrange dont la politique de confidentialité et les conditions de service très, très peu d'entre nous lisent à l'avance, nous avons très peu d'espoir de pouvoir résister à la prochaine tendance virale conçue pour nous laisser tomber notre garde pour certains objectifs sous-jacents d'exploration de données. Nous devons mieux résister à la tentation de céder nos données, bien sûr, mais nous devons également réglementer ces entreprises et la façon dont nous sommes manipulés pour accepter des choses que nous ne voudrions pas, c'est que nous avons été pleinement informés.

Les entreprises dépendent de notre acceptation de leurs conditions de service en les rendant impénétrables. Ils ne devraient pas être autorisés à le faire car la prochaine fois, ce ne sera peut-être pas aussi bénin que la formation de l'IA de FaceApp; cela pourrait être beaucoup, beaucoup plus sinistre et nous ne pourrons pas le reconnaître avant de céder nos détails les plus intimes à quiconque se trouve de l'autre côté du nuage.


Voir la vidéo: Qui suis-je? (Octobre 2021).