Comment Facebook et Grindr ont compromis la vie privée des personnes homosexuelles

Le récent Fuite de données de Cambridge Analytica , qui a révélé que la société de conseil basée au Royaume-Uni utilisait des millions de données d'utilisateurs de Facebook pour cibler des publicités au nom de Trump, a laissé présager comment des données non autorisées peuvent être utilisées pour cibler non seulement la population américaine dans son ensemble, mais les personnes queer et nos informations en particulier. Cette possibilité est maintenant devenue plus proche de la réalité, comme BuzzFeed rapporté hier que Grindr a permis à deux sociétés tierces d'avoir accès au statut sérologique, à l'emplacement et à d'autres informations personnellement identifiables et sensibles des utilisateurs.

De telles révélations inquiètent de nombreuses personnes queer, dont moi-même, sur la manière dont nos données personnelles sont utilisées par des entreprises comme Facebook et Grindr, avec ou sans notre consentement, et sur les facteurs de risque uniques que leurs pratiques posent à la communauté queer. Si nous voulons vivre dans ce monde en tant qu'internautes sûrs et libres, il est essentiel de comprendre comment nos données sont utilisées et comment fonctionnent ces algorithmes, surtout maintenant que nous savons qu'ils ne sont pas seulement utilisés pour nous vendre des produits, mais aussi pour influencer nos pensées, nos opinions et nos opinions politiques.

Alors que certains mouvements de résistance au partage de données de masse ont vu le jour, comme #DeleteFacebook, la réalité de notre monde basé sur Internet est que nos données sont collectées à grande échelle et ne sont pas exclusives à une seule plate-forme. Chaque fois que nous naviguons ou recherchons sur le Web, envoyons des e-mails et publions des informations sur des applications telles que Grindr, il est probable que ces actions soient utilisées à des fins de collecte de données. Que ces données se retrouvent entre les mains d'un groupe de marketing, d'une organisation politique ou d'une société de conseil, nos informations ne dorment pas. Nous pouvons essayer d'exercer un certain contrôle sur le processus - en utilisant une fenêtre de navigation privée lorsque nous allons en ligne, par exemple - mais cela ne peut protéger qu'une partie de notre activité sur Internet. Nous ne sommes plus seulement des consommateurs sur Internet - nous sommes nous-mêmes des marchandises, car des tiers vendent également nos données. C'est peut-être une pensée terrifiante, mais c'est aussi ce qui permet à une grande partie d'Internet d'être gratuite et accessible, car vendre nos données et les utiliser pour cibler les publicités évite aux entreprises de facturer directement les utilisateurs.

Avant de pouvoir commencer à nous protéger, il est important de savoir comment fonctionne réellement cette collecte de données. Ce qu'il est essentiel de noter à propos de l'apprentissage automatique, c'est que la quantité de données collectées par les entreprises de cette manière est trop importante pour que quiconque puisse les parcourir. Au lieu de cela, les entreprises placent les données dans des modèles et des machines qui feront des prédictions à notre sujet. Pour ce faire, ils essaient de comprendre comment établir des liens entre toutes les différentes informations qu'ils reçoivent, comme le nombre d'amis que vous avez ou les films que vous aimez. À l'aide de ces informations, les modèles peuvent essayer de deviner votre sexe, vos convictions politiques ou la probabilité que vous achetiez un produit. À partir de là, ils créent des profils sur nous, qui sont ensuite vendus à des annonceurs.

Ces modèles sont si compliqués que les gens ne les fabriquent pas directement. Au lieu de cela, ces modèles, également connus sous le nom d'algorithmes, sont formés en apprenant aux machines à deviner les bonnes réponses pour les données que les gens ont parcourues, et en espérant que cela s'applique à la population générale.

Cependant, même les algorithmes couramment utilisés ont du mal avec cet apprentissage, comme la technologie de reconnaissance faciale qui est seulement efficace si vous êtes un homme blanc . Pour les personnes queer, les mégadonnées peuvent également conduire à un ciblage accru et à des idées fausses sur l'homosexualité et sa relation avec la façon dont nous agissons. Tant de préférences et d'actions qui nous définissent comme queer ne sont même pas comprises avec précision par les personnes réelles, sans parler des algorithmes, et varient considérablement entre les membres de la communauté queer, pourtant les systèmes d'apprentissage automatique utilisent de telles actions pour essayer de nous identifier.

Des problèmes plus importants peuvent survenir lorsque le logiciel fonctionne comme prévu ou, comme dans le cas de Grindr, si nous fournissons des informations sur nous-mêmes en nous attendant à ce qu'elles soient privées, et ne découvrons que plus tard qu'elles sont signalées à des tiers. Ce faisant, nous donnons le pouvoir de prédire qui nous sommes et comment nous cibler vers des parties que nous n'avons pas explicitement autorisées. Cela peut ne pas être aussi frustrant lorsqu'il nous présente simplement une publicité, et cela peut même être utile s'il est utilisé de manière responsable. Cela peut aider les membres de la communauté queer à se retrouver ou à fournir les informations nécessaires à ceux qui en ont besoin. Mais cette collecte de données est plus effrayante lorsqu'elle est utilisée pour le ciblage politique et le maintien de l'ordre, et encore plus effrayante si elle est utilisée dans chaque partie de notre vie pour se débarrasser de tout semblant de vie privée.

La vie privée a toujours été extrêmement importante pour la communauté queer, car nous devons savoir à qui nous pouvons nous adresser, où il est sûr d'être nous-mêmes et à qui révéler des choses comme notre statut sérologique. Maintenir notre sécurité en ligne n'est pas un nouveau problème queer - c'est un ancien qui est abordé à une échelle nouvelle et massive. Les problèmes de confidentialité au sein de la communauté queer remontent aux luttes pour lesquelles de nombreux militants queer se sont battus dans nos bars, maisons et autres espaces sociaux. Si un algorithme peut comprendre ou supposer que nous sommes homosexuels, ainsi que fournir nos informations sur notre statut sérologique à un tiers, nous perdons le pouvoir de décider nous-mêmes quand révéler ces informations sensibles. Ces données peuvent être transmises aux annonceurs, bien sûr, mais aussi aux forces de l'ordre, à nos familles, aux administrateurs scolaires, aux assureurs ou aux employeurs, et nous placent dans des situations incroyablement dangereuses si elles devaient être utilisées à mauvais escient.

En 2014, Facebook ont changé leurs politiques afin que les utilisateurs puissent choisir quand donner nos données à des applications tierces, mais nous devons toujours faire attention à laquelle nous accordons des autorisations. Les révélations de Grindr ont mis ce problème au premier plan, car l'application de rencontres a admis avoir partagé le statut sérologique des utilisateurs avec des tiers, mais s'est défendue en disant qu'une telle utilisation est autorisée par son politique de confidentialité, que de nombreux utilisateurs ne prennent pas le temps d'examiner. (Tard hier, la société mentionné cela arrêterait de partager les informations sur le VIH des utilisateurs avec des tiers.) Bien que ces tiers ne soient pas des annonceurs, mais plutôt des entreprises qui essaient d'optimiser les applications, le fait est que cela ne devrait pas être l'information de Grindr à donner. Il est donc vital pour les consommateurs queer qui souhaitent protéger leur vie privée de garder une trace de ces politiques, afin de s'assurer que les informations les concernant ne tombent pas entre de mauvaises mains. Mais en plus de faire preuve de prudence nous-mêmes, nous devons également élever la voix et nous assurer que Facebook, Grindr et les autres entreprises qui obtiennent nos données ne laissent pas les mauvais annonceurs utiliser leurs plateformes pour nous cibler avec des intentions malveillantes.

Il ne s'agit pas seulement de vie privée - il s'agit de notre droit d'exister en public en tant que personnes queer selon nos propres conditions, et le droit de le faire en toute sécurité. En tant que groupe de pédés anonymes a écrit en 1990 : Être queer n'est pas une question de droit à la vie privée ; il s'agit de la liberté d'être public, d'être simplement qui nous sommes.

Jason Gourevitch est une étudiante junior au Colby College qui étudie l'informatique et les études sur les femmes, le genre et la sexualité. Il est ambassadeur du campus GLAAD et a passé l'été dernier en stage chez Google à effectuer des recherches à l'aide de l'apprentissage automatique.