L'Amour sous algorithme : la face bien cachée de Tinder

Dans L'Amour sous algorithme, Judith Duportail cherche à comprendre comment l'application Tinder utilise nos données privées pour nous faire "matcher". La journaliste revient pour Citazine sur cette investigation surprenante qui dévoile les rouages manipulateurs de Tinder et interroge notre propre utilisation des applis de rencontre.

Avec l'espoir sans cesse renouvelé de faire de nouvelles rencontres, nous abandonnons — sans jamais vraiment y réfléchir — une somme considérable de données personnelles à des applications facilitant les contacts, qu'ils soient pour une nuit, quelques mois ou, beaucoup plus rarement, pour la vie. Mais comment ces informations sur notre vie privée sont-elles utilisées ? À l'instar de nombreux célibataires — des gens se rencontrent-ils encore dans la "vraie vie" ? —, la jeune journaliste Judith Duportail — pas encore 30 ans — a succombé à l'attrait de la célèbre application à la flamme orange. Avec son flux continu de profils — et la promesse d'autant de "matchs" potentiels —, Tinder vend du rêve. Comme toutes les femmes présentes sur les sites et applications de rencontre, la journaliste est rapidement sur-sollicitée par les prétendants : les matchs s'accumulent avec une grisante frénésie qui flatte son ego. Mais la lune de miel avec Tinder prend fin lorsque Judith découvre dans une interview que l'application juge chaque utilisateur en lui attribuant une "note de désirabilité" qui influe sur les profils proposés. La méthode pour attribuer cette fameuse note et sa valeur est bien évidemment tenue secrète. Pour tenter de récupérer cette mystérieuse évaluation, la journaliste multiplie les rencontres : hackers, avocats, chercheurs et responsables de Tinder. Après avoir récupéré l'ensemble des données collectées par Tinder à son sujet — un pavé de 800 pages ! —, son investigation la mène à un document accessible à tous via Internet où résiderait une partie des "trucs" de Tinder pour nous rendre accros à son appli et, plus embêtant pour la firme, des détails sur son éventuel algorithme où pointe un sexisme qui tranche avec son image progressiste.

Couverture du livre "L'Amour sous algorithme" de Judith Duportail - éditions Goutte d'Or

Elo, is it me you're looking for ?

Créée en 2012, l'appli Tinder arrive en France en 2013 et compte dès décembre de la même année Judith Duportail parmi ses utilisateurs français. En 2016, la jeune femme est titillée par un article paru le 11 janvier sur le site fastcompany.com. Intitulé I Found Out My Secret Internal Tinder Rating And Now I Wish I Hadn’t, le papier signé Austin Carr met en scène la visite des locaux de Tinder par le journaliste et son entretien avec Sean Rad, cofondateur et à l'époque PDG de Tinder. Le sujet de l'article est cette mystérieuse note invisible attribuée par Tinder à chaque utilisateur. Pour établir cette note secrète de désirabilité, l'algorithme de l'application prend en compte un grand nombre de données, pas uniquement le nombre de "swipes" à droite ou à gauche sur votre profil. Empruntant son nom du système mondial de classement des joueurs d'échecs, ce "Elo Score" est un secret jalousement gardé par l'entreprise. Chose exceptionnelle, Austin Carr obtient sa note mais conclut son article en avouant qu'il aurait préféré ne pas la connaître. Moins élevée qu'espérée, cette note a froissé son ego. Judith Duportail trouve la conclusion du journaliste un peu légère et décide d'en savoir sur ce fameux Elo score. Comment cette note est-elle calculée ? Pourquoi les utilisateurs n'y ont-ils pas accès ? La journaliste prend alors le pas sur la célibataire consommatrice de rencontres et part à la conquête de sa note de désirabilité. Une plongée dans les entrailles de l'application d'intérêt public si on considère les suggestions automatiques proposées par Google lorsque l'on tape "Tinder makes me…" dans son moteur de recherche. Les termes suggérés automatiquement — triste, déprimé, seul, anxieux, insécure… — interrogent en effet sur les contrecoups psychologiques d'une telle application dont le fonctionnement est totalement opaque.

Capture d'écran recherche Google "Tinder makes me"

Manipulation consentie

Sous couvert de secret industriel, l'algorithme de Tinder — et des autres, coucou Mark Zuckerberg — nous manipule de façon obscure. Pourtant, comme le rappelle Judith Duportail dans son livre, les données que nous leur cédons ont le pouvoir de livrer une somme d'informations vertigineuse pour qui sait les analyser. Ce n'est pas Michael Kosinski qui dira le contraire. En 2015, ce professeur à l'université de Stanford rédige un article qui explique comment une intelligence artificielle peut déduire la personnalité de quelqu'un et son comportement à partir de ses traces numériques. Il suffit d'un minimum de 68 "likes" d'un internaute pour prédire sa couleur de peau à 95%, son orientation sexuelle à 88% ou encore ses convictions politiques à 85%. Un algorithme peut également déterminer si les parents de l'utilisateur sont divorcés ou non. Pour se rendre compte à quel point nos données disséminées nous exposent — et se faire peur par la même occasion —, l'université de Cambridge propose d'extraire des informations à partir de vos données Facebook ou Twitter à l'aide de son propre programme ApplyMagic Sauce. L'utilisateur peut toujours se rassurer en évoquant son droit à fermer son compte lorsqu'il le souhaite mais L'Amour sous algorithme explique à quel point l'application est pensée pour vous rendre accro. Le fait d'accepter les conditions d'utilisation indispensables pour profiter du service revient à laisser un double des clés de chez soi à une entreprise qui ne compte pas vous prévenir de ses passages et de ce qu'elle compte faire avec ce qu'elle vous "emprunte".

Données, données moi

Le fait de pouvoir télécharger à tout moment ses données personnelles offre une impression illusoire de contrôle. Judith Duportail a pu s'en rendre compte à ses dépens. À l'époque, Tinder ne proposait pas de récupérer ses données, la journaliste a dû s'adresser directement à l'entreprise avec un courrier très formel. L'analyse de ces 800 pages a été le sujet d'un article pour The Guardian mis en ligne en septembre 2017. Son titre, I asked Tinder for my data. It sent me 800 pages of my deepest, darkest secrets, donne une idée du choc éprouvé à la lecture de ces années d'échanges compilées dans un format brut. La journaliste se rend alors compte de l'automatisation des échanges et qu'elle ne se comporte pas toujours bien comme elle le pensait. Après tout, comme le résume si bien une de ses amies dans le livre, sur ces applis "rien n'a aucune valeur". Quelques semaines après la parution de l'article, Tinder ajoute une option permettant de télécharger toutes ses données. Par contre, il n'y a plus les messages envoyés par d'autres utilisateurs dans l'archive, en raison de la "politique de confidentialité" précise l'appli.

Swipe face

US 2018/0150205A1

Tinder ne voulant pas lâcher d'informations sur ce fameux Elo Score, la journaliste est dans une impasse quand elle découvre le brevet US 2018/0150205A1. Ce document très éclairant sur l'esprit de Tinder est officiel et surtout public : il est consultable par tous sur Internet. Chaque année, la maison mère de Tinder paie pour le réactualiser afin qu'il reste valide. On y retrouve le principe du fameux "swipe" mais aussi des exemples précis sur le fonctionnement potentiel de l'application. Jessica Pidoux, doctorante en humanité digitale à l'école polytechnique de Lausanne, a mis la journaliste sur la piste de ce document caché dans les entrailles du web. Dans sa thèse sur les modèles scientifiques des algorithmes de sites de rencontres, la doctorante n'est pas tendre avec Tinder. Elle y décèle "un conditionnement de la socialisation qui relève du modèle patriarcal des relations hétérosexuelles." La journaliste a fouillé scrupuleusement pendant plusieurs mois les 27 pages de ce brevet et ce qui en ressort écorne en effet l'image progressiste de l'application de rencontre. On y découvre plus en détails comment l'application analyse tout, y compris les photos pour satisfaire les attentes des utilisateurs, ou du moins leurs attentes supposées. Les serveurs scannent les photos dans le moindre détail :

"Le serveur peut être configuré pour lire des signaux implicites [...] à l'aide d'algorithmes de reconnaissance faciale pour détecter l'ethnicité, la couleur des cheveux, la couleur des yeux, etc. des personnes ayant été likées par l'utilisateur."

Les échanges écrits sont également scrutés et des algorithmes spécialisés permettent de vous attribuer une note, pas sur votre physique cette fois-ci mais sur votre intelligence supposée :  

"Les analyses obtenues peuvent permettre de déterminer le QI d'un utilisateur, son niveau scolaire et son niveau de nervosité générale."

Le terme de "nervosité générale" n'est pas explicité dans le brevet, ni, évidemment, la façon dont l'application la calcule. Tinder a également acheté Rekognition une intelligence artificielle créée par Amazon qui permet d'analyser les photos pour en déduire des traits de caractères. Ainsi, si vous posez avec une guitare sur une photo, il est possible que l'étiquette "créatif-ve" vous définisse explique la journaliste dans le livre.

Tinder célèbre le concept du "qui se ressemble s'assemble" sans aucune ambiguïté. "Les personnes ayant le même niveau d'attractivité sont plus susceptibles de s'entendre" assène le brevet. Les moches avec les moches, les beaux avec les beaux et l'algorithme secret sera bien gardé. Après tout, l'application ne fait que reproduire ce qui est constaté dans la "vraie vie" et donne aux utilisateurs ce qu'ils veulent. Le succès de l'application en est la preuve. Mais à vouloir flatter nos réflexes les plus basiques, l'application ne se vautre-t-elle pas dans un sexisme dérangeant ? Le brevet indique clairement qu'il est possible de favoriser la mise en relation d'hommes plus âgés avec des femmes jeunes, moins riches et moins diplômées. Par contre, l'inverse n'est pas vrai. Qu'on le veuille ou non — de toute façon le fonctionnement de l'algorithme ne nous laisse pas le choix — Tinder choisirait pour nous selon des critères basés sur ce fameux "modèle patriarcal des relations hétérosexuelles" décrié par Jessica Pidoux. Le subjonctif est ici de mise car la firme affirme dans une réponse peu convaincante faite à la journaliste que ce brevet indique ce "qu'il est possible de faire". Tinder n'utiliserait donc pas les méthodes les plus douteuses décrites dans le brevet. Circulez, il n'y a rien à voir. Quelle autre option avons-nous à part les croire sur parole ?

C'est tout, les copains.

Sous la pression de la polémique, l'application a publié quelques jours avant la publication du livre de Judith Duportail, À l'origine de Tinder® — La méthode derrière les Matchs. Dans cet article de blog, Tinder insiste sur le fait qu'une utilisation assidue de l'appli permet de créer plus de "matchs" et indique surtout ne plus utiliser le Elo Score tant décrié. En quelques lignes, Tinder tente de déminer toutes les craintes liées au brevet, donne une explication un peu confuse sur ce qui remplace le Elo Score et conclut avec un "C'est tout, les copains" très familier suivi d'une tournure pour le moins définitive "l'affaire est résolue". Une façon de s'adresser à ses utilisateurs à la fois faussement proche — Tinder serait ton pote cool qui t'aide à pécho — et autoritaire — ils décrètent unilatéralement qu'il n'y a pas d'autres questions à poser. Une telle réponse invite au contraire à la méfiance. Mais peut-être méritons nous ce ton entre proximité et condescendance si nous continuons à fermer les yeux sur la façon dont nos données personnelles sont traitées ? Tout ça pour ressentir le frisson — très justement décrit par Judith Duportail dans son livre — d'une notification indiquant que, quelque part, un(e) inconnu(e) s'intéresse à nous.

Still on Tinder ?

Judith Duportail a accepté de répondre à quelques questions de Citazine sur cette enquête qui donne envie de "swiper" l'appli vers la gauche.

Tinder ne fait que reproduire des mécanismes que l'on retrouve dans la "vraie vie" (hommes plus âgés avec des femmes plus jeunes…). Pourquoi leur reprocher ça ?

Là vous faites référence au brevet de Tinder sur lequel j'ai mis la main au cours de mon enquête qui décrit un système de matching qui est ce que Tinder "se donne la possibilité de faire", donc ce n'est pas forcément ce qu'ils sont en train de faire. C'est un système de matching où l'homme a le dessus sur la femme : soit il va être plus âgé qu'elle, soit il va gagner d'avantage d'argent, soit il va être plus éduqué. Mon problème n'est pas moral : je ne dis pas si c'est bien ou mal. En tant que féministe ça me heurte mais ce n'est pas la question. La question c'est pourquoi Tinder se présente publiquement comme une entreprise progressiste — elle prend part le 8 mars au défilé pour les droits des femmes, fait des campagnes en faveur de l'égalité salariale, assure que tout le monde est égal sur Tinder — et derrière, lorsqu'on a accès à des documents écrits de leur propre main qui décrivent leurs entrailles, on découvre un tout autre système de valeur ? En public ils sont progressistes mais en privé ils défendent des valeurs pour le moins traditionnelles. J'ai vérifié car dans leur brevet ils citent en permanence des sources empiriques pour justifier leur système de matching. Quand on va vérifier les chiffres de l'INSEE on se rend compte que c'est souvent comme ça que ça se passe : dans les couples, l'homme, plus âgé, va gagner d'avantage d'argent. La question que l'on peut se poser c'est : est-ce les algorithmes doivent refléter la réalité à tout prix et faire en sorte que tout reste ainsi pour toujours ? Si on pousse cette logique ça veut dire que moi, en tant que femme, sur LinkedIn on va me présenter que des offres d'emploi payées 20% de moins que celles d'un homme qui a fait les mêmes études, a le même âge etc. Là on comprend bien en quoi ça pose un problème.

Et personne n'est informé du fonctionnement de l'algorithme.

Le problème de l'opacité est en effet immense ainsi que le manque de cohérence entre l'image publique et les documents privés. Si tu savais au moins... Par exemple, si tu te connectes à une application qui te dit "voilà, ici c'est Vieillefrance.com" tu sais que tu vas être mis en relation sur des critères traditionnels et plutôt sexistes et bien OK. Au moins tu consens, c'est ton libre choix. Là, c'est sûr, on n'a aucune idée de comment ça se passe, c'est ça le plus grand problème.

J'étais persuadée d'avoir parlé à cinquante personnes sur Tinder et je me rends compte que j'ai parlé à 800 mecs !

En récupérant les 800 pages de données de votre compte avec notamment les conversations — ce que Tinder ne transmet plus — vous avez été confrontée à votre propre utilisation de l'application. Tinder fait-il ressortir le pire de nous même ?

Quand j'ai reçu mes données personnelles, je me souviens que j'ai mis plusieurs heures à lire le document. On le lit un peu comme si c'était la vie de quelqu'un d'autre. C'est une expérience assez forte et assez impactante car le comportement que l'on croit avoir se confronte à notre comportement réel. Par exemple, j'étais persuadée d'avoir parlé à cinquante personnes sur Tinder et je me rends compte que j'ai parlé à 800 mecs ! Il y avait plein de conversations c'était juste "hey salut" mais il y en avait aussi beaucoup que j'avais complètement oubliées. J'ai discuté avec un sociologue de cette différence entre mes souvenirs et la réalité de mon comportement et il a trouvé que ce que je lui décrivais était très banal. On se sert de plus en plus des réseaux sociaux ou d'Internet comme d'un exutoire et après on pose son téléphone et on oublie ce qu'on a fait. Dans le livre, je rencontre Bérénice, une femme qui, à mes yeux, est la grande gagnante de ce jeu : elle est magnifique, jeune, riche et a énormément de followers sur Instagram. Et elle aussi devient à moitié folle sur Tinder : elle a un esclave, elle se fait passer pour une prostituée pour savoir combien de mecs seraient prêts à payer pour la rencontrer et fait monter les prix. On se rend compte que ça vient appuyer sur des zones de fragilité qui sont notre rapport au regard de l'autre et le besoin d'être apprécié. Chez moi et beaucoup de personnes ça vient révéler des zones d'ombres. Je me suis rendu compte que je développais une forme d'addiction à l'application : je n'arrêtais pas de m'y connecter puis après je coupais toutes les conversations sans jamais rencontrer les personnes. Je me retrouvais à faire les même blagues à plusieurs mecs. Il y a des moments où je me sentais seule avec une envie de tendre la main et puis le moment suivant je coupais tout.

Je ne pourrais jamais tomber amoureux d'une fille que j'ai rencontrée sur Tinder.

Et d'où vient selon vous cette modification du comportement sur les sites et applications ?

C'est une question difficile que je tente de comprendre tout au long du livre. Au début, je tombe amoureuse d'un mec et il me répond : "Je ne pourrais jamais tomber amoureux d'une fille que j'ai rencontrée sur Tinder". On se serait rencontrés au boulot ça serait différent mais pour lui via une appli c'est impossible. C'est vrai que ça change quelque chose mais pourquoi on se comporte moins bien ? Je ne voudrais pas m'aventurer à apporter une réponse définitive mais c'est sûr que l'application emploie les codes du jeu en donnant l'impression que rien n'est vrai, que rien n'est grave et que rien n'a de conséquences et cela ne pousse pas à s'interroger sur son comportement. Le sentiment d'avoir un vivier de personnes à qui parler et qu'il y en aura toujours un ou une autre ça non plus ça n'aide pas. Quand tu rencontres quelqu'un dans la vraie vie et que c'est un pote de pote, par exemple, tu n'as pas envie de te comporter comme un connard ou une connasse parce que ça peut revenir aux oreilles de ton pote et avoir un coût social. Sur l'appli, il y en a aucun. Tous ces facteurs nous poussent à agir comme ça.

Pretend to be

L'appli influe sur qui on a le droit de voir, de toucher et d'aimer.

La découverte du brevet ne démontre-t-elle pas un cruel manque de journalistes spécialisés dans le domaine du traitement de données ?

C'est le cas en France surtout à la différence des médias américains ou anglo saxons qui s'y mettent sérieusement. Il devrait y avoir dans les rédacs des équipes pour enquêter sur Instagram, Facebook, Tinder... Les algorithmes ont de plus en plus de conséquences sur nos existences. Tous les jours, dans le monde, il y a 230 000 dates Tinder donc si ton algorithme penche plus d'un côté ou de l'autre ça a une influence concrète sur la vie de 230 000 personnes chaque jour. L'appli influe sur qui on a le droit de voir, de toucher et d'aimer. Les enjeux soulevés par ces applications sont immenses d'autant plus que les sociologues s'accordent pour dire qu'elles vont prendre de plus en plus de place dans le futur. A mes yeux c'est crucial, d'autant plus que le brevet Tinder c'est un document public et que personne n'avait mis la main dessus. Tinder répondait aux journalistes "nos algorithmes sont confidentiels" et ça s'arrêtait là. En fait non, ils ne sont pas complètement confidentiels mais il faut prendre le temps d'aller chercher dans un document compliqué. Et il n'y a plus le temps de faire ce travail dans les rédacs.

Pour être mis en avant sur Tinder il faut payer, c'est le seul moyen d'échapper au classement de l'appli. L'amour c'est pour ceux qui ont les moyens ?

C'est assez terrifiant parce qu'il s'agit quasiment d'un système de castes où chacun reste avec ses semblables selon le niveau de beauté ou d'autres critères. Et l'image que j'en ai c'est que tu peux acheter un ticket — les boosts etc. — pour aller faire une visite dans les salons de première classe et pendant trente minutes avoir la grande vie des gagnants de l'Elo score et ensuite tu redescends à ta place, à ton niveau. C'est terrifiant car tu as l'impression d'un système opaque et injuste et la seule façon d'en sortir c'est de payer. C'est une machinerie très sophistiquée.

Sur des sites de rencontre comme AdopteUnMec, par exemple, qui a une communication très "girl power", le principe c'est gratuit pour les femmes et les hommes doivent payer pour y avoir accès. Au moins sur Tinder c'est plus égalitaire car les hommes comme les femmes doivent payer non ?

Oui AdopteUnMec c'est scandaleux parce que c'est l'inverse du féminisme : le site présente la femme comme poussant le caddie alors qu'au final elle est le produit. En effet, Tinder propose aux hommes et aux femmes de payer mais ce que disent les spécialistes c'est que ce sont encore majoritairement les hommes qui paient pour avoir accès aux femmes et le profil de ceux qui ne paient pas est beaucoup moins montré aux femmes.

Tinder se défend en expliquant que tout ce qui est dans le brevet n'est pas forcément appliqué. Ils ont publié un article de blog en annonçant la fin du Elo score tant décrié. Comment avez-vous réagi à ça ?

J'ai envie de dire bonne nouvelle si c'est la fin du Elo score après la question est qu'ont-ils mis à la place ? On comprend mal ce qui le remplace et le problème de la transparence est toujours là, ça n'a pas bougé.

Il y a aussi une démarche féministe avec cette sorte de "coming out de galérienne"

Dans le livre il y a une mise en scène de votre intimité. Pourquoi avoir tant livré sur l'aspect personnel ? C'était une demande de l'éditeur ?

Non pas du tout, c'est moi qui voulais adopter cette approche, pour plein de raisons. Quand j'ai découvert le Elo score j'étais horrifiée et j'ai rencontré plein de gens qui ne comprenaient pas pourquoi ça me dérangeait autant, ni pourquoi je voulais récupérer ma note. J'ai été obligée de me poser ces questions et je n'aurais pas pu parler de l'addiction à Tinder sans dire que j'en étais moi-même atteinte, ça m'aurait semblé extrêmement malhonnête. J'aurais eu l'impression de mentir si je n'avais pas confié que pendant l'enquête je ne pouvais pas m'empêcher de retourner sur l'appli, tous les jours, tout le temps : j'étais accro. Et il y a aussi une démarche féministe avec cette sorte de "coming out de galérienne" qui dit que ce n'est pas simple comme dans Sex and the city, qu'il y a des enjeux de pouvoir et que ça réveille des choses sombres dans le rapport entre les hommes et les femmes : des rapports de rivalité mais aussi de belles choses. Je voulais dire aux autres femmes mais aussi aux mecs : "vous n'êtes pas seul(e)s et arrêtez d'avoir honte".

Quels sont les retours des premiers lecteurs ? Ils sont choqués par l'utilisation des données par Tinder ou ils partagent plutôt leur expérience personnelle ?

C'est très marrant parce que les journalistes ne parlent que de Tinder et de l'utilisation des données et le retour des lecteurs c'est uniquement sur le plan émotionnel avec des remerciements pour avoir mis des mots sur les complexes de meufs, l'insécurité etc.

Mais alors le combat est déjà perdu ?

Non, je ne pense pas. Une fois que c'est dit dans les médias la problématique de l'algorithme je comprends que ça ne soit pas ça que les gens retiennent au final à la lecture du livre, ça ne les surprend pas une nouvelle fois. Mais il y a un vrai intérêt pour cette question, les articles sur le sujet sont beaucoup lus et le combat ne fait que commencer. Des lecteurs m'ont envoyé une capture d'écran de leur désinstallation de Tinder en marquant que c'était lié à l'utilisation des données ou au sexisme.

L'information c'est le pouvoir.

Quelles alternatives à Tinder ? Dans le livre vous évoquez Bumble, une appli créée par une ancienne de Tinder, qui serait dans l'esprit moins machiste.

Le marketing de Bumble présente l'appli comme ça mais il faudrait enquêter encore pendant trois ans pour savoir comment est faite leur plateforme. J'ai des réserves parce que Bumble appartient à Badoo qui ne se présente pas du tout comme une entreprise féministe donc ça incite à la prudence. Des alternatives, je ne sais pas. Je me pose la question de comment aller draguer aujourd'hui parce que je n'ai plus envie d'aller sur les applis. En tout cas, pour ceux qui veulent continuer à utiliser les applis, je pense que l'information c'est le pouvoir. Donc au moins savoir comment ça fonctionne, quelles sont les logiques économiques derrière, avoir une idée de comment marchent les algorithmes, ça permet peut-être d'avoir une utilisation plus distancée et d'être un peu plus maître du jeu et pas le pion d'une entreprise.

> L'Amour sous algorithme par Judith Duportail, 234 pages, éditions Goutte d'Or, 2019