Interdit du web, c’est possible ?

Quel est votre social scoring ?

Le mien est tombé à zéro.

On m’a viré d’internet !!!

temps de lecture : 20 minutes. Vous ne le regretterez pas !

Les Gafas ont changé de stratégie !

Les géants du web ont changé.

Airbnb, uber, Booking, Amazon, Twitter, facebook, lyft…

Récemment, ils se sont heurtés à la grogne des conducteurs ( pour uber ), et les propriétaires pour Airbnb.

Les clients insultent les chauffeurs d’uber. Ou pire, ils se lâchent sur la notation des conducteurs. Parce qu’on ne les pas déposés juste devant la porte.

Les propriétaires d’airbnb ou de Booking trouvent les commentaires hasardeux et peu convenables de leur client:

« Cela sentait mauvais » se plaint un citadin parisien a propos de sa location à la campagne. Oui, la campagne a un peu d’odeur !

Ces commentaires et notations font descendre les propositions par les plateformes. Assez !

Le ras le bol.

Le ras le bol de ces professionnels prestataires des plateformes s’est accéléré.

Jusqu’à une grève générale des conducteurs uber. Dans le mouvement « respect us ! ». Les conducteurs se sont déconnectés de l’application se rendant indisponible pour servir la plateforme, au même moment. Plusieurs milliers. Pendant 24h, plus aucune course n’était possible sur uber. Engendrant une perte de plusieurs millions d’euros pour la société Uber.

Face à la grogne, les géants du web ont décidé de rendre la vie plus facile pour leurs professionnels et sous-traitants.

Ils ont créé le consortium « respect your app ».

Largement médiatisé, avec cette affiche vue partout sur les réseaux sociaux :

L’objectif était de rétablir la balance entre clients et professionnels de leur plateforme.

Le consortium réunit Airbnb, facebook, Amazon, uber, lyft et une dizaine d’autres startup.

La première décision prise fut de créer un « social scoring ».

L’idée est simple : un usager hargneux ou indélicat est identifié, et obtient une mauvaise note.

Le chauffeur uber ou un propriétaire d’airbnb peut alors décider ou pas d’accepter la prestation.

Les géants du Web proposaient déjà à leurs partenaires cette fonction.

Les propriétaires de logement sur Airbnb peuvent déjà noter leur client.

L’objectif de ce social scoring est de partager sur toutes les plateformes ces notations. Afin d’être plus efficace et de tracer les mauvais comportements des clients.

Le good buzz !

Les médias tels Facebook et Twitter ont rejoint ce consortium.

Tenaillés par les problèmes de fakenews, d’insultes racistes ou homophobes sur les réseaux sociaux, pouvoir juguler et tracer les internautes violents est une aubaine. Et régler ce poison.

Le sénat américain a également salué la démarche de ces géants du web. Ils se souviennent de la défiance de Mark Zuckerberg, patron de Facebook.

Impuissant et sournois.

Ce serait la fin de tous ces anonymes qui vilipendent leur haine sur internet.

Les défenseurs des droits de l’homme ont tenté de riposter. Ne plus autoriser la libre expression car un internaute a un mauvais « social score » serait une entrave à la liberté d’expression.

Le consortium a reculé sur ce point. Tout usager du digital ne sera pas banni. Mais à côté de son profil, le score sera affiché.

Une manière de rendre transparent.

Go !

La mise en place technique fut assez simple.

Puisque aujourd’hui déjà les data brokers ( sociétés qui consolident l’ensemble des données des clients ) captent déjà toutes les données relatives au client et les revendent à des plateformes, sociétés de publicité.

Pour proposer des offres marketing personnalisées aux internautes.

Il s’agit juste ici de changer la finalité de cette collecte de masse.

En Europe, le sujet a fait débat. Le gdpr ( la loi européenne de la protection des données personnelles des citoyens européens) impose de demander le consentement aux internaute pour un tel usage :

• Acceptez vous que vos données soient utilisées pour garantir la bonne marche du digital ?

Ou plus prosaïque :

• acceptez vous que vos données servent à déterminer votre profil de bon ou mauvais internaute.

La CNIl en France a émis une recommandation : il faut demander le consentement à l’internaute et lui laisser le choix.

Les géants du web ont décidé qu’il ne fallait pas laisser le choix. Sur le fait que l’objectif de traiter ces données pour faire un scoring était légitime, pour le bon usage sur le web. En s’appuyant sur le soutien des gouvernements favorables à une meilleure régulation sur le web.

Le web va mieux !

Ma note : 8 !

En quelques mois le projet put se déployer.

Et le calcul de ce score était assez facile. Se nourrissant des like ou des anti-like sur les réseaux sociaux. Des notes attribuées sur chacune des plateformes. Tout le monde se note !

 

Et un matin, à côté de mon profil facebook je découvrais mon « « social score « : 8

( d’une échelle de 0 à 10 ).

J’étais content. Je donne généralement de bons commentaires aux chauffeurs uber. Et également sur les locations que j’ai bien choisies.

Un web devenu responsable, et bienveillant.

En quelques mois, une sérénité s’est propagée sur internet.

Les propos haineux avaient quasiment disparus.

Éric Zemmour a vu son score tomber à zéro. Il en fit une tribune dans un journal d’extrême droite dénonçant la fin de la démocratie.

Gustave Bernard, médecin qui revendique le droit à l’avortement fut lui même victime d’un zéro car des milliers d’opposants avaient lynché ce pauvre médecin sur internet.

Anecdotique, facebook, Twitter ne connaissent pas monsieur zemmour.

Un détail…

D’autant que tout le monde : des géants comme facebook, blablacar, Amazon, jusqu’aux politiques ( épargnes désormais par la défiance à leur encontre ) : tout le monde y trouvait son compte.

J’ai content lorsque je louais une belle villa sur Airbnb de voir que le propriétaire acceptait sans réserve la venue, car j’avais ce fameux 8 !

Le scoring social.

Après plusieurs mois, devant ce succès, en France une expérience fut lancée.

Attribuer des allocations familiales aux honnêtes gens. Pourquoi accorder des aides aux personnes malveillantes, qui de surcroît ont des propos haineux ? Qui ne respectent pas les loueurs de voiture en les menaçant dans leurs commentaires ?

Le débat fut court.

D’une part, les députés ont considéré que les finances publiques étaient dans le rouge. Se concentrer à aider les bons citoyens tombait sous le sens.

Les syndicats n’ont pas réagi. Le mouvement des gilets jaunes est une défiance à leur égard. Les syndicats sentaient une perte de légitimité. D’autant que le mouvement des gilets jaunes, devenu le mouvement des gilets marrons rassemblait encore des milliers de personnes le samedi, au 100eme acte.

Moderniser l’image des syndicats par ce « social score « , pourquoi pas !

Le social scoring est devenu le thermomètre du web !

Quand on est en contact sur le web avec des internautes à bon score, cela fait grimper son propre score.

Tout cela au début ne me dérangeait pas.

Le Web était devenu bienveillant.

Avant, j’acceptais déjà de livrer toute ma vie personnelle, comme vous, sans contrôle. Avec la seule contrainte de recevoir de la publicité.

Une seule chose me chiffonnait.

Je commençais à faire attention à mon comportement. Car je savais que mon attitude pourrait faire baisser mon « social score « .

Aussi lorsque je louais une voiture chez rentACar, je ne polémiquais pas lorsque le technicien me faisait remarquer une griffure sur la voiture de location dont je ne me sentais pas responsable.

Le sujet m’interpellait et sur internet j’essayais de comprendre comment marcher cet algorithme qui donnait la note. Erreur. J’aurais dû utiliser la navigation privée.

Quelques jours après mes recherches, mon score était passé à 7. Je comprenais bien plus tard que tenter de comprendre l’algorithme, c’était essayer de le déjouer. Un mauvais comportement que les géant du web n’aiment pas.

The end.

Quelques mois plus tard, j’organisais les vacances. À Chypre !

En me connectant sur mon application Airbnb, j’eu la désagréable surprise de ne pas avoir d’offres.

Et à côté de mon profil, je vis que mon « social score » était tombé à 2.

Utilisant mon droit légitime de l’accès à les informations personnelles ( voir les droits du règlement européen, le RGPD ), je constatais les éléments suivants :

J’avais posté des propos sexistes sur les réseaux sociaux.

Ce n’était pas moi.

L’algorithme s’était trompé. Et je ne pouvais lui faire comprendre. Devant les millions de calculs, je n’étais qu’une goutte d’eau.

J’eus beau réagir sur le réseau social du consortium « respect your app », l’effet fut dramatique. Mes commentaires désagréables firent descendre mon « social score «  à 1.

Je fus interdit de publier sur Twitter, facebook.

Et pire, voulant louer sur Airbnb ma location, j’ai dû payer beaucoup plus cher ( « pour garantir que votre comportement n’engendra pas de litige auprès du propriétaire »).

Heureusement, j’ai un ami qui a une note de 9 et qui a publié ce billet. Car je ne peux plus bloguer.

D’autant que ma note depuis est passée à zéro avec la suite de l’article.

Cette histoire d’anticipation est malheureusement réelle.

En chine, le social scoring nommé « sesame scoring » existe en chine.

Dans les années 1950, la surveillance des chinois dans la campagne était légion, dans le cadre de la révolution.

Noter, capter, tracer.

De manière artisanale, dans chaque village, on suspectait.

Dans l’urbanisation qui a poussé les chinois à rejoindre les villes, l’anonymat et l’individualité a mis à mal cette surveillance.

L’arrivée de l’Internet a été une menace pour le pouvoir chinois de ne pas maîtriser les désirs de démocratie. Et ne pas pouvoir censurer.

Aussi, l’arrivée de géants chinois qui captaient toute la vie personnelle des compatriotes est devenue une aubaine.

Ant financial services group propose le paiement par smartphone. Il est affilié à Alibaba, le géant du web en chine.

Ant financial propose du crédit pourvu que votre « sesame score » soit bon. Pour le déterminer, tous les comportements d’achats sont tracés, analysés..

Plutôt que de déterminer la richesse du client ( son patrimoine, la caution potentielle en cas de déroute bancaire du client ), la société évalue le comportement bancaire du client. Comment il réagit.

La société se défend d’utiliser les comportements des citoyens. Pourtant elle utilise les défauts de paiement, les amendes des chinois.

Elle a le monopole du paiement par smartphone qui est devenu la norme en chine.

Deux sociétés chinoises ont le monopole :

Le gouvernement chinois a instauré : Ali pay et WeChat.

Aussi pour les citoyens qui ont une « mauvaise note », l’achat de billet pour voyager est interdit. L’accès aux bonnes écoles est reversé aux « bons citoyens ». Faire un don à des associations caritatives vous donne des points. Inversement, brûler un feu rouge diminue votre score.

La collecte de la data par les usages digitaux est devenue ainsi une opportunité pour le gouvernement chinois de tracer ses citoyens.

Le gouvernement oblige ces sociétés de paiement à s’intégrer dans la démarche nationale du bien vivre chinois !

On lira ici l’article sur Wired ( en anglais ) hallucinant : l’expérience d’un chinois sur cette surveillance généralisée.

Aux États Unis ?

Les États Unis ont également inventé le scoring, limité aux prêts bancaires.

En 1956, un ingénieur spécialisé en électronique, Bill Fair et un mathématicien, Earl Isaac lancent une petite entreprise à San fransisco, nommée FICO. Utilisant les premiers ordinateurs, ils consolident les informations et mouvements sur les comptes de leurs clients. Pour proposer des crédits. Comme le fait aujourd’hui l’entreprise chinoise Ant technologie.

Prévoir si le client pourra rembourser ou pas.

En 1989, ce scoring est devenu une référence aux États Unis. Qui permet de déterminer les prêts pour les millions d’américains.

Sur les réseaux sociaux, Twitter et Facebook sont pointés du doigt.

Dans leur première approche, ces plateformes revendiquaient qu’elles n’étaient que diffuseur de contenu, sans jamais s’immiscer dans ces fameux contenus.

A l’instar d’un postier qui distribue le courrier et qui ne le lit pas votre courrier pour savoir si la correspondance ne vous porte pas préjudice. Si vous recevez une lettre de menace de mort, votre postier n’en saura rien.

Évidemment sur les réseaux sociaux qui au début rassemblaient une communauté d’amis, le sujet ne posait pas débat. Vue la propension à ces réseaux sociaux de pousser par leurs notifications à embarquer dans ses « amis » des gens qu’on ne connaît pas, le contenu devient publique . Non réservé aux amis.

Le postier se transforme en agent publicitaire et mettre dans toutes vos boîtes à lettre le dernier bad buzz.

A force de vouloir capter de la connexion sur ces réseaux sociaux pour accélérer la publicité, facebook, Twitter et tous les réseaux sociaux se mordent la langue aujourd’hui. Dépassés.

Le « social scoring » ici évoqué est une vraie tendance qui pourrait devenir réalité.

Car pour juguler les propose haineux, par exemple, un indicateur de chacun des profils serait la solution idéale pour juguler le web.

La défiance des chinois dans le monde occidental :

L’expérience chinoise ne s’arrête pas aux frontières de la chine.

Puisque la chine investit largement dans les nouvelles technologies. Forte de main d’œuvre et qualifiée, la chine prend de l’avance sur les sujets des nouvelles technologies.

Comme sur l’intelligence artificielle et la surveillance. Sujet facile pour ce pays qui ne respecte pas l’individu, a contrario de l’Europe et des États Unis. Toute expérimentation même sedisieuse est possible. Les citoyens chinois sont les cobayes des techniques d’intelligence artificielle sans pouvoir donner leur mot.

Et de fait, leurs recherches appliquées à un grand volume de citoyen donnent une avance sur la technologie qui a besoin de big data : de grands volumes de données.

Au delà de la technique pure, le contrôle des citoyens au delà des frontières est une réalité.

La chine investit dans le monde entier pour capter sa toile et son emprise.

Prenons l’exemple ci dessous :

L’appétence des chinois a acheté les entreprises étrangères est une vraie menace. Par exemple, l’application Grindr qui permet de mettre en relation des homosexuels a été rachetée par les chinois. Une bonne manière d’utiliser ces données pour faire du « chantage » aux personnalités présentes sur ce réseau social.

Les Etats Unis devant la menace quant au respect de la vie privée ont demandé aux Chinois de revendre l’application. Rachetée en 2016 par Kulun. Avec des failles de sécurité pouvant provoquer un data breach.

Le monde nous explique dans cet article : Les Etat-Unis ordonnent à un grand groupe chinois de céder Grindr.

La main mise des chinois sur les nouvelles technologies, comme la 5G inquiète les grands acteurs internationaux. Des failles d’espionnage pourraient s’immiscer dans le code de ces technologies.

Aux États Unis, devant le flou et les dérives de l’utilisation de données, on pourrait considérer que cela existe déjà bien…

Apple communique sur le respect et la protection des données.

Facebook fait la une régulièrement sur le non respect de leurs pratiques. En se disant transparent, on pourrait rire.

Le big brother qui nous surveille pour « offrir » de la publicité ciblée ne nous pose pas de problème ? À réfléchir sur le big brother « social ». Coming soon !