THE SOCIAL DILEMMA

Jeff Orlowski, 2020

LE COMMENTAIRE

Qui n’a jamais posté un selfie sur les réseaux sociaux dans le but de récolter quelques commentaires réconfortants sur une nouvelle coupe de cheveux? De la même manière, qui n’a jamais souffert d’un commentaire haineux et totalement gratuit sur cette même coupe de cheveux? Nos ego gonflés à bloc sont confrontés à un défi d’un nouveau genre dont nous mesurons à peine la violence.

LE PITCH

Celles et ceux qui sont descendus du Titanic en Irlande tirent la sonnette d’alarme.

LE RÉSUMÉ

Quelques grands noms de la Sillicon Valley, méconnus partout ailleurs, se mettent à table. Apple, Google, Facebook, YouTube, Twitter, Pinterest. Ils sont passés partout et savent de quoi ils parlent. En l’occurrence, ils évoquent la capacité de ces plateformes à rapprocher les gens, tout en détruisant la société en parallèle.

It’s easy today to last track of the fact that these tools actually have created some wonderful things in the world. (…) There were meaningful systemic changes happening around the world because of these platforms that were positive! I think we were naive about the flip side of that coin.

Car les réseaux sociaux collectent méticuleusement la moindre information concernant nos faits et gestes sur les plateformes dans le but de revendre ces précieuses informations.

For the last ten years, the biggest companies in Sillicon Valley have been in the business of selling their users. (…) We’re the thing being sold.

Tout est fait pour capter et maintenir notre attention dans le but de vendre du temps de cerveau disponible comme l’appelait élégamment Patrice Le Lay, PDG de TF1 à l’époque. Sur la base de nos comportements, les algorithmes décident de ce que nous voyons et anticipent ce avec quoi nous serions le plus susceptibles d’interagir – afin d’augmenter le temps passé devant les écrans.

What do they do with that data?

They build models that predict our actions.

Le surveillance capitalism dénoncé par Shoshana Zuboff. Tout est minutieusement calculé pour nous faire dépenser un tout petit peu plus.

That’s not by accident. It’s a design technique.

S’il ne s’agissait que d’une simple affaire d’exploitation commerciale… Plus dangereux, les réseaux sociaux contribuent aujourd’hui à l’abrutissement des masses (cf The American Meme). Ils sont également utilisés pour influencer, voire dicter nos opinions.

Changing what you do, how you think, who you are.

Et par exemple : changer les cours des élections.

C’est pourquoi Tristan Harris, Aza Raskin, Justin Rosenstein ont décidé de quitter leur job et que Jaron Lanier a donné dix raisons pour supprimer son compte facebook.

Nous sommes menacés.

It’s about technology being able to bring out the worst in society and the worst in society being the existential threat.

Heureusement qu’il n’est jamais trop tard.

We need to change all that.

L’EXPLICATION

The Social Dilemma, c’est la possibilité de changer d’avis.

Quand on part dans la Sillicon Valley pour rejoindre une tech company, on rentre quasiment en religion. Pour intégrer facebook, google ou apple, il est presque nécessaire de faire voeux d’allégeance. Mettre sa vie entre parenthèses. Ou plutôt la dévouer quasi intégralement à son travail comme en parle cet ancien haut dirigeant, arroseur arrosé :

I was going home and I couldn’t get off my phone despite having two kids who needed my love and attention. (…) I’m going to work during the day and building something that then I’m falling prey to. Some of the moments I just couldn’t help myself. (…) I told myself a thousand times, a thousand different days : I’m not gonna bring my phone to the bedroom. And then 9pm rolls around… well… I wanna bring my phone to the bedroom.

Pour performer au sein de ces entreprises, il faut y croire dur comme fer. Chaque matin. Croire qu’on peut changer le monde – en mieux. Que le projet sur lequel on travaille est une opportunité unique. Être conscient de sa chance.

Sachant qu’il est impossible de ne pas être performant dans ces entreprises, le choix se fait entre la promotion ou le burn out (cf Chute Libre). Une version corporate de la carotte ou du baton.

Un beau jour, ces employés finissent par regarder autour d’eux.

When you look around you, it feels like the world is going crazy.

Rattrapés par leur conscience, ils se rendent compte d’une vérité cruelle : eux qui se voulaient être les good guys travaillent en réalité pour les forces du mal (cf Snowden).

We’ve created an entire generation of people who were raised within a context where the very meaning of communication. The very meaning of culture is manipulation. We’ve put deceit and sneakiness at the absolute centre of everything we do.

Parce qu’on en sait désormais un peu plus sur l’éthique des dirigeants de ces plateformes sociales (cf The Great Hack). Ils ne sont pas là pour permettre au monde de se développer. Au contraire, ils se moquent pas mal de ce qui serait le mieux pour le développement personnel de chacun. Ils prétextent justement d’aider la planète pour mieux coller tout le monde devant leurs écrans et empocher des bénéfices colossaux.

Ces talents profitent de la faiblesse collective pour parvenir à leurs fins, comme le confesse Sean Parker, l’ex-associé de Mark Zuckerberg (cf The social network).

You’re exploiting a vulnerability in human psychology. We understood this consciously… and we did it anyway.

La prise de conscience de certains employés est brutale.

How do you wake up from the matrix when you don’t know you’re in the matrix?

Ils réalisent qu’on leur a menti et qu’ils se sont retrouvés à devoir prêcher la mauvaise parole. Que ces plateformes redoutablement bien marketées sont en réalité des pièges à cons.

Si TikTok n’était que du divertissement, pourquoi le gouvernement menacerait-il de bannir la plateforme ?

Le monde n’est pas rose. Seul y compte le profit. Nous sommes devenus du consommable.

This is short-term thinking based on that religion of profit at all cost.

Pour de tels convertis, cette réalité est effroyable. Leur réaction est allergique : Ils changent d’avis afin de se prouver qu’ils ne sont pas des imbéciles. Qu’il est possible de faire machine arrière. Possible de sortir de sa servitude volontaire pour trouver sa liberté (cf Les Évadés).

Ces ex mènent désormais une bataille farouche contre ces mêmes plateformes à l’image de Jaron Lanier qui préconise de carrément tout débrancher. Ne passent-ils pas un peu d’un extreme à un autre ? Ne se trompent-ils pas de combat en cherchant à affronter Goliath ?

Justin Rosenstein pointe du doigt le véritable problème.

For so long our economy works that way and corporations go unregulated, they’re going to continue.

La dérégulation a montré ses limites (cf Vice). Si nous ne trouvons pas un moyen de nous auto-réguler nous-mêmes, nous serons toujours exposés. On traitera la cause mais pas le symptôme, comme disait le fameux Dr Frank N. Furter (cf Rocky Horror Picture Show).