Vers une régulation politique des réseaux sociaux numériques ?

Billet rédigé par Louise Broyer et Marie Grosbois, étudiantes à l’Enssib

«Trump dit que Facebook est contre lui. [Les Démocrates] disent que nous avons aidé Trump. Les deux camps sont dérangés par des idées et des contenus qu’ils n’aiment pas. Quoi de plus normal sur une plateforme où toutes les idées ont leur place?»  déclaration de Mark Zuckerberg, fondateur de Facebook.

Cette citation illustre bien les questionnements qui émergent ces dernières années concernant l’influence de certains gouvernements dans la gestion des réseaux sociaux notamment Facebook et Twitter. En plus de ça, on peut dire que les réseaux sociaux sont devenus le théâtre de nos vies quotidiennes. Facebook, Twitter ou Youtube en sont les spectateurs, mais ils en sont aussi les acteurs. Qu’est ce que cela signifie donc pour nos données personnelles ? Il est question de la volatilité de nos données et de leur utilisation par les GAFA mais qui pourrait empêcher, ou du moins contrôler, une telle dérive ? Est ce que l’Etat pourrait remédier à cela, ou est ce que son implication entraverait encore plus nos libertés ? Quelles sont les limites à la régulation des réseaux sociaux* par les Etats ?

Mais plus important encore : les réseaux sociaux possèdent un certain pouvoir, celui d’accéder à tous types de contenus, partout et tout le temps. Pourtant nous sommes dans une dimension très peu institutionnalisée pour l’instant : il s’agit donc de savoir si un contrôle peut s’exercer et comment.

Nombre d’utilisateurs de Facebook en France et dans le monde © Infographie réalisée par Tiz

Vers une protection des libertés citoyennes

Initialement, un Etat a pour prérogative la sécurité de ses citoyens mais il doit aussi assurer leur liberté, c’est une de ses missions régaliennes (depuis les rois), elle a été questionnée et théorisée notamment par Thomas Hobbes, John Locke et Jacques Rousseau . Ainsi quand on parle de régulation politique on sous-entend une régulation juridique. En effet, en France, les décideurs politiques impulsent des lois dans le but de réguler les réseaux sociaux numériques. C’est le cas de la loi de 1978, relative à l’informatique, aux fichiers et aux libertés qui mentionnait déjà le principe de protection de l’identité et des libertés individuelles ou publiques. Elle a depuis été modifiée et de nombreux apports ont été faits dans une dynamique de protection face aux géants du Web. La dernière version de cette loi appelée Loi Informatique et Liberté « définit les principes à respecter lors de la collecte, du traitement et de la conservation de ces données ». Donc l’Etat a la possibilité de plus ou moins réguler l’usage de nos données personnelles même s’il y a beaucoup de chemin à faire pour rattraper les GAFA sur la captation des données.

Le problème de la modération des contenus

Depuis l’apparition des réseaux sociaux tels que Facebook ou Twitter il y a une recomposition de l’espace public car ces plateformes numériques ont facilité l’expression et l’action collective. Ces pratiques sont de plus en plus visibles et ces plateformes ont permis à des personnes initialement non-engagées politiquement de s’exprimer. Mais la question de la liberté d’expression pose problème car tout et n’importe quoi peut être posté. C’est pour cette raison que Facebook, Twitter et Youtube ont mis à disposition des utilisateurs des outils « d’autorégulation » qui permettent de « signaler » un post dont le contenu serait inapproprié ou choquant. Même si l’Intelligence Artificielle commence à faire son apparition dans la modération de contenus il y a tout de même,, un travail humain derrière cette modération. Elle n’est pas le fruit d’un algorithme, (même si Facebook est doté de logiciels de reconnaissance de contenus ceux-ci ne sont pas encore technologiquement au point), mais de celui de travailleurs qui après signalement d’un contenu doivent supprimer le post. Pourtant cette pratique pose problème car elle provoque de nombreuses dépressions dues au visionnage, toute la journée, de vidéos éprouvantes psychologiquement…

Cependant ce n’est pas suffisant car il y a toujours énormément de contenus “inappropriés” qui circulent sur les réseaux. L’Union Européenne a plusieurs fois menacé de légiférer à cet égard. L’institution a d’ailleurs produit en octobre dernier des recommandations pour « augmenter la prévention, la détection et l’élimination proactive des contenus illégaux incitant à la haine, à la violence et au terrorisme en ligne. Bruxelles veut inciter les plateformes à intensifier leur responsabilité sociale » (voir article de La Tribune : Bruxelles menace encore les réseaux sociaux). Il est important de constater que rien n’ait encore été fait législativement au niveau européen, en effet pour le moment la Commission européenne s’est seulement contentée de « menacer » sans pour autant sévir.

Quand les États nous surveillent

Si les réseaux sociaux peuvent sembler un excellent outil pour communiquer de façon libre et exprimer ses opinions politiques, il est important de ne pas oublier que leur usage génère des données qui peuvent être utilisées à notre insu. Quand Facebook, Twitter, Whatsapp et d’autres peuvent ainsi être d’une grande aide pour organiser des rassemblements ou mettre en place des plateformes d’échange où la parole n’est pas censurée, ces mêmes plateformes sont également surveillées par les gouvernements.

Si ces enquêtes ont en France souvent pour but de débusquer les terroristes, elles peuvent servir d’autres objectifs dans d’autres pays. En Arabie Saoudite, plus de 20 personnes militant pour le respect des droits humains ont ainsi été arrêtées au cours de la première semaine de septembre 2017 (lien). Plus surprenant puisque moins attendu de la part d’un régime démocratique, la surveillance des réseaux sociaux aux Etats-Unis pose de vrais problèmes à ses habitants, d’autant plus que certaines pratiques sont passées sous silence. Certains postes de police utilisent ainsi des logiciels (l’un d’entre eux porte le nom de Beware, littéralement “prenez garde”) permettant de calculer le niveau de risque d’un individu. Sont analysées entre autres : les transactions commerciales effectuées, les recherches internet, et les posts sur les réseaux sociaux. Mais ce système est encore jeune et les mécaniques brouillonnes : des messages critiquant la police peuvent par exemple faire augmenter de façon critique le score d’une personne. De même, le programme Geofeedia, financé par la CIA et bloqué l’an dernier par Facebook et Twitter, permettait à la police de surveiller les agissements des militants et manifestants.

Au delà même de ces logiciels, de nouvelles lois permettent au gouvernement américain de s’immiscer toujours plus dans la vie numérique de ses citoyens. La dernière en date sera appliquée le 18 octobre : tous les immigrants voulant accéder au territoire états-unien devront fournir leurs données personnelles en ligne. Comptes sur les réseaux sociaux, pseudos, tout sera passé au crible. Ces mesures pourraient même s’étendre aux proches, si besoin. Le secrétaire à la sécurité intérieure, John Kelly, avait proposé que l’on récolte également les mots de passe. Cette mesure n’a pas été approuvée.

Pressions politiques sur les réseaux sociaux

Le président des Etats-Unis, Donald Trump, a fait couler beaucoup d’encre en critiquant allègrement les réseaux sociaux. Celui-ci a récemment accusé Facebook de ne mettre en avant que les articles le critiquant et d’être anti-Trump. Voici le tweet en question :

« Facebook a toujours été anti-Trump. Les chaînes de télévision ont toujours été anti-Trump, d’où les fake news – le New York Times (qui s’est excusé) et le Washington Post étaient anti-Trump. Collusion ? ». (traduction par Le Monde Pixels d’un tweet datant du 27/09/17)

Comme l’explique Le Monde, cette déclaration fait surface seulement une semaine après que Facebook ait accepté de collaborer avec la commission parlementaire chargée d’enquêter sur Trump et la Russie. Coïncidence ? “Facebook a révélé à cette occasion que des comptes liés selon son analyse au gouvernement russe avaient acheté pour environ 100 000 dollars de publicités Facebook durant la campagne, ce qui constituerait une importante ingérence dans les élections américaines.” Alors, neutre politiquement Facebook ou pas ?

Certains États sont allés plus loin et ont interdit certains réseaux sociaux traditionnels dans leur pays. Entre autres, , la Corée du Nord (qui régule drastiquement tout l’accès à Internet), l’Iran, le Vietnam… Concentrons-nous sur la Chine et la Russie. La première a interdit l’accès à Facebook et à Twitter sur son territoire, et a ses propres alternatives : Weibo et Wechat. Un ancien employé de Weibo raconte ici comment le gouvernement a durci sa politique de censure grâce à l’utilisation de mots-clefs et l’effacement systématiques des posts problématiques. En ce qui concerne la Russie, celle-ci a récemment menacé de bloquer Facebook s’il refusait de stocker les données utilisateurs dans le pays. LinkedIn ayant refusé de se plier à cette mesure, l’application a été supprimée de l’App Store et du Google Store.

Pour aller plus loin, intéressons-nous à  ce que sera sûrement l’avenir pour plus d’un milliard d’entre nous. Dès 2020, la population chinoise sera soumise au Crédit Social, une pratique qui semble tout droit tirée de l’univers dystopique de Black Mirror et dont le principe est le suivant : grâce à des applications telles que Crédit Sésame (Claude Guibal en explique ici le fontionnement dans un podcast), chaque fait et geste (achat en ligne, post sur les réseaux sociaux, historique des infractions, etc.) sera donc analysé et le résultat sera traduit en une note. De cette note dépendront ensuite les libertés auxquelles pourront aspirer les citoyens, sachant qu’un score trop bas pourra résulter en de nombreuses pénalités : interdiction de sortir du pays, de rentrer dans certains lieux de vie,  d’exercer certains métiers…

Si les faits évoqués ici se déroulent la plupart du temps dans des pays peu démocratiques, voire dans des dictatures, il serait bon de garder l’oeil ouvert et de ne pas oublier que nous ne sommes pas à l’abri des dérives des GAFA qui supplantent le pouvoir de l’État. Si l’État doit veiller à ce que nos informations ne soient pas exploitées à volonté, ce n’est pas forcément ce qu’il se passe en réalité, soit par manque de moyens, soit pour protéger sa population dans les meilleurs cas. Finalement, vivons heureux, vivons avec des données protégées ?

Note :
* Nous nous sommes principalement concentrées sur Facebook et Twitter car ce sont les plateformes les plus importantes au niveau de la présence sur le web. En juin 2017 Facebook a atteint les 2 milliards d’utilisateurs actifs, Twitter se situait, à la même époque, à 300 millions.


Vous aimerez aussi...

13 réponses

  1. abelande dit :

    Article intéressant, mais une chose me chicote. Vous écrivez « Si ces enquêtes ont en France souvent pour but de débusquer les terroristes, elles peuvent servir d’autres objectifs dans d’autres pays. »

    Avez-vous une source pour ce que vous dites au sujet de la France? Et êtes-vous certaines que c’est vraiment tout ce que le gouvernement français fait des données collectées? Ce n’est sûrement pas l’intention, mais à vous lire, la France n’a rien à se reprocher dans ce domaine, mais les autres pays oui. Si c’est le cas, il aurait été pertinent de partager les pratiques exemplaires à ce niveau.

    • Louise dit :

      Hello, merci pour ce commentaire. Tu as effectivement tout à fait raison et la tournure de phrase que j’ai utilisée est très maladroite. Je voulais appuyer sur le fait qu’en France, la question ne se pose pas encore (pas vraiment de polémique sur le sujet à ma connaissance pour l’instant) contrairement à certains pays où les pratiques abusives ont suscité de vraies réactions. Cela ne signifie pas qu’en France nos données ne sont pas collectées à notre insu ou qu’elles sont utilisées de façon exemplaire, seulement que pour l’instant, ce n’est pas un des sujets qui fâchent (et qu’on a peu de données/informations dessus) 😉

  2. Nans dit :

    Effectivement, il y a dans ce qui se profile de nombreux aspects prophétisés depuis longtemps dans des ouvrages dystopiques… même si je pense que les extrémités envisagées par la Chine n’ont aucune chance de se répandre sur l’Internet mondial (ou sous des formes plus subtiles, et donc insidieuses).
    Je me pose une question concernant la modération : étant donné le nombre d’utilisateurs sur Facebook et la quantité monumentale de contenus produits en permanence, même 7500 modérateurs me semble être un nombre infime comparativement à l’ampleur de la tâche. Aucun exemple ne me vient à l’esprit, mais n’y a-t-il pas un réseau qui propose à tout le monde d’occuper cette fonction de modération, en imaginant une répartition de la rémunération à mesure que l’utilisateur s’implique ? La fiabilité de cette modération serait alors assurée par la consultation des contenus signalés par un grand nombre d’utilisateurs.
    Juste une idée, parce que ni l’intelligence artificielle, ni une équipe de personnes employées à cet effet ne me semblent être une solution adéquate.

    • Louise Broyer dit :

      Merci pour ton commentaire Nans. Je ne pense effectivement pas non plus que les pratiques que la Chine va mettre en oeuvre ont des chances de voir le jour dans d’autres pays, en tout cas pas de façon aussi frontale.
      Pour répondre à ta question, j’ai fait des recherches et je n’ai rien trouvé. Je me permets donc de rebondir sur cette problématique : ce qui pose problème ici c’est la question de la rémunération. Pourquoi payer des utilisateurs pour un travail qu’il font déjà de toute façon, gratuitement, et sans même s’en rendre compte la plupart du temps ? Quand tu signales un contenu sur Facebook, n’effectues-tu pas un travail préliminaire de modération finalement ? De même, Instagram met à la disposition de ses utilisateurs des outils de modération. Tu peux par exemple rédiger une liste de mots ou d’expressions à bannir, et quiconque les utilisera pour commenter tes photos/vidéos verra son commentaire bloqué. Utiliser ce genre d’outils requiert néanmoins que tu aies du temps, puisqu’il faut tenir la liste à jour, et il y a la possibilité que tu n’ajoutes certains mots qu’une fois que tu les auras vus dans un commentaire. Dans ce genre de cas, tu assumes le rôle de modérateur sur ta propre page. Je suis assez d’accord avec ta conclusion, mais je ne suis pas persuadée qu’un système comme celui que tu décris est possible.

  3. Constance Grandin dit :

    Merci pour votre article et vos références très intéressantes ! Dans une moindre mesure on retrouve une forme de Crédit Social à travers les systèmes de notations des plateformes : par exemple, via les outils numériques les restaurants les mieux notés sur TripAdvisor auront une meilleure publicité et fréquentation que ceux qui ont des mauvaises notes. Sachant que ces notes ne sont parfois pas méritées (concurrence déloyale), le poids de la communauté allié à l’effet de réseau est à double tranchant, d’autant plus quand les institutions publiques s’y mêlent.
    La surveillance des personnes n’est pas non plus réservée aux pays hors Union Européenne, en 2015 plusieurs organisateurs militants de la COP21 ont été « surveillés » dans leurs vies quotidienne.
    Le rayonnement international des réseaux sociaux n’est-il pas toutes fois hors de portée des autorités gouvernementales ? Les contraintes (interdiction d’accès, limitations) n’étant applicables que dans une zone géographique définie., les associations d’États sont-elles une solution efficace pour assurer un contrôle mondial ?

    • mgrosbois2 dit :

      Tu soulèves une question très intéressante, qui est celle de l’amplitude d’action des réseaux sociaux et de leur limitation. En effet le champ d’action de ces entreprises dépasse les cadres géographiques définis par les Etats, elles se substituent plus ou moins à certaines régulations et ont donc, il semblerait, un pouvoir supranational et jouent de ce flou juridique.
      Comme tu l’as dit, il existe des moyens de protection des données mais seulement sur une zone géographique définie, comme la loi Informatique et Liberté en France. Mais étant donné que les sièges des plus gros réseaux sociaux se situent aux Etats-Unis et que la politique américaine est relativement libérale, ce sont eux les principaux décisionnaires.
      Je pense donc que les associations d’Etats sont relativement impuissantes face à la politique de géants comme Twitter ou Facebook, il semblerait nécessaire qu’une institution supranationale (telle que l’ONU par exemple) puisse réguler voire contraindre ces entreprises.

  4. smonteil dit :

    Merci pour cet article ! Je ne me rendais pas compte que la régulation des contenus passait autant par l’humain, je suppose que les régulateurs vérifient les contenus signalés par les internautes ? Il semble effectivement que l’Intelligence Artificielle puisse jouer un rôle à ce niveau là, savez-vous si Facebook par exemple souhaite s’améliorer sur ce point, ou alors continuer de filtrer ainsi ? L’homme reste sûrement le meilleur juge pour interpréter les contenus ( un algorithme peut-il comprendre l’ironie, la parodie, peut il être neutre?), mais la quantité de contenu à surveiller semble beaucoup trop importante si on prend en compte les posts, les heures de vidéos, les articles, les commentaires pour que l’humain puisse le gérer convenablement.

    • Claire Dandieu dit :

      Je me permets de rebondir sur la réponse de Solenne.
      Je pense aussi que dans cette histoire de régulation des plateformes il faut suivre de très prêt l’IA et les algorithmes, par lesquels il me semble qu’une grande partie de l’activité de régulation se fait. Cela pose notamment des problèmes d’ordre éthique (actions sur les comportements, bulle à filtre, avenir du travail ?) et juridiques (comme vous le dites, peut-on déléguer le jugement humain à une machine ?).
      Mais surtout, quand on pense à une régulation par l’État je ne cesse de m’interroger sur le point suivant : qui devrait définir les règles politiques d’une plateforme du web ? Le pays dans lequel est basé l’entreprise ? Le pays d’appartenance des internautes ? Ces deux cas me semblent porteurs de menace. Qu’en pensez-vous ?
      En tous cas, bravo pour cet article, vous avez traité de nombreux point, ce qui nous permet de faire un premier tour de la question et nous donne envie d’en savoir plus ! 🙂

      • mgrosbois2 dit :

        Vous soulevez des problèmes intéressants concernant l’éthique des Réseaux Sociaux.
        Pour répondre à Solenne : Oui en fait les contenus sont signalés par les internautes au préalable. En fait pour le moment Facebook utilise une IA de reconnaissance de contenu qui signale le post mais qui n’a pas le pouvoir de le supprimer, c’est toujours à la charge des modérateurs en chair et en os de le faire, cet article est plutôt éclairant sur le sujet : http://www.lefigaro.fr/secteur/high-tech/2017/05/22/32001-20170522ARTFIG00261-les-regles-de-moderation-secretes-de-facebook-revelees-dans-la-presse.php
        Pour répondre à ton autre question ils n’ont pas parlé d’amélioration de l’algorithme mais ils comptent recruter beaucoup plus de modérateurs .

        L’autre problème que vous soulevez c’est le caractère culturel et les limites de la censure dans la gestion des publications, en effet il n’y a pas longtemps la photo très célèbre pendant la Guerre du Vietnam d’une petite fille courant nue sur la route avait été censurée, cela avait provoqué un scandale. Depuis Facebook a établit un espèce de guide (avec ce qui est autorisé ou non, les exceptions etc…) à destination des modérateurs qui n’ont, au passage, que 2 semaines pour se former à ce travail…

        Claire tu poses une bonne question sur qui doit définir des règles politiques et selon quels critères, mais il n’y a pas une seule et unique solution, à mon avis ce devrait être une institution supranationale car les Etats semblent être impuissants face aux GAFA, si tu veux j’ai répondu un peu plus en profondeur au commentaire de Constance juste au dessus 🙂

  5. Lenaic FAURE dit :

    C’est vrai que la Chine est cas intéressant et à suivre. Véritable intranet capitaliste mais tellement socialiste, la preuve. Le gouvernement promet des Iphone a qui dénoncera des crimes de négativités. Tous les internets à fait un bon topo a dessus https://info.arte.tv/fr/linternet-en-chine-selon-xi-jinping

    • mgrosbois2 dit :

      Merci pour le lien c’est très intéressant pour creuser un peu le sujet ! On voit bien ici que tout l’internet à été cloisonné et que ce que proposent les GAFA a été substitué par des applications encore plus performantes et insidieuses et ça fait vraiment peur. Ça nous prouve à quel point il peut y avoir des dérives mais que finalement tout ce que le gouvernement chinois a fait c’est de reprendre les mêmes idées que Facebook ou Twitter pour recréer un écosystème numérique propre à la Chine qui soit très facilement contrôlable. Il est donc légitime de se demander si les réseaux sociaux que nous utilisons sont vraiment construits sur des bases saines…

  6. alaurent2 dit :

    C’est un article très intéressant! Je n’avais pas entendu parlé du Crédit Social mais en effet, un scénario de Black Mirror ou d’un bon roman dystopique. Est-ce que vous pensez que tous l’aspect pénalités et restrictions de libertés seront vraiment appliqués ? Et si c’est le cas, est-ce que vous pensez qu’il y aura une intervention à un niveau mondial? Je dis peut-être n’importe quoi et je suis consciente qu’il existe des dictatures à l’heure actuelle mais ces pratiques pourraient ensuite comme vous le précisiez inspirer d’autres gouvernements… Et là moi et mes données, on part sur une ile déserte (avec ma liseuse car Master Pun oblige 😉 )

    • mgrosbois2 dit :

      Pour l’instant on ne peut pas s’avancer mais le gouvernement chinois et son dirigeant Xi Jiping sont en train de créer une politique de contrôle strict de leurs citoyens via des applications très similaires a Facebook ou Twitter. En fait ils ont même mieux (ou pire en fait) : Wechat qui est une appli qui regroupe plateforme de Chat, shopping en ligne, commande de taxis, etc. En fait c’est un peu plusieurs réseaux sociaux pour le prix d’un seul, ce qui veut aussi dire que les utilisateurs stockent toutes leurs données dessus ce qui est dangereux car Xi Jiping a le pouvoir sur ce réseau social, toute liberté d’expression est donc impossible… Et je pense que le gouvernement chinois a développé ces applis en s’inspirant de Facebook et Twitter tels qu’on les connait donc c’est plutôt ça qui est inquiétant à mon avis !

      Après en ce qui concerne une intervention au niveau mondial, je ne pense pas car la Chine est une des premières puissances mondiales et c’est une dictature depuis longtemps maintenant, ce n’est pas maintenant qu’une intervention se fera et se serait vu comme une ingérence dans les affaires de la Chine ce qui pourrait avoir des conséquences dramatiques ( guerre par exemple) et là tu aurais carrément raison d’aller sur une île déserte avec ta liseuse !

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.