Pages

mardi 1 août 2017

Le théorème de Hobbes

Cet article m'a été commandé par Atlantico . On n'a pas jugé bon de le publier.




     Il n’est pas très difficile d’imaginer dans un avenir pas si lointain un monde dans lequel la presse et les media traditionnels auraient totalement disparu et où l’information serait véhiculée uniquement par les réseaux sociaux, dominés par quelques grandes compagnies. L’enseignement serait effectué uniquement par ordinateur, sur des MOOCS, et il n’y aurait pas de problème de sélection à l’entrée de l’université car tout le monde aurait le droit de s’inscrire (la valeur des diplômes ainsi obtenus serait une autre affaire). Les gouvernements et les agences étatiques ne communiqueraient plus que par réseaux sociaux, de même que les groupes d’opposition. Il n’y aurait plus de manifestations dans les rues, mais des sorties massives d’opinions sur twitter, et on voterait électroniquement. Les armes conventionnelles auraient quasiment disparu et les guerres seraient essentiellement des guerres d’information, ou la propagande et la désinformation joueraient un rôle aussi important que les armées conventionnelles, qui disparaîtraient peu à peu au profit de cyber-attaques des ordinateurs ennemis. La propagation de fausses nouvelles, les escroqueries informationnelles et les entreprises de déstabilisation par dispersion de rumeurs joueraient tel rôle que chaque utilisateur d’internet devrait se munir de logiciels détecteurs de fake news et que toutes les organisations devraient avoir des bureaux et des équipes dédiées exclusivement à la traque de ces fausses informations. Au bout d’un temps, les humains seraient submergés, et les machines prendraient le pouvoir. A supposer que les promoteurs de mensonges et de faussetés se répandent au point de devenir majoritaires dans la population, le citoyen lambda n’aurait plus aucun moyen de discerner le vrai du faux. Il n’irait plus au cinéma, ni ne commanderait de sushis ou de pizzas sur son portable, n’utiliserait plus son GPS ni son auto piratée, ni son compte en banque en ligne. Il n’oserait plus tweeter, de peur de recevoir des fake news.  Peut-être même n’oserait-il plus ouvrir son ordinateur. Sa vie se réduirait à son voisinage immédiat et à de rares communications orales empruntes de méfiance permanente. Il serait réduit à un état qui ne serait pas sans évoquer l’état de nature de guerre de tous contre tous  selon Thomas Hobbes dans le Léviathan

   Ce scenario est d’autant moins difficile à imaginer que c’est déjà en grande partie le nôtre. Si l’on en croit un récent et aussi passionnant qu’inquiétant rapport préliminaire ( working paper) du Centre d’études des medias de l’Université d’Oxford, « Troops, Trolls andTroublemakers: A Global Inventory of Organized Social Media Manipulation »  des cyber-troupes et des organisations gouvernementales, principalement dans les pays à régime autoritaires, mais aussi de plus en plus au sein des  démocraties, sont déjà actives depuis une dizaine d’années au moins pour répandre, via les réseaux sociaux, des fausses informations, à fin de déstabilisation de divers individus, groupes ou populations. Les révélations sur le rôle des  hackers russes dans l’élection de Trump, la manière dont ce dernier a usé des medias, le rôle de la NSA dans l’espionnage du gouvernement allemand, les rumeurs lancées contre Macron, le rôle joué par la Corée du Nord dans des fausses informations, l’usage des medias sociaux par Al Qaida et Daech, la guerre menée en Chine par internet interposé  nous ont rendus familiers avec ces cyber-guerres. Mais ce que l’on apprend dans le rapport d’Oxford est accablant. Il nous documente sur la variété des techniques utilisées  (trolling, faux comptes, harcèlement, hashtag poisoning dirigé contre les opposants, diffamations,  méthodes de lavage de cerveaux, production de discours de haine, et bien entendu hacking et diffusion massive de fake news), l’étendue de leur usage dans tous les pays du monde, l’implication des organisations gouvernementales, des partis, étendue du financement et des méthodes d’entrainement des cyber-troupes. Personne, après un tel rapport, ne peut ignorer que la guerre par internet est devenue non seulement une guerre d’autant plus réelle qu’elle est supposée être « virtuelle », qu’elle a ses armes, ses soldats, ses officiers, ses officines à peine secrètes, mais aussi ses contre-offensives et sa géopolitique globale. Personne ne peut ignorer, non plus comme le  notent les auteurs, Samantha Bradshaw et Paul Howard, que ces mêmes méthodes et guerres cybernétiques se déroulent au sein des démocraties occidentales, et en affectent de manière profonde le fonctionnement : les élections, les stratégies des groupes politiques, les financements des partis, les modes de scrutin, et l’opinion publique en sont profondément affectées et remodelées. Il n’y a pas qu’un seul Steve Bannon, mais de nombreux spin doctors du même genre partout, qui un jour où l’autre vont, comme ils l’ont fait aux Etats Unis, prendre le pouvoir.

     Les sceptiques répondront que nihil novi sub sole : qu’y a –t -il de nouveau, mise à part la sophistication technologique, par rapport aux entreprises de propagande, de bourrage de crâne et de désinformation du passé ? Les espions durant la première guerre mondiale, Goebbels et le KGB ont usé de telles méthodes, même si l’on frémit à l’usage qu’ils auraient pu faire d’internet et des réseaux sociaux à leur époque. Le journalisme et la publicité n’ont pas attendu internet pour user des bobards. Ce qui change cependant, ce sont les capacités technologiques, qui font que l’information ne se diffuse pas simplement exponentiellement. Desphysiciens ont montré que la diffusion de l’information sur internet obéit à des mécanismes semblables à ceux qui opèrent quand on pousse doucement du sable sur une surface plane : il s’amoncèlera jusqu’à ce qu’il atteigne un angle critique, et rien ne se passera, jusqu’à ce que soudain un grain de plus cause une avalanche.     Ces effets sont d’autant plus dangereux que les humains sont naturellement curieux et crédules : l’évolution nous a appris à enregistrer les informations sans les filtrer, et pratiquement tout notre savoir est devenu collectif, et se trouve sur internet. D’ici à peu de temps plus personne n’ira dans les bibliothèques et pratiquement tout le savoir sera du savoir googlé, c’est-à-dire du pseudo-savoir, puisqu’on a évalué pratiquement 40 % de ce qui est sur internet comme faux.


     A-t-on les moyens de résister ? Les sites de contrôle des fake news, la pédagogie de l’usage d’internet, le contre-espionnage informatique, et des techniques d’autodéfense existent et peuvent être apprises.  La guerre cybernétique comme toute guerre se joue sur de multiples fronts. Mais ce qui incite au pessimisme est aussi le fait que les gens semblent préparés à recevoir les fake news : la plupart des sites dits d’information sont basés sur le principe qu’il faut trouver ce qu’on y voit surprenant, divertissant et digne d’être tweeté aux friends. Nous avons une addiction pour l’information « intéressante » comme nous en avons une au sucre.  Les conditions même de la politique s’en trouvent profondément changées. Les campagnes électorales ne se font plus qu’en traquant les scandales supposés. Le rapport d’Oxford note qu’il existe des « banques » à informations compromettantes qu’on est prêt à ressortir en temps voulu contre telle ou telle cible. Les affaires des courriels d’Hillary Clinton, l’affaire Pénélope Fillon, les fausses rumeurs sur Macron, sont encore présents à notre mémoire. Cette technique de guerre politique n’est pas nouvelle, mais ce qui est nouveau est qu’elle semble à présent l’unique forme du combat politique. On est loin du « marché libre des idées » que prônaient les théoriciens classiques de la pensée libérale. Les seules armes de résistance sont l’éducation, l’exercice du jugement critique, la vigilance intellectuelle, le réapprentissage du savoir personnel contre le savoir googlé.  Mais on a quelquefois l’impression que ces mots ont aussi peu de sens que ceux de  vérité ou de faits, qui finissent par ne plus vouloir rien dire. Les historiens ont montré combien le peuple allemand s’est laissé séduire par les idées nazies, et Czesław Miłosz a montré, dans son grand livre La pensée captive (1964)(*) , combien le stalinisme avait réussi à faire accepter des contre-vérités évidentes à de grandes franges de la population, et surtout  comment les gens se construisaient un système complexe d'aveuglement volontaire et de résistance aux faits évidents. Nous croyons être revenus de telles époques. Mais en sommes-nous tellement loin ? Hobbes, toujours lui,  remarquait que si un jour le fait que les trois angles d’un triangle sont égaux à deux droits menaçait la volonté de pouvoir et les intérêts de certains individus puissants, ils n’hésiteraient pas à essayer de cacher ou de jeter le soupçon sur cette vérité géométrique(*). Les fake news portent sur des vérités de fait, non sur des vérités de raison, comme celles des mathématiques. Mais il y a  fort à parier que la guerre cybernétique produira un jour des manuels de géométrie et d’arithmétique  conformes aux intérêts des belligérants. Il faudra alors réapprendre que deux et deux font quatre.

  Relisons, comme toujours, Russell ( Freedom of thought and official propaganda (1922) ) 

We may say that thought is free when it is exposed to free competition among beliefs — i.e., when all beliefs are able to state their case, and no legal or pecuniary advantages or disadvantages attach to beliefs. This is an ideal which, for various reasons, can never be fully attained. But it is possible to approach very much nearer to it than we do at present. 
(..) 

"William James used to preach the “will-to-believe.” For my part, I should wish to preach the “will-to-doubt.” None of our beliefs is quite true; all have at least a penumbra of vagueness and error. The methods of increasing the degrees of truth in our beliefs are well-known; they consist in hearing all sides, trying to ascertain all the relevant facts, controlling our own bias by discussion with people who have the opposite bias, and cultivating a readiness to discard any hypothesis which has proved inadequate. These methods are practiced in science, and have built up the body of scientific knowledge. Every man of science whose outlook is truly scientific is ready to admit that what passes for scientific knowledge at the moment is sure to require correction with the progress of discovery; nevertheless, it is near enough to the truth to serve for most practical purposes, though not for all. In science, where alone something approximating to genuine knowledge is to be found, men’s attitude is tentative and full of doubt. 
 (...) 

There are two quite different evils about propaganda as now practised. On the one hand, its appeal is generally to irrational causes of belief rather than to serious argument; on the other hand, it gives an unfair advantage to those who can obtain most publicity, whether through wealth or through power. For my part, I am inclined to think that too much fuss is sometimes made about the fact that propaganda appeals to emotion rather than reason. The line between emotion and reason is not so sharp as some people think. Moreover, a clever man could frame a sufficiently rational argument in favour of any position which has any chance of being adopted. There are always good arguments on both sides of any real issue. Definite misstatements of fact can be legitimately objected to but they are by no means necessary. The mere words “Pear’s Soap,” which affirm nothing, cause people to buy that article. If, wherever these words appear, they were replaced by the words “The Labour Party,” millions of people would be led to vote for the Labour party, although the advertisements had claimed no merit for it whatever. But if both sides in a controversy were confined by law to statements which a committee of eminent logicians considered relevant and valid, the main evil of propaganda, as at present conducted, would remain. Suppose, under such a law, two parties with an equally good case, one of whom had a million pounds to spend on propaganda, while the other had only a hundred thousand. It is obvious that the arguments in favour of the richer party would become more widely known than those in favour of the poorer party, and therefore the richer party would win. This situation is, of course, intensified when one party is the Government. In Russia the Government has an almost complete monopoly of propaganda, but that is not necessary. The advantages which it possesses over its opponents will generally be sufficient to give it the victory, unless it has an exceptionally bad case."

(*) remarquablement commenté par Kevin Mulligan 
(**) cité ar Hannah Arendt dans Vérité et politique (1964) 

10 commentaires:

  1. Les analystes disent que Donald Trump s’est fait élire grâce aux réseaux sociaux. Dans quelle mesure cela serait-il vrai aussi pour notre Président Macron, qui a réussi un joli doublet ?
    Les réseaux sociaux favoriseraient les entreprises des outsiders, venus soudain de nulle part, et que personne n’ aurait imaginé remporter des élections aussi importantes.
    Méritaient-ils vraiment de gagner ?
    Néanmoins, il y a depuis longtemps dans l’imaginaire américain l’histoire du brave type venu d’ailleurs, qui va monter chambouler le monde politique à Washington.
    Quant aux mathématiques en régime totalitaire, je crois que dans « 1984 » O’Brien en parle à Winston Smith sur sa table de torture. Il me semble qu’il dit à peu près que si le Parti le décide, 2 et 2 font 5.

    RépondreSupprimer
  2. Macron est un produit media: election sur une base electorale hyper mince, à la faveur d'un effondrement des autres partis et d'un scandale mediatiquement bien et même (sur)exploité. Cela ressemble beaucoup à la division des démocrates où les sanderistes n'ont pas suivi clinton,et à la manière dont Trump, aidé par les russes, a fait mousser les e-mails de Clinton alors qu'il n'y avait rien derrière. Evidemment il y a de nombreux facteurs.

    en effet ma dernière phrase avant le texte de Russell était une allusion à 1984.Mais O' Brien de nos jours a des méthodes bien plus sophistiquées

    RépondreSupprimer
  3. Pourquoi n'a-t-il pas été publié finalement?

    RépondreSupprimer
  4. sans doute a-ton trouvé qu'il contenait des fake news

    RépondreSupprimer
  5. Pour la résistance aux abus des actions virtuelles, quand elles sont en interaction avec le réel, il y a aussi WikiLeaks, les Anonymous, tous les hacktivistes, ces Robins des Bois bénévoles du hacking qui refusent le traçage des internautes et qui défendent les libertés. Contrairement à ce que l'on croit, la génération Y ne veut pas non plus d'un monde entièrement digitalisé, car elle privilégie toujours l'interaction humaine directe, quand elle le peut. Dans le domaine de la consommation ou dans celui de la politique, elle est particulièrement vigilante et critique à l'égard des stratégies de marketing et de ciblage.
    Il faudrait parler du moteur de recherche français Qwant et des réseaux indépendants et anonymes, comme TOR, qui tentent de sortir de la bulle de l'Internet. Il y a actuellement une multitude de réseaux sociaux qui se font concurrence. Cela est encore préférable à un réseau unique, ou à un moteur de recherche unique, qui seraient en situation de monopole de l'information et de la vérité.
    Il y a en outre l'aventure d'un média comme "Brief.me", qui trie et hiérarchise l'information, notamment parce que l'empilement mécanique et accéléré de l'information favorise la diffusion des "fake news".
    Sur les réseaux sociaux, les liens hypertextes vers les "fake news", quand on clique sur eux, peuvent également entraîner l'installation de logiciels malveillants ou d'espionnage sur son ordinateur, grâce à la technique du hameçonnage.
    Pour lutter contre tout ce qui est bidonnage, trollage ou canular, et qu'Internet amplifie, le "fact checking" est apparu dans les années 1990, et il est même mis en œuvre automatiquement par les principaux réseaux sociaux. Mais qu'en est-il de son efficacité ?
    Le canular a été pratiqué par des gens sérieux et bien intentionnés comme Sokal et Bricmont. Les traders malhonnêtes ou les pirates de toutes sortes disent aussi pour leur défense qu'ils voulaient seulement prouver la vulnérabilité d'un système d'information, et qu'ils ne font que rendre service aux entreprises et aux administrations. Pour assurer la sécurité de son système d'information, il vaut mieux recruter un hacker repenti.
    En Histoire, on apprend que les fausses nouvelles du complot aristocratique et du pace de famine ont contribué à la Prise de la Bastille. Les révolutionnaires sont parfois de grands experts en manipulation de la vérité.
    Quant à la guerre technologique, les analystes disent qu' elle n' empêche pas la multiplication des conflits locaux classiques.

    RépondreSupprimer
  6. vous n'allez pas me faire le coup d'Assange et Anonymous chevaliers blancs du web !
    et la comparaison de Sokal avec les hackers est déplacée!
    a part cela vous me semblez dire la même chose que moi. Je dirais même plus...

    RépondreSupprimer
  7. Il est exact que le régime de la vérité et des faits sur Internet, et dans les médias en général, n'est pas au centre des préoccupations des hacktivistes.
    Ceux que j'ai entendus ou lus n'en parlaient même jamais. Leur action concerne essentiellement et explicitement la résistance au tracking et la défense des Droits de l'Homme contre les abus de pouvoir. Avec eux, on apprend à crypter ses données, à utiliser un moteur de recherche sans traçage et un réseau social indépendant et décentralisé comme Mastodon, par exemple, qui permet de publier des microblogs et des "pouets", en toute liberté et à l'abri des intrusions de la publicité. Néanmoins, il faut aussi s'entendre sur ce que signifie la liberté. On a vu ce qu'un outil hautement sécurisé comme Telegram Messenger a permis de faire aux hackers et aux terroristes.
    Tout cela est incontournable, mais c'est l'arbre qui cache la forêt. D'ailleurs, la diffusion des "fake news" est aussi une stratégie de détournement de l'attention, pour éviter certaines questions de fond. D'où le côté dérangeant de cet article, qui explique peut-être qu'il n'a pas été publié.

    RépondreSupprimer
  8. Je me demande si vous avez lu le rapport d'Oxford qui y est commenté.

    RépondreSupprimer
  9. Le Rapport d'Oxford est un document valide, pertinent et complet sur l'ampleur de la manipulation des médias par les cyber troops des gouvernements, des armées et des partis politiques. Il date de cette année, qui aura vu l'apparition du concept de post-vérité, à l'occasion de la campagne et de l'élection de Donald Trump.
    Les sources du Rapport sont essentiellement l'expertise de l'université et la presse spécialisée, qui est sa courroie de transmission. Il y a aussi quelques ONG comme "Human Rights Watch".
    Le Rapport fait bien le point sur les cyberguerres politiques et économiques. Sans ce genre de document, on resterait plongé dans la perplexité, avec les informations issues des médias ou des discussions de café.
    Les hacktivistes que j'ai connus étaient désintéressés, idéalistes et un peu utopistes. Ils rappelaient le meilleur de la contestation des années 60-70, mais ils semblaient penser que l'idée de la manipulation des médias était de l'ordre du complotisme, et ils s'en méfiaient. Ils s'inquiétaient seulement des filtres de Google, en fonction de ses algorithmes, et qui ne répondent pas de façon identique à une même requête formulée par des personnes ayant un profil différent.

    RépondreSupprimer
  10. L'univers des hackers semble réunir aussi bien des lanceurs d'alerte que des pirates sans scrupules. La cas récent de ce hacker de La Vegas qui avait dénoncé le virus de rançon sur internet et vient d'être accusé d'avoir fabriqué des logiciels de cassage de codes bancaires montre qu'on passe d'un statut de chevalier blanc à un statut de pirate fort aisément. C'est un peu comme si Mario Draghi était découvert faire de la fausse monnaie.
    quant au concept de post vérité, il date de bien avant cette année, et faisait partie du post-modernisme. Un lire de 2004 portait ce titre. Mais à l'époque personne n'avait noté .
    cf


    http://www.lemonde.fr/idees/article/2016/11/17/trump-ou-la-pathologie-du-pragmatisme_5032446_3232.html

    RépondreSupprimer