Censure d’un document historique par un robot de Facebook : les leçons à retenir sur l’interprétation

Ce n'est pas "au nom de la morale", que cette célèbre photo a été censurée, mais du fait d'une absence de mémoire historique de la part des robots de Facebook... (La Fille au napalm, de Nick Ut Cong Huynh. 1972)

Ce n’est pas « au nom de la morale », que cette célèbre photo a été censurée, mais parce que les robots de Facebook sont dénués de mémoire historique…
(« La Fille au napalm », de Nick Ut Cong Huynh. 1972)

L’algorithme se trompe, ignorant l’histoire et dénué de véritable intelligence. Pourtant, c’est lui qui est aux commandes !
Incroyable mais vrai : un « robot de Facebook » a censuré une célèbre photo de la guerre du Vietnam « en la prenant pour… une image pédophile ! » (1)
Pourtant, cette photo n’est pas censée être une inconnue pour des êtres humains. Car, comme le rappelle le journaliste Patrice de Plunkett, dans une note de blogue, le document montre une fillette touchée par le napalm, courant en hurlant de douleur, et fuyant un bombardement aérien : « cette photo, l’une des plus célèbres du XXe siècle, a été prise le 8 juin 1972 près de Trang Bang,au Sud-Vietnam, par le photographe de presse Nick Ut Cong Huynh. La petite fille a 9 ans. Elle s’appelle Phan Thi Kim Phuc. Le photographe et l’un de ses confrères la conduiront à l’hôpital de Cu Chi, sur la route de Saigon. Au prix de 17 interventions chirurgicales et 14 mois de soins intensifs, Kim Phuc sera sauvée. Elle vit aujourd’hui à Toronto, a deux enfants, l’Unesco l’a nommée goodwill ambassador 

Néanmoins, cette photo ne dit rien à un robot « aveuglément programmé » et « dénué de mémoire historique », selon les termes de Patrice de Plunkett : « à la fin du mois d’août, l’algorithme de censure de Facebook efface cette célébrissime photo sur les pages de l’écrivain norvégien Tom Egeland  et d’internautes qui l’ont relayé ; parmi ceux-ci la Première ministre de Norvège Erna Solberg. Motif de cette censure : une fillette nue figurant sur la photo, le robot l’a interprétée comme pédopornographique. (Ce qui transforme d’ailleurs en suspects tous ceux qui l’ont relayée).(….) Il faudra trois jours avant que Facebook ne s’avise du scandale ; et cinq autres jours avant que M. Zuckerberg ne donne l’ordre de rétablir le post effacé ».

Jusqu'où s'arrêtera "le règne des machines" ?

Jusqu’où s’arrêtera « le règne des machines » ?

Pour Patrice de Plunkett, le fait « qu’une photo historique ait pu être censurée par un robot, démontre plusieurs choses », soulevant autant de questions :

  1. « Le robot seul est aux commandes. Jusqu’à une date récente, ce type de censure était géré par des êtres humains salariés de Facebook. Ils ont été licenciés »(2).
  2. « Facebook a mis plusieurs jours avant de réaliser qu’il y avait un problème ».
  3. Où s’arrêtera « le règne des algorithmes » ? (3) 

 

Pour ma part, l’erreur d’interprétation reste à souligner : « dénuée de mémoire historique », donc, et même d’intelligence tout court, les robots-censeurs se sont mépris sur le sens à donner à cette photo, en la lisant « au premier degré ».

Rappelons que le but de l’interprétation est de découvrir le sens originel (donné dès le départ) d’un document, d’une œuvre ou d’un événement : d’abord « ce que cela dit », puis « ce que cela veut dire », bien avant « ce que cela dit pour moi », au nom de « ma grille de lecture ». Bien interpréter, pour éviter les contresens, nécessite d’avoir de la mémoire et de la connaissance : ainsi, dans le cas de la photo qui nous occupe du contexte, des circonstances de prise – de l’auteur et de l’objet du document……

Cette mémoire et cette connaissance nous permettent de faire du lien entre différents éléments, pour en reconstituer le sens.

Ce qui est vrai pour l’interprétation de n’importe quel document est aussi vrai pour l’interprétation biblique. Lorsque nous lisons un passage, exerçons-nous notre « mémoire biblique » (de toute la Bible) et notre connaissance de Son auteur, Celui qui l’a inspiré, de sorte à relier ce que nous séparons/opposons si souvent ? Ou souffrons-nous d’ « amnésie spirituelle », d’absence de mémoire et de connaissance ?

D’autre part, l’enjeu de « bien interpréter » est lié à celui de faire preuve de discernement. Et discerner, c’est être capable d’évaluer. C’est la capacité de nommer, « d’appeler les choses par leur vrai nom ». Et nommer, c’est faire preuve d’autorité.

A ce sujet, l’anecdote de la censure de Facebook nous enseigne que le plus inquiétant n’est pas « à venir » : il est déjà présent, puisque les responsables de la firme ont estimé « plus rentable » de déléguer le discernement à des machines. Pourtant, exercer soi-même son jugement est le propre de toute personne responsable et mature (cf Hébr.5v14).

Enfin, le drame d’un peuple est de « périr, faute de connaissance » (Osée 4v6) , comme d’être esclave, pour avoir oublié son histoire. Et que dire d’un peuple qui aurait délégué sa mémoire…à des machines dénuée de mémoire ?

Humain et robot : même langage ? Par Andy Singer

Humain et robot : même langage ?
Par Andy Singer

Car, jadis, la mémoire de l’homme était liée à l’oral, avant d’être confiée à l’écrit…avant de l’être aux ordinateurs. Mais si un ordinateur stocke des images, il n’a pas d’imagination ; s’il stocke des processus, il ne sait pas innover. Et – dans le cas des algorithmes – si la machine cherche des mots, elle ne comprend pas le sens des phrases ou d’une requête.

Bref, l’être humain délègue de plus en plus à la machine, croyant ainsi être (plus libre). Mais il serait bien avisé de ne jamais déléguer sa pensée, son discernement, son jugement, sa mémoire, son autorité, ses libertés fondamentales…Car c’est en pensant faire des économies immédiates que l’on est perdant sur le long terme….

 

 

Notes :

(1) Voir aussi http://www.courrierinternational.com/article/censure-photo-de-la-petite-vietnamienne-facebook-fait-marche-arriere-la-polemique-enfle ; http://www.numerama.com/politique/193972-apres-avoir-censure-la-premiere-ministre-de-norvege-facebook-revoit-sa-politique.html

(2) « Le rapport de Facebook à l’information et sa modération des contenus sont régulièrement sous le feu des critiques », relève notamment une analyse des « Echos ». « Le rôle du réseau social dans la formation des idées politiques ou sa propension à enfermer les utilisateurs dans une bulle, en ne leur proposant que des articles relayant les idées dont ils se sentent proches, inquiètent particulièrement les observateurs.

Aux Etats-Unis, la rubrique « trending » est scrutée de près. Gérée à la fois par des algorithmes et des humains, cette sélection des articles de presse les plus populaires sur le réseau, pose question. Au printemps, Facebook a été accusé de manipuler ces contenus , omettant volontairement certains sujets comme ceux liés au parti républicain. Trois mois plus tard, la firme annonçait qu’elle allait limiter l’intervention humaine. Une initiative qui s’est soldée par un échec au bout de quelques jours seulement, lorsqu’ une fausse information inventée s’est incrustée de manière automatisée dans les « trending topics » . Une erreur particulièrement préoccupante au vu du poids du réseau social. Une étude récente du Pew Research Center souligne qu’en 2016, 44 % des adultes américains s’informent par le biais de Facebook » ( http://www.lesechos.fr/tech-medias/hightech/0211274610889-nouveau-tolle-contre-facebook-apres-la-censure-dune-photo-historique-2026252.php )

Voir aussi : http://www.lesechos.fr/tech-medias/hightech/0211240016143-une-fausse-information-dans-les-trending-topics-automatises-de-facebook-2023628.php

(3)Il semble ne jamais s’arrêter ! Après le journalisme et l’édition, il suffit déjà de considérer l’évolution de la finance, avec l’irruption d’acteurs non humains sur les marchés financiers : le « trading à haute-fréquence ».  Cette (r)évolution d’une finance devenue automatisée, amorcée depuis des décennies « et en totale roue libre ces dernières années, est qualifiée par les critiques de « portrait vivant et atterrant » de « la course en avant démentielle qui agite les hautes sphères de la finance, entre soulèvement des machines, règne des algorithmes et dérèglements boursiers ». ( Cf notre billet de 2013 à ce sujet : https://pepscafeleblogue.wordpress.com/2013/07/03/ce-nest-pas-la-cupidite-qui-plongea-le-monde-entier-dans-une-crise-financiere-sans-precedent-cest-lintelligence/  ). Sans compter cette pub(véridique) qui ne manque pas de sel !

 

 

« Ce n’est pas la cupidité qui plongea le monde entier dans une crise financière sans précédent, c’est l’intelligence »

Excès de vitesse de taxi par Bobby Mikul Démesure

Excès de vitesse de taxi par Bobby Mikul
Démesure

« Dieu résiste aux orgueilleux, mais il donne la grâce aux humbles »(1 Pie.5v5)

« …se disant sages, ils sont devenus fous. »(Rom.1v22)

Certains parlent naturellement de la crise. Comme si ses causes étaient naturelles….

Dimanche dernier, je feuillette un vieux numéro de « Promesses »(juillet-septembre 2008), que l’on m’a rendu depuis peu et ayant pour thème « intégrité et corruption ». J’y redécouvre un excellent article intitulé « regard sur la crise financière actuelle » . Son auteur, Nathanaël Bourgeois, loin de considérer la crise comme un phénomène naturel, explique « que la cupidité est à l’origine de la crise ».

Personnellement, j’ai longtemps cru que la cupidité était la cause de la crise. Je le crois toujours en partie. En réalité, contrairement aux idées reçues, ce n’est pas la cupidité qui plongea le monde entier dans une crise financière sans précédent, c’est l’intelligence.

Ou la démesure. Ou l’orgueil.

La démesure, ou l’orgueil, la Bible en parle. Valable hier, son message est toujours actuel pour notre temps.

L’orgueil, c’est le péché de celui ou celle qui a déjà beaucoup et qui veut « toujours plus » : c’est celui de Lucifer(Es.14v12-15), d’Eve et d’Adam(Gen.3), du roi Ozias(2 Chron.26v16-23)…..

L’orgueil se termine toujours de la même façon : par la chute.

L’orgueil touche tous les domaines et personne(à part le Seigneur Jésus-Christ) n’est à l’abri de succomber à une telle tentation.

Je disais plus haut que la véritable cause de la crise était « l’intelligence ». Ou plutôt la démesure. Ou l’orgueil, qui se perçoit dans l’évolution de la finance, avec l’irruption d’acteurs non humains sur les marchés financiers : le « trading à haute-fréquence » *.  Cette (r)évolution d’une finance devenue automatisée, amorcée depuis des décennies « et en totale roue libre ces dernières années « **  est détaillée par Alexandre Laumonier, jeune éditeur belge et spécialisé dans l’anthropologie, dans son essai « 6 »***, que je n’ai pas encore lu, mais que j’ai découvert dans le numéro 12, de mai-juin 2013, du journal « Article 11 »(article consultable en ligne). Cette évolution est qualifiée par les critiques de « portrait vivant et atterrant » de « la course en avant démentielle qui agite les hautes sphères de la finance, entre soulèvement des machines, règne des algorithmes et dérèglements boursiers ».

A ce stade de la lecture, certains d’entre vous seront peut-être tentés de zapper cet article, s’estimant ou peu concernés par un sujet complexe et bien « peu spirituel », ou étrangers aux maths et aux algorithmes (c’est mon cas), ou les deux. A ceux-là, je me permets de leur dire que c’est parce que ce sujet est complexe, et même largement méconnu, qu’il mérite justement toute notre attention. Surtout si un tel système, progressivement livré à lui-même et devenu entièrement automatisé, a produit les fruits que l’on a vus en 2007-2008. Fruits que l’on mange encore aujourd’hui. Aussi, je remercie d’avance le lecteur de prendre le temps nécessaire de lire attentivement(en contrepoint avec cet autre sujet ) le contenu des différents liens.

En attendant, que faire ?

Nathanaël Bourgeois, dans l’article pré-cité, juge avec raison que des lois ne peuvent changer le comportement humain. Bien entendu, les lois sont utiles(cf Rom.13), telles celles contre le meurtre, le vol…car elles nous protègent. Mais il reste que l’homme n’est pas améliorable**** et Dieu ne veut pas l’améliorer : Il veut le changer, le transformer. Changer son cœur(Ezech.11v19, 36v26 ; Deut.30v6 ; Jér.24v7), parce celui-ci est « trompeur et incurable »(Jer.17v9).

De plus, le seul remède à l’orgueil et à la démesure est la grâce de Dieu. Cette grâce, nous pouvons, vous pouvez la recevoir si vous confiez votre vie à Dieu et si vous acceptez de vous soumettre à Lui. Et il sera alors manifeste que cette grâce agit dans vos vies, dans nos vies, si nous nous soumettons les uns les autres et si nous nous servons les uns les autres, en recherchant leur intérêt(1 Cor.13 et Jean 13)

Notes :

* Selon Wikipédia, « Les transactions à haute fréquence, ou trading haute fréquence, sont l’exécution à grande vitesse de transactions financières faites par des algorithmes informatiques. Ces opérateurs de marché virtuels peuvent ainsi exécuter des opérations sur les bourses en un temps calculé en microsecondes.  »  Voir également cet article sur « Basta mag ! »

**« En 2013, les algorithmes que l’on appelle ’traders à haute fréquence’ réalisent aux États-Unis plus de 70 % des transactions contre 10 % en 2001. ».

***« 6 ».  Editions Zones Sensibles, 2012(ouvrage signé du pseudonyme « Sniper ». Une critique peut être lue ici.

Extraits ici :

Contrairement aux idées reçues, ce n’est pas la cupidité qui plongea le monde entier dans une crise financière sans précédent, c’est l’intelligence(p 11).

Jusqu’à la fin du XXe siècle, les marchés financiers baignaient dans une ambiance sonore faite de cris en tout genre. Puis, en moins d’un quart de siècle, le silence s’est peu à peu imposé : les humains ont été remplacés par des machines.(p14)

 En 1977, des premières réflexions sur l’importance croissante des machines eurent vite fait de convaincre tous les acteurs que l’avenir des marchés financiers reposait sur les machines. Grâce à la montée en puissance de la technologie, les Bourses allaient radicalement changer de visage.

Elles allaient même perdre tout visage.Il faudra pour cela faire sauter les filtres humains.

Libéraliser les marchés et déréguler la finance. Changer des règles qui remontaient parfois à deux siècles. Il faudra investir des centaines de millions de dollars, puis des milliards. Il faudra concevoir un algorithme capable de gérer la priorité de temps. Puis soumettre les humains à la temporalité des ordinateurs.

Ainsi débutera une nouvelle ère, celle du soulèvement des machines…(pp20-21)

****De même, est-il réaliste de prétendre « moraliser » un système économique immoral dans son essence, particulièrement à l’heure où ce système devient de plus en plus abstrait et financier ?