Censure d’un document historique par un robot de Facebook : les leçons à retenir sur l’interprétation

Ce n'est pas "au nom de la morale", que cette célèbre photo a été censurée, mais du fait d'une absence de mémoire historique de la part des robots de Facebook... (La Fille au napalm, de Nick Ut Cong Huynh. 1972)

Ce n’est pas « au nom de la morale », que cette célèbre photo a été censurée, mais parce que les robots de Facebook sont dénués de mémoire historique…
(« La Fille au napalm », de Nick Ut Cong Huynh. 1972)

L’algorithme se trompe, ignorant l’histoire et dénué de véritable intelligence. Pourtant, c’est lui qui est aux commandes !
Incroyable mais vrai : un « robot de Facebook » a censuré une célèbre photo de la guerre du Vietnam « en la prenant pour… une image pédophile ! » (1)
Pourtant, cette photo n’est pas censée être une inconnue pour des êtres humains. Car, comme le rappelle le journaliste Patrice de Plunkett, dans une note de blogue, le document montre une fillette touchée par le napalm, courant en hurlant de douleur, et fuyant un bombardement aérien : « cette photo, l’une des plus célèbres du XXe siècle, a été prise le 8 juin 1972 près de Trang Bang,au Sud-Vietnam, par le photographe de presse Nick Ut Cong Huynh. La petite fille a 9 ans. Elle s’appelle Phan Thi Kim Phuc. Le photographe et l’un de ses confrères la conduiront à l’hôpital de Cu Chi, sur la route de Saigon. Au prix de 17 interventions chirurgicales et 14 mois de soins intensifs, Kim Phuc sera sauvée. Elle vit aujourd’hui à Toronto, a deux enfants, l’Unesco l’a nommée goodwill ambassador 

Néanmoins, cette photo ne dit rien à un robot « aveuglément programmé » et « dénué de mémoire historique », selon les termes de Patrice de Plunkett : « à la fin du mois d’août, l’algorithme de censure de Facebook efface cette célébrissime photo sur les pages de l’écrivain norvégien Tom Egeland  et d’internautes qui l’ont relayé ; parmi ceux-ci la Première ministre de Norvège Erna Solberg. Motif de cette censure : une fillette nue figurant sur la photo, le robot l’a interprétée comme pédopornographique. (Ce qui transforme d’ailleurs en suspects tous ceux qui l’ont relayée).(….) Il faudra trois jours avant que Facebook ne s’avise du scandale ; et cinq autres jours avant que M. Zuckerberg ne donne l’ordre de rétablir le post effacé ».

Jusqu'où s'arrêtera "le règne des machines" ?

Jusqu’où s’arrêtera « le règne des machines » ?

Pour Patrice de Plunkett, le fait « qu’une photo historique ait pu être censurée par un robot, démontre plusieurs choses », soulevant autant de questions :

  1. « Le robot seul est aux commandes. Jusqu’à une date récente, ce type de censure était géré par des êtres humains salariés de Facebook. Ils ont été licenciés »(2).
  2. « Facebook a mis plusieurs jours avant de réaliser qu’il y avait un problème ».
  3. Où s’arrêtera « le règne des algorithmes » ? (3) 

 

Pour ma part, l’erreur d’interprétation reste à souligner : « dénuée de mémoire historique », donc, et même d’intelligence tout court, les robots-censeurs se sont mépris sur le sens à donner à cette photo, en la lisant « au premier degré ».

Rappelons que le but de l’interprétation est de découvrir le sens originel (donné dès le départ) d’un document, d’une œuvre ou d’un événement : d’abord « ce que cela dit », puis « ce que cela veut dire », bien avant « ce que cela dit pour moi », au nom de « ma grille de lecture ». Bien interpréter, pour éviter les contresens, nécessite d’avoir de la mémoire et de la connaissance : ainsi, dans le cas de la photo qui nous occupe du contexte, des circonstances de prise – de l’auteur et de l’objet du document……

Cette mémoire et cette connaissance nous permettent de faire du lien entre différents éléments, pour en reconstituer le sens.

Ce qui est vrai pour l’interprétation de n’importe quel document est aussi vrai pour l’interprétation biblique. Lorsque nous lisons un passage, exerçons-nous notre « mémoire biblique » (de toute la Bible) et notre connaissance de Son auteur, Celui qui l’a inspiré, de sorte à relier ce que nous séparons/opposons si souvent ? Ou souffrons-nous d’ « amnésie spirituelle », d’absence de mémoire et de connaissance ?

D’autre part, l’enjeu de « bien interpréter » est lié à celui de faire preuve de discernement. Et discerner, c’est être capable d’évaluer. C’est la capacité de nommer, « d’appeler les choses par leur vrai nom ». Et nommer, c’est faire preuve d’autorité.

A ce sujet, l’anecdote de la censure de Facebook nous enseigne que le plus inquiétant n’est pas « à venir » : il est déjà présent, puisque les responsables de la firme ont estimé « plus rentable » de déléguer le discernement à des machines. Pourtant, exercer soi-même son jugement est le propre de toute personne responsable et mature (cf Hébr.5v14).

Enfin, le drame d’un peuple est de « périr, faute de connaissance » (Osée 4v6) , comme d’être esclave, pour avoir oublié son histoire. Et que dire d’un peuple qui aurait délégué sa mémoire…à des machines dénuée de mémoire ?

Humain et robot : même langage ? Par Andy Singer

Humain et robot : même langage ?
Par Andy Singer

Car, jadis, la mémoire de l’homme était liée à l’oral, avant d’être confiée à l’écrit…avant de l’être aux ordinateurs. Mais si un ordinateur stocke des images, il n’a pas d’imagination ; s’il stocke des processus, il ne sait pas innover. Et – dans le cas des algorithmes – si la machine cherche des mots, elle ne comprend pas le sens des phrases ou d’une requête.

Bref, l’être humain délègue de plus en plus à la machine, croyant ainsi être (plus libre). Mais il serait bien avisé de ne jamais déléguer sa pensée, son discernement, son jugement, sa mémoire, son autorité, ses libertés fondamentales…Car c’est en pensant faire des économies immédiates que l’on est perdant sur le long terme….

 

 

Notes :

(1) Voir aussi http://www.courrierinternational.com/article/censure-photo-de-la-petite-vietnamienne-facebook-fait-marche-arriere-la-polemique-enfle ; http://www.numerama.com/politique/193972-apres-avoir-censure-la-premiere-ministre-de-norvege-facebook-revoit-sa-politique.html

(2) « Le rapport de Facebook à l’information et sa modération des contenus sont régulièrement sous le feu des critiques », relève notamment une analyse des « Echos ». « Le rôle du réseau social dans la formation des idées politiques ou sa propension à enfermer les utilisateurs dans une bulle, en ne leur proposant que des articles relayant les idées dont ils se sentent proches, inquiètent particulièrement les observateurs.

Aux Etats-Unis, la rubrique « trending » est scrutée de près. Gérée à la fois par des algorithmes et des humains, cette sélection des articles de presse les plus populaires sur le réseau, pose question. Au printemps, Facebook a été accusé de manipuler ces contenus , omettant volontairement certains sujets comme ceux liés au parti républicain. Trois mois plus tard, la firme annonçait qu’elle allait limiter l’intervention humaine. Une initiative qui s’est soldée par un échec au bout de quelques jours seulement, lorsqu’ une fausse information inventée s’est incrustée de manière automatisée dans les « trending topics » . Une erreur particulièrement préoccupante au vu du poids du réseau social. Une étude récente du Pew Research Center souligne qu’en 2016, 44 % des adultes américains s’informent par le biais de Facebook » ( http://www.lesechos.fr/tech-medias/hightech/0211274610889-nouveau-tolle-contre-facebook-apres-la-censure-dune-photo-historique-2026252.php )

Voir aussi : http://www.lesechos.fr/tech-medias/hightech/0211240016143-une-fausse-information-dans-les-trending-topics-automatises-de-facebook-2023628.php

(3)Il semble ne jamais s’arrêter ! Après le journalisme et l’édition, il suffit déjà de considérer l’évolution de la finance, avec l’irruption d’acteurs non humains sur les marchés financiers : le « trading à haute-fréquence ».  Cette (r)évolution d’une finance devenue automatisée, amorcée depuis des décennies « et en totale roue libre ces dernières années, est qualifiée par les critiques de « portrait vivant et atterrant » de « la course en avant démentielle qui agite les hautes sphères de la finance, entre soulèvement des machines, règne des algorithmes et dérèglements boursiers ». ( Cf notre billet de 2013 à ce sujet : https://pepscafeleblogue.wordpress.com/2013/07/03/ce-nest-pas-la-cupidite-qui-plongea-le-monde-entier-dans-une-crise-financiere-sans-precedent-cest-lintelligence/  ). Sans compter cette pub(véridique) qui ne manque pas de sel !

 

 

Le seuil de tolérance du libraire

Quel est votre seuil de tolérance, demandions-nous il y a quelques jours ?
Pour aller plus loin encore dans la réflexion, voici, à ce sujet, une anecdote (qui n’est pourtant pas un « point de détail », comme on le verra) repérée sur la toile depuis mardi.
Voici les faits, tels qu’ils nous sont rapportés et commentés par Arrêt sur image(Enquête du 15/09/2014 par Robin Andraca), suivi par Bruno Roger-Petit dans un billet publié sur le site du « Nouvel Obs ».

 

Le journaliste et animateur Frédéric Taddeï avait invité à son émission du 12/09/14 de « Ce soir ou jamais »(en deuxième partie de soirée sur France 2), entre autres personnes, un certain Xavier de Marchis, pour débattre sur le livre de Valérie Trierweiler (est-il « indigne des libraires » ?).
M. de Marchis est libraire (Paris 7e), habitué du plateau de Télé Matin pour une chronique littéraire, et surtout, il fait partie de « ceux qui ont dit non » au livre de Valérie Trierweiler. Devenu une figure emblématique des libraires frondeurs, il avait apposé une affiche sur la devanture de sa librairie, expliquant qu’il ne vendrait pas le livre de l’ex-première dame*.

Sur le plateau de « Ce soir ou jamais », Xavier de Marchis, seul libraire à être convié, exprime sa colère sur « un livre qui est assez détestable », révélateur d’un « malaise français » et qui « ouvre des questions sur l’abêtissement intellectuel que l’on cherche à faire avaler aux gens ».
M. de Marchis plaide sa liberté de libraire. Et on saluera donc, à l’instar des autres invités présents, l’acte de résistance de celui qui, avec d’autres, « a dit non » pour sauver la culture et la littérature.
Or, s’il y a « malaise » (du moins français), celui-ci est en fait ailleurs. Car Xavier de Marchis n’est pas un libraire comme les autres. En tout cas, pas pour ce que l’on croit.
Comme par intuition (à moins qu’il n’ait été bien informé au préalable), le blogueur et chroniqueur de France Info, Guy Birenbaum, s’était rendu la veille de l’émission dans la librairie de Xavier de Marchis, histoire de voir ce que vendait le libraire frondeur. C’était « ce soir ou jamais ».

Et qu’a-t-il découvert ? « Que de la belle et bonne littérature (…)le Trierweiler était toujours présenté de manière spectaculaire comme non grata ». Hormis cela, constate-t-il, « la librairie est bien placée, bien tenue et les livres y sont tout à fait représentatifs de ce qu’un bon libraire de quartier peut offrir. Rien à dire ». Mais en observant de plus près, on remarque « la présence tout à fait visible (et nullement cachée) de livres moins ordinaires en rayons ». Soit plusieurs ouvrages rédigés par des essayistes d’extrême droite, y compris « les Cahiers d’Histoire du Nationalisme – qui invitent à s’abonner par son intermédiaire à un journal raciste et antisémite comme Présent ».

Guy Birenbaum en conclue qu’un libraire qui vend « des bouquins aussi discutables idéologiquement » est mal placé pour « venir donner de leçons » ou « prétendre expliquer ce que l’on doit lire et pas lire aux acheteurs. Ni censurer, donc, un livre qui n’est pas interdit. Encore moins jouer les outragés dans les médias ». Alors soit il vend « les deux (Trierweiler et les fachos) », soit il rejette « les deux » : une attitude plus cohérente qu’une tolérance à géométrie variable.

En cause donc, ce libraire, d’autant plus qu’il est, outre « habitué des plateaux télé » et « anti-Trierweiler », « fan du polémiste antisémite Alain Soral ».

« C’est ce que les téléspectateurs de Taddeï auraient eu aussi le droit de savoir », juge le chroniqueur Bruno Roger-Petit sur Le Nouvel Obs.
En cause également un animateur d’émission qui, contacté par Arrêt sur image, « assure qu’il n’était pas au courant ». Reste à s’interroger sur le bien fondé de ces émissions « de débat ».
Le plus drôle encore est que le même Nouvel Obs a publié cet autre article, le 08/09/14 : « Je refuse le brûlot de Trierweiler dans ma librairie: je vends des livres, pas des burgers ». Par….. Xavier de Marchis. Libraire.

Bref, ce dernier ne rejoindra sans doute pas la collection « ceux qui ont dit non », d’Actes sud junior.

Mais ne jetons pas la pierre trop vite. Que retenir de cette histoire ?
On pense bien sûr à « la paille et à la poutre »(Matt.7v1-5, 12), et à l’histoire du pharisien et du publicain(Luc 18v9-14).

Mais avant d’aller plus loin, prenons quelques minutes pour relire le sermon sur la montagne, dans les chapitres 5, 6 et 7 de l’évangile selon Matthieu.

C’est fait ?

De quoi nous remettre quelque peu à notre place, en rappelant combien les critères de Dieu(« la culture du Royaume des cieux »**)sont éloignés des nôtres, non ?
Et à quoi sommes-nous exhortés ? A nous évaluer d’abord nous-mêmes. A veiller à l’honnêteté(par rapport à nous-même cf Matt.7v1-5, Matt.6v22)et à l’équité(par rapport aux autres).  De nous garder de faire preuve de favoritisme, à l’image de qui est Dieu : soit, pas d’indignation sélective ou à géométrie variable, ou de hiérarchie dans le péché(cf Matt. 5). Quoique Dieu juge certaines choses comme étant des abominations : l’idolâtrie, l’orgueil, deux poids et deux mesures…
Veillons donc à ne pas être dans la posture de celui qui condamne les autres du haut de sa propre perfection. D’autant plus que, mieux que quiconque, nous savons d’où nous venons.

Nous sommes exhortés « à ne pas juger », et même à ne pas juger sur l’apparence.
Néanmoins, pour ne pas tomber dans un autre extrême, apprenons « à juger selon la justice » (Jean 7v24) ou à évaluer toute chose, en toute humilité : la légitimité de celui qui parle(préoccupons-nous de savoir d’où vient celui qui parle et pourquoi cf Deut.13) ou si certaines idées sont de l’ordre « de l’opinion »(Rom.14v1 et ss) ou du délit(1 Cor.15v6-13, Eph.4v17-5v18…).
Notre rôle ne sera pas celui d’un « moraliste », mais d’un « veilleur », en tant que « sel et lumière de la terre »(Matt.5v13-16 ; Eph. 5v8-10). Car il est des idées, comme des postures ou des comportements, qui ne sont pas de l’ordre du « bien ou du mal », mais qui sont susceptibles de nous entraîner tous dans des impasses, au point qu’il s’agisse d’une question de vie ou de mort. (Marc 7v15-23)

 

Notes :

* Voir, par exemple : sur Slate ; Le Point BFMTV ;  Le Figaro ; Le Parisien 

** Royaume dont on ne peut entrer que par ce chemin : cf Jean 3v1-21 et Matt.18v1-3