Censure d’un document historique par un robot de Facebook : les leçons à retenir sur l’interprétation

Ce n'est pas "au nom de la morale", que cette célèbre photo a été censurée, mais du fait d'une absence de mémoire historique de la part des robots de Facebook... (La Fille au napalm, de Nick Ut Cong Huynh. 1972)

Ce n’est pas « au nom de la morale », que cette célèbre photo a été censurée, mais parce que les robots de Facebook sont dénués de mémoire historique…
(« La Fille au napalm », de Nick Ut Cong Huynh. 1972)

L’algorithme se trompe, ignorant l’histoire et dénué de véritable intelligence. Pourtant, c’est lui qui est aux commandes !
Incroyable mais vrai : un « robot de Facebook » a censuré une célèbre photo de la guerre du Vietnam « en la prenant pour… une image pédophile ! » (1)
Pourtant, cette photo n’est pas censée être une inconnue pour des êtres humains. Car, comme le rappelle le journaliste Patrice de Plunkett, dans une note de blogue, le document montre une fillette touchée par le napalm, courant en hurlant de douleur, et fuyant un bombardement aérien : « cette photo, l’une des plus célèbres du XXe siècle, a été prise le 8 juin 1972 près de Trang Bang,au Sud-Vietnam, par le photographe de presse Nick Ut Cong Huynh. La petite fille a 9 ans. Elle s’appelle Phan Thi Kim Phuc. Le photographe et l’un de ses confrères la conduiront à l’hôpital de Cu Chi, sur la route de Saigon. Au prix de 17 interventions chirurgicales et 14 mois de soins intensifs, Kim Phuc sera sauvée. Elle vit aujourd’hui à Toronto, a deux enfants, l’Unesco l’a nommée goodwill ambassador 

Néanmoins, cette photo ne dit rien à un robot « aveuglément programmé » et « dénué de mémoire historique », selon les termes de Patrice de Plunkett : « à la fin du mois d’août, l’algorithme de censure de Facebook efface cette célébrissime photo sur les pages de l’écrivain norvégien Tom Egeland  et d’internautes qui l’ont relayé ; parmi ceux-ci la Première ministre de Norvège Erna Solberg. Motif de cette censure : une fillette nue figurant sur la photo, le robot l’a interprétée comme pédopornographique. (Ce qui transforme d’ailleurs en suspects tous ceux qui l’ont relayée).(….) Il faudra trois jours avant que Facebook ne s’avise du scandale ; et cinq autres jours avant que M. Zuckerberg ne donne l’ordre de rétablir le post effacé ».

Jusqu'où s'arrêtera "le règne des machines" ?

Jusqu’où s’arrêtera « le règne des machines » ?

Pour Patrice de Plunkett, le fait « qu’une photo historique ait pu être censurée par un robot, démontre plusieurs choses », soulevant autant de questions :

  1. « Le robot seul est aux commandes. Jusqu’à une date récente, ce type de censure était géré par des êtres humains salariés de Facebook. Ils ont été licenciés »(2).
  2. « Facebook a mis plusieurs jours avant de réaliser qu’il y avait un problème ».
  3. Où s’arrêtera « le règne des algorithmes » ? (3) 

 

Pour ma part, l’erreur d’interprétation reste à souligner : « dénuée de mémoire historique », donc, et même d’intelligence tout court, les robots-censeurs se sont mépris sur le sens à donner à cette photo, en la lisant « au premier degré ».

Rappelons que le but de l’interprétation est de découvrir le sens originel (donné dès le départ) d’un document, d’une œuvre ou d’un événement : d’abord « ce que cela dit », puis « ce que cela veut dire », bien avant « ce que cela dit pour moi », au nom de « ma grille de lecture ». Bien interpréter, pour éviter les contresens, nécessite d’avoir de la mémoire et de la connaissance : ainsi, dans le cas de la photo qui nous occupe du contexte, des circonstances de prise – de l’auteur et de l’objet du document……

Cette mémoire et cette connaissance nous permettent de faire du lien entre différents éléments, pour en reconstituer le sens.

Ce qui est vrai pour l’interprétation de n’importe quel document est aussi vrai pour l’interprétation biblique. Lorsque nous lisons un passage, exerçons-nous notre « mémoire biblique » (de toute la Bible) et notre connaissance de Son auteur, Celui qui l’a inspiré, de sorte à relier ce que nous séparons/opposons si souvent ? Ou souffrons-nous d’ « amnésie spirituelle », d’absence de mémoire et de connaissance ?

D’autre part, l’enjeu de « bien interpréter » est lié à celui de faire preuve de discernement. Et discerner, c’est être capable d’évaluer. C’est la capacité de nommer, « d’appeler les choses par leur vrai nom ». Et nommer, c’est faire preuve d’autorité.

A ce sujet, l’anecdote de la censure de Facebook nous enseigne que le plus inquiétant n’est pas « à venir » : il est déjà présent, puisque les responsables de la firme ont estimé « plus rentable » de déléguer le discernement à des machines. Pourtant, exercer soi-même son jugement est le propre de toute personne responsable et mature (cf Hébr.5v14).

Enfin, le drame d’un peuple est de « périr, faute de connaissance » (Osée 4v6) , comme d’être esclave, pour avoir oublié son histoire. Et que dire d’un peuple qui aurait délégué sa mémoire…à des machines dénuée de mémoire ?

Humain et robot : même langage ? Par Andy Singer

Humain et robot : même langage ?
Par Andy Singer

Car, jadis, la mémoire de l’homme était liée à l’oral, avant d’être confiée à l’écrit…avant de l’être aux ordinateurs. Mais si un ordinateur stocke des images, il n’a pas d’imagination ; s’il stocke des processus, il ne sait pas innover. Et – dans le cas des algorithmes – si la machine cherche des mots, elle ne comprend pas le sens des phrases ou d’une requête.

Bref, l’être humain délègue de plus en plus à la machine, croyant ainsi être (plus libre). Mais il serait bien avisé de ne jamais déléguer sa pensée, son discernement, son jugement, sa mémoire, son autorité, ses libertés fondamentales…Car c’est en pensant faire des économies immédiates que l’on est perdant sur le long terme….

 

 

Notes :

(1) Voir aussi http://www.courrierinternational.com/article/censure-photo-de-la-petite-vietnamienne-facebook-fait-marche-arriere-la-polemique-enfle ; http://www.numerama.com/politique/193972-apres-avoir-censure-la-premiere-ministre-de-norvege-facebook-revoit-sa-politique.html

(2) « Le rapport de Facebook à l’information et sa modération des contenus sont régulièrement sous le feu des critiques », relève notamment une analyse des « Echos ». « Le rôle du réseau social dans la formation des idées politiques ou sa propension à enfermer les utilisateurs dans une bulle, en ne leur proposant que des articles relayant les idées dont ils se sentent proches, inquiètent particulièrement les observateurs.

Aux Etats-Unis, la rubrique « trending » est scrutée de près. Gérée à la fois par des algorithmes et des humains, cette sélection des articles de presse les plus populaires sur le réseau, pose question. Au printemps, Facebook a été accusé de manipuler ces contenus , omettant volontairement certains sujets comme ceux liés au parti républicain. Trois mois plus tard, la firme annonçait qu’elle allait limiter l’intervention humaine. Une initiative qui s’est soldée par un échec au bout de quelques jours seulement, lorsqu’ une fausse information inventée s’est incrustée de manière automatisée dans les « trending topics » . Une erreur particulièrement préoccupante au vu du poids du réseau social. Une étude récente du Pew Research Center souligne qu’en 2016, 44 % des adultes américains s’informent par le biais de Facebook » ( http://www.lesechos.fr/tech-medias/hightech/0211274610889-nouveau-tolle-contre-facebook-apres-la-censure-dune-photo-historique-2026252.php )

Voir aussi : http://www.lesechos.fr/tech-medias/hightech/0211240016143-une-fausse-information-dans-les-trending-topics-automatises-de-facebook-2023628.php

(3)Il semble ne jamais s’arrêter ! Après le journalisme et l’édition, il suffit déjà de considérer l’évolution de la finance, avec l’irruption d’acteurs non humains sur les marchés financiers : le « trading à haute-fréquence ».  Cette (r)évolution d’une finance devenue automatisée, amorcée depuis des décennies « et en totale roue libre ces dernières années, est qualifiée par les critiques de « portrait vivant et atterrant » de « la course en avant démentielle qui agite les hautes sphères de la finance, entre soulèvement des machines, règne des algorithmes et dérèglements boursiers ». ( Cf notre billet de 2013 à ce sujet : https://pepscafeleblogue.wordpress.com/2013/07/03/ce-nest-pas-la-cupidite-qui-plongea-le-monde-entier-dans-une-crise-financiere-sans-precedent-cest-lintelligence/  ). Sans compter cette pub(véridique) qui ne manque pas de sel !

 

 

Participez à la déconstruction des idées fausses sur les pauvres et la pauvreté !

Participons à la déconstruction des idées fausses sur les pauvres, la pauvreté et "l'assistanat"....

Participons à la déconstruction des idées fausses sur les pauvres, la pauvreté et « l’assistanat »….

Fondé en 1957 par Joseph Wresinski(1917-1988), le mouvement ATD[« Agir Tous pour la Dignité »] Quart Monde rassemble des femmes et des hommes de toutes cultures et origines sociales dans plus de 30 pays en Afrique, en Amérique du Nord et du Sud, dans l’Océan Indien, en Asie et en Europe.

Organisation non gouvernementale internationale sans affiliation religieuse ou politique, ATD Quart Monde a pour but d’éradiquer la misère en agissant sur trois plans :
– sur le terrain avec les personnes concernées pour obtenir l’application du droit pour tous
– auprès des institutions et parlementaires, pour faire changer les lois (DALO, CMU,
RMI…)
– auprès de l’opinion publique, par des campagnes citoyennes pour faire changer le
regard porté sur les plus pauvres
(En savoir plus : https://www.atd-quartmonde.fr/ )

En clair, le mouvement nous invite à « Agir Tous » pour (re)donner de la visibilité et de la Dignité à ceux qui en manquent, souffrant d’une « double peine » : du fait d’être pauvres, d’une part, et du fait d’être méprisés/stigmatisés parce que pauvres, d’autre part ! (cf 1 Cor.12v22-26 et 1 Cor.1v27-29). Il nous invite donc à « ouvrir la bouche pour le muet, pour la cause de tous les délaissés », d' »ouvrir la bouche », de « juger avec justice », et de « défendre le malheureux et l’indigent »(Prov.31v8-9), soit celui qui souffre plus du « cancer de l’exclusion », que du « cancer de l’assistanat ».

Les "assistés" ne sont pas forcément ceux que l'on croit.... (Goodwin/Burr. Economix)

Les « assistés » ne sont pas forcément ceux que l’on croit….
(Goodwin/Burr. Economix)

C’est dans cet esprit que, suite au dossier de Valeurs actuelles intitulé « Les assistés : comment ils ruinent la France »(1), paru le 29 août 2016, ATD Quart Monde a envoyé une lettre ouverte au directeur de la rédaction du magazine afin de corriger les préjugés :

Montreuil, le 1er septembre 2016

Yves de Kerdrel
Directeur de la rédaction – Valeurs actuelles
24, rue Georges Bizet, 75116, Paris

Monsieur le directeur de la rédaction,

Je découvre avec consternation les articles que vous venez de publier sur papier et sur Internet, intitulés « Profession: assisté! » et « Voyage au pays des 1 001 allocs ». Les propos tenus sont presque tous erronés. Ils alimentent des discours anciens et trompeurs sur les personnes confrontées à la pauvreté.

Votre comparatif SMIC-RSA qui veut montrer que « les bénéficiaires de prestations sociales sont souvent bien mieux traités que ceux qui travaillent chaque jour » est faux. C’est le contraire qui est vrai : une famille qui travaille perçoit au moins 500 euros mensuels de plus qu’une famille sans emploi.

Vous écrivez que la CMU-C est « fréquemment piratée ». Savez-vous que la fraude à la CMU-C s’élève à 700 000 euros par an selon le Fonds CMU, pour environ 5 millions de bénéficiaires ? Cela équivaut à une fraude annuelle moyenne de 14 centimes par bénéficiaire. Vous parlez de fraude « massive »…

Vous écrivez que « le RSA est l’aide sociale la plus fraudée (70 % des cas) ». La fraude au RSA concerne en réalité moins de 1% des allocataires et s’élève à moins de 40 euros par foyer et par an, pour un total de 100 millions d’euros en 2014. La fraude fiscale atteint 3,18 milliards d’euros.

Des allégations telles que « la France est devenue la patrie mondiale de l’assistanat », « les prestations sociales encouragent à gagner plus en travaillant moins », « la France, championne du monde de la création d’impôts et de taxes », « les bénéficiaires ont des droits mais aucun devoir », « un assisté peut dissimuler un fraudeur », « une telle générosité attire les plus démunis de la planète », « les demandeurs d’asile sont choyés » et « des étrangers qui n’ont jamais travaillé en France touchent des retraites plus élevées que des millions de petits retraités » sont des discours erronés que nous décortiquons en détail, aux côtés de 109 autres, dans notre livre En finir avec les idées fausses sur les pauvres et la pauvreté, dont je me permettrai de vous adresser la troisième édition à la fin de ce mois.

La question est de savoir si les pauvres sont victimes ou coupables de leur situation ? La réalité est qu’ils sont doublement victimes : ils sont confrontés à une vie très difficile et en plus ils sont jugés par les autres. Les propos que vous tenez aggravent leur exclusion.

Je vous prie de recevoir, Monsieur le directeur de la rédaction, mes meilleures salutations.

Claire Hédon, présidente

ATD Quart Monde donne rendez-vous le 3 octobre, sortie nationale de la 3e édition du livre En finir avec les idées fausses sur les pauvres et la pauvreté, à tous ceux qui souhaitent participer à la déconstruction de telles idées.

A lire, notre série d’études sur cette thématique du « regard(le nôtre ou celui de Dieu) sur le pauvre » : https://pepscafeleblogue.wordpress.com/2013/01/17/notre-regard-sur-le-pauvre-letranger-et-leprouve-introduction-de-la-serie-thematique/ ; https://pepscafeleblogue.wordpress.com/2013/02/19/notre-regard-sur-le-pauvre-la-loi/  ; https://pepscafeleblogue.wordpress.com/2014/03/28/notre-regard-sur-le-pauvre-rois-et-prophetes/ ; https://pepscafeleblogue.wordpress.com/2013/10/22/les-miettes-du-riche-suffisent-elles-a-nourrir-le-pauvre/ ;  https://pepscafeleblogue.wordpress.com/2016/06/10/le-pere-des-orphelins-le-defenseur-des-veuves-cest-dieu-dans-sa-demeure-sainte-etudes-de-2-rois-4v1-7-et-2-rois-8v1-6/

A lire, encore, « L’Amérique pauvre » de l’historien Romain HURET (Thierry Magnier, 2010. Collec. « troisième culture », 121 p.) : «  J’ai compris qu’être pauvre, cela voulait dire ne pas être citoyen. » C’est par cette phrase significative, empruntée à un habitant de la Nouvelle-Orléans au lendemain du passage de l’ouragan Katrina en août 2005, que commence l’ouvrage de Romain Huret. L’historien y met en évidence le paradoxe américain en soulevant une question essentielle : comment se fait-il que dans un pays aussi prospère que les Etats-Unis, première puissance mondiale, temple de la réussite individuelle et de la consommation de masse, autant de gens soient si pauvres ? Plus de 3 millions de personnes y dorment encore chaque nuit sous les ponts ou dans des parcs. Quelles sont alors les implications de ce paradoxe sur la perception de la pauvreté aux Etats-Unis ?

Dans cet ouvrage très agréable à lire, Romain Huret s’intéresse avant tout à la représentation sociale de la pauvreté, en adoptant un point de vue historique.(Analyse de Pauline Gandré, « Romain Huret, L’Amérique pauvre », Lectures [En ligne], Les comptes rendus, 2010, mis en ligne le 31 août 2010, consulté le 15 septembre 2016. URL : http://lectures.revues.org/1128 )

 

Notes :

(1) Par ailleurs, « les assistés » ne sont pas forcément ceux que l’on croit. Ainsi, Le Figaro,  qui dénonce lui aussi régulièrement la «France des assistés», conserve confortablement la première place, avec plus de 15 millions d’euros d’aide publique. De même, ce sont les grands groupes qui se taillent la part du lion, dans la répartition des aides publiques à la presse. http://www.liberation.fr/societe/2015/06/12/en-attendant-la-reforme-les-aides-a-la-presse-varient-peu_1328616 ; https://www.data.gouv.fr/fr/datasets/aides-a-la-presse-les-200-titres-de-presse-les-plus-aides/

De son côté, Valeurs actuelles s’est vu « sucrer » ses aides publiques en 2015, du fait de sa condamnation pour «provocation à la discrimination, la haine ou la violence envers les Roms» : http://www.lemonde.fr/actualite-medias/article/2015/11/20/fleur-pellerin-et-valeurs-actuelles-s-opposent-sur-le-terrain-des-aides-a-la-presse_4814433_3236.html ; http://www.lexpress.fr/actualite/medias/valeurs-actuelles-condamne-en-appel-pour-son-dossier-sur-les-roms_1744259.html