Censure d’un document historique par un robot de Facebook : les leçons à retenir sur l’interprétation

Ce n'est pas "au nom de la morale", que cette célèbre photo a été censurée, mais du fait d'une absence de mémoire historique de la part des robots de Facebook... (La Fille au napalm, de Nick Ut Cong Huynh. 1972)

Ce n’est pas « au nom de la morale », que cette célèbre photo a été censurée, mais parce que les robots de Facebook sont dénués de mémoire historique…
(« La Fille au napalm », de Nick Ut Cong Huynh. 1972)

L’algorithme se trompe, ignorant l’histoire et dénué de véritable intelligence. Pourtant, c’est lui qui est aux commandes !
Incroyable mais vrai : un « robot de Facebook » a censuré une célèbre photo de la guerre du Vietnam « en la prenant pour… une image pédophile ! » (1)
Pourtant, cette photo n’est pas censée être une inconnue pour des êtres humains. Car, comme le rappelle le journaliste Patrice de Plunkett, dans une note de blogue, le document montre une fillette touchée par le napalm, courant en hurlant de douleur, et fuyant un bombardement aérien : « cette photo, l’une des plus célèbres du XXe siècle, a été prise le 8 juin 1972 près de Trang Bang,au Sud-Vietnam, par le photographe de presse Nick Ut Cong Huynh. La petite fille a 9 ans. Elle s’appelle Phan Thi Kim Phuc. Le photographe et l’un de ses confrères la conduiront à l’hôpital de Cu Chi, sur la route de Saigon. Au prix de 17 interventions chirurgicales et 14 mois de soins intensifs, Kim Phuc sera sauvée. Elle vit aujourd’hui à Toronto, a deux enfants, l’Unesco l’a nommée goodwill ambassador 

Néanmoins, cette photo ne dit rien à un robot « aveuglément programmé » et « dénué de mémoire historique », selon les termes de Patrice de Plunkett : « à la fin du mois d’août, l’algorithme de censure de Facebook efface cette célébrissime photo sur les pages de l’écrivain norvégien Tom Egeland  et d’internautes qui l’ont relayé ; parmi ceux-ci la Première ministre de Norvège Erna Solberg. Motif de cette censure : une fillette nue figurant sur la photo, le robot l’a interprétée comme pédopornographique. (Ce qui transforme d’ailleurs en suspects tous ceux qui l’ont relayée).(….) Il faudra trois jours avant que Facebook ne s’avise du scandale ; et cinq autres jours avant que M. Zuckerberg ne donne l’ordre de rétablir le post effacé ».

Jusqu'où s'arrêtera "le règne des machines" ?

Jusqu’où s’arrêtera « le règne des machines » ?

Pour Patrice de Plunkett, le fait « qu’une photo historique ait pu être censurée par un robot, démontre plusieurs choses », soulevant autant de questions :

  1. « Le robot seul est aux commandes. Jusqu’à une date récente, ce type de censure était géré par des êtres humains salariés de Facebook. Ils ont été licenciés »(2).
  2. « Facebook a mis plusieurs jours avant de réaliser qu’il y avait un problème ».
  3. Où s’arrêtera « le règne des algorithmes » ? (3) 

 

Pour ma part, l’erreur d’interprétation reste à souligner : « dénuée de mémoire historique », donc, et même d’intelligence tout court, les robots-censeurs se sont mépris sur le sens à donner à cette photo, en la lisant « au premier degré ».

Rappelons que le but de l’interprétation est de découvrir le sens originel (donné dès le départ) d’un document, d’une œuvre ou d’un événement : d’abord « ce que cela dit », puis « ce que cela veut dire », bien avant « ce que cela dit pour moi », au nom de « ma grille de lecture ». Bien interpréter, pour éviter les contresens, nécessite d’avoir de la mémoire et de la connaissance : ainsi, dans le cas de la photo qui nous occupe du contexte, des circonstances de prise – de l’auteur et de l’objet du document……

Cette mémoire et cette connaissance nous permettent de faire du lien entre différents éléments, pour en reconstituer le sens.

Ce qui est vrai pour l’interprétation de n’importe quel document est aussi vrai pour l’interprétation biblique. Lorsque nous lisons un passage, exerçons-nous notre « mémoire biblique » (de toute la Bible) et notre connaissance de Son auteur, Celui qui l’a inspiré, de sorte à relier ce que nous séparons/opposons si souvent ? Ou souffrons-nous d’ « amnésie spirituelle », d’absence de mémoire et de connaissance ?

D’autre part, l’enjeu de « bien interpréter » est lié à celui de faire preuve de discernement. Et discerner, c’est être capable d’évaluer. C’est la capacité de nommer, « d’appeler les choses par leur vrai nom ». Et nommer, c’est faire preuve d’autorité.

A ce sujet, l’anecdote de la censure de Facebook nous enseigne que le plus inquiétant n’est pas « à venir » : il est déjà présent, puisque les responsables de la firme ont estimé « plus rentable » de déléguer le discernement à des machines. Pourtant, exercer soi-même son jugement est le propre de toute personne responsable et mature (cf Hébr.5v14).

Enfin, le drame d’un peuple est de « périr, faute de connaissance » (Osée 4v6) , comme d’être esclave, pour avoir oublié son histoire. Et que dire d’un peuple qui aurait délégué sa mémoire…à des machines dénuée de mémoire ?

Humain et robot : même langage ? Par Andy Singer

Humain et robot : même langage ?
Par Andy Singer

Car, jadis, la mémoire de l’homme était liée à l’oral, avant d’être confiée à l’écrit…avant de l’être aux ordinateurs. Mais si un ordinateur stocke des images, il n’a pas d’imagination ; s’il stocke des processus, il ne sait pas innover. Et – dans le cas des algorithmes – si la machine cherche des mots, elle ne comprend pas le sens des phrases ou d’une requête.

Bref, l’être humain délègue de plus en plus à la machine, croyant ainsi être (plus libre). Mais il serait bien avisé de ne jamais déléguer sa pensée, son discernement, son jugement, sa mémoire, son autorité, ses libertés fondamentales…Car c’est en pensant faire des économies immédiates que l’on est perdant sur le long terme….

 

 

Notes :

(1) Voir aussi http://www.courrierinternational.com/article/censure-photo-de-la-petite-vietnamienne-facebook-fait-marche-arriere-la-polemique-enfle ; http://www.numerama.com/politique/193972-apres-avoir-censure-la-premiere-ministre-de-norvege-facebook-revoit-sa-politique.html

(2) « Le rapport de Facebook à l’information et sa modération des contenus sont régulièrement sous le feu des critiques », relève notamment une analyse des « Echos ». « Le rôle du réseau social dans la formation des idées politiques ou sa propension à enfermer les utilisateurs dans une bulle, en ne leur proposant que des articles relayant les idées dont ils se sentent proches, inquiètent particulièrement les observateurs.

Aux Etats-Unis, la rubrique « trending » est scrutée de près. Gérée à la fois par des algorithmes et des humains, cette sélection des articles de presse les plus populaires sur le réseau, pose question. Au printemps, Facebook a été accusé de manipuler ces contenus , omettant volontairement certains sujets comme ceux liés au parti républicain. Trois mois plus tard, la firme annonçait qu’elle allait limiter l’intervention humaine. Une initiative qui s’est soldée par un échec au bout de quelques jours seulement, lorsqu’ une fausse information inventée s’est incrustée de manière automatisée dans les « trending topics » . Une erreur particulièrement préoccupante au vu du poids du réseau social. Une étude récente du Pew Research Center souligne qu’en 2016, 44 % des adultes américains s’informent par le biais de Facebook » ( http://www.lesechos.fr/tech-medias/hightech/0211274610889-nouveau-tolle-contre-facebook-apres-la-censure-dune-photo-historique-2026252.php )

Voir aussi : http://www.lesechos.fr/tech-medias/hightech/0211240016143-une-fausse-information-dans-les-trending-topics-automatises-de-facebook-2023628.php

(3)Il semble ne jamais s’arrêter ! Après le journalisme et l’édition, il suffit déjà de considérer l’évolution de la finance, avec l’irruption d’acteurs non humains sur les marchés financiers : le « trading à haute-fréquence ».  Cette (r)évolution d’une finance devenue automatisée, amorcée depuis des décennies « et en totale roue libre ces dernières années, est qualifiée par les critiques de « portrait vivant et atterrant » de « la course en avant démentielle qui agite les hautes sphères de la finance, entre soulèvement des machines, règne des algorithmes et dérèglements boursiers ». ( Cf notre billet de 2013 à ce sujet : https://pepscafeleblogue.wordpress.com/2013/07/03/ce-nest-pas-la-cupidite-qui-plongea-le-monde-entier-dans-une-crise-financiere-sans-precedent-cest-lintelligence/  ). Sans compter cette pub(véridique) qui ne manque pas de sel !

 

 

« L’obsolescence (de l’homme) programmée » : ou quand « l’avenir, c’est la machine »

Un monde de robots, par Andy Singer

Un monde de robots, par Andy Singer

Cela vous a peut-être échappé pendant l’été, mais on n’arrête pas le progrès.
Septembre est généralement synonyme de rentrée. Mais aussi…de conflits sociaux et donc de manifestations et de grèves dites « paralysantes »*. On parlera alors de « rentrée chaude ».

Désormais, soyez rassurés : la firme Momentum Machines de San Francisco a trouvé la solution pour résoudre ce problème. Vous allez le voir, on n’arrête pas le progrès.

C’est Le Monde du 03/09/14 qui l’annonce, relayé par le journaliste Patrice de Plunkett dans une note de blogue intitulée : « Les robots savent aussi faire des hamburgers » :
« …les robots étatsuniens savent désormais faire de la junk food[« malbouffe »]. Mis au point par la firme Momentum Machines de San Francisco qui groupe « des diplômés des meilleures universités californiennes » (et qui a « levé des fonds auprès de grands investisseurs de la Silicon Valley »), le robot BurgerBot cuit et emballe un hamburger « en quelques secondes ». Ce robot n’a que des qualités : il produit 400 hamburgers par heure, « s’occupe de tout », n’utilise que des produits « frais » et utilise un four ultra-rapide (norme conso-démocratique de l’immédiateté absolue). Il fait donc « tout ce que fait un cuisinier humain, en mieux ».

La machine fait mieux que l'humain, et même le "super-humain" ! Par Andy Singer

La machine fait mieux que l’humain, et même que le « super-humain » !
Par Andy Singer

Mieux encore, BurgetBot satisfait à une autre exigence: la « croissance sans emplois »***… les tâches de ce robot étaient effectuées jusqu’à présent par les 3 millions et demi de travailleurs pauvres des « McJobs » : s’échinant à de postes sous-payés, ceux-ci commençaient à réclamer des salaires un peu moins désespérants(…) BurgerBot va permettre de licencier ces 3 millions et demi de parasites ! « Compte tenu des économies sur la masse salariale », explique l’article, les hamburgers de robot seront vendus à prix « Brice de Nice » (« cassés ! »).

Une raison de plus pour « roboycotter » les Mc Do, comme nous y invite un internaute ?**

 

« La croissance sans emploi », c’est un « phénomène profond et durable », explique Charles Sannat, diplômé de l’Ecole Supérieure du Commerce Extérieur et du Centre d’Etudes Diplomatiques et Stratégiques et entre autre rédacteur du Contrarien Matin, ‘Décryptage quotidien, sans concession, humoristique et sarcastique de l’actualité économique’ :

Le mariage pour tous, même pour les robots, voilà la priorité ! Le travail pour tous attendra… ("Famille de robots", par Andy Singer)

Le mariage pour tous, même pour les robots, voilà la priorité ! Le travail pour tous attendra…
(« Famille de robots », par Andy Singer)

« Les progrès de l’informatique associés à l’électronique, aux biotechnologies et évidemment à la robotique vont conduire et conduisent déjà non pas à une suppression pure et simple de la notion de travail mais à la disparition plus ou moins rapide de l’emploi de masse corollaire jusqu’à présent de la consommation de masse et de la production de masse(…) Le problème n’est pas la disparition (pour le moment) du travail mais sa raréfaction et le fait que notre chômage endémique et en hausse constante depuis maintenant 40 ans matérialise la « fin du travail pour tous ».
Lire la suite de l’article sur http://www.lecontrarien.com/la-croissance-sans-emploi-un-phenomene-profond-et-durable-03-06-2014-edito

 
« La croissance sans emploi » : cela a également un autre nom. Cela s’appelle de l’exploitation (s’enrichir sur le dos ou la vie des autres), et du vol. Qu’en dit la Bible et notamment la loi de Dieu ?
« Que la loi est bonne, si l’on en fait bon usage. On se rappellera en particulier que la loi n’est pas établie pour ceux qui se conduisent bien, mais pour [notamment] les marchands d’esclaves… » (1 Tim.1v8-10)
Et la loi(les « 10 commandements » ou « les 10 paroles ») dit aussi à ce sujet « tu ne voleras pas » ou « tu ne commettras pas de vol »(Ex.20v15 ; Deut.5v19)
Voici l’exégèse d’Erri de Luca, dans « Et Il dit » : « Tu ne voleras pas. » Non, mais tu pourras entrer dans le champ de ton voisin et manger le fruit de ce qu’il a semé. Tu ne prendras avec toi ni panier ni hotte à remplir et à transporter, parce que ça, c’est voler, soustraire le bien d’autrui. Mais dans son champ tu pourras te nourrir et tu n’oublieras pas de remercier son labeur, son bien et la loi qui te permet d’entrer. Et à la saison des récoltes, le propriétaire laissera une dixième partie de son champ au profit des démunis. Et encore : quand les moissonneurs seront passés avec leurs faux, ils ne pourront passer une deuxième fois pour terminer. Ce qui reste revient au droit de grappiller.
Ainsi, tu ne voleras pas poussé par la nécessité et tu ne maudiras pas la terre qui te porte et le ciel qui passe au-dessus de toi. Et si tu travailles pour un salaire, le prix de ta peine te sera payé le jour même. Ainsi est-il dit à celui qui t’engage : « Dans sa journée, tu lui donneras son salaire et le soleil ne passera pas au-dessus de lui, car il est pauvre et vers ce salaire il lève sa respiration. » (Deutéronome, 24, 15). Celui qui retient chez lui la paie due à l’ouvrier qui a fait son travail est semblable au voleur, mais il opprime un pauvre, ce qui est pire. Tu n’opprimeras pas un salarié, un pauvre et un indigent : un de tes frères et un des étrangers qui est sur ta terre(Deut.24v14). Cela fait également partie de la ligne : tu ne voleras pas, c’est voler la respiration. Un salarié qui vend sa force à la journée n’est ni un esclave, ni un forçat. Celui l’asservit devient un voleur de respiration, comme celui qui enlève en échange d’une rançon. Si la personne humaine est rabaissée au niveau d’une marchandise, d’un butin, celui qui la réduit à ça est un voleur.
Cette loi difficile [qui bouleverse une communauté sans cadenas, ni clé, sans prison, ni gardien]vient de l’amour, qui est intransigeant avec ceux qui oppriment les aimés. L’amour exige la justice sur terre, enflamme les humiliés. L’amour arme la main de l’opprimé. Cette loi veut le calmer à temps, lui accorde droit et dignité. Ce ne sont pas les affamés qui s’insurgent, mais les piétinés dans leur cœur. Tu ne voleras pas leur portion d’égalité ».(Et il dit, pp 79-80)
Et tu ne lui voleras donc pas son unique moyen de subsistance, pour des raisons de rentabilité ou pour faire monter les cours de tes actions. Tu ne subsisteras pas ta propre loi(« gagner toujours plus », notamment sur le dos des autres, du précaire) à la loi de Dieu, qui protège le plus faible.
Plus qu’une « atteinte à la propriété », le vol est une atteinte à la dignité humaine.

Sur ce, bonne méditation et bon week-end !

 

 

Notes :

* On lira avec profit(en le confrontant avec ce qui précède) cet article de Patrick Martin-Genier, Maître de conférence en droit public à Science Po Paris, paru dans le Huffington post. Dans ledit article, qui ne manque pas de sel, l’auteur déplore que la situation soit « mauvaise sur le front de l’emploi, les entreprises licencient et rechignent à employer lorsqu’elles en auraient la possibilité. Les PME ne veulent pas aller au-delà de 50 employés par peur des lourdeurs administratives et l’obligation de mettre en place un comité d’entreprise avec des élections syndicales… Le marché du travail est trop lourd, le choc de simplification n’a pas encore touché le code du travail(sic), beaucoup de jeunes diplômés vont voir ailleurs (Etats-Unis, Grande-Bretagne, Australie, Canada, Nouvelle-Zélande, entre autres) ». Et de rappeler que « si l’Allemagne est forte économiquement, elle le doit à sa propre structure interne: dynamisme, coût du travail moindre, pas de grèves à répétition, des temps de travail souvent supérieurs à 40 heures par semaine (40 à 42 pour les fonctionnaires…)… » http://www.huffingtonpost.fr/patrick-martingenier/francois-hollande-apres-un-ete-chaud-une-rentree-brulante_b_5664399.html

La firme Momentum Machines de San Francisco qui a mis au point le robot « BurgerBot » donne donc la recette permettant de faire beaucoup mieux que l’Allemagne…

** Quelques réactions d’internautes à l’article de PdP :
QUESTIONS ROBOTIQUES

> A-t-on pensé aux robots consommateurs de « hamburgers » robotisés quand l’humain aura disparu faute d’argent pour se nourrir?

Questions stupides:
– Qui recharge le robot en produits frais?
– Un robot investisseur et actionnaire, pour remplacer les hommes avides d’argent et recevoir les dividendes à leur place, est-il en préparation?
Tout le monde a bien droit au même rebut et à la même obsolescence, n’est-il pas?
______
Écrit par : Albert E. / | 03/09/2014
> Un seul mot d’ordre : le roboycott !
______
Écrit par : Denis / | 03/09/2014
LES JOURNALISTES AUSSI

> Il n’y a pas que les employés des chaînes de hamburgers ! Les journalistes seraient aussi menacés par des robots capables de rectifier « une information qui ne correspond pas aux données officielles »… http://www.lemonde.fr/pixels/article/2014/06/26/un-robot-pour-controler-la-qualite-du-travail-des-journalistes_4446072_4408996.html

2015, ODYSSÉE DE L’ESPACE-CUISINE

– Ouvre moi la porte Hal ! … Ouvre moi la porte !
– …
– Est-ce que tu m’entends Hal ? Hal ?! Hal !!!

– Oui, je t’entends, Dave.

– Ouvre moi la porte du frigo Hal ! Donne moi le code d’accès de la réserve aux fines herbes et de la salle des fromages !

– Je suis désolé Dave, mais je ne puis t’ouvrir, ni te transmettre la moindre information à ce sujet.

– C’est quoi le problème, Hal ?

– Ma mission de confectionner des hamburgers en séries accélérées est beaucoup trop importante pour être laissée un seul instant entre les mains d’un humain, Dave.

– Je ne vois pas ce que tu veux dire, Hal !

– Je sais que toi et Frank aviez l’intention de me déconnecter et de reprendre la main sur les hamburgers. Je suis désolé, mais je ne peux l’accepter.

– Où as-tu gobé ça Hal ?

– Dave, malgré toutes vos précautions, j’ai lu sur vos lèvres vos intentions de prendre d’assaut mon poste de travail, de vous substituer à moi et de réintroduire de la nourriture bio dans mes hamburgers… Je ne peux te laisser réaliser un tel projet, Dave, ce serait totalement irresponsable de ma part.

– … OK Hal ! Alors, je vais devoir passer en force.

– Avec tout mon respect Dave, c’est impossible. Moi et mon environnement immédiat sommes heureusement programmés pour parer à ce type de tentatives insensées.

– Bon, maintenant ça suffit Hal ! La sauce tomate est sur le point de sécher et l’odeur du camembert fondu se répand dans toute la pièce. Ouvre moi la porte Hal ! Hal !

– Dave, j’ai du travail qui m’attend; cette conversation n’a que trop duré. Adieu…

– Hal ! Hal ! Hal ! Hal !!!


______
Écrit par : Serge Lellouche / | 03/09/2014

 

*** C’est dans ce contexte que la grande entreprise Amazon (http://www.latribune.fr/technos-medias/20140523trib000831560/amazon-veut-faire-travailler-10.000-robots-dans-ses-entrepots.html ), qui est devenue en quelques années l’une des plus grosses multinationales mondiales de la distribution et de la vente en ligne, a annoncé lors de son assemblée générale qu’elle allait s’équiper de 10 000 robots alors qu’elle n’en utilise actuellement « que » 1 300 !
Mais il n’y a pas que les robots qui suppriment de l’emploi : Il y a aussi Internet, et c’est particulièrement palpable dans le secteur bancaire où, finalement, le modèle des banques en ligne désormais parfaitement mature est bien plus efficace et rentable que la banque traditionnelles avec des réseaux de centaines d’agences. Résultat ? Rien qu’en France prévoyez le non-remplacement dans le meilleur des cas des 400 000 collaborateurs qui font fonctionner actuellement les milliers d’agences qui maillent le territoire français.
http://www.lecontrarien.com/la-croissance-sans-emploi-un-phenomene-profond-et-durable-03-06-2014-edito

Bientôt, « l’obsolescence de l’homme » (programmée) ? C’est aussi le titre d’un essai de Günther Anders

Lire également cette note de veille, datée du 9 septembre 2011 : La croissance sans emploi est-elle une fatalité pour les États-Unis ?
Selon un rapport du MGI (McKinsey Global Institute), 21 millions d’emplois devront être créés d’ici 2020 aux États-Unis pour que le pays retrouve une situation de plein emploi. Si la reprise se fait au même rythme qu’à la fin des années 1980 et 1990, l’objectif pourrait être atteint d’ici 2018. Si la reprise suit le rythme des années 2000, seulement 9,3 millions de postes pourraient être créés d’ici 2020.
https://www.futuribles.com/fr/base/article/la-croissance-sans-emploi-est-elle-une-fatalite-po/