L’autre jour, au détour de mes lectures, je suis tombé sur un « article » vantant les possibilités de retouches d’images améliorées par IA des derniers téléphones de google (les pixels 8). Techniquement, ce n’est pas le téléphone qui fait ces retouches mais l’application photos mais passons ce point de détail.

Paraphrasant tout juste la plaquette commerciale officielle, on nous y expliquait que l’IA de google serait capable d’améliorer nos photos en remplaçant des visages maussades par des versions souriantes. C’est vrai quoi, qui n’a jamais été frustré de voir sa belle photo gâchée par des modèles distraits qui ne sourient pas au bon moment ?

Ce qui m’a choqué, ce ne sont pas les possibilités de retouches miraculeuses. Elles sont présente sur ce genre d’applications depuis quelques années et il ne s’agit que d’amélioration graduelles. Pour tout dire, leur migration sur les smartphones est due à l’augmentation des débits des réseaux qui permettent de transférer les photos vers les datacenters qui font les calculs.

Ce qui m’a choqué, c’est le traitement de ces innovations considérées comme des progrès pour l’Humanité ; des bienfaits miraculeux que nous attendrions tous et devrions embrasser avec enthousiasme. Vive l’IA, Vive Google !

Alors prenons du recul pour voir où ça nous mène…

Réécriture de l’Histoire

Commençons par le but de ces algorithmes.

Si vous vouliez prendre des photo comme un professionnel vous allez être déçus. Rien n’est fait pour améliorer un cadrage bancal ou des conditions d’expositions maladroites. Si vous ne savez pas prendre une photo pour mettre en avant un sujet et raconter son histoire, aucun de ces algorithmes ne vous y aidera.

Le seul but de ces algorithmes c’est de modifier le fond. Un visage maussade ? l’IA le rend souriant. Le siège de surveillance vous gêne sur la plage ? l’IA le supprime. Le ciel n’est pas assez romantique ? l’IA le remplace par un coucher de soleil.

Mais revenons au sourire… dans un de mes albums, on peut trouver une photo où malgré l’injonction de sourire nous faisons tous la gueule. Et heureusement ! car cette photo raconte et transmet avec fidélité et justesse l’ambiance de ce moment inoubliable. De ce point de vue, je la trouve parfaite.

Si elle avait été retouchée comme ces applications nous disent de le faire, le message original serait complètement perdu. Remplacé par un mensonge éhonté ; une trahison.

Grâce à ces innovations, réécrire l’histoire n’a jamais été aussi facile. Qu’importe la tête que je fait, qu’importe le décors, le photographe pourra tout changer pour raconter une autre histoire. La sienne, ou celle que sa communauté préfère. Et le tout, à l’insu de mon plein gré.

Dissonance identitaire

En tant que parent je ne peux que me demander quel impact auront ces innovations sur mes enfants dans le cyberespace, et sur la manière de les y préparer… Et les intox, c’était la partie facile.

L’adolescence, c’est entre autre la découverte et l’affirmation de son identité. Cette étape de la vie où on découvre qu’il y a une différence entre ce qu’on voudrait être, ce qu’on est vraiment et comment on est perçus. Et toute notre vie, nous allons essayer de réduire cette différence.

Le truc, c’est que le cyberespace n’est qu’un monde de perceptions imaginaires qui occulte presque complètement qui nous sommes vraiment. Il n’y a que ce qu’on voit (et qu’on voudrait être) et ce qu’on montre (et comment nous y sommes perçus). Et ça va poser deux gros problèmes…

Le premier problème, c’est quand nos adolescents vont être submergés par toutes ces photos retouchées. Leur quotidien ne tient déjà pas la comparaison avec tous ces influenceurs qui peaufinent professionnellement leurs apparitions. En démocratisant la retouche photo, ces IA ne font qu’empirer la situation…

Pour les adolescents, ces images représentent ce qu’ils veulent être. Bien sûr il ne s’agit que du résultat d’une production et d’un filtrage algorithmique nourri par des biais socio-culturels, mais pour eux, ce sont des canons esthétiques absolus auxquels ils doivent se conformer.

Et le gouffre entre ce qu’ils veulent être et ce qu’ils peuvent montrer est quasi infranchissable. Face à ces images idéalisées, certains vont choisir la dépression de ne pas être à la hauteur, d’autre vont tenter vainement d’y ressembler (i.e. anorexie mais pas que) et certains pourraient choisir de tricher : retoucher aussi leur image.

Ce qui nous amène au deuxième problème. À court termes ces retouches grâce aux IA vont effectivement combler la différence. Mais la démarche est toxique.

Car en retouchant leurs photos, les IA disent à nos adolescents « heureusement que je suis là pour t’embellir ». À chaque fois qu’ils l’utiliseront ils seront conscient que leur quotidien (ce qu’ils sont) n’est pas à la hauteur de leurs exigences et, pire, qu’ils sont incapable de combler l’écart sans tricher.

Ces tricheurs pensaient avoir hacké le système, ils n’ont fait que s’y enliser en y ajoutant un autre : comment assumer maintenant la différence entre ce qu’on est vraiment et ce qu’on montre sur les réseaux ? Y compris une fois hors des réseaux car pour beaucoup d’ados, virtuel et réel ne sont que les deux faces d’une même réalité.

Et imaginez maintenant l’effet que produira une retouche faite par les parents eux-même ? Quel message ces retouches portent pour les ados ?

Et maintenant ?

Quitte à innover sur l’IA, Google et cie auraient pu diriger leur R&D vers des outils de reconnaissance d’images retouchées… on aurait alors pu trier facilement le bon grain de l’ivraie, évitant quelques intox au passage. Et soyons fous ; intégrer cet outil dans les algorithmes de suggestion pour pénaliser ce type de contenu…

Nous collaborons régulièrement avec des enfants et des adolescents, des parents, des gouvernements, des leaders de l’industrie et des experts dans les domaines de la vie privée, de la sécurité des enfants, du bien-être et de l’éducation afin de concevoir des produits meilleurs et plus sûrs pour les enfants et les adolescents.¹

Mindy Brooks @ Google dans Giving kids and teens a safer experience online, 10 août 2021

Mais non ; lorsque Google s’est demandé qu’est-ce qui nous serait utile, qu’est-ce qui ferait d’Internet un endroit plus sûr pour nos enfants et nos adolescents, ils ont choisi de démocratiser la retouche de photos et la production de propagande en quantité industrielle.

Le réseau d’un million de mensonges.

Vernor Vinge dans « Un feu sur l’abîme »

Dont Acte.

Et après ?

On ne peut pas isoler nos enfants du cyberespace, c’est impossible. Tôt ou tard ils iront voir ce qu’il s’y trouve. Si, comme Frondon dans la Moria vous voudriez « que rien de tout ceci ne se soit passé », la réponse est peut être à chercher auprès de Gandalf…

Alors que faire du temps qui nous est imparti ? C’est assez simple quand on y réfléchi…

Comme toujours, favoriser une bonne estime de soi. Dans les gestes de tous les jours mais en particulier en ne retouchant jamais nos clichés, et surtout pas ceux où ils apparaissent. Montrons leur ainsi que nous sommes fiers d’eux.

Ensuite, comme nous le faisions déjà à propos des photos sur les magazines, sensibilisons-les à la retouche d’image et cultivons leur esprit critique. On peut profiter de « soirées youtube » pour partager ce que nous regardons sur le net et s’amuser à critiquer les montages et autres fakes.

Et comme d’habitude, les connecter au réel le plus possible. En rationnant les temps de cyber-plongées, en leur permettant de cultiver un réseau d’amis, en remplissant les temps de déconnexions par des activités qui leur font du bien. Le sport, en particulier les arts martiaux, sont de très bons substituts pour affermir sa présence dans le monde réel.

Épilogue

Puisqu’il est question de s’amuser à détecter les montages et autres fakes, pourquoi ne pas commencer avec le clip officiel de démonstration dont j’ai parlé au début de cet article. Vous pouvez trouver la version courte sur le store de google et une version légèrement plus longue sur youtube.

Si vous regardez bien, vous verrez que la narration n’est pas cohérente ; la photo originale comporte des incohérences qui n’apparaissent pas dans la version sensée être produite par l’IA.

La capture suivante vous montre un exemple (mais il y en a d’autres). La barre verticale dans le manège pour cheval fait toute la hauteur et n’apparaît complète que sur la version finale (à droite). Elle est incomplète sur la version originale (à gauche).

Il ne s’agit donc pas d’une démonstration de la fonctionnalité mais d’un montage qui fait semblant. Le clip promotionnel « super dad » nous le confirme avec sa mention « Features simulated »² qui apparaît les trois premières secondes (et incite les papas à lancer leurs bébé le plus haut possible mais c’est une autre histoire).