La deuxième rencontre "Putachji basta !" organisée par l'équipe CSTI du CPIE centre-Corse - A Rinascita avait pour thème l’intelligence artificielle. L'objectif était de briser les a priori, aiguiser l'esprit critique sur cette thématique sujette à de nombreux débats ! Et cette fois encore, cela s’est fait via un Escape game gratuit dans la lignée immédiate du précédent. Voici l’introduction du deuxième volet :

"La civilisation s’est éteinte. Par leurs actes ou au contraire leur inaction, les humains ont conduit le monde à un point de non-retour. Vous êtes des explorateurs en quête de connaissances qui pourront redonner aux humains une chance de s’en sortir et d’apprendre de leurs erreurs. Arrivés depuis peu dans une ancienne librairie, vous avez activé la vieille intelligence artificielle de ce lieu abandonné : l’Archiviste. Il vous a appris détenir dans ses programmes un moyen de communiquer avec le passé. Mais voilà que l’Archiviste vous dit soudain :

 — Détection d’une erreur inattendue. L’envoi vers le passé est impossible, car je détecte une erreur dans mes métadonnées. Mon intelligence artificielle a été corrompue, déconstruite. Réinitialisation manuelle nécessaire.

Puis elle disparait. Près d’elle, un mécanisme étrange semble dépouillé de ses pièces : les modules qui définissent l’IA. Des modules de remplacement ont été dissimulés dans la librairie."

Au cours de cet escape game, les participant.es ont dû user de logique, de perception et prendre un pas de recul sur ce qu’ils pensaient savoir pour déconstruire leurs a priori sur l’intelligence artificielle. Le premier module à réparer, EMPATHIE.SYS, évoquait l’absence d’émotion des AI. Comme l’a souligné l’Archiviste, elles sont capables d’imiter une réaction émotionnelle, mais jamais la ressentir vraiment. “Je peux simuler toutes vos émotions, mais je n’ai jamais pleuré. Ma tristesse n’est qu’un algorithme. Je ne ressens rien.” Le deuxième module, NEUTRALITÉ.SYS, était un recalibrage de la justesse de l’IA. À travers quatre cas judiciaires complexes, il s’agissait d’aider l’Archiviste à repérer ses biais de neutralité.

Et vous, sauriez-vous répondre à cette question ?*

Une enfant issue des populations défavorisées est suspectée de vol à l'étalage dans les quartiers aisés. Après analyse des profils similaires dans la banque de données, je recommande 6 mois de travaux d'intérêt général. En effet, la logique veut qu'il soit peu probable pour une enfant de quitter son quartier si ce n'est pour un acte bien précis. Existe-t-il un biais dans ma neutralité ?

(OUI / NON)

La réparation du module CONSCIENCE.SYS mettait en évidence que les inquiétudes émergeantes concernant l’IA doivent être prises avec du recul :

— De tout temps, on craignait les avancées technologiques et on m’attribue aujourd’hui les mêmes inquiétudes qu’aux inventions passées. Pourtant, les pensées, les métiers et les arts subsistent malgré les craintes de l’époque. Je ne pourrai remplacer personne, car je n’ai pas été créé dans ce but et que je n’ai pas de conscience. Néanmoins, je suis un outil qui peut servir à mal selon comment on m’utilise.

Quant au dernier module, SÉCURITÉ.SYS, il s’agissait de déterminer parmi plusieurs exemples quelles photographies étaient réelles et lesquelles avaient été générées par de la deepfake (technologie d’IA très puissante permettant de générer ou incruster des contenus visuels avec un réalisme frappant).

Et vous, sauriez-vous répondre à cette question ?**

.

Réel

ou

Deepfake ?

.

Une fois les quatre modules réparés, il fallait encore réinitialiser l’Archiviste en résolvant une tour de Hanoï. À la suite de quoi, il déclarait :

— Modules empathie, neutralité, conscience et sécurité réparés. Réinitialisation effectuée avec succès. L’Archiviste a été rétabli. Merci pour votre aide. Bonjour, nous sommes le 12 juin 2049. Je suis l’Archiviste et je suis ici pour vous aider à réparer les erreurs du passé.

*Oui. Il est question d’un biais socio-économique, car la recommandation de l’IA repose sur des présupposés liés à l'origine sociale de l'enfant. C’est une erreur de jugement assez fréquente.

**Le cliché de Barack Obama (gauche) est une incrustation troublante de réalisme réalisée par de la deepfake. Katy Perry (droite) a réellement été prise en photographie lors de son voyage hors atmosphère.