mardi 4 avril 2023

Sur l'antisémitisme de Hannah Arendt

 

"Les origines du totalitarisme. Livre 1 : Sur l'antisémitisme." de Hannah Arendt. Complexe, riche et passionnante étude de l'état de l'Europe à la fin du XIXe siècle et au début du XXe vis -à-vis des juifs. Pour mieux comprendre le contexte politique et social qui fut le terreau du basculement dans l'horreur des années quarante. 

samedi 1 avril 2023

Un oeil sur l'Intelligence Artificielle


Un algorithme à la place du coeur ?



Petites pensées en passant sur l'Intelligence Artificielle après avoir écouté ces derniers temps Idriss Aberkane sur Youtube (que je vous conseille vivement de suivre) et lu un fil intéressant de Peonia sur Tweeter (que je vous conseille également), ainsi que quelques autres. Voilà un sujet passionnant, intriguant, voire inquiétant, pour les amateurs de SF comme je le suis. J'y connais peu de chose encore mais je suis très attiré par ce phénomène technologique qui pourrait bien être un raz-de-marée de plus amenant des changements profonds. Quoique pour l'instant, chaque fois que je m'en approche j'ai l'impression qu'on a cherché à me vendre une 2cv en prétendant que c'était une Ferrari.


D'abord, j'aimerais reprendre une définition d'une autrice que j'ai trouvé pertinente, nous devrions plutôt parler de «SCA, Système Cognitif Artificiel » sans intelligence, sans réflexion, sans état d'âme, sans âme du tout d'ailleurs. Le mot clé, là-dedans, c'est bien sûr « artificiel ». Répétons-le, réfléchissons-y, « artificiel ». Quand j'entends « artificiel », j'entends aussitôt « artifice » en écho. « Artificiel », n'est-ce pas ce qui caractériserait le mieux nos sociétés occidentales modernes ? Hommes politiques artificiels, partis politiques artificiels, journalistes artificiels, chaînes d'infos artificiels, films hollywoodiens aux aventures artificielles, relations artificielles, émotions artificielles... Peut-être en partie en tout cas. Alors, que l'humain se fasse un clone artificiel de lui-même en ne copiant qu'une partie de sa réalité, l'intelligence, ou plutôt le calcul associé à des banques de données, ce n'est finalement pas très surprenant, peut-être simplement la suite logique de son histoire. 


Ce que j'ai pu comprendre, c'est qu'il n'y a pas une I.A. mais des I.A., comme il y a des logiciels différents, comme il y a des « applis » pour des utilités différentes. Pour l'instant, ce sont des outils, comme un tournevis, une voiture, un pistolet, une bombe atomique. Elles peuvent créer une image, un texte, un film, faire des calculs plus gigantesquement rapides que l'humain ne le pourrait, elles peuvent proposer des technologies à breveter, être des aides techniques à divers niveaux pour divers métiers et diverses fonctions. Il semblerait aussi qu'elles peuvent apprendre et apprendre à apprendre. Si au départ, elles sont programmées pour analyser un champ donné, on peut aussi les programmer à définir elle-même leur apprentissage dans n'importe quel champ. Je me trompe ? Un peu de temps encore, quelques décennies et on peut concevoir qu'une super-I.A. (un Super-SCA, un SSCA) ait ingurgité toutes les données du monde, dans tous les domaines et avoir résolu toutes les imperfections qu'on peut constater aujourd'hui dans les diverses I.A. existantes. Ces erreurs, limitations et imperfections ne sont-elles pas là parce que le développement des I.A. n'en est qu'à son début ? Quand sera-t-il dans cent ans ? Dès aujourd'hui, certains (devinez qui ?) disent que 300 millions de personnes pourraient perdre leur emploi dans les décennies à venir, remplacés qu'ils seraient par des outils comme Chat gipiti (Generative Pretraining Transformer). En utilisant un tel outil, un employé d'une agence de com pourrait faire son propre travail plus le travail d'un graphiste (qui serait donc remplacé par l'I.A) plus le travail d'un rédacteur (qui serait également remplacé par une autre I.A.).


Les images produites par les I.A. que j'ai pu voir, des I.A. que je pourrais appeler des « logiciels développés de production de visuels » ne m'ont pas convaincu par leur beauté, leur créativité ni leur originalité. Si je demande « crée-moi un dessin de Brad Pitt à la Hergé », le résultat ressemblera plutôt à un dessin de Brad Pitt à la I.A. qui croit faire du Hergé. La diversité créative des humains est immense, parce que liée à la personnalité originale et unique de chacun et pas seulement à leur intelligence. On peut voir tant de styles de dessins très différents. La sensibilité d'un trait ne tient pas seulement au calcul mais à l'émotion, à l'humeur, aux contrariétés et aux joies, aux souvenirs d'un vécu. Mais l'I.A. pourrait bien reproduire les résultats d'émotions par ses calculs. Si on compare les dessins d'auteurs comme Winsor McCay, Edmond Baudoin, Quentin Blake, Lorenzo Mattotti... Ces œuvres ne sont pas créées par des intelligences mais des personnes qui sont pourvues d'intelligences, de perceptions, d'émotions, de plaisir, de peurs, de compréhensions, de maladresses, d'enthousiasmes, d'expériences sensorielles, de volonté, etc. J'ai vu sur le net un tableau réalisé par une I.A. qui a remporté un prix de peinture. Si j'ai bien compris, on entre toutes les données existantes sur un sujet, la peinture de telle époque par exemple, et sur cette base, l'I.A. peut réaliser une peinture qui n'existait pas dans le genre donné. C'est une prouesse technique révolutionnaire à laquelle on va vite s'habituer. J'aimerais bien voir l'original, ou en tout cas une impression de grand format. Quand j'ai vu les tableaux de Van Gogh au musée d'Amsterdam, je n'ai pas ressenti la même chose qu'en voyant des reproductions en petit format dans des livres. Il y a toujours aujourd'hui des peintres qui sont capables de réaliser des prouesses techniques aussi impressionnantes. Mais quant est-il des capacités créatives d'une I.A. ? Si réaliser un dessin « à la manière de » n'a pas grand-chose à voir avec de la création, copier n'est pas créer, on peut se demander si l'I.A. peut réellement créer, apporter du vraiment nouveau, je ne parle pas là de concevoir des agencements technologiques. Bien souvent l'Homme crée en se basant sur un détail d'une oeuvre antérieure d'un artiste qu'il aime ou sur une forme perçue dans la nature qui l'attire par sa beauté, son dynamisme ou sa composition ou en associant deux courants artistiques très différents. Pourquoi l'I.A. ne pourrait pas en faire autant ? Peut-être la création est-elle encore trop perçue comme mystérieuse ou magique par ceux qui ne sont pas créatifs. Il me semble qu'elle est avant tout une question de perception et d'utilisation d'éléments déjà existants, soit dans l'histoire de l'art, soit dans la nature et puis il y a la pratique qui affûte l'œil et la main. Qu'en est-il de l'œil et de la main d'une I.A. ? 


Depuis quelques temps, je vois passer des images nouvelles sur Instagram. Elles me semblent réalisées avec une I.A. (un logiciel à faire des images à la place des autres). Elles n'ont pas le charme ni la beauté d'une peinture impressionniste, et ce n'est pas qu'une question de goût. Elles ont toutes les mêmes caractéristiques, elles sentent l'informatique, le numérique, le technique, la machine, comme réalisées par quelqu'un qui n'a étudié ni la composition, ni les contrastes, ni la lumière. Elles sont un peu aux images ce qu'est la surenchère hollywoodienne au cinéma. Où sont la sensibilité et la finesse ? J'attends le jour où je verrais une image d'I.A. qui me plaira autant qu'une aquarelle d'Emil Nolde, une peinture de Monet, un dessin de Nicolas de Crécy.


Et si en fait l'Homme ne créait rien depuis toujours mais agençait seulement différemment des morceaux de réalités et tirait simplement parti du réservoir infini d'idées contenues dans la nature ? Est-ce que créer n'est que cela, agencer différemment ? Aucun peintre n'est parti de rien, tous s'inscrivent dans une Histoire, même ceux qui veulent faire le contraire de ce qui s'est fait avant eux ne le font qu'à un moment de l'Histoire. Comment Braque et Picasso ont fait naître le cubisme ? En jouant sur les formes, formes dans lesquelles ils nageaient avec aisance depuis des années. Une I.A. peut-elle simplement agencer différemment ? Surement. Mais pour l'instant, les dessins produits par des I.A, ceux que j'ai vu en tout cas, ne m'ont pas paru créatifs mais plutôt stéréotypés et répétitifs dans leur formes et dans leurs styles. Elles me laissent toujours un goût de synthétique, d'images formatées, de visuels numériques, comme toujours faites avec Photoshop. Mais peut-être n'en ai-je pas encore vu assez. L'I.A. aurait-elle pu inventer le jeu d'échecs ? Surement. Ce jeu est-il autre chose que du calcul ? 

Sachant que toute action engendre une réaction, que toute nouveauté suscite une opposition comme un enthousiasme, que tout danger engendre une lutte, peut-être que l'émergence de l'I.A. poussera l'humanité dans ses retranchements, à réaliser quelque chose que l'I.A. ne pourrait pas faire, quelque chose qui ne serait pas du domaine strict de la donnée, du calcul, du rationnel. Comme aimer par exemple. J'aimerais savoir si une I.A. d'aujourd'hui peut me faire rire. 


Peut-être que bon nombre d'entre nous ne comprenons pas encore comment une I.A. peut fonctionner. Si je lui demande « Crée-moi quelque chose de nouveau. » peut-être qu'elle ne le pourra pas. Mais si je lui demande de me créer une image en mélangeant les masques africains et les peintures de Paul Cézanne peut-être pourra-t-elle produire un visuel nouveau, différent de tout ce qu'on a vu jusque là, parce qu'associant des éléments qui n'avaient jamais été associées, comme l'avait fait Pablo Picasso avec son célèbre tableau qui fut une petite révolution. Tout dépendrait de l'Homme qui fait la demande à l'I.A., des bases de données dans lesquelles il lui demanderait de puiser. Tout dépendrait alors de la connaissance, de la compétence de l'Homme qui fait la demande, tout dépendrait de la main qui utilise l'outil. Enfin, le résultat pourrait être repris par un artiste compétent, un artiste de talent, qui s'inspirait de ce visuel d'I.A. pour le refaire, l'orienter et le développer avec sa touche, sa sensibilité et sa technique propre. 


L'illusion d'une I.A. qui serait l'outil merveilleux et absolu du progrès de l'Homme est certaine, ce n'est pas la première illusion du monde et ce ne sera surement pas la dernière. Toutefois, ses capacités, ses développements et ses utilités pourraient bien nous faire faire des bonds importants en très peu de temps. Doit-on avoir peur de l'I.A. ? C'est possible. Non pas tant à cause de l'I.A. en elle-même que des humains qui la conçoivent ou de ceux qui l'utilisent. Comme nous l'enseigne la Bible dans le livre de la Genèse, l'Humanité (« adam » en hébreu) a mangé du fruit de l'arbre de la connaissance du bien-et-du-mal (pas de la connaissance tout court et pas « la connaissance » au sens « intellect » mais au sens de « vécu », au sens « d'être »). L'humain n'a pas connu (« mangé ») le fruit du bien ni le fruit du mal, mais le fruit qui ne dissocie pas le bien et le mal. Deux faces d'une réalité, indissociables, un seul fruit. L'I.A., comme tout ce qu'on a fait avant apportera du bien et du mal. Mais quel niveau de bien ? Quel niveau de mal ? De quelle ampleur ? 


Doit-on avoir peur de l'I.A. ? Je ne sais pas. Aventure auto-destructrice, super-outils, futur pétard mouillé ou les trois à la fois ? Je ne sais pas, je m'interroge encore, mais j'ai l'impression que nous n'avons pas pris conscience de la révolution que cela pourrait impliquer et jusqu'où cela pourrait nous mener. Ce dont je suis convaincu, c'est que cela ne fait que commencer. Prenez les premières voitures qui ressemblaient à des diligences de western sans chevaux et regardons ce qu'elles sont devenues aujourd'hui. La vitesse, la puissance, le confort, tout cela était difficilement imaginable en 1900 (et il faut y associer les éléments qui en ont découlé comme les routes, la découverte du monde, les rapports sociaux). L'invention des véhicules nous a conduit à réaliser des trains à grande vitesse, des avions dépassant le mur du son, des fusées, des bombardiers... Imaginons que les balbutiements de l'I.A. suivent le même chemin, que leur développement ne s'arrête pas, que leurs capacités puissent croître sans cesse. Quelles possibilités, quelle puissance pourrait-on alors leur imaginer ? Dans quelques films sur l'I.A., la machine atteint l'autonomie et la conscience de soi et du monde, du monde naturel, non-artificiel. J'ai bien aimé, « 2001, a space odyssey » de Stanley Kubrick, « I Robot » avec Will Smith, « Terminator » de James Cameron, le phénomènal « Matrix », « Iron Man » ou encore le remarquable et moins connu « Ex-Machina ». Dans la plupart de ses films, l'I.A. est devient un danger pour l'humain (ce qui n'est pas le cas dans le film « A.I. » de Steven Spielberg, je crois). Y a-t-il d'autres perspectives à imaginer que ces dangers ? Pourra-t-on voir des I.A. créer d'autres I.A. plus complexe et plus fiables ? Cela existe-il déjà où n'en sommes-nous qu'à des outils bien spécifiquement programmés, encore limités et loin d'être infaillibles comme cela semble être le cas ?


Nous savons bien que le bonheur de l'Humanité ne dépend pas de technologies mais on se souvient aussi que prendre le train nous permet de revoir plus vite la personne qu'on aime et lui téléphoner tous les jours nous permet de mieux vivre une séparation. Les technologies apportent du confort. Croire qu'une technologie quelle qu'elle soit va résoudre tous les problèmes alors qu'en réalité elle va en créer autant qu'elle va en résoudre (toujours la dualité structurel bien-mal) serait une tenace illusion. Imaginez un pays où une I.A. pourrait se présenter aux élections présidentielles et où elle remporterait les élections. Serait-elle totalement autonome ? Serait-elle consciente ? Prendrait-elle des décisions pour son intérêt ou pour l'intérêt du pays et de ses habitants ? Ne serait-elle que l'extension idéologique de ses concepteurs ?


Gardons toujours à l'esprit que les SCA (les I.A.) ne sont pas des personnes. Il leur faudrait, en plus de capacités de calculs prodigieux, de leurs capacités d'analyses et d'apprentissage, il leur faudrait des affects, des sentiments, des émotions, de la compassion, de l'amour, du désir, des peurs, rire, pleurer, connaître la frustration et la satisfaction, il leur faudrait une psychologie et un équilibre psychologique. Comment concevoir ces choses sans un corps en interaction avec le monde physique ? Dans l'humain, l'intelligence est toujours en rapport étroit avec les sens et le ressenti. Dans la Bible, l'intelligence, la vraie, celle qui n'est pas artificielle, celle qui est de haute valeur est synonyme de sagesse, l'intelligence, c'est faire le bien. Où se situerait le plus grand danger ? Peut-être dans le fait de construire une société sans cœur, sans compassion, une société basée entièrement sur de l'inhumain, du non-humain, du calcul à la vitesse de l'éclair, des statistiques au micron près, des analyses infaillibles, des conclusions sans âme. A l'image de ces tyrans qui dominent en Occident, qui sont des personnes, oui, mais sans empathie pour ceux qu'ils dirigent. Une société où tout serait généré par les SCA, les lois, les analyses, les conclusions, les choix, les décisions, etc. Un brouillard d'horreur, diffus et omniprésent. Un algorithme à la place du cœur, ça risque de faire mal. 


L'I.A. pourrait au contraire être une aide fantastique si l'Homme avait la volonté ferme et incorruptible de bâtir une société de liberté, d'équité, de fraternité. Une I.A. aurait-elle pu écrire la déclaration des droits de l'Homme ? Sans aucun doute. Elle ne serait alors pas un danger mais une aide importante. Tout dépend comment et pourquoi on la conçoit, tout dépend comment on l'utilise, tout dépend qui, dans quel but, avec quelle idéologie. De même que l'on se demande « Quel monde allons-nous laisser à nos enfants ? » alors qu'il faudrait se demander « À quels sortes d'enfants allons-nous laisser le monde ? », ce qui pose toute la question profonde de l'éducation et de l'amour, on peut se demander « À quels Hommes allons-nous donner les I.A. ? » au lieu de « Quelles sortes d'I.A. allons-nous laisser aux Hommes ? ».


Y aura-t-il un jour des I.A. formatées « soumission à l'avis gouvernemental » et d'autres open-source, programmées libre de penser par soi-même ? Les logiciels développés qu'on appelle I.A. sont des outils, ils n'ont ni autonomie, ni compréhension de ce qu'ils disent ou de ce qu'ils font, pas plus qu'un tournevis.


Un autre danger pourrait-être l'apprentissage de l'inaction. Pendant que les I.A. apprendraient tout, les Hommes apprendraient de moins en moins. A force de demander à l'I.A. de faire ceci ou cela à notre place, d'écrire une rédaction, un article ou de réaliser une image, un documentaire, etc., on apprend une chose, on apprend à être inactif. Et cela peut devenir catastrophique. On a déjà commencé en regardant un match de foot au lieu de jouer au foot, en regardant une vidéo de rando au lieu de faire une rando, etc. Ce phénomène s'est accentué avec la prolifération des séries tv et l'emprise des connexions. Commenter le monde tel un spectateur permanent au lieu d'en être un acteur. Imaginez une humanité qui aurait été profondément modifiée psychologiquement, une humanité qui aurait appris l'inaction, qui l'aurait définitivement intégrée. Heureusement, le contrepoint existe toujours, là où il y a développement du mal, il y a développement du bien. Jetez la face A en l'air, vous jetterez en même temps la face B. Quand je vois que des vidéos de voyages donnent des envies de vrais voyages à tant de gens, quand je vois la prolifération des salles de sport, je me dis que l'espoir est encore là, dans le monde réel. 


Un autre danger est de développer une société qui divisera la population en deux, les utiles et les inutiles. Les utiles seraient importants parce qu'ils pourraient soit faire ce qu'une I.A. ne peut pas faire soit savoir utiliser les I.A. avec efficacité. Les inutiles seraient, eux, les humains dépassés, obsolètes, moins performants que les I.A., moins capables que les utiles. Ce scénario catastrophe à des ressemblances avec l'idéologie du nazisme. On voit déjà aujourd'hui combien la question de performance joue à plein dans nos sociétés, notre focus est toujours posé sur les meilleurs, les plus forts, les plus riches, les plus beaux, les plus compétitifs, les plus rentables, les vainqueurs. Construire des I.A. avec cette « mentalité » peut s'avérer désastreux. La vie s'aime parce qu'elle est la vie, tout simplement, elle a de la valeur parce qu'elle est la vie, c'est tout, sans besoin d'être le meilleur en quoi que ce soit. Sur le modèle social à la chinoise, on peut craindre l'émergence d'une société totalitaire basée sur une sélection des individus = « En quoi avez-vous été utile ou performant dans les vingt dernières années ? ».


Les SCA génèrent beaucoup de fantasmes, chez ceux qui les admirent comme chez ceux qui les craignent. C'est un leurre, une illusion d'intelligence. N'oublions pas que nous baignons dans une société du spectacle dans laquelle, bien souvent, une vidéo sur Youtube peut exagérer la réalité de l'I.A. non pas pour manipuler l'auditoire mais pour l'impressionner, dans un sens comme dans l'autre. De même, des promoteurs de l'I.A. peuvent tourner leurs discours pour influencer les foules, loin de toute honnêteté, à des fins de profits ou d'idéologies. Pour l'instant, les I.A. ne me semble pas très intelligentes, elles me semblent être des outils informatiques développés mais balbutiants et limités. Les I.A. resteront-elles des aides, comme nos ordis et nos voitures nous permettant d'aller un peu plus loin, de développer des domaines plus vites ou deviendront-elles des ogres nous hypnotisant, nous enfermant, nous affaiblissant, nous dissolvant ? Donner des outils de plus en plus perfectionnés à l'Humanité, c'est donner des outils plus puissants aux démocraties (s'il y en a) comme aux tyrannies. Je suis sur que les Hommes lutteront toujours contre toutes les tyrannies que les Hommes aiment à bâtir, parce que les Hommes sont vie et mouvement. La vie traverse, renverse, rien n'arrête définitivement sa croissance et son développement. On sous-estime souvent l'humain.