IA vs BN (1/2)

Il n’y a pas si long­temps, on pou­vait lire dans cer­tains jour­naux que l’ancien jeu de go, très répan­du car très appré­cié sur­tout en Extrême-Orient, auto­rise plus de mou­ve­ments qu’il n’y a d’atomes dans l’univers. Cela dit, le sujet est dis­pu­té, ce qui est assez logique, vu ce dans quoi les scien­ti­fiques se lancent, mais pour ne don­ner qu’un ordre de gran­deur, on estime à 10⁸² le nombre d’atomes d’hydrogène exis­tants dans l’univers OBSER­VABLE, dont on pense qu’il ne repré­sente qu’environ la moi­tié de l’univers CONNU ! Pour ce qui est de l’univers tout ENTIER… ¹ Bon. Évi­dem­ment, lorsque l’on prend connais­sance d’une telle infor­ma­tion, essayer de se fati­guer l’intellect en fai­sant l’exercice men­tal d’élever cette indi­ca­tion à la hau­teur de la conscience clair­voyante n’est même pas néces­saire. Au niveau moyen de pers­pi­ca­ci­té, cela laisse 100% cho­co­lat, et res­ter sim­ple­ment pros­tré quelques ins­tants convient ample­ment. Juste peu-être le temps pour ce pauvre amas de cel­lules molles qu’est le cer­veau de saluer bien bas la per­for­mance du génie humain, car en créant ce jeu avec autant de pos­si­bi­li­tés, son inven­teur a du coup réus­si de battre à plate cou­ture le Créa­teur lui-même, avec Sa per­for­mance bien connue de connaître par cœur le nombre de che­veux que tout qui­dam pré­sente à n’importe quel moment sur sa tête. ² Un ordre de gran­deur aus­si pour ce nombre ? En consi­dé­rant, sur les der­niers 12000 ans, une moyenne de 100 mil­lions d’individus par géné­ra­tion, on n’obtient que le nombre esti­ma­tif de 5×10¹⁵… ³Ce qui, mul­ti­plié par le nombre de qui­dams et par celui des géné­ra­tions depuis Adam et Ève, donne quand même une sacrée idée de cet exploit. Fina­le­ment pour­tant un piètre exploit, force est-il de l’admettre, puisqu’il demeure au stade de l’angström eu égard celui du nombre de coups dont est capable ce fichu jeu. Il va sans dire aus­si que tâcher de se deman­der qui, en com­bien de temps et par quels moyens aura pu comp­ter ne serait-ce qu’approximativement le nombre total de ces atomes (bien sûr en sup­po­sant qu’il soit stable), ceci en pas­sant néces­sai­re­ment par le nombre –  déjà fara­mi­neux – de corps célestes, et en même temps dis­po­ser de la quan­ti­té néces­saire de chiffres pour le figu­rer et l’écrire – eh bien, on a vite devi­né le carac­tère illu­soire d’une telle démarche. En fait, pour bou­cler cette par­tie de l’histoire, ces articles racon­taient la prouesse d’un pro­gramme pour­vu de ce qu’on appelle intel­li­gence arti­fi­cielle, qui avait réus­si pour la pre­mière fois d’écraser le cham­pion abso­lu de la dis­ci­pline. Tout dépi­tés, en proie à ces réflexions bar­bantes, nous tour­nions les pages de ces jour­naux-là et pas­sions à l’article sui­vant. Mais l’exploit avait de quoi mar­quer. En tout cas, je l’avais retenu.

Pour preuve, quelques après-midi en arrière, en ren­con­trant Zoubïn, copain de longue date, assu­reur, ascen­dance ira­nienne et suisse, après avoir dis­cu­té affaires et avant de nous quit­ter, je lui parle de ce jeu de go et de sa par­ti­cu­la­ri­té numé­rique ahu­ris­sante. À ma sur­prise, mon copain ne semble pas autre­ment ému par cette pré­ci­sion, visi­ble­ment nou­velle aus­si pour lui, et fier de ses racines perses, il me rend aus­si­tôt atten­tif au jeu d’échecs. (Au pas­sage, il faut se rap­pe­ler qu’entre la Chine, le Japon, l’Inde, la Perse et le monde arabe, l’origine de ce jeu abs­trait de stra­té­gie reste éga­le­ment contro­ver­sée. Et en effet, après véri­fi­ca­tion, je découvre l’inconcevable: 10¹²⁰ par­ties dif­fé­rentes sont pos­sibles avec ce jeux !… Sacré Zoubïn, il devait en savoir lui quelque chose, par avance… Mais l’histoire ne s’arrête pas là.

Ni plus ni moins que le len­de­main matin, je tombe sur un autre article de jour­nal, avec le titre ‘Nou­veau suc­cès au jeu de go pour l’IA’. Et là, je lis quelque chose comme quoi après envi­ron 5 mil­lions de par­ties contre lui-même, une nou­velle ver­sion du logi­ciel qui avait bat­tu le cham­pion humain du monde par 4 à 1 il n’y a pas si long­temps, vient d’écraser jus­te­ment cette ancienne ver­sion-là par 100 (cent) à 0 (zéro) , la nou­velle ver­sion étant capable d’apprendre par elle-même, donc sans apport humain. Tota­le­ment désta­bi­li­sé, je sla­lome sidé­ré sur inter­net et, au gré de cette tri­fouille, boum ! je découvre qu’encore un tout autre logi­ciel avait bat­tu le cham­pion du monde d’échecs il y a 20 ans déjà… Un jeu à plus de 10⁸² coups domp­té hier par un logi­ciel, un autre jeu à 10¹²⁰ par­ties appri­voi­sé 20 ans en arrière par un autre logi­ciel (on n’ose ima­gi­ner à quel point vétuste aujourd’hui) : cette intel­li­gence-là, il faut vrai­ment s’arrêter des­sus un ins­tant, me dis-je.

Mais en atten­dant, je reprends un peu de mes forces, et j’envoie cette nou­velle toute fraîche concer­nant le jeu de go à mon copain, vous savez, his­toire de. Et là, quelle n’est pas ma sur­prise en lisant quelques moments plus tard sa réac­tion inter­ro­ga­tive : ‘IA est plus dan­ge­reuse que BN ??’. Au tout pre­mier coup, je n’y com­prends rien. (« Quel rap­port entre l’intelligence arti­fi­cielle et la Banque Natio­nale ?! ») Fort heu­reu­se­ment, il avait anti­ci­pé ma stu­peur, en ajou­tant plus bas : ‘BN = Bêtise Natu­relle’. Mais bien sûr ! En un éclair tout devient lim­pide comme l’eau d’un gla­cier suisse fon­du. Invo­lon­tai­re­ment, Zoubïn vient de me ser­vir sur un pla­teau, toute pré­em­bal­lée, l’idée de ma pro­chaine épou­vante. La voi­là, ci-après.

*

L’intelligence arti­fi­cielle, ou IA, on s’en pré­pare depuis en tout cas déjà deux siècles, avec la créa­ture déve­lop­pée par le doc­teur Fran­ken­stein, puis les choses se sont accé­lé­rées après la pre­mière guerre mon­diale avec l’essor de la science-fic­tion, puis après la deuxième avec le pro­grès ful­gu­rant de la puis­sance de cal­cul. Petit à petit, ali­men­tés par l’industrie ciné­ma­to­gra­phique de masse, on a com­men­cé à être char­més par l’efficacité des cyborgs, des huma­noïdes et autres androïdes. Tant que cela demeu­rait du res­sort de ‹ Ter­mi­na­tor › et de ‹Robo­cop›, on pou­vait encore s’amuser. Tou­te­fois, c’est seule­ment au tour­nant du mil­lé­naire que la ques­tion est deve­nue vrai­ment sérieuse, par l’augmentation expo­nen­tielle des efforts, des moyens, des per­for­mances et enfin des résul­tats obte­nus concrè­te­ment. En effet, si triom­pher dans des jeux aus­si inima­gi­na­ble­ment com­plexes n’est de loin pas négli­geable, et si des alertes per­ti­nentes venant de cer­tains “poids lourds“ (Ste­phen Haw­king, Elon Musk) sur des risques impli­cites et incon­trô­lables ne sau­raient lais­ser indif­fé­rent, le point cru­cial semble atteint dès que l’on dote des machines, ou plu­tôt des logi­ciels, avec la capa­ci­té d’apprendre tout seuls. À par­tir de là, notre ima­gi­na­tion s’empresse de prendre la relève. Rien n’empêche ain­si d’envisager un futur où des machines engen­dre­ront des machines, puis, en fin de compte, pour­quoi pas ? des hommes. En effet, déjà dans son ouvrage ‘Spe­cu­la­tions Concer­ning the First Ultra-intel­li­gent Machine’ (‘Spé­cu­la­tions concer­nant la pre­mière machine ultra-intel­li­gente’) écrit en 1965, Irving John Good (1916-2009), mathé­ma­ti­cien et cryp­to­logue anglais, écri­vait : « Sup­po­sons qu’existe une machine sur­pas­sant en intel­li­gence tout ce dont est capable un homme, aus­si brillant soit-il. La concep­tion d’une telle machine fai­sant par­tie des acti­vi­tés intel­lec­tuelles, elle pour­rait à son tour créer des machines meilleures qu’elle-même ; cela aurait sans nul doute pour effet une réac­tion en chaîne de déve­lop­pe­ment de l’intelligence, pen­dant que l’intelligence humaine res­te­rait presque sur place. Il en résulte que la machine ultra intel­li­gente sera la der­nière inven­tion que l’homme aura besoin de faire, à condi­tion que ladite machine soit assez docile pour constam­ment lui obéir.» (https://en.wikipedia.org/wiki/I._J._Good) Notons qu’à l’époque, la puis­sance de cal­cul du plus per­for­mant super­or­di­na­teur était, disons, de 1. Aujourd’hui elle est de 100000000000. Pour reve­nir,  la ques­tion est : le vou­draient-elles encore ? Et pour para­phra­ser un des plus fameux slo­gans attri­bué à Lénine « Ils nous ven­dront la corde avec laquelle nous les pen­drons » (« Les capi­ta­listes nous ven­dront la corde avec laquelle nous [les com­mu­nistes] les pen­drons ».) Dans notre cas, nous four­ni­rons aux machines le néces­saire avec lequel elles nous extermineront.

Mais ras­su­rons-nous, par­don ! alar­mons-nous : l’intelligence arti­fi­cielle est déjà pré­sente – au niveau de nos besognes deve­nues les plus com­munes – dans notre vie quo­ti­dienne. J’entends par là sur­tout celle vir­tuelle, celle-là qui est en train de prendre le pas sur les achats au mar­ché, les pique-nique en famille et la tchatche au bis­tro. Pour l’instant nous en sommes au stade – disons – encore bénin. Ne dia­lo­guons nous pas en toute confiance avec nos ordi­na­teurs per­son­nels, au tra­vail, en vacances, en route, comme à la mai­son ? Notre confort ne s’appuie-t-il de plus en plus sur les réponses imman­qua­ble­ment aimables de l’assistant per­son­nel intel­li­gent qui est gra­vé dans notre télé­phone mobile ? Notre navi­ga­tion de tous les jours sur inter­net n’est-elle pas gran­de­ment influen­cée (sou­vent à notre insu) par une flo­pée d’algorithmes de plus en plus sub­tiles, à mesure qu’il apprennent à nous connaître ? Ne sommes nous pas pro­gres­si­ve­ment gagnés par la mul­ti­tude de ser­vices d’assistance embar­qués dans notre voi­ture, au point de ne plus savoir signa­li­ser, frei­ner ou regar­der dans les rétro­vi­seurs ? Inutile de conti­nuer avec des exemples dans plein d’autres domaines comme la finance, la méde­cine, la cir­cu­la­tion, le mar­ke­ting, le com­merce, l’enseignement, le mili­taire… Et atten­tion ! ce n’est que le début.⁴

Cette attaque du plus fort fabri­qué par le (bien­tôt) plus faible se déroule donc sous nos yeux et sur deux fronts oppo­sés : l’une a lieu depuis en bas, c’est-à-dire au niveau du four à micro-ondes, l’autre a lieu depuis en haut, au niveau des rai­son­ne­ments les plus incroya­ble­ment tor­dus. Vient alors le moment des conclu­sions, avec une foule de ques­tions por­tées par cette pro­jec­tion épou­van­tée au sujet de l’AI : dans un monde tel qu’il se construit à l’aune d’une méta­mor­phose aus­si radi­cale, un monde mar­qué par des appa­reils et des clones par­faits sous (presque ?) toutes les cou­tures, où trou­ve­ra encore sa place l’homme ?! L’homme moyen tel que je suis, tel que toi, lec­teur, tu es, si impar­fait, si plein d’ambiguïtés, si nul par­fois, si impré­vi­sible, si chan­geant, mais par là si fas­ci­nant, si brillant par moments, si mer­veilleux, si unique ?! Quelle place, quel rôle, quel sens se réser­ve­ra-t-il ?! Ou bien devrait-on dire : quelle place, quel rôle, quel sens lui seront encore accor­dés ?! Est-ce qu’en fin de compte, ce sera tout de même l’âme qui fera la dif­fé­rence et par laquelle vien­dront les réponses ? Ou bien par l’esprit ?… Et si oui, com­ment alors, dans ce monde mani­fes­te­ment de plus en plus sécularisé ?

*

À pré­sent, pour faire le tour et répondre à la ques­tion de mon copain, je me tourne vers la bêtise natu­relle, la BN, et je me rends compte que je prends immé­dia­te­ment tout aus­si peur. Même pas vrai, car en fait cette peur est vieille comme le monde.⁵ Comme la bêtise natu­relle. C’est la grande dif­fé­rence d’avec cette toute jeune diva qu’est l’intelligence arti­fi­cielle. La seule d’ailleurs, je crois. Non, faux, il y en a encore une autre: au fil des siècles, la bêtise féroce a fait ses preuves en abon­dance, alors que pour cette intel­li­gence fabri­quée-là, cer­tains espèrent encore trou­ver les moyens adé­quats pour la contenir.

[…]

[12 novembre 2017]

1. (https://www.universetoday.com/36302/atoms-in-the-universe/.)
2. «Quant à vous, même les che­veux de votre tête sont tous comp­tés.» Mat. 10,30.
3. (https://en.wikipedia.org/wiki/World_population/ et https://answers.yahoo.com/question/index?qid=1006011303909.)
4. Plus récem­ment, le robot-femelle Sophie repousse avec fra­cas les fron­tières de l’humanisation des appa­reils au point de se voir confé­rer le plus sérieu­se­ment du monde la citoyen­ne­té saou­dienne. (https://www.businessinsider.fr/uk/sophia-robot-citizenship-in-saudi-arabia-the-first-of-its-kind-2017-10)
5. En tout cas depuis au moins 3000 ans, puisque déjà Salo­mon, sage et ver­tueux roi d’Israël, s’inquiétait ouver­te­ment dans son pre­mier ‹ Livre des pro­verbes › : ‘Com­bien de temps encore, étour­dis, allez-vous aimer l’étourderie ? Les inso­lents n’aspirent qu’à l’insolence, et les insen­sés refusent la connais­sance !’ (22) et aus­si ‘L’indocilité des étour­dis leur sera fatale, et l’insouciance des insen­sés les perdra.’(32)