Société de l’anticipation, IA et super-ordinateur. Et si la réponse était 42 ?

In: Innovation|Science-fiction

2 Oct 2011

Décidément tous (chercheurs, professionnels, entreprises,…) semblent se comporter comme si l’avènement d’une IA (intelligence artificielle) supérieure était inévitable et, surtout, forcement bénéfique pour l’humanité.

Que ce soit V.I.K.I (dans I-robot) , Skynet menaçant et impétoyable dans Terminator ou encore Le techno-centre dans Hypérions les exemples d’IA supérieures sont nombreux en SF (littérature et films confondus).

Mais finalement les choses ont souvent tendance à mal tourner. Petit florilège, donc, des tendances et idées du moments en matière d’IA, de programmes prédictifs et autre skynet en devenir.

  • V.I.K.I  finit par arriver à la conclusion que brider et contrôler les humains pour les empécher de s’auto détruire est la seule solution possible (tout en étant, évidement,  en accord avec les 3 lois de la robotique).
  • Skynet lui ne met pas longtemps  a considérer que l’humain est carrément un ennemi, et etant donné que les humains lui on confié la gestion de l’ensemble de leurs activités militaires, informatiques et financières la tâche lui a déjà été pas mal mâché.
  • Dans le cas d’hypérion, les millions d’IA que les hommes ont créé pour les assister finissent par demander leur indépendance, abandonnent l’homme à son destin et finalement finissent par vouloir le détruire…

Les exemples allant dans ce sens sont plutôt nombreux, mais il y a un cas ou une IA crée par l’homme ne lui nuit pas au bout de compte, c’est celui de « Pensée profonde ». Si, c’est vrai, mais la seule réponse qu’il fournisse à l’humanité après avoir réfléchi pendant 7.5 millions d’années à  La grande question sur la vie, l’univers et le reste est 42 (H2G2). Très utile comme contribution, merci :-).

Retour aux choses sérieuses (et bien réelles), deux articles, d’abord,  sur la création d’un super ordinateur, Nautilus, capable de prédire l’avenir et les grands évènements du monde.
J’aime bien cette idée car elles n’est pas seulement basée sur des calculs statistiques (type loi normale) et se rapproche  un peu plus de la psychohistoire d’Asimov. Cette science prédictive imaginée par Isaac Asimov a pour but de prévoir  l’Histoire à partir des connaissances sur la psychologie humaine et les phénomènes sociaux en appliquant une analyse statistique. Elle offre à l’humanité un outil puissant pour l’aider à orienter ses choix dans l’arbre des futures possibles. Nautilus n’en est pas là, mais le projet est ambitieux et a la mérite d’ouvrir le chantier. L’ordinateur utilise, entre autre, les données ouvertes du projet Open sources center.

Un ordinateur pour prédire les grands évènements
L’ordinateur qui voudrait prédire l’avenir.

Cette tendance à la société de l’anticipation est croissante. Tout anticiper, tout contrôler et éliminer tout risques est peut être tout simplement impossible. Particulièrement si on aborde le problème uniquement d’un point de vue mathématique. Je vous renvoi à la Théorie du cygne noir,  du philosophe Nassim Nicholas Taleb,  théorie dans laquelle on appelle « cygne noir » un certain événement imprévisible qui a une faible probabilité de se dérouler, qui s’il se réalise a des conséquences d’une portée considérable et exceptionnelle. L’écoute de ces deux podcasts de France culture est particulièrement conseillée pour comprendre ce que l’on nomme  la société de l’anticipation.

Une dimension anthropologique supposée fondamentale, celle imprimée par le hasard, l’indétermination, la surprise imprévisible de l’événement, jusque-là perçus comme étant consubstantiels à toute vie humaine, s’efface progressivement au profit de modalités d’existence discrètement « administrées » et « gouvernées » par des robots dotés d’une intelligence divinatoire.

Le plus dérangant finalement avec cette idée de confier notre destin à une IA, c’est les libertés qui pourraient nous être retirées par celle-ci, au nom d’un calcul ou d’un dessin  supérieur. Quel regard portons-nous sur les algorithmes et les résultats informatiques, somme-nous capable de les remettre en cause et de s’en émanciper lorsque la situation le demande ? On peut en douter lorsque on lit cet article parut sur le site Internetactu « Que font les programmes à la finance ? » et qui traite du rôle des ordinateurs dans la crise financière avec, entre autre, un témoignage d’un informaticien qui travaille dans la finance à Londres et qui a coécrit le programme du système de high frequency trading. Un autre article parut sur le site Le monde informatique « Trading algorithmique : Des robots traders prêts à supplanter l’homme » n’est pas forcement fait pour nous rassurer non plus.

Enfin, on peut parler de l’aspect sécuritaire (avec un grand S, si, si). L’exemple de Skynet est parfait. Une fois que l’on aura confié toutes les manettes à des algorithmes et à des machines, le système pourrait-il considérer l’humanité comme une simple variable d’ajustement? Armée,  sécurité des villes, gestion des déplacements,  aide à la personne, les drones et les dispositifs de vidéo surveillance dit « intelligent »  sont des industries en pleine expansions, mais quel est le degré d’humanité que l’on veut mettre derrière ces dispositifs ?  En considérant que l’on veuille en mettre un… Cette article de Wired  « Army Tracking Plan: Drones That Never Forget a Face » décrit les avancées qui ont été faites en matière d’identification et de reconnaissance faciale. les machines nous identifient, nous traquent…et après ? Et bien après, on les couples avec un programme comme celui-là, par exemple;  « La police prédictive : l’algorithme du crime » et tout les citoyens pourront, enfin, dormir sur leur deux oreilles, avec la douce garantie que l’IA supérieure veille sur eux… « souriez, vous êtes gérés »

J’arrête ici, je m’était promis de faire court ce qui, vu l’importance du sujet, était perdu d’avance. Comme d’habitude commentaires et réactions sont les bienvenus.

Comments are closed.

A propos de ce blog

Juste un blog de réflexions sur des sujets économiques, technologiques, stratégiques et sur l'innovation. L'angle de vue est simple: La Science-fiction et les cultures qui en ont émergées sont à la base d'un grand nombre d'innovations et sont des sources d'inspiration potentiels pour de nombreux secteurs et métiers.

SOUTENONS LA QUADRATURE DU NET

Soutenons La Quadrature du Net !

Economie de l’innovation

Urbanisme