A en croire certains spécialistes cette hypothèse est plus que possible…

Un documentaire (diffusé sur Arte) à regarder pour comprendre comment quelques uns des informaticiens les plus créatifs imaginent l’IA de demain. Très vite, au fur et à mesure des propos tenus par ces personnes brillantes mais dont la vision dérange quelque peu, une sorte de malaise s’installe. Ainsi, nous serions condamnés : “l’Homme n’est qu’un tremplin vers une plus grande complexité” ( Jürgen Schmidhuber – le père de l’IA moderne).

Ilya Sutskever – scientifique en chef d’ OpenAI – travaille au développement d’Intelligence Artificielle Générale (AGI). Ce qu’il nous promet ? Une AGI qui sera clairement plus rapide et intelligente que les humains. Elle créera des êtres autonomes muent par leurs propres objectifs, il faudra donc “maximiser les chances (sic) pour que l’avenir soit bon pour les humains”. Enfin, ce sera temporaire : l’humain deviendra vite totalement obsolète….

Jürgen Schmidhuber (encore lui) l’annonce tout de go, il est totalement illusoire de vouloir règlementer l’IA (dommage ça semblait pourtant une bonne solution) car c’est oublier la nature curieuse des scientifiques et les intérêts militaires. Sa conclusion ? “nous nous dirigeons vers un monde où les humains ne pourront pas suivre”…

Pour finir ce panorama pas vraiment réjouissant (pour les humains), le très controversé professeur à Stanford, Computational Psychologist & Big Data Scientist, Michal Kosinski, pense qu’il est temps de faire le deuil de notre vie privée : nous sommes déjà dans la “post privacy era”. Et, il ne faut pas trop rêver, c’est sans retour possible.

Mais (heureusement!) quelques voix s’élèvent et refusent de faire des ces regards une fatalité, pour faire changer les choses. Parmi eux, Jack Poulson, lanceur d’alerte qui a dénoncé les collusions entre Google et l’armée américaine et qui se bat maintenant pour faire valoir l’éthique de conviction des ingénieurs. Mais, à juste titre, il souligne que très souvent les ingénieurs ne savent pas à quoi va servir concrètement leur travail, leurs employeurs ne leur donnant pas la vision du projet global. Comment dans ce cas savoir si on est moralement d’accord avec la mission ?

Parmi les armes à disposition des “humanistes” : le droit et la responsabilité d’un engagement international : Philip Aston (professeur de mathématique de l’Université de Surrey) refuse que l’IA devienne une zone de non-droit, “nous ne pouvons pas abandonner les droits de l’Homme que nous avons mis si longtemps à établir.” ; Rumman Chowdry (politologue) réclame une gouvernance mondiale pour être certains que la voix du peuple sera entendue concernant ces questions qui clairement engagent l’humanité ; le business angel Yobie Benjamin demande clairement une règlementation de l’IA…

Néanmoins, l’impression qui se dégage de ce documentaire c’est que nous sommes définitivement tributaires de la vision de ces ingénieurs, qu’ils ont, eux, la possibilité de définir et créer un monde tel qu’ils le souhaitent et la parole des défenseurs d’une IA éthique semble dérisoire face à ces “bâtisseurs”. Si nous, société, ne décidons pas quelle place nous voulons donner à la technologie, si nous n’imposons pas des règles et des codes, des limites et des valeurs alors nous vivrons dans un monde numérique où l’humain n’est qu’une variable.