Les dangers de l’intelligence artificielle

 Référence : Pierre Rabhi et Juliette Duquesne, « L’humain au risque de l’intelligence artificielle », éditions des Presses du Châtelet

« L’IA pourrait être le plus grand danger auquel nous serons confrontés en tant que civilisation. » Elon Musk

L'intelligence artificielle est en train de poser un grave problème dans la mesure où ses possibilités ont tendance à être surévaluées car on ne sait pas trop comment évaluer ses limites, comment se représenter de façon concrète cet univers prédictif difficilement évaluable.

          

Pour beaucoup, l’intelligence artificielle, c’est l’avenir, un avenir fait de robots et d’un impalpable qu’on appelle "super intelligence", faute d'une connaissance précise de ce concept.

L’ouvrage analyse les limites de l’intelligence artificielle dans les domaines de la publicité ciblée, des bugs algorithmiques difficilement décelables ou des questions de surveillance. Plutôt que tenter de cerner cette expression assez floue, il vaudrait mieux parler de capacité de calcul et laisser les fantasmes de côté.
Le problème est avant tout de savoir jusqu'à quel point ces mécanismes sont capables de se réapproprier la masse d'informations qu'ils gèrent et de quelle façon.

  
L'IA entre progrès et dangers

Des téléphones sur écoute

L’IA repose sur l’exploitation d’une masse de données qu’elle intègre ensuite à ses capacités de traitement. On met le doigt sur un point essentiel avec ces fameuses données qu’on nous "extorque" sur internet, espionnant nos comportements et qui servent nous dit-on à notre bien pour mieux cibler les publicités qu’on nous envoie gracieusement.
Cette constante surveillance crée un sentiment permanent de méfiance, amplifié par des scandales récents comme celui de Cambridge Analytica ou les révélations d’Edward Snowden.

Si le flicage des téléphones portables paraît très difficile pour des causes techniques, ce phénomène engendre quand même un climat de paranoïa ambiant. Il n’en demeure pas moins que d’autres pratiques posent de nombreux problèmes : surveillance d’objets connectés comme les enceintes ou des boîtes mails, captures d’écran de l’utilisation de leur application par certaines sociétés, sans autorisation et pouvant contenir des données personnelles comme des SMS, renforcement des idées complotistes qui fleurent sur le web.

 

La logique des plateformes sociales consiste à valoriser les contenus les plus « porteurs » générateurs de réactions, ceux qui sont le plus partagés et sont ainsi mis en valeur. Résultat, les fakes news fleurissent, créant une méfiance grandissante envers internet.
(Roger McNamee, investisseur historique de Facebook)

Une lourde tendance est « le rôle du complotisme qui est une "démission de la pensée", une explication démagogique. » (Marie-Jean Sauret, psychanalyste et chercheur à l’université Jean-Jaurès de Toulouse. « Douter de tout ou tout croire, ce sont des solutions… qui nous dispensent de réfléchir », disait en son temps le scientifique Henri Poincaré.

    

La relation homme-machine

Pour Marie-Jean Sauret, notre société « promeut le règne d’une idéologie scientiste qui répond à toutes les questions à travers la science ». Et celle-ci exclut la nuance de son champ d’investigation. Toujours selon lui, « le savoir de la science est paranoïaque par essence ». Or, la métaphysique ne peut rivaliser avec le savoir scientifique et toute une vie par exemple ne suffit pas à trouver des réponses satisfaisantes à la question du sens de la vie.

         
                                                          IA et information

Le complotisme, qui élimine tout raisonnement critique, devient alors la réponse à tout. Il suffit pour cela d’avoir envie de croire. L’effet pervers de l’IA est de pousser les gens vers la paranoïa. Ceci est d’autant plus vrai qu’on n’a pas vraiment testé l’efficacité de l’IA, ses programmes pouvant être parfois opaques ou sous-évalués et pose ainsi la question centrale du rapport coup-efficacité pour la société.

L'évolution technologique actuelle s'oriente vers un processus de connexion entre un cerveau humain et un ordinateur. (Voir la société Neuralik créée par Musk en 2016) Ce serait d'après Elon Musk lui-même la possibilité de créer « une symbiose entre le cerveau humain et l’intelligence artificielle. ».
Si ce futur inquiète Elon Musk [1], d'autres comme le PDG de la société chinoise Alibaba ne sont guère inquiets, soutenant que « les ordinateurs ont seulement des puces, les hommes ont le cœur. C’est du cœur que provient la sagesse. »
C'est un peu court pour évoquer les conséquences possibles de cette technologie et son impact sur nos modes de vie.

Notes et références
[1] Elon Musk dirige des sociétés comme SpaceX (espace), SolarCity (maisons solaires), Tesla (voitures électriques), Neuralink (neuro technologie) et Paypal.

Voir aussi
Vingt dangers de l’IA -

----------------------------------------------
<< Ch. Broussas, Dangers IA 09/05/2021 © • cjb • © >
----------------------------------------------