Après les révélations des « Facebook Papers », il est nécessaire de mettre en place des mécanismes de régulation des algorithmes. La lanceuse d’alerte Frances Haugen a récemment montré la place prépondérante des algorithmes dans le fonctionnement des réseaux sociaux, et dans notre vie au quotidien.
Aurélie Jean, docteure en sciences numériques, spécialiste des algorithmes, fait un constat similaire dans son livre Les algorithmes font-ils la loi ? paru aux éditions de l’Observatoire.
Image créée par un algorithme Ordinogramme d'un algorithme
Elle donne quelques pistes pour mieux contrôler leur développement. Il est temps en effet d’encadrer la prolifération des algorithmes, ces ensembles logiques, qui envahissent de plus en plus notre quotidien. La récente intervention de Frances Haugen, ancienne ingénieure chez Facebook devenue lanceuse d’alerte, illustre l’importance de leur rôle en matière de réseaux sociaux. Ces lignes de code spécifiques à chaque plateforme ( Facebook, Twitter, TikTok…), ont selon elle des effets pervers comme des contenus polémiques, la recherche du sensationnel et le manque de transparence.
Aurélie Jean
Constat préliminaire: les programmes constitués d’algorithmes qui pilotent les applications informatiques sont indispensables à la vie de nos sociétés contemporaines. Pas moyen de s’en passer.
Frances Haugen
Sur la forme, les applications incitent les jeunes à privilégier leur apparence et à créer des rivalités en eux.
Sur le fond, la masse des informations diffusées a tendance à fausser
le jugement, l’esprit critique. La tendance à ranger les individus en
catégories a aussi tendance à les figer dans une catégorie donnée,
quelque que soit leur évolution. C’est ce qu’on appelle « l’effet bulle » théorisé par Eli Pariser. 
Eli Pariser
Ces algorithmes classent les personnes selon leurs goûts, leurs opinions, d’une façon générale leur comportement pour déterminer un profil personnel et un profil des comptes "amis". Ils pratiquent ensuite par "capillarité" choisissant une autre personne dont le profil est le plus proche possible du sien. D’où des effets de biais et d’erreurs, sans parler des possibilités de manipulation.
Dès lors, il faut absolument définir un cadre pour contrôler le processus algorithmique comme le souhaite l’Union européenne avec le Digital Services Act ou également le Congrès américain.
Si d’un point de vue technique, il est très difficile de décrypter un algorithme, il est en revanche plus facile et indispensable d’obliger les développeurs à documenter leurs programmes, leurs pratiques de développement, de présenter les jeux de tests et d’usages des algorithmes. Ce qu’on appelle parfois "la gouvernance algorithmique". Cette solution doit avoir un volet juridique définissant les obligations des sociétés de développement.
Algorithme de Prim
L’une de ces obligations doit reposer sur une explication de la méthode utilisée, la logique de fonctionnement des algorithmes pour déceler les bugs liés à des biais algorithmiques à partir de jeux de données, de simulations qui permettent une bonne approche de la faisabilité et de la fiabilité des algorithmes.
Algorithme sous forme de code
Depuis 2015, une ONG allemande Algorithm Watch
s'intéresse aux conséquences de la prolifération des algorithmes et à
leur contenu. D'autres initiatives ont suivi comme celle de
l'informaticien Suresh Venkatasubramanian de l'Université de l'Utah, qui a élaboré des outils pour tester les algorithmes. Il faut dit-il, « demander
des explications, ouvrir les codes, exposer leur fonctionnement
interne, demander plus de responsabilité, de transparence, que les
algorithmes ne perpétuent pas ou n'amplifient pas certains biais déjà
présents dans la société ».
Il est ainsi grand temps de mettre de l’ordre dans ce qu’Aurélie Jean appelle "la jungle algorithmique", de mettre en place des procédures qui soient interactives et pédagogiques.
Les algorithmes peuvent aider à orienter et manipuler les opinions, par exemple comme dans l’affaire Cambridge Analyca, l’exploitation frauduleuse de données d’utilisateurs Facebook par une société anglaise, au profit de Donald Trump et des partisans du Brexit.
Schéma général de l'Algorithme
Dans son roman L’amour sous algorithme, Judith Duportail démonte avec jubilation les rouages d’une manipulation à travers les algorithmes d’un programme censé lui trouver l’homme idéal.
Le lanceur d'alerte Christopher Wylie, ex directeur de recherche de Cambridge Analyca
Notes et références
[1] Un
bel exemple du jeu du chat et de la souris : Google améliore
constamment son algorithme car sinon les petits malins pourraient
optimiser le classement de leur site WEB dans son moteur de recherche
Voir aussi
► Aurélie Jean, De l’autre côté de la machine – Voyage d’une scientifique au pays des algorithmes, Poche, novembre 2020 --
► Le jeu de Nim en algorithme -- Dangers de l'intelligence artificielle --
► Enquêter sur les algorithmes -- L'informatique quantique --
► Jeu du 5 à 7 :
<< Christian Broussas • Algorithmes © CJB ° 05/11/2021 >>
-------------------------------------------------------------------------------
Aucun commentaire:
Enregistrer un commentaire