Régulation des algorithmes

Face au contenu pléthorique et en inflation constante de l'Internet, l'accès à l'information, aux réseaux sociaux et plus largement au cyberespace s'y fait maintenant presque exclusivement via des algorithmes de recommandation. Or, ceux-ci — selon leur conception ou leur usage — peuvent être neutres, prosociaux^[3],[4] ou au contraire manipulateurs, clivants, favorisant le dissensus et les théories du complot, et poussant à la haine.

Un constat est que pour des raisons commerciales et/ou idéologique, depuis les années 2010 environ, dans un contexte très concurrentiel et non régulé, les grands algorithmes, développés par et pour les GAFAMs (et d'autres entités utilisant l'Internet pour se développer) et leurs réseaux sociaux, favorisent, et de plus en plus, les publications polarisantes ou à forte charge émotionnelles, éventuellement mensongères. Cela accentue les divisions politiques, géopolitiques et sociales, et menace la démocratie^[5],[6].

Depuis les années 2010, notamment à la suite du scandale Facebook-Cambridge Analytica-Aggregate IQ, de la découverte de la plateforme logicielle Ripon et des révélations d'Edward Snowden, une demande croissante de régulation porte sur les algorithmes à forts enjeux sociopolitiques et sanitaires, et en particulier sur les algorithmes, opaques, de systèmes de recommandation (surtout quand ils sont opaques) ont des effets sociopolitiques majeurs et délétères, en structurant l'espace informationnel, en créant des chambres d'écho^[7] et en accélérant la diffusion de la désinformation^[5],[6],[8].

De nombreux experts, philosophes et éthiciens (et en France un rapport de la défenseure des droits)^[9] s'inquiètent des effets sociétaux constatés et des risques de détournement ou de dérives spécifiques posés par les algorithmes à usages militaires (pilotage d'armes autonomes), juridiques, médicaux et de propagande, car ils peuvent efficacement contraindre des processus de pensée et sociétaux où le enjeux sont de liberté, de vie ou de mort ; de même pour l'irruption de l'IA dans la gestion du personnel et des personnes (fichage, reconnaissance et suivi des individus via les caméras de surveillance, systèmes de notation de type crédit social et autres notations automatisées)^{[10],[11],[12]}.

Face au constat d'une mise en avant presque systématique des contenus clivants, des titres sensationnalistes et polarisants, des arnaques en ligne et publicités mensongères souvent fabriquées avec l'aide d'IA^[13] et/ou basées sur les affects par les algorithmes de recommandation, et par certains moteurs de recherche, phénomène qui a une influence croissante, sur ce que les utilisateurs de l'internet et des réseaux sociaux verront (ou ne verront pas), retiendront, penseront et ressentiront, avec donc des impacts sur les relations interhumaines et sur la vie socio-politique, sur leur santé mentale, leur santé au travail et sur leur qualité de vie. Ceci concerne notamment les adolescents dont la santé mentale se dégrade, avec un coût économique élevée de l’inaction (un rapport PMNCH/WHO annonce « des pertes économiques potentielles de 110 000 milliards USD entre 2024 et 2050 si l’on ne renforce pas le bien‑être des adolescents »^[14].

Les algorithmes génératifs de systèmes de recommandation sont conçus pour favoriser l'engagement vai les clics, les « j'aime », le buzz et le doomscrolling (addiction au défilement), toujours en « en maximisant l'engagement pour les revenus publicitaires »^[15]. Ce faisant, ils amplifient souvent les infox et les contenus sensationnalistes, « en érodant de manière insoutenable le tissu social »^[15], car ils peuvent gravement affectent la santé mentale et le bien-être, voire pousser au suicide, par exemple avec les algorithmes qui causent ou exacerbent le addiction au défilement : en sélectionnant des contenus addictifs ou les plus susceptibles de retenir l'attention de l'utilisateur, ces algorithmes peuvent renforcer l'anxiété, la dépendance et les émotions négatives.

Les utilisateurs ignorent pourquoi certains contenus leur sont montrés ou cachés. Les plateformes gardent le contrôle exclusif des règles de classement et de mise en avant des contenus, ce qui limite la possibilité de tester des alternatives plus saines et démocratiques. mais on a expérimentalement montré que des ajustements simples — comme réduire la visibilité des contenus polarisants — ont montré qu'ils pouvaient diminuer l'hostilité partisane et améliorer la perception des autres^{[16],[17],[18],[19]}.

Réguler les algorithmes qui entretiennent l'économie de l'attention et influencent les comportements collectifs est devenu nécessaire pour garantir un équilibre entre liberté d'expression et d'information, protection contre les contenus nuisibles et transparence des pratiques.

Pour le sous-ensemble d'algorithmes d'IA, on parle de « régulation de l'intelligence artificielle ». Le cadrage éthique, réglementaire et politique de l'intelligence artificielle (IA) est un problème émergent dans les juridictions du monde entier, y compris dans l'Union européenne^[20]. La réglementation de l'IA est considérée comme nécessaire à la fois pour encourager l'IA et gérer les risques associés, mais il s'agit d'un défi^[21].

Un autre sujet émergent est la réglementation des algorithmes de blockchain et il est associé à la réglementation des algorithmes d'IA^[22]. De nombreux pays ont adopté des réglementations sur les échanges à haute fréquence, qui évolue en raison des progrès technologiques vers le domaine des algorithmes d'IA^[23],[24].

Des problèmes éthiques, de partialité et de non transparence, notamment, sont apparus avec l'utilisation d'algorithmes dans divers domaines allant des bulles de filtres à la haine en ligne en passant par la justice pénale^[25] aux soins de santé^[26], faisant craindre que l'intelligence artificielle n'aggrave les inégalités de richesse, culturelles, raciales, de genre, de classe, et de sexualité.

Une étude (2024) a montré que réduire la visibilité des contenus polarisants dans les fils d'actualité des réseaux sociaux diminue l'hostilité partisane. Des chercheurs ont créé un outil web (open source) permettant de réorganiser en temps réel les fils de participants consentants sur X (anciennement Twitter), en classant plus bas les publications identifiées par une IA comme susceptibles de polariser (sans les supprimer). L'expérience, de 10 jours, avant l'élection présidentielle américaine, a montré que ce changement améliorait la perception des membres du parti adverse et réduisait les émotions négatives, et ce, quel que soit le « camp » politique.

Un champ de recherche s'intéresse aux algorithmes alternatifs de classement, avec par exemple des initiatives comme le Prosocial Ranking Challenge ou des projets tels qu'Alexandria et Bonsai explorent des approches visant à favoriser des interactions sociales plus saines, profitant des progrès des Grands modèles de langage qui offrent de nouvelles perspectives pour détecter et limiter l'exposition aux contenus polarisants.

Plusieurs études ont montré que déployer des algorithmes dans les tâches managériales réduit la motivation prosociale des travailleurs, en raison d'une tendance accrue à l'objectification des collègues, notamment quand des décideurs humains s'appuient sur des algorithmes pour orienter leurs choix. La prosocialité est alors plus ou moins dégradée selon le type de tâche concernée (par exemple l'évaluation des employés par rapport à la coordination) ; la gestion algorithmique ne modifie pas que l'efficacité organisationnelle, mais aussi les dynamiques sociales et relationnelles au sein du travail^[27].

Plusieurs pays et autres juridictions ont commencé à introduire des réglementations, par exemple en cas de calcul automatisé du pointage de crédit — le droit à l'explication est obligatoire pour ces algorithmes^[28],[29].

En 2016, Joy Buolamwini a fondé Algorithmic Justice League après une expérience personnelle avec un logiciel de détection faciale biaisé, pour sensibiliser aux implications sociales de l'intelligence artificielle, via l'art et la recherche^[30].

En 2017, Elon Musk a plaidé pour une régulation des algorithmes dans le contexte du risque existentiel de l'intelligence artificielle générale^{[31],[32],[33]}. Selon NPR, le PDG de Tesla n'était « clairement pas ravi » de plaider en faveur d'un examen gouvernemental qui pourrait avoir un impact sur son propre secteur, mais estimait que les risques d'une absence totale de surveillance étaient trop élevés : « Normalement, la façon dont les réglementations sont établies est lorsqu'un de mauvaises choses se produisent, il y a un tollé public et, après de nombreuses années, une agence de réglementation est créée pour réglementer cette industrie. Cela prend une éternité. Cela, dans le passé, a été mauvais mais pas quelque chose qui représentait un risque fondamental pour l'existence de la civilisation. »^[31].

En réponse, certains politiciens ont exprimé leur scepticisme quant à la sagesse de réglementer une technologie qui est encore en développement^[34]. Répondant à la fois à Elon Musk et aux propositions de février 2017 des législateurs de l'Union européenne visant à réglementer l'IA et la robotique, le PDG d'Intel, Brian Krzanich, a fait valoir que l'intelligence artificielle en était à ses balbutiements et qu'il était trop tôt pour réglementer la technologie^[35]. Au lieu d'essayer de réglementer la technologie elle-même, certains chercheurs suggèrent plutôt de développer des normes communes comprenant des exigences pour le test et la transparence des algorithmes, éventuellement en combinaison avec une certaine forme de garantie^[36]. Une suggestion a été de développer un conseil de gouvernance mondial pour réglementer le développement de l'IA^[37]. En 2020, l'Union européenne a publié son projet de document de stratégie pour la promotion et la réglementation de l'IA^[38].

Dans certains contextes compétitifs, une « collusion tacite algorithmique » a émergé. Ce sont es formes de coordination anticoncurrentielle facilitée par des algorithmes, dont le caractère est difficile à établir et qui, de ce fait, échappe largement aux poursuites anti-trust des tribunaux^[39]. Ce danger concerne les scientifiques et les régulateurs de l'UE, des États-Unis et d'ailleurs^[39]. La commissaire européenne et Margrethe Vestager a mentionné un exemple précoce de collusion tacite algorithmique dans son discours sur « Algorithmes et collusion » le 16 mars 2017, décrit comme suit^[40] :

« Il y a quelques années, deux entreprises vendaient un manuel intitulé The Making of a Fly. L'un de ces vendeurs a utilisé un algorithme qui correspondait essentiellement au prix de son rival. Ce rival avait un algorithme qui fixait toujours un prix 27 % plus élevé que le premier. Le résultat a été que les prix ont continué à monter en flèche, jusqu'à ce que finalement quelqu'un remarque ce qui se passait et ajuste le prix manuellement. À ce moment-là, le livre se vendait — ou plutôt ne se vendait pas — pour 23 millions de dollars l'exemplaire. »

En 2018, les Pays-Bas ont utilisé un système algorithmique SyRI (System Risico Indicatie) pour détecter les citoyens perçus comme étant à haut risque de commettre une fraude à l'aide sociale, ce qui a discrètement signalé des milliers de personnes aux enquêteurs^[41]. Cela a provoqué une protestation publique. Le tribunal de district de La Haye a fermé SyRI en se référant à l'article 8 de la Convention européenne des droits de l'homme (CEDH)^[42].

En 2020, des algorithmes attribuant des notes d'examen aux étudiants au Royaume-Uni ont déclenché une protestation ouverte sous la bannière « Fuck the algorithm »^[43], couronnée de succès : les notes ont été retirées^[44].

La législation et la réglementation en matière d'IA peuvent être divisées en trois thèmes principaux : la gouvernance des systèmes de renseignement autonomes ; la responsabilité et l'imputabilité des systèmes ; et les questions de confidentialité et de sécurité^[21]. Une stratégie de régulation de l'IA par le secteur public est de plus en plus jugée nécessaire aux niveaux local, national ^[45] et international^[38] et dans divers domaines : de la gestion des services publics^[46] à l'application de la loi^[38], le secteur financier^[45], la robotique^[47], l'armée^[48], et le droit international^[49],[50]. Il y a de nombreuses inquiétudes quant au manque de visibilité et de surveillance de l'IA dans ces secteurs^[51]. Dans le secteur financier, par exemple, des appels ont été lancés au Consumer Financial Protection Bureau pour qu'il examine de plus près le code source et les algorithmes lors de la vérification des données non publiques des institutions financières^[52].

Aux États-Unis, le 7 janvier 2019, à la suite d'un décret exécutif sur le « Maintien du leadership américain en matière d'intelligence artificielle », le Bureau de la politique scientifique et technologique de la Maison Blanche a publié un projet de directives pour la réglementation des applications d'intelligence artificielle, qui comprend dix principes pour agences des États-Unis lorsqu'il s'agit de décider si et comment réglementer l'IA^[53],[54]. En réponse, l'Institut national des normes et de la technologie a publié un document de position^[55], la Commission de sécurité nationale sur l'intelligence artificielle a publié un rapport provisoire^[56], et le Conseil de l'innovation de la défense a émis des recommandations sur l'utilisation éthique de l'IA^[57].

En 2016, la Chine a publié une prise de position remettant en question l'adéquation du droit international existant pour faire face à l'éventualité d'armes entièrement autonomes, devenant ainsi le premier membre permanent du Conseil de sécurité de l'ONU à aborder la question ^[49] et conduisant à des propositions de réglementation mondiale^[58]. Aux États-Unis, le pilotage de la réglementation de l'IA liée à la sécurité est assuré par la National Security Commission on Artificial Intelligence^[59].

Les systèmes de blockchain fournissent des enregistrements transparents et fixes des transactions et contredisent ainsi l'objectif du RGPD européen, qui est de donner aux individus le contrôle total de leurs données privées^[60],[61].

En mettant en œuvre le décret sur le développement de l'économie numérique, la Biélorussie est devenue le tout premier pays à légaliser les contrats intelligents. L'avocat biélorusse Denis Aleinikov est considéré comme l'auteur d'un concept juridique de contrat intelligent introduit par le décret^{[62],[63],[64]}. Il existe de solides arguments selon lesquels les lois des États américains existantes constituent déjà une base solide pour l'applicabilité des contrats intelligents - l'Arizona, le Nevada, l'Ohio et le Tennessee ont modifié leurs lois spécifiquement pour permettre néanmoins l'applicabilité des contrats basés sur la blockchain^[65].