Imaginons une journée ordinaire. Au réveil, une femme consulte les actualités sur son téléphone. L’ordre dans lequel elles apparaissent a été choisi par un algorithme, en fonction de ce qu’elle a lu les jours précédents. Elle prend sa voiture et suit l’itinéraire proposé par son application de navigation. Au bureau, elle reçoit un courriel de sa banque l’informant que sa demande de crédit a été acceptée, après une évaluation automatique de son profil. Le soir, elle regarde la série que sa plateforme de vidéos lui a recommandée. À aucun moment elle n’a eu le sentiment de confier une décision à une machine. Pourtant, elle l’a fait plusieurs fois.
Les algorithmes sont des suites d’instructions qui permettent de traiter des données pour produire un résultat. Ils existent depuis longtemps. Mais leur usage s’est considérablement étendu avec le développement de l’informatique, des données massives et de l’intelligence artificielle. Ils interviennent aujourd’hui dans un nombre croissant de décisions, publiques et privées, qui affectent la vie quotidienne.
Ce que nous voyons et lisons
Le premier domaine est celui de l’information et du divertissement. Les réseaux sociaux, les moteurs de recherche, les plateformes de vidéo et de musique utilisent des algorithmes de recommandation. Ils sélectionnent, parmi une masse immense de contenus, ceux qui ont le plus de chances de retenir l’attention de chaque utilisateur. Ces algorithmes déterminent en grande partie ce que des milliards de personnes lisent, regardent et écoutent.
Ils rendent des services réels. Ils permettent de trouver plus facilement ce qui nous intéresse. Mais ils ont aussi des effets moins visibles. Ils tendent à enfermer chacun dans ses préférences, à privilégier les contenus qui suscitent des émotions fortes, à réduire la diversité de ce que nous rencontrons. Ils façonnent nos goûts autant qu’ils les servent.
Le crédit et l’assurance
Le deuxième domaine est celui de la finance. Les banques utilisent depuis longtemps des systèmes de notation pour évaluer le risque qu’un emprunteur ne rembourse pas. Ces systèmes, appelés scoring, s’appuient sur des données comme les revenus, l’emploi, l’historique bancaire. Ils sont de plus en plus automatisés et intègrent des données de plus en plus nombreuses.
Les assureurs utilisent aussi des algorithmes pour fixer leurs tarifs. Ces outils permettent des décisions rapides et cohérentes. Mais ils peuvent aussi reproduire ou amplifier des inégalités. Certaines personnes vivent dans un quartier défavorisé, ont un parcours professionnel irrégulier ou n’ont pas d’historique bancaire. Elles peuvent se voir refuser un crédit ou proposer un tarif plus élevé, sans toujours comprendre pourquoi.
Le recrutement
Le troisième domaine est celui de l’emploi. De nombreuses entreprises utilisent des logiciels pour trier les candidatures, analyser les curriculum vitae, parfois évaluer des entretiens vidéo. Ces outils permettent de traiter un grand nombre de candidatures. Ils peuvent aussi introduire des biais.
En 2018, l’agence Reuters a révélé qu’Amazon avait abandonné un outil de recrutement fondé sur l’intelligence artificielle. Le système avait été entraîné à partir des candidatures reçues par l’entreprise pendant une dizaine d’années, majoritairement masculines. Il avait appris à défavoriser les candidatures de femmes. L’entreprise a indiqué que l’outil n’avait jamais été utilisé seul pour prendre des décisions. L’exemple illustre cependant un risque général. Un algorithme entraîné sur des données passées reproduit les préjugés de ces données.
L’administration
Le quatrième domaine est celui de l’action publique. Les administrations utilisent de plus en plus d’algorithmes. En France, la plateforme Parcoursup répartit les candidats à l’enseignement supérieur selon des critères définis par les formations. Les impôts utilisent des outils d’analyse des données pour cibler les contrôles. La Caisse nationale des allocations familiales a longtemps utilisé un algorithme de notation pour sélectionner les dossiers à contrôler.
En 2023, l’association La Quadrature du Net a publié une enquête sur cet algorithme de la CNAF. Elle soutenait que ses critères conduisaient à cibler davantage certaines populations, comme les personnes à faibles revenus, les familles monoparentales ou les bénéficiaires de certaines allocations. La CNAF a contesté une partie de ces analyses. Le débat a cependant mis en lumière une question importante. Quand une administration utilise un algorithme pour décider qui contrôler, il est légitime de savoir sur quels critères il repose.
Les risques
Plusieurs risques ont été identifiés. Le premier est l’opacité. Beaucoup d’algorithmes fonctionnent comme des boîtes noires. Les personnes concernées ne savent pas qu’un algorithme est intervenu, ni sur quels critères. Certains systèmes d’intelligence artificielle sont si complexes que même leurs concepteurs ont du mal à expliquer leurs décisions.
Le deuxième est la discrimination. La mathématicienne américaine Cathy O’Neil a décrit en 2016, dans un livre traduit en français sous le titre Algorithmes, la bombe à retardement, la manière dont certains algorithmes renforcent les inégalités. Ils pénalisent souvent les plus fragiles, dont les données sont moins favorables, et ces décisions renforcent à leur tour leur fragilité.
Le troisième est la dilution de la responsabilité. Quand une décision est prise par un algorithme, il devient difficile de savoir qui en est responsable. Le concepteur, l’utilisateur, l’institution qui l’a commandé ? Cette incertitude peut priver les personnes concernées de recours.
Les protections
Le droit européen et français a commencé à encadrer ces pratiques. Le règlement général sur la protection des données, appliqué depuis 2018, pose un principe dans son article 22. Toute personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, produisant des effets juridiques la concernant ou l’affectant de manière significative. Des exceptions existent, mais elles s’accompagnent de garanties, notamment le droit d’obtenir une intervention humaine et de contester la décision.
En France, le Code des relations entre le public et l’administration prévoit qu’une décision administrative prise sur le fondement d’un traitement algorithmique doit comporter une mention explicite. La personne concernée peut obtenir communication des règles qui définissent ce traitement et de ses principales caractéristiques.
Le règlement européen sur l’intelligence artificielle, adopté en 2024 et entrant en application progressivement, classe les systèmes selon leur niveau de risque. Les systèmes utilisés pour le recrutement, l’accès au crédit, l’éducation ou les prestations sociales sont considérés comme à haut risque. Ils sont soumis à des obligations renforcées de transparence, de qualité des données et de contrôle humain.
Garder la décision humaine
Ces protections reposent sur une idée simple. Certaines décisions engagent trop la vie des personnes pour être abandonnées entièrement à des machines. Un algorithme peut aider à décider. Il ne doit pas décider seul.
La note Antiqua et nova, publiée par le Vatican en janvier 2025, insiste sur ce point. Elle rappelle que la responsabilité morale ne peut pas être déléguée à une machine. Les personnes qui conçoivent, déploient et utilisent ces systèmes restent responsables de leurs effets. Elle souligne aussi le risque que ces outils accentuent les inégalités, au détriment des plus vulnérables.
Être attentif
La femme de l’exemple initial n’a pas à renoncer à son application de navigation ni à ses recommandations de séries. Elle peut simplement être plus attentive. Se demander pourquoi tel contenu lui est proposé, chercher d’autres sources d’information, demander des explications quand une décision la concernant lui paraît injuste, faire valoir ses droits. Les algorithmes ne sont ni bons ni mauvais en eux-mêmes. Ils sont ce que les humains en font. La vigilance des citoyens est l’une des conditions pour qu’ils restent au service des personnes, et non l’inverse.

