Vous êtes ici : Langue FRRecherche

  • Recherche,

Algorithmes publics, transparence et démocratie

Publié le 24 juin 2018

Article de Sylvie Thoron, Professeure d'économie, spécialisée en théorie des jeux et en philosophie économique à l'UPEC, publié sur The Conversation France.

Devant l'écran, le 22 mai 2018, à Lille. Denis Charlet / AFP
Devant l'écran, le 22 mai 2018, à Lille. Denis Charlet / AFP
Date(s)

le 24 juin 2018

Les algorithmes sont de formidables outils de gouvernance pour les administrations et semblent aujourd’hui inévitables. Nous voudrions montrer ici, à travers l’exemple de Parcoursup, qu’ils pourraient devenir aussi de puissants outils démocratiques. En janvier dernier, le gouvernement décidait de répondre à la forte contestation dont l’algorithme APB avait fait l’objet, par la mise en place hâtive de Parcoursup. Les mécontentements liés à APB avaient fini par se cristalliser autour du manque de transparence.

Sans surprise, Parcoursup souffre des mêmes critiques, démultipliées du fait que chaque établissement contrôle à présent une partie du processus. Dans une tribune publiée dans Le Monde, en décembre 2016, le collectif académique Algocit, auquel nous appartenons, prenait position en faveur de la transparence d’APB, et notamment de la transparence de son cahier des charges. Notre position reste, bien sûr, inchangée en ce qui concerne Parcoursup et nous voulons ici, à titre personnel cette fois, préciser cette position et les conséquences que l’on doit en tirer pour la construction de ces algorithmes.

La substitution de Parcoursup à APB ne permettra pas de faire l’économie d’une réflexion sur les procédures de construction des algorithmes utilisés par les administrations. Et à l’ère de la République du numérique, cette réflexion devrait prendre la forme d’un débat public.

Les questions sont nombreuses. Par qui doivent être développés les algorithmes utilisés par les administrations ? Comment doivent-ils être développés ? Peut-on définir des principes qui encadreraient leur construction ? Leur fonctionnement ? Doit-on en particulier les rendre transparents ? Quelle forme pourrait prendre cette transparence ?

L’intention n’est pas ici de répondre à toutes ces questions mais d’éclairer la toile de fond du débat. Il nous semble en effet nécessaire de montrer que les réponses qui seront proposées dépendront de la conception que l’on se fait de la démocratie.

Deux raisons de promouvoir la transparence des algorithmes administratifs

Nos institutions sont celles d’un régime de démocratie représentative. Dans des conditions idéales, « la loi est l’expression de la volonté générale » (Déclaration des droits de l’homme et du citoyen de 1789, art. 6). Nos institutions ne sont cependant pas déterminantes ; le diable est dans les détails.

En deçà de nos règles et grands principes démocratiques, les petits « aménagements », dont font partie les algorithmes utilisés par les administrations, ont toute leur importance. Si le cahier des charges qui sert de base à la construction de ces algorithmes était la simple expression de la loi, celui-ci pourrait être considéré comme une expression de cette volonté générale.

Nous savons, cependant, que c’est rarement le cas : l’algorithme n’est pas la simple application de la loi, il est aussi l’instrument d’une politique publique. Or, la mise en œuvre d’une politique publique dans cet environnement institutionnel représentatif peut prendre des formes différentes, selon la conception que l’on se fait de la démocratie.

Un citoyen passif et individualiste

Les algorithmes de type APB, ou Parcoursup tel qu’il fonctionne aujourd’hui, et qui trouvent leurs fondements dans la théorie du choix social (Arrow 1951, Gale et Shapley 1962), sont cohérents avec une conception agrégative de la démocratie (Black 1948).

Lors d’une conférence à Polytechnique. École polytechnique -- J.Barande/Flickr, CC BY-SA

L’algorithme poursuit un certain nombre d’objectifs dont le premier est celui d’allouer un établissement à chaque bachelier. C’est le gouvernant qui doit décider des règles et objectifs de l’algorithme. Le bachelier ne fait que communiquer ses vœux. Le gouvernant tente d’obtenir que les vœux formulés par le bachelier révèlent ses vraies préférences. En lui demandant d’expliciter un classement dans le cas d’APB ou en lui demandant de répondre séquentiellement aux classements des établissements dans le cas de Parcoursup.

Le citoyen est considéré comme simple utilisateur passif et individualiste, et il est encouragé à l’être. La construction de l’algorithme peut, dans ce cas, être sous-traitée à des développeurs privés. Le cahier des charges doit alors servir d’interface entre l’administration donneuse d’ordre et la société qui est en charge de développer l’algorithme. Il doit être explicité pour remplir cette fonction, mais, dans l’intérêt du développeur, la transparence vis-à-vis des utilisateurs n’est, dans ce cas, pas souhaitable.

Un objet de délibération

Selon une conception plus délibérative de la démocratie (Habermas 1981, Manin 1985), le débat public peut-être alors nécessaire au moment de la construction de l’algorithme, pour que les règles qui ne sont pas dans la loi soient aussi considérées comme l’expression d’un bien commun.

Ainsi, il peut sembler justifié d’étendre une culture de la délibération aux décisions qui touchent directement et à grande échelle la vie des citoyens – décisions qui sont mises en œuvre par les algorithmes administratifs. Quelles conditions seraient alors les plus propices au développement de cette culture de la délibération ?

La transparence du cahier des charges, permettant de mettre en évidence les principes auxquels les citoyens sont collectivement attachés, ainsi que les contraintes collectives auxquelles ils doivent se soumettre, serait indispensable à l’établissement de ces bonnes conditions. Nous formons l’hypothèse que cette transparence transformerait les conceptions des citoyens et des gouvernants par rapport au modèle agrégatif de la démocratie.

D’une part, le citoyen ne verrait plus l’algorithme comme une boîte noire dans laquelle il entre ses vœux individuels pour obtenir un simple service public mais pourrait alors concevoir le cahier des charges comme une base d’arguments raisonnables justifiant son fonctionnement. D’autre part, les gouvernants devraient prendre en compte ce jugement raisonnable des citoyens au moment de l’énoncé de ce cahier des charges.

A partir de cette bonne condition minimale, on peut imaginer deux modèles différents qui permettent de comprendre pourquoi et comment les gouvernants prendraient en compte un jugement raisonnable des citoyens. Il en découlera deux raisons d’exiger la transparence du cahier des charges des algorithmes administratifs.

Sous la menace de la contestation

Dans un premier modèle, le gouvernant élabore seul le cahier des charges, ensemble de règles et contraintes « raisonnables », sous la menace de la contestation de groupes de citoyens.

La conception contestataire de la démocratie de Philip Pettit (2001, 2004) suppose en effet que le citoyen n’est en réalité pas passif, en tout cas si on lui en donne les moyens. Les recours devant le tribunal administratif sont déjà une première forme de contestation qui ne nécessite pas la transparence du cahier des charges. Le citoyen peut faire un recours sur la base de sa seule expérience.

Pourquoi, alors, l’Association des lycéens semble-t-elle si attachée à la transparence ? Parce que la transparence peut contribuer à améliorer cette capacité de contestation des citoyens. La contestation qui prend pour base le cas individuel, et qui passe traditionnellement par le biais de la justice et du droit administratif, a une portée moins importante que la contestation d’un élément du cahier des charges qui concerne un ensemble de citoyens.

L’association recherche des arguments de contestation collectifs. Cette contestation peut être élaborée au cours d’une délibération au sein du groupe contestataire, en ce sens la conception de Pettit peut être délibérative. Ainsi une première raison d’exiger la transparence du cahier des charges des algorithmes administratifs est qu’elle permet d’améliorer la qualité et la puissance de la contestation.

Avec la participation des citoyens

Dans un deuxième modèle, les gouvernants ne sont pas seuls à définir le cahier des charges de l’algorithme administratif. Les citoyens participent aussi directement à cette élaboration.

Il reste alors à déterminer les formes que peut prendre cette participation. Elle ne peut pas prendre la forme, comme cela a été envisagé, d’un recueil de la satisfaction individuelle des utilisateurs, par exemple à travers l’interface de l’algorithme lui-même, comme le ferait un algorithme privé.

Elle peut se faire, par contre, par l’intermédiaire de l’organisation de jurys citoyens et-ou par la mise en place d’une plateforme propre à recevoir des propositions publiques. Une deuxième raison d’exiger la transparence du cahier des charges est donc qu’il doit l’être par construction.

En conclusion

Les recommandations que l’on peut faire au sujet de la construction et du fonctionnement d’un algorithme administratif peuvent correspondre à des conceptions très différentes de la démocratie. Il est important de bien distinguer les recommandations en fonction du modèle visé.

La résistance que rencontre l’idée de la transparence vient d’une conception agrégative de la démocratie et s’accommode facilement d’une sous-traitance de la construction des algorithmes. La transparence du cahier des charges est, par contre, indispensable dans une conception contestataire de la démocratie. Enfin, elle apparaît comme la conséquence de la participation des citoyens dans une conception directement délibérative.

L’actualité mouvementée de ces dernières années relative à la mise en œuvre des algorithmes d’affectation des lycées dans l’enseignement supérieur montre, et c’est en notre sens une bonne nouvelle, que le citoyen n’est pas passif et qu’il faut donc choisir entre contestation et participation.

On ne tuera pas le débat en changeant l’algorithme ou en refusant à l’utilisateur son statut de citoyen. Encore moins en niant que la démocratie se joue aussi et peut-être surtout à ce niveau de détail de nos règles de vie communes.

The ConversationL’auteur remercie ses collègues du collectif interdisciplinaire ALGOCIT pour les riches discussions qui lui ont permis de mener cette réflexion.

Sylvie Thoron, Professeure d'économie, spécialisée en théorie des jeux et en philosophie économique., Université Paris-Est Créteil Val de Marne (UPEC)

La version originale de cet article a été publiée sur The Conversation.