La part des algorithmes
Retour sur la notion d’outil de gouvernement

🔊 Écouter

Il se joue depuis quelques temps, dans le foisonnement d’études au sujet des algorithmes, un drôle de petit théâtre. Nombre de travaux critiques répètent une scène dont le chercheur Malte Ziewitz résumait ainsi la trame : l’acte 1 « introduit les algorithmes comme des acteurs incontournables et puissants dans une grande variété de domaines ». L’acte 2 met en scène l’explication des processus par lesquels ces algorithmes en viennent à « exercer leur pouvoir et leur influence », élaborant pour ce faire une pluralité de notions : biais, opacité, inexplicabilité, etc. Pour esquisser une issue à ce « drame » algorithmique, les auteurs en appellent dans l’acte 3 à des solutions morales, techniques ou juridiques, entre principe de précaution et de responsabilité (accountability), appels à la justice (fairness), processus de de-biaisage et application de clauses de sauvegarde des libertés individuelles (due process, etc.)¹. Le drame étant ici, par-delà la prévisibilité de ce qui s’y joue, le difficile rapport à l’empirie d’un discours qui se répète de texte en texte, indépendamment des variations propres à chaque algorithme et au contexte dans lequel il opère².

Ce petit théâtre se réplique en France depuis l’essor des algorithmes dans les administrations. Souvent déployés de longue date, ces systèmes informatiques ont fait l’objet d’un regain d’attention académique et médiatique au moment des programmes de modernisation de l’État et de la Loi pour une République Numérique de 2016. Plus récemment, le déploiement d’IA génératives a ultérieurement ravivé l’intérêt pour ces objets, qui font l’objet d’un traitement tout aussi dramatisé que celui que Ziewitz décrivait aux États-Unis³.

D’autres analyses, plus ancrées théoriquement et empiriquement, subsistent et les articles de cette mineure de Multitudes en sont une illustration. Une difficulté demeure cependant, pour la sociologie des sciences autant que pour la sociologie politique, lorsqu’il s’agit de traiter avec finesse l’imbrication de ces algorithmes dans une dynamique institutionnelle ou, de manière inverse, d’en décrire la part dans l’exercice du gouvernement.

Dans le contexte français, un exemple de sociologie politique bien outillée provient de l’étude du sociologue Vincent Dubois de « l’algorithme » de contrôle de la Caisse Nationale des Allocations Familiales (CNAF) qui attribue à chaque allocataire un score de risque afin de lutter contre la « fraude » aux allocations⁴. Son ouvrage de 2021, Contrôler les assistés. Usages et genèse d’un mot d’ordre, consacre un chapitre aux technologies d’information et de communication et au programme de data mining dans l’étude des évolutions du contrôle à la Sécurité sociale.

Un travail conceptuel éclairera ici comment la notion d’« outil de gouvernement », que Dubois emprunte au statisticien et sociologue Alain Desrosières, permet d’ancrer l’étude de l’algorithme dans celle d’une dynamique institutionnelle. Si l’algorithme ne détermine pas le tournant rigoriste que la Sécurité sociale traverse à partir des années 1990, son déploiement participe à la structuration de la politique de contrôle et en permet l’intensification. La notion permet alors de restituer le rôle spécifique de l’algorithme dans les transformations d’une institution. Déjouant les oppositions entre sociologie critique et nouveau matérialisme, elle sociologise l’étude des algorithmes publics tout en préservant une sensibilité à leur agentivité propre.

^{Situer l’algorithme dans la politique de contrôle des assisté·es}

Pour l’étude des algorithmes, l’intérêt d’un ouvrage de sociologie de l’État tel que Contrôler les assistés est d’ancrer l’étude de l’objet technique dans celle d’un contexte institutionnel et de son instrumentation. S’inscrivant dans le sillage des travaux de Bourdieu, Dubois examine les ressorts du durcissement sans précédent du contrôle des allocataires ces trente dernières années. Il se trouve que l’essor de la politique de contrôle à la Sécurité sociale coïncide avec celui des technologies d’information, parmi lesquelles figure le programme de data mining.

Expérimenté au début des années 2000, puis généralisé à l’ensemble des caisses en 2011, il accompagne l’instauration de la lutte contre la fraude comme priorité politique de l’institution⁵. Son fonctionnement est simple : en croisant les données des bénéficiaires, il vise à calculer les corrélations entre dossiers « frauduleux » et leurs caractéristiques, de sorte à construire un modèle type de bénéficiaire « fraudeur ». Les dossiers des allocataires sont périodiquement comparés à ce modèle, ce qui permet d’assigner à chacun un score compris entre 0 et 1. Plus le score est élevé, plus le dossier a de chances de figurer sur les listings que les contrôleurs emploient pour déclencher les contrôles sur pièce et sur place.

Notons ici que l’algorithme ne se substitue pas aux pratiques précédentes de contrôle. Il s’y intègre, répondant à diverses incitations et contraintes institutionnelles. Il ne l’automatise pas non plus : il le « flèche », c’est-à-dire qu’il dirige les demandes d’envoi de justificatifs et de visites à domicile. C’est en cela qu’il fonctionne comme outil – ici, comme outil de gouvernement. Outil – au sens où il prolonge l’action sans pour autant agir par lui-même⁶. Outil de gouvernement – car il permet, grâce aux constructions statistiques qu’il produit, d’asseoir l’évaluation, la comparaison ou la décision administrative. Il supplémente et infléchit une pratique toujours déjà outillée, tout en lui conférant une nouvelle efficacité.

Pour Dubois, ces outils « sont partie prenante des transformations de l’action publique plus qu’ils n’en forment la cause ou seulement les prolongements techniques. » Le recours croissant à des instruments d’information « n’a pas impulsé une politique de contrôle ni seulement servi à améliorer son efficacité : il a été une modalité centrale de son élaboration. L’accès facilité aux données et leurs échanges entre administrations sont allés de pair avec la désectorisation dont le contrôle est l’occasion ; la statistique prédictive est quant à elle associée à la « maîtrise des risques » comme mode managérial de pensée et d’organisation⁷.»

Si les concepts fonctionnent comme des boîtes à outils, ouvrant à chaque fois des pistes d’analyse et d’interprétation, la notion d’outil de gouvernement invite à accomplir plusieurs gestes⁸. Elle invite d’abord à mettre en perspective la part des techniques dans l’étude d’une dynamique institutionnelle. Par rapport aux études des algorithmes, qui tendent à traiter leurs objets de manière réifiée, pris en abstraction de leur milieu, elle saisit l’outil comme un élément au sein d’un contexte donné. Cette nouvelle approche n’amoindrit ni l’apport ni la spécificité des techniques au sein des pratique de gouvernement, mais les y insère et invite à s’intéresser à leur rôle dans chaque champ d’action sociale.

^{Ancrer l’algorithme dans l’analyse du pouvoir}

Dans son étude des technologies de contrôle de la CNAF, Dubois emprunte la notion d’outil de gouvernement à la sociohistoire des statistiques d’Alain Desrosières. Développée dans un cadre de pragmatique sociologique, elle s’inspire à son tour de l’analytique foucaldienne du pouvoir. Si une sociologie bourdieusienne de l’État reprend à son compte une telle conception, c’est qu’elle saisit les techniques comme constitutives de l’exercice du gouvernement et permet d’étudier leur spécificité.

La statistique, pour Desrosières, loin d’être une matière technique, distincte de celle politique, est constitutive de l’exercice du gouvernement. Sa genèse coïncide avec celle des institutions modernes et l’histoire de ses méthodes et de ses formalismes combine les manières de penser la société, les modalités d’action en son sein et les modes de sa description⁹. L’histoire des savoirs scientifiques se mêle à celle de l’action publique, l’outil de gouvernement étant à la fois un outil de preuve et un outil de décision.

De Foucault, Desrosières reprend aussi une analyse du pouvoir saisi sous l’angle de ses pratiques. Dans ses travaux sur la gouvernementalité, Foucault développe une théorisation de l’État à partir de son exercice matériel et y intègre l’étude de ses procédures techniques et son « instrumentation¹⁰ ». Les techniques figurent alors comme un relai, un lieu et un mode spécifique d’exercice du pouvoir¹¹. Là où la notion de « technique » possède une signification très vaste pour Foucault, Desrosières l’emploie dans une acception restreinte, comme technique de quantification. Il en étudie la genèse au sein des institutions modernes, la philosophie et les conflits. Il mobilise une conception relationnelle de ces objets, proche de la pensée des techniques de Simondon, attentive aux liens que chacun entretient avec son milieu.

Du fait de son ancrage à l’INSEE et de son rapport sensible, parfois quotidien, avec les statistiques qu’il étudie, Desrosières apporte une grande finesse dans leur traitement empirique, permettant ainsi de varier les descriptions de leur rôle particulier. Pour Dubois, cette approche permet autant de se démarquer des surveillance studies, qui résument les outils informatiques de l’État social à des outils de contrôle, que d’approches comme celle de Virginia Eubanks qui voit dans leur déploiement le prolongement d’une « tradition séculaire de limitation d’accès aux aides publiques, de surveillance, de sanction de ceux qui en bénéficient¹².» Insérant les techniques dans l’analyse des transformations de l’État, il permet d’étudier l’imbrication entre calcul et gouvernement, entre data mining et évolutions de la protection sociale.

^{L’algorithme de la CNAF comme outil de gouvernement}

On peut identifier deux usages par Dubois de la notion d’outil de gouvernement. Un premier, dans le sillage de Foucault, considère l’outil comme révélateur d’une configuration épistémo-politique. Un second interroge la manière dont l’algorithme s’insère dans les dynamiques propres à un champ d’action.

Dans le cas de la caisse d’allocations familiales, le premier aspect renvoie à l’articulation entre le programme de data mining et une philosophie sociale néolibérale de « maîtrise du risque ». Selon Dubois, la modélisation statistique du risque de « fraude » introduite par l’algorithme marque une rupture de la conception du risque au sein de la Sécurité sociale. Là où la statistique de l’État libéral visait à repérer des régularités et à établir des normes par rapport à une population considérée dans son ensemble, la statistique prédictive s’intéresserait davantage aux comportements individuels, qu’il s’agit de prédire.

Par sa manière de « cibler et de suivre de façon individualisée des sous-populations, de calculer leur niveau de risque et de réguler leur comportement¹³», l’outil « performe » une conception individualisée du risque. Le contraste entre cette dernière conception et celle « historique » à la Sécurité sociale est flagrant. Là où le régime général avait pour ambition d’assurer une protection collective « contre les risques de la vie », l’essor du scoring indique l’émergence d’une conception financière de ce même risque, désormais associé à la déviance d’un individu singulier, tenu moralement responsable et de ce fait, surveillé.

L’analyse de Dubois ne se limite cependant pas à cette réflexion sur la philosophie politique que performerait l’outil. Le second usage de la notion d’outil de gouvernement introduit un questionnement sur la manière dont l’objet participe aux transformations de l’institution.

L’algorithme agit, d’abord, en ce qu’il massifie le contrôle. Augmentant le volume de données traitées, la vitesse et la cadence de leur traitement, il permet d’analyser mensuellement les milliers d’informations détenues sur les 12 à 13 millions de foyers allocataires.

Il agit aussi lorsqu’il s’insère dans les relations au sein du champ de la protection sociale. L’algorithme transforme en premier lieu la division du travail du contrôle. Le recours au data mining a engendré une standardisation des pratiques, permettant la diversification des agents qui y contribuent, mais aussi la perte d’une partie de leur pouvoir d’orientation sur les cibles des contrôles en faveur de la Caisse nationale qui les fixe nationalement (elles étaient précédemment fixées localement). En cela, « le data mining a contribué à limiter l’autonomie des caisses locales », dans une dynamique de « construction nationale du contrôle¹⁴» et participe à la réorganisation des pouvoirs.

En deuxième lieu, l’efficacité du contrôle fléché algorithmiquement légitime « la culture du contrôle » et lui affuble un vernis de modernité technologique. Plébiscité par la Cour des comptes, l’algorithme se trouve ainsi promu comme moyen de maîtrise des dépenses et de bonne gestion. On notera enfin qu’il transforme le rapport entre l’État et les populations plus précaires, qu’il contribue à surcontrôler. L’exposition inégale de différents groupes sociaux au contrôle n’est pas nouvelle, mais elle s’est renforcée avec l’usage du data mining. La rationalité technique de l’algorithme contribue alors à réintroduire et neutraliser « des formes de discrimination qu’il serait difficile d’assumer si elles étaient imputées à des choix sociaux délibérés¹⁵».

Dans cette deuxième lecture, l’outil fonctionne autant comme un « médiateur de l’action » dans un champ – ici, le contrôle dans le champ de la protection sociale, qu’il intensifie – que comme médiateur des relations sociales au sein de ce même champ. Il transforme les pratiques des uns, impose l’agenda des autres et infléchit de ce fait l’orientation de la protection sociale. Cette forme de médiation peut être lue, dans une optique bourdieusienne, comme la capacité à transformer les positions au sein d’un champ, ainsi que ses relations avec d’autres champs.

^{L’outil de gouvernement, entre milieu technique et milieu institutionnel}

On pourrait dire, du point de vue de la pensée des techniques, que le champ dans lequel l’objet opère fonctionne pour lui comme un milieu associé. De manière analogue au milieu propre à un objet technique, le champ bureaucratique existe en effet comme condition de fonctionnement de l’outil de gouvernement.

Sans l’expliciter, Dubois déploie une conception relationnelle du rapport entre objet et champ, qu’il décrit comme un jeu de constitution mutuelle. L’algorithme a, certes, permis d’intensifier le contrôle, mais « si le data mining occupe une place devenue centrale dans le contrôle des allocataires, c’est qu’il offre un outil répondant à la demande d’un renforcement de contrôle et que son efficacité [et] son mode de fonctionnement concordent très directement avec le mode managérial de la maîtrise des risques¹⁶. » C’est bien là la condition du « succès » institutionnel de l’objet. Dubois s’appuie ici sur Desrosières, pour qui la réussite d’une technique statistique implique qu’elle « corresponde à de nouvelles façons de penser et d’organiser les rapports sociaux » et « qu’un réseau d’innovateurs trouve suffisamment d’alliés pour la diffuser¹⁷. »

Apparemment intuitive, la possibilité d’associer un « milieu » politique ou institutionnel à l’outil implique cependant une précaution sur le plan conceptuel. La notion de « milieu », telle qu’elle émerge dans la réflexion technologique simondonienne, demeure cantonnée à un milieu techno-biologique et exclut explicitement toute dimension « sociale¹⁸». Suivant la proposition d’Emanuele Clarizio, on pourra envisager de conserver de la notion de milieu le geste plutôt que la définition stricte, l’exigence critique et l’attention qu’il attire au sujet des conditions d’existence et d’action des individus plutôt que son acception techno-centrée¹⁹.

Dès lors, l’outil de gouvernement possèderait un milieu technique, tramé de bases de données administratives, de protocoles d’échanges de données, de listings et de pratiques de contrôle standardisées. Il trouverait aussi un milieu institutionnel, celui des agents et de leurs hiérarchies, des règles de droit et de budgets, des mots d’ordre politiques. Tous deux soutiendraient la genèse et le fonctionnement de l’algorithme, qui participerait en retour à leur transformation. L’objet biface qu’est l’outil de gouvernement ferait la jonction entre deux mondes. Qu’apporte alors leur combinaison ?

Pour Dubois, les dynamiques techniciennes et bureaucratiques se combinent et se renforcent mutuellement. C’est la rencontre entre un impératif de rigueur et la statistique prédictive, combinés aux transformations générales des politiques sociales, qui a « favorisé l’essor sans précédent d’une politique de contrôle, progressivement rationalisée dans l’organisation et durcie dans son orientation²⁰. » Si la politique de contrôle s’est à ce point renforcée, « c’est donc non seulement par addition [de ces facteurs] mais aussi, plus largement encore, parce que leur agencement fait système²¹. »

Les technologies d’information figurent pour Dubois parmi les trois moteurs de l’évolution du contrôle – à part égale avec les rapports de force socio-économiques et les facteurs idéologiques. Au cœur du cadre d’analyse de la sociologie bourdieusienne, cela revient à conférer aux technologies, saisies dans leur matérialité propre, un rôle important dans la constitution des « irréversibilités du contrôle ». Étrange paradoxe, pourrait-on dire, que l’on finisse par conférer une telle importance aux technologies alors même qu’il était question d’en redimensionner la portée pour le gouvernement !

Deux pistes s’ouvrent alors. Ou bien la part des outils et des techniques a toujours été présente dans le gouvernement, et il s’agira de relire le champ bureaucratique en y intégrant cette dimension, ou bien l’outillage du politique a acquis, au moment de sa numérisation, une place et une fonction plus importante qu’auparavant, qu’il s’agira d’expliquer et de caractériser.

Loin de faire la part belle aux algorithmes, une telle entrée par les outils de gouvernement intègre l’étude des objets techniques à l’analyse des rapports sociaux qui président aux transformations d’une institution. Plutôt que de répéter une scène dont l’issue est connue à l’avance, cette approche génère autour de chaque outil une théorie locale de la participation des techniques à l’exercice du gouvernement, sans pour autant les priver d’une part d’agentivité propre. Si l’étude des appareils d’État n’épuise pas le champ d’exercice et de fonctionnement du pouvoir, la notion d’« outil de gouvernement » peut être élargie à bien d’autres champs que les administrations. Elle constitue ainsi un point de départ, dans un contexte où l’engouement autour des algorithmes suscite autant de promesses que de craintes²², pour saisir avec finesse l’apport de ces techniques et les intégrer à l’analyse du pouvoir.

A lire plus tard