La transformation numérique à l’assaut de l’État-Providence : le rapport du Professeur Philip Alston, Rapporteur spécial sur l’extrême pauvreté et les droits de l’homme

Par Gregory Lewkowicz, Professeur à l’Université libre de Bruxelles, directeur du programme droit global du Centre Perelman

Le 11 octobre 2019, le professeur Philip Alston – actuellement Rapporteur spécial des Nations Unies sur les droits de l’homme et l’extrême pauvreté – communiquait à l’Assemblée Générale un rapport attendu sur l’État-Providence numérique. Fruit d’un long travail de collecte d’informations, ce rapport met en garde contre le risque que nous nous engagions « sans réfléchir, tels des automates, sur la voie d’un monde dystopique où la protection sociale serait totalement dématérialisée ».[1]

Dans son rapport, le professeur Alston fait l’analyse de la véritable révolution que les systèmes de protection et d’aide sociale expérimentent à l’échelle globale à la faveur de leur transformation numérique. Partout, l’informatique et les techniques issues de la recherche en intelligence artificielle sont mobilisés pour automatiser, prévoir, identifier, surveiller, détecter, cibler et punir. Cette transformation numérique est généralement justifiée par l’objectif d’assurer une administration plus efficace et plus sécurisée des prestations sociales et de l’aide sociale. Pourtant, cette révolution s’accompagne en pratique – observe le Rapporteur spécial – de limitations budgétaires, d’une diminution du nombre de bénéficiaires, de l’imposition de conditions contraignantes et intrusives à l’octroi d’aides ainsi que de mécanismes visant à modifier les comportements des bénéficiaires. Cette transformation est d’autant plus préoccupante, estime le Rapporteur spécial, qu’elle affecte des populations précaires qui sont soumises à des régimes de surveillance et de contrôle « qui ne seraient jamais acceptées si elles étaient expérimentées dans le cadre de programmes destinés aux catégories plus aisées de la société »[2].

Le rapport observe, en outre, qu’en dépit de l’ampleur des effets de cette transformation numérique, celle-ci fait concrètement l’objet de peu de débats. Les experts en informatique et en intelligence artificielle acceptent de manière peu critique les préoccupations officielles d’efficacité et de lutte contre la fraude sociale. Les spécialistes de la protection sociale ont, dans leur immense majorité, considéré à tort que la transition numérique était essentiellement une question technique sans incidence significative sur les politiques mises en œuvre. Quant aux experts des droits de l’homme, leurs analyses se sont d’abord portées sur des questions liées à la vie privée et au droit de la non-discrimination. On pourrait d’ailleurs, nous semble-t-il, étendre ce diagnostic du Rapporteur spécial à l’immense majorité des acteurs du monde du droit qu’ils soient magistrats, avocats ou universitaires. Bref, l’émergence de l’État-Providence numérique s’opère dans une forme d’indifférence générale, en ce compris de ceux qui devraient pourtant jouer le rôle de vigie.

Dans ce contexte, le rapport du Rapporteur spécial entend à la fois alimenter le débat par l’examen, à l’échelle internationale, de six usages des technologies numériques dans le domaine de l’aide sociale et, à la fois, appeler à agir afin d’encadrer le mouvement en cours afin qu’il soit mené dans le respect des droits fondamentaux et des objectifs de l’aide sociale et des systèmes de sécurité sociale. Ce rapport mérite à notre avis d’être lu dans son intégralité par tous les acteurs du monde du droit et, en particulier, par les plus sceptiques quant à l’effet des technologies sur la pratique du droit. Nous en résumons ci-après les grandes lignes.

I. Un premier bilan de l’émergence de l’État-Providence numérique

Dans son rapport, le professeur Alston constate que les technologies numériques sont utilisés de manière croissante pour vérifier l’identité des bénéficiaires de l’aide sociale, pour déterminer les droits à prestation, pour assurer le calcul et le versement de ces prestations, pour prévenir et détecter les fraudes, pour évaluer les risques et classer les besoin ainsi que pour organiser la communication entre les organismes de protection sociale et les bénéficiaires. Ces différents usages soulèvent des questions sur le plan de leur efficacité, de la pertinence de leur encadrement normatif actuel ou de leur conformité aux droits fondamentaux et aux principes de l’état de droit.

A titre d’exemple, l’utilisation de solutions numériques afin de vérifier l’identité juridique des personnes est largement promue à l’échelle internationale, notamment, par la Banque Mondiale (BM) dans le cadre de la campagne identification pour le développement (ID4D). Les Principes généraux sur l’identification pour un développement durable[3] adoptés par la BM ne recommandent toutefois aucun cadre juridique contraignant pour encadrer ces systèmes numériques d’identification. Ils recèlent pourtant des risques en matière de protection des droits fondamentaux et des principes de l’état de droit qui se sont illustrés en Inde avec le système d’identification biométrique Aadhaar, au Kenya avec le système national intégré de gestion de l’identité (Huduma Namba) ou encore en Afrique du Sud dans le cadre du contrat conclu en 2012 entre l’organisme national de sécurité sociale et la société Cash Paymaster Services. Le Rapporteur spécial regrette que « les solutions avancées pour faire face à ces risques sont souvent technologiques ou prennent la forme de normes juridiques non contraignantes »[4] alors qu’ils sont de nature à mettre en péril la protection des droits fondamentaux.

Des problèmes sérieux se manifestent également concernant l’informatisation de la détermination des droits à prestations ainsi que l’automatisation du calcul et du versement des prestations sociales. Le Rapporteur spécial dresse ainsi l’inventaire de nombreuses expériences en la matière – depuis l’utilisation du logiciel Curam dans la province canadienne d’Ontario jusqu’au système robo-dette en Australie en passant par le système Real Time Information au Royaume-Uni – dont les défaillances ont causé de sérieux problèmes. Ainsi, certains bénéficiaires de l’aide sociale ont-ils vu le versement de leurs prestations sociales retardé lorsque celles-ci n’ont pas simplement été suspendues en raison des défaillances des systèmes informatiques. Ce sont ainsi les personnes les plus vulnérables de la société qui ont été pénalisées par le transformation numérique de l’État-Providence.

Autre exemple épinglé par le professeur Alston : l’utilisation de la technologie pour prévenir et détecter la fraude sociale. Le Rapporteur spécial observe que de nombreux États ont aujourd’hui recours à des techniques de data mining visant à croiser les données de plusieurs sources pour identifier les cas de fraude sociale. Toutefois, l’efficacité réelle de ces techniques n’est pas toujours établie et la légalité de la surveillance intrusive à laquelle les bénéficiaires de l’aide sociale sont soumis dans ce contexte n’a pas fait l’objet d’un débat critique sérieux. Plus prosaïquement, le remplacement des interactions directes entre les travailleurs sociaux et les bénéficiaires de l’aide sociale par des interactions en ligne conduit parfois à exclure de l’accès aux prestations sociales les bénéficiaires les plus pauvres qui ne disposent souvent pas d’une culture numérique étendue.

L’inventaire dressé par le professeur Alston a le mérite d’ouvrir le débat sur le tournant numérique dans les services publics. Pour les juristes, il illustre surtout l’importance de dépasser une approche purement formaliste de la transformation numérique. L’informatique et les techniques issues de la recherche dans le domaine de l’intelligence artificielle ne sont pas simplement des outils techniques. Lorsqu’ils sont mobilisés pour assurer la mise en œuvre du droit, ils transforment le sens des règles et des normes en modifiant significativement leurs effets. La transformation numérique requière, à ce titre, l’attention critique des professionnels du droit et, le cas échéant, leur intervention pour défendre les droits fondamentaux et les principes de l’état de droit.

II. Comment garantir les droits fondamentaux dans l’État-Providence numérique ?

La transformation numérique de l’État-Providence telle qu’elle est menée aujourd’hui est porteuse de conséquences sociales catastrophiques. Or, estime le professeur Alston, la technologie ne peut tenir lieu de politique. Aussi conviendrait-il à ses yeux que les États agissent en prenant « des initiatives réglementaires et en s’engageant véritablement à imaginer l’État-providence numérique non pas comme un cheval de Troie de l’offensive néolibérale contre la protection sociale et la réglementation, mais comme un moyen de garantir un niveau de vie décent à chaque membre de la société »[5]. Dans cette perspective, le Rapporteur spécial dessine quelques pistes de réflexion et d’actions.

Premièrement, il convient de prendre les droits de l’homme au sérieux et de réglementer le secteur de la technologie sans se contenter des règles éthiques et des lignes directrices proposées par celui-ci. De l’avis du Rapporteur spécial, ces référentiels éthiques sont largement critiquables. Ils font au mieux une allusion symbolique au droit des droits de l’homme. Ils ne prennent pas en considération les conflits entre droits et ne s’appuient pas sur une réelle consultation des parties concernées. Enfin, même lorsqu’ils prévoient des mécanismes de responsabilisation, ceux-ci sont insuffisants ou inadaptés.

Deuxièmement, estime le Rapporteur spécial, il faut inscrire la légalité et la transparence de la transformation numérique au cœur des processus en cours. L’absence de fondement juridique à de nombreux projets en cours témoigne à la fois d’un certain mépris du droit et du manque criant d’un débat ouvert au niveau parlementaire ou plus largement à l’échelle de la société. Cette situation doit être radicalement modifiée pour une transformation numérique de l’État-Providence digne de ce nom et respectueuse des principes de l’état de droit.

Troisièmement, l’État-Providence numérique ne peut s’imaginer sans promotion de l’égalité numérique. Le Rapporteur spécial souligne que le passage au numérique par défaut fait en effet fi du fossé numérique et des difficultés parfois insurmontables des usagers pour accéder à l’équipement nécessaire ou pour maîtriser les compétences de base pour s’orienter sur les plateformes en ligne. Il préconise aussi de toujours garantir la possibilité effective des usagers de choisir d’utiliser d’autres voies que les plateformes numériques pour bénéficier de l’aide sociale, de favoriser un accès aux équipements informatiques nécessaires dans des conditions raisonnables et de mettre en place des programmes éducatifs visant à faire acquérir les compétences de base en matière de numérique à tous les usagers. Dans ce même esprit, le professeur Alston préconise que le développement des solutions techniques soit réalisé en collaboration avec les usagers et évalué de manière participative afin de limiter les préjudices résultant de choix techniques inappropriés par les développeurs.

Quatrièmement, le Rapporteur spécial insiste sur l’importance de garantir la prééminence du droit effectif à la protection sociale qui constitue un aspect important du droit à vivre dans la dignité. Ce droit, estime le professeur Alston, n’est pas effectif lorsque des systèmes informatiques rigides viennent, en fait, en limiter l’accès. « Obliger les individus à franchir une barrière technologique pour obtenir des prestations fait qu’il peut être très difficile, voire impossible, pour eux de jouir de ce droit »[6]. Cette forme de conditionnalité de l’accès aux prestations de sécurité sociale et à l’aide sociale illustre d’ailleurs d’autres motifs d’inquiétude du professeur Alston, à savoir, la transformation plus générale de l’État-Providence en un État de surveillance mettant en danger plus largement les droits civils et politiques. Cet État de surveillance se caractériserait par l’estompement des frontières entre la surveillance exercée par les pouvoirs publics et celle organisée par le secteur privé ainsi que par la « mort de l’amnésie », c’est-à-dire, la possibilité de collecter et de conserver sans limite dans le temps des informations sur une personne qui pourraient être utilisées contre elle.

III. L’État-Providence numérique : un projet plutôt qu’un destin

Le rapport du professeur Alston tire la sonnette d’alarme. La transformation numérique de l’État et des services publics, en cours aux quatre coins du monde, se fait dans l’indifférence généralisée alors qu’elle constitue une véritable révolution politique et juridique. La technologie ne peut pas être un substitut à la politique, ni un succédané du droit. Il est nécessaire que les défenseurs des droits fondamentaux et des valeurs de l’état de droit reprennent la main en mettant un terme à la croyance en « l’inéluctabilité d’un avenir purement numérique ». La transformation numérique doit être un projet plutôt qu’un destin. En ce sens, la décision d’un passage au numérique devrait être prise au cas par cas et après une réflexion approfondie, publique, contradictoire et transparente.

Pour le Rapporteur spécial, ceci ne sera possible qu’en mettant un terme à la situation actuelle dans laquelle les États sont réticents à réglementer les activités des entreprises technologiques alors que celles-ci sont réticentes à prendre en compte de manière systématique les considérations relatives aux droits de l’homme. Le professeur Alston invite dès lors les États à imposer aux entreprises technologiques de respecter les normes du droit international des droits de l’homme et à mettre en place un régime de responsabilité adéquat.

Ceci ne doit toutefois pas conduire à une forme de technophobie. Les technologies numériques peuvent être utiles à l’amélioration de l’État-Providence pour autant qu’on cesse « de se focaliser sur la fraude, les économies, les sanctions et l’efficacité telle que définie par le marché pour se recentrer sur l’essentiel, à savoir, comment tirer parti des technologies pour que les budgets alloués à la protection sociale (…) permettent aux personnes vulnérables et défavorisées de jouir d’un meilleur niveau de vie »[7].

L’alerte donnée par le professeur Alston est salutaire. A notre estime, elle ne produira toutefois d’effets que lorsque les partisans de l’état de droit et des droits fondamentaux feront de la transformation numérique leur priorité, demanderont des comptes et inventeront les nouveaux instruments et les nouveaux recours nécessaires pour tenir les technologies numériques en respect.

[1] Assemblée générale des Nations Unies, Rapport du Rapporteur spécial sur les droits de l’homme et l’extrême pauvreté, A/74/493, 11 octobre 2019, p.2 disponible en ligne à l’adresse https://undocs.org/fr/A/74/493

[2] Ibid., p. 5.

[3] Voy. http://documents.banquemondiale.org/curated/fr/374891492421315888/Principles-on-identification-for-sustainable-development-toward-the-digital-age

[4] Assemblée générale des Nations Unies, loc.cit., p.7.

[5] Ibid., p. 14.

[6] Ibid., p. 19.

[7] Ibid., p. 26.