Pourquoi l’ODAP ?

L’ODAP est né dans un contexte où les administrations françaises utilisent de plus en plus d’algorithmes dans leurs missions de service public, allant du simple fichier Excel au projet d’intelligence artificielle générative. Les algorithmes publics restent peu visibles, compris, évalués et encadrés. Or, ils sont incontournables dans la vie des citoyen·nes, touchant à des aspects critiques de leur vie (éducation, santé, prestations sociales, urbanisme…).

L’article 15 de la déclaration des droits de l’Homme et du citoyen de 1789 prévoit que “la Société a le droit de demander compte à tout Agent public de son administration”. Il est essentiel que les citoyen·nes puissent débattre de ces systèmes et que les administrations rendent des comptes sur les politiques publiques qu’elles appliquent. Ainsi, les algorithmes publics doivent être plus clairement identifiés et identifiables, leurs fonctionnements détaillés et justifiés, leurs conséquences évaluées et leur gestion plus ouverte.

Que faisons-nous ?

L’ODAP renforce la transparence et l’évaluation des algorithmes publics en France via de la « recherche outillante » :

• Il produit des connaissances sur les algorithmes publics, via des projets de recherche s’appuyant sur les méthodologies du design et des sciences sociales, diffusés de manière ouverte ;
• Il fournit des ressources aux personnes que ces systèmes affectent et celles qui les développent ou les utilisent, via des actions de formation et des partenariats avec des nitiatives existantes ;
• Il permet la mise en place d’enquêtes collectives sur les algorithmes publics au-travers d’actions de recherche ouverte et d’éducation populaire.

Il poursuit trois axes de travail :

• Réaliser une cartographie contributive des algorithmes utilisés par l’administration française ;
• Évaluer la maturité des administrations centrales sur le sujet de la transparence algorithmique ;
• Proposer des méthodes d’analyse des risques et effets des algorithmes sur les personnes concernées.