Droit et éthique de l'intelligence artificielle

Chapitre 1. L'existence d'un droit à l'IA dans les administrations françaises et les enjeux territoriaux

L’intégration des Systèmes d’Intelligence Artificielle (SIA) dans les administrations publiques françaises soulève des questions juridiques, éthiques et organisationnelles majeures. Cette fiche de révision explore la posture prudente adoptée par la France face à l’IA dans le secteur public, les risques associés à son déploiement, ainsi que les enjeux territoriaux et les contraintes spécifiques rencontrées par les collectivités territoriales. Nous verrons également comment le cadre réglementaire européen, notamment à travers une approche par les risques, structure la régulation des SIA.

I. Une approche française prudente du droit à l’IA dans les administrations

1. La posture défensive française illustrée par le rapport du Conseil d’État (2022)

Le rapport du Conseil d'État de 2022, Intelligence artificielle et action publique : construire la confiance, servir la performance, incarne la prudence française dans l’adoption de l’IA par les administrations.

• Liberté des moyens : L’administration conserve la liberté de choisir les moyens pour remplir ses missions, y compris le recours ou non à l’IA.
• Mutabilité du service public : L’adaptation technologique du service public est une faculté et non un droit positif. Le Conseil d'État souligne qu’aucune norme juridique ne contraint directement l’administration à intégrer l’IA.
• Normes constitutionnelles et droit à la bonne administration : Les objectifs constitutionnels de qualité et performance de l’action publique sont des principes à valeur constitutionnelle, mais non directement opposables aux autorités nationales. Par exemple, l’article 41 de la Charte des droits fondamentaux de l’UE garantit un droit à une bonne administration, mais uniquement à l’égard des institutions européennes.
• Recours en cas de refus de modernisation : Un refus administratif de modernisation, y compris via l’IA, peut être contesté devant le juge administratif, mais ce dernier exige une erreur manifeste d’appréciation, c’est-à-dire un écart flagrant de qualité tenant compte des ressources et besoins.
• Responsabilité et maturité des SIA : L’absence d’utilisation d’un SIA peut engager la responsabilité de l’administration si le SIA est suffisamment mature et généralisé, notamment dans des secteurs sensibles comme la santé (article L.110-5 du Code de la santé publique).

« En l'état de la jurisprudence, aucune norme supérieure ne paraît susceptible de fonder directement un droit au SIA, pas plus qu'une disposition législative, à l'instar de ce qui peut exister aux USA à travers le principe de performance. »

Un exemple à l’international est la jurisprudence italienne (arrêt n° 2270 du 8 avril 2019) qui reconnaît que la décision administrative automatisée peut être une application cohérente du principe constitutionnel d’une bonne administration (article 97 de la Constitution italienne), sans toutefois créer un droit à l’automatisation.

2. L’approche française par les risques liés au déploiement des SIA

Les administrations françaises adoptent une posture prudente en raison des risques identifiés autour des SIA, qui peuvent être regroupés en trois catégories principales :

A. Les risques majeurs associés au déploiement d’un SIA

a) Le risque juridique

• Principal frein identifié, notamment lié au RGPD.
• Crainte de responsabilités légales en cas de décision automatisée sans supervision humaine.
• Méconnaissance fréquente du cadre juridique applicable.
• Question centrale : qui est responsable dans le processus décisionnel assisté par IA ?

b) Le défaut d’acceptabilité

• Rejet des SIA par les usagers et agents publics, souvent lié à un manque d’acculturation.
• Construction descendante des SIA sans prise en compte des besoins des agents.
• Exemples :
  • La crainte justifiée des cyberattaques sur le vote électronique en ligne.
  • La crainte infondée sur le vote électronique par machine non connectée.
• Freins organisationnels : rigidité administrative, aversion au risque et au changement.

c) La sécurisation du SIA

• Protection des bases de données et des systèmes critiques.
• Rôle de l’Agence nationale de la sécurité des systèmes d’information (ANSSI) dans la définition de règles de sécurité.

B. Spécificités des obstacles dans les collectivités territoriales

Deux obstacles majeurs se distinguent dans les collectivités territoriales :

a) Le manque de compétences disponibles

• Difficulté à recruter des experts en IA, surtout dans les petites collectivités et territoires éloignés des grands centres urbains.
• Limitation des ressources financières et attractivité professionnelle faible.

b) La liberté limitée dans les achats de prestations

• Procédures de commande publique longues et coûteuses.
• Difficulté à favoriser les petites entreprises locales de la « govtech ».
• Exemple concret :

II. Enjeux territoriaux et régulation européenne des SIA

1. Fractures territoriales dans le déploiement des SIA

Le déploiement des SIA dans les territoires accentue les disparités d’accès et d’adoption des technologies d’IA. Ces fractures territoriales sont liées à :

• La capacité inégale des collectivités à intégrer les SIA dans leurs services publics.
• Les contraintes liées à la commande publique qui freinent l’innovation locale.
• Les difficultés à mobiliser les compétences nécessaires.

L’exemple d’IssyGPT Lucie IA illustre ces défis : malgré un financement gouvernemental, le projet a dû fermer rapidement, et l’accès est désormais restreint par un système d’inscription, limitant ainsi son impact et son adoption.

2. L’approche par les risques du Règlement sur l’Intelligence Artificielle (IA)

Le cadre réglementaire européen propose une classification des SIA selon leur niveau de risque, afin d’adapter la régulation à la dangerosité potentielle des systèmes. Cette classification comprend cinq catégories :

Cette approche permet de concilier innovation et protection des citoyens, en imposant des règles proportionnées aux risques.

3. Synthèse des enjeux territoriaux et de la régulation

Cette dualité souligne la nécessité d’un équilibre entre innovation technologique, protection des droits, et inclusion territoriale. Les collectivités doivent naviguer entre ces contraintes pour réussir à déployer des SIA efficaces, éthiques et acceptées par les citoyens.

[Diagramme]

Conclusion : Points clés à retenir

• Pas de droit positif à l’IA dans l’administration française, mais une liberté prudente assortie d’une responsabilité possible en cas d’absence d’utilisation d’un SIA mature.
• Posture défensive fondée sur la gestion des risques juridiques, organisationnels et éthiques, notamment la responsabilité, l’acceptabilité et la sécurité.
• Fractures territoriales et contraintes de la commande publique limitent l’adoption des SIA dans les collectivités, freinant l’innovation locale et l’inclusion.
• Le cadre européen propose une régulation adaptée via une classification par les risques, allant de l’interdiction des IA à risque inacceptable à la liberté totale pour les systèmes sans risque.
• L’équilibre entre innovation, protection des droits et inclusion territoriale est essentiel pour un déploiement réussi et éthique des SIA dans le secteur public.

Cette fiche offre une vision complète des défis juridiques, éthiques et territoriaux liés à l’intégration des Systèmes d’Intelligence Artificielle dans les administrations françaises, en lien avec le cadre réglementaire européen. Elle permet de comprendre les enjeux actuels et les pistes pour une adoption responsable et équitable de l’IA dans le secteur public.