L'intelligence artificielle (IA) est de plus en plus utilisée dans les administrations publiques et les entreprises au Bénin. Cependant, son déploiement soulève des enjeux juridiques importants. L'Agence des systèmes d'information et du numérique (Asin) considère que la conformité juridique est essentielle pour la réussite et la pérennité des systèmes d'IA. L'Asin a publié un billet juridique sur la conformité juridique des systèmes d'IA, qui met en évidence les défis liés à la protection des données personnelles, la propriété intellectuelle et la cybersécurité.
Le Règlement européen sur l'intelligence artificielle, connu sous le nom d'AI Act, est un exemple de l'évolution vers un encadrement juridique plus structuré de l'IA. L'AI Act adopte une approche graduée et proportionnée, fondée sur le niveau de risque que présentent les différents systèmes d'IA. Les systèmes d'IA sont classés en quatre catégories, allant des pratiques présentant un risque inacceptable aux applications présentant un risque minimal ou nul. Cette classification permet de déterminer les obligations qui s'imposent aux différents acteurs, notamment les fournisseurs, développeurs, intégrateurs, distributeurs et utilisateurs professionnels.
Les systèmes à haut risque regroupent des applications susceptibles d'avoir des conséquences importantes sur les personnes. Ils peuvent notamment concerner l'emploi et le recrutement, l'éducation, l'accès à certains services essentiels, les services publics, la sécurité ou encore la justice. Les exigences pour ces systèmes portent notamment sur la gouvernance des données, la documentation technique, la supervision humaine, la transparence, la cybersécurité, la gestion des risques et l'évaluation de conformité. La contractualisation est également un instrument important de maîtrise des risques juridiques.
Les contrats relatifs au développement, à l'acquisition ou à l'utilisation de solutions d'IA doivent clairement définir les responsabilités des différentes parties et organiser la répartition des obligations de conformité. Une attention particulière doit être accordée aux clauses relatives aux données, qui doivent préciser les catégories de données utilisées, les droits d'utilisation, les modalités de conservation et de transfert, ainsi que les mesures de minimisation, de qualité et de sécurité. La propriété intellectuelle constitue un autre enjeu majeur.
La gouvernance des données et des systèmes doit également être encadrée. Elle passe par une définition claire des rôles et responsabilités, des procédures de validation, des mécanismes d'audit, la traçabilité des traitements, la gestion des versions et l'archivage des documents de conformité. Les exigences de sécurité numérique occupent également une place centrale. Les contrats doivent notamment prévoir les obligations de notification des incidents, les audits de sécurité, la gestion des sous-traitants et les garanties relatives à la confidentialité, à l'intégrité et à la disponibilité des données.
La prévention des biais algorithmiques constitue un autre volet important. Des contrôles réguliers sur la qualité des données, des évaluations des performances des systèmes et des mesures destinées à prévenir les discriminations doivent être envisagés. Lorsque les décisions prises par un système d'IA peuvent produire des effets significatifs sur les personnes, une supervision humaine effective apparaît nécessaire. Les clauses relatives à la responsabilité, aux garanties et à l'indemnisation doivent enfin tenir compte des particularités de l'intelligence artificielle.
L'Asin estime que la conformité juridique doit s'inscrire dans une véritable gouvernance de l'intelligence artificielle. Celle-ci implique notamment une cartographie des usages, une classification des systèmes selon leur niveau de risque, des procédures internes de contrôle, des audits réguliers, une politique documentaire adaptée et une sensibilisation continue des acteurs. Pour le Bénin, cette approche revêt une importance particulière au regard de l'accélération de l'adoption de l'IA dans les secteurs public et privé.
Key points
- La conformité juridique est essentielle pour la réussite et la pérennité des systèmes d'IA.
- L'AI Act adopte une approche graduée et proportionnée pour encadrer les systèmes d'IA.
- La contractualisation est un instrument important de maîtrise des risques juridiques liés à l'IA.
