La Commission franchit une étape dans ses travaux sur les lignes directrices en matière d'éthique
La Commission a présenté aujourd'hui les prochaines étapes en vue d'instaurer la confiance dans l'intelligence artificielle en poussant de l'avant les travaux du groupe d'experts de haut niveau.
En s'appuyant sur les travaux du groupe d'experts indépendants désignés en juin 2018, elle a lancé une phase pilote afin de faire en sorte que les lignes directrices en matière d'éthique pour le développement et l'utilisation de l'intelligence artificielle (IA) puissent être mises en oeuvre dans la pratique. La Commission invite l'industrie, les instituts de recherche et les autorités publiques à tester la liste d'évaluation détaillée élaborée par le groupe d'experts de haut niveau, qui complète les lignes directrices.
Les projets présentés aujourd'hui constituent un résultat attendu de la stratégie sur l'IA d'avril 2018, qui a pour objectif d'augmenter les investissements publics et privés de manière à ce qu'ils atteignent au moins 20 milliards d'euros par an au cours de la prochaine décennie, ce qui permettra d'accroître le volume des données disponibles, de favoriser les talents et de garantir la confiance.
L'intelligence artificielle peut s'avérer bénéfique dans un large éventail de secteurs, comme les soins de santé, la consommation énergétique, la sécurité des véhicules, l'agriculture, le changement climatique et la gestion des risques financiers. Elle peut également contribuer à la détection des fraudes et des menaces pesant sur la cybersécurité, et permet aux autorités répressives de lutter plus efficacement contre la criminalité. Toutefois, elle fait naître de nouveaux enjeux pour l'avenir du travail et soulève des questions d'ordre juridique et éthique.
La Commission a choisi d'adopter une approche en trois étapes: définir les exigences clés pour une IA digne de confiance, lancer une phase pilote à grande échelle pour recueillir les réactions et retours d'informations des parties prenantes, et élaborer un consensus international pour une IA centrée sur l'humain.
1. Sept éléments essentiels pour parvenir à une IA digne de confiance
Une IA digne de confiance devrait respecter toutes les législations et réglementations applicables ainsi qu'une série d'exigences; des listes d'évaluation spécifiques visent à faciliter la vérification du respect de chacune de ces exigences:
- Facteur humain et contrôle humain: les systèmes d'IA devraient être les vecteurs de sociétés équitables en se mettant au service de l'humain et des droits fondamentaux, sans restreindre ou dévoyer l'autonomie humaine.
- Robustesse et sécurité: une IA digne de confiance nécessite des algorithmes suffisamment sûrs, fiables et robustes pour gérer les erreurs ou les incohérences dans toutes les phases du cycle de vie des systèmes d'IA.
- Respect de la vie privée et gouvernance des données: il faut que les citoyens aient la maîtrise totale de leurs données personnelles et que les données les concernant ne soient pas utilisées contre eux à des fins préjudiciables ou discriminatoires.
- Transparence: la traçabilité des systèmes d'IA doit être assurée.
- Diversité, non-discrimination et équité: les systèmes d'IA devraient prendre en compte tout l'éventail des capacités, aptitudes et besoins humains, et leur accessibilité devrait être garantie.
- Bien-être sociétal et environnemental: les systèmes d'IA devraient être utilisés pour soutenir des évolutions sociales positives et renforcer la durabilité et la responsabilité écologique.
- Responsabilisation: il convient de mettre en place des mécanismes pour garantir la responsabilité à l'égard des systèmes d'IA et de leurs résultats, et de les soumettre à une obligation de rendre des comptes.
2. Processus pilote à grande échelle avec des partenaires
À l'été 2019, la Commission lancera une phase pilote associant un large éventail de parties prenantes. À l'heure actuelle déjà, les entreprises, les administrations publiques et les organisations peuvent adhérer à l'Alliance européenne pour l'IA, et elles seront informées du démarrage du processus pilote. En outre, les membres du groupe d'experts de haut niveau sur l'IA aideront à présenter et à expliquer les lignes directrices aux parties prenantes concernées dans les États membres.
3. Élaboration d'un consensus international pour une IA axée sur le facteur humain
La Commission souhaite porter son approche en matière d'IA sur la scène internationale parce que les technologies, les données et les algorithmes ne connaissent pas de frontières. À cette fin, elle renforcera sa coopération avec les partenaires partageant les mêmes idées, comme le Japon, le Canada ou Singapour, et continuera à jouer un rôle actif dans les discussions et initiatives internationales, y compris au sein du G7 et du G20. La phase pilote concernera également les entreprises d'autres pays et les organisations internationales.
