L'Union européenne doit protéger les droits humains lors du prochain vote de la législation sur l'intelligence artificielle
À l'approche du vote du Parlement européen sur la législation sur l'intelligence artificielle (« AI Act ») en mai, l'Union européenne (UE) doit saisir l'occasion de réglementer les technologies d'intelligence artificielle (IA) dans le but de protéger et de promouvoir les droits humains, écrit Amnesty International dans une lettre ouverte adressée aux parlementaires européens des commissions concernées.
« La loi sur l'intelligence artificielle (IA) offre aux législateurs européens l'occasion de mettre fin à l'utilisation de systèmes d'IA discriminatoires et qui bafouent les droits, a déclaré Mher Hakobyan, conseiller en matière de plaidoyer sur la réglementation de l'intelligence artificielle à Amnesty International.
« L'UE doit interdire l'utilisation de systèmes d'IA discriminatoires qui affectent de manière disproportionnée les personnes issues de groupes marginalisés, notamment les migrant·e·s, les réfugié·e·s et les demandeurs·euses d'asile. Ces technologies établissent le profil de personnes et de communautés, en prétendant " prédire " les crimes ou " identifier " les personnes censées représenter un risque pour la sécurité, ce qui peut même conduire à leur refuser le droit d'asile. Les législateurs européens doivent saisir cette occasion d'interdire l'utilisation de certaines pratiques fondées sur l'IA et de protéger les droits des migrant·e·s, des réfugié·e·s et des demandeurs·euses d'asile face aux aspects néfastes de l'IA.
« Il faut également interdire l'utilisation des technologies de surveillance de masse, comme les outils d'identification biométrique à distance, rétrospectifs et en temps réel. La loi proposée doit aussi bannir les systèmes discriminatoires de notation sociale qui empêchent les personnes d'accéder à des services publics et privés essentiels, tels que les pensions alimentaires et l'éducation.
« La loi doit également aborder le développement de technologies européennes qui sont exportées vers des pays tiers. Premièrement, il faut interdire l'exportation à l'étranger des systèmes d'IA interdits en Europe. Deuxièmement, les technologies à haut risque autorisées qui sont exportées doivent répondre aux mêmes exigences réglementaires que celles qui sont commercialisées au sein de l'UE.
« Enfin, il convient d'appliquer des mesures strictes en matière d'obligation de rendre des comptes et de transparence lorsque des organismes publics et privés se servent de systèmes d'IA au sein de l'UE. Ils doivent alors exposer leur utilisation des systèmes d'IA à haut risque et publier des évaluations approfondies de l'impact sur les droits humains. Ainsi sera-t-il possible de demander réparation en cas d'abus. La loi sur l'intelligence artificielle doit porter création d'un mécanisme à cet effet. »
Complément d'information
Le 21 avril 2021, la Commission européenne a proposé un texte de loi régissant l'utilisation de l'intelligence artificielle. Le Conseil de l'UE, représentant les gouvernements des pays membres de l'UE, a adopté sa position en décembre 2022. Le Parlement européen prévoit de finaliser sa position ce printemps, après quoi les deux institutions, ainsi que la Commission européenne, devront se mettre d'accord sur un texte commun pour la règlementation.
Notre dernière lettre ouverte, à l'initiative de notre secrétaire générale Agnès Callamard, appelle les membres du Parlement européen à interdire l'usage de certains systèmes d'IA qui ne sont pas compatibles avec les droits fondamentaux des migrant·e·s, des réfugié·e·s et des demandeurs·euses d'asile. Cette lettre est publiée le 26 avril 2023.
En tant que membre d'une coalition d'organisations de la société civile menée par le Réseau européen des droits numériques (EDRi), Amnesty International milite en faveur de règlements concernant les technologies d'intelligence artificielle au sein de l'UE qui protègent et promeuvent les droits humains.
Le 19 avril 2023, Amnesty International et les partenaires de cette coalition ont publié une déclaration ouverte appelant le Parlement européen à protéger les droits humains dans le cadre de la législation sur l'intelligence artificielle, à l'approche du vote.