L’Europe veut encadrer l’usage de l’intelligence artificielle

La Commission européenne a présenté une proposition législative visant à encadrer l’usage des technologies d’intelligence artificielle (IA) avec à la clé de fortes amendes en cas de violation des règles.

L’intelligence artificielle (IA) est la nouvelle technologie qui recèle un potentiel industriel révolutionnaire que l’Union européenne veut saisir. Elle comporte aussi de nombreux dangers encore mal connus, comme la surveillance de masse incontrôlée, la cotation des individus ou la manipulation de l’image.

Ce projet pourrait permettre au bloc communautaire de prendre les devants dans l’encadrement de l’intelligence artificielle qui aux yeux de ses détracteurs à des effets sociaux néfastes et peut être utilisée comme un dispositif de surveillance par des États autoritaires. Les partisans de l’IA voient pour leur part dans cette technologie un moteur susceptible de doper la croissance économique.

Le texte classe les usages de l’intelligence artificielle en plusieurs catégories selon leur niveau de risque (minime, limitée, haut, inacceptable). Les risques inacceptables seront purement et simplement interdits : ce sont ceux où les applications sont « une menace évidente pour la sécurité, les moyens de subsistance et les droits des personnes ». Par exemple, le « scoring social » permettant, comme c’est le cas en Chine, de noter un individu.

L’essentiel de la réglementation porte sur les applications à haut risque, par exemple le tri des candidatures pour un emploi, les robots chirurgicaux, l’octroi d’un crédit, les décisions judiciaires, l’usage de la force publique ou le contrôle des migrants. Ces systèmes seront soumis à des obligations, comme une évaluation du risque, une information des utilisateurs, une supervision humaine.

La législation interdira tout ce qui permet une surveillance généralisée de la population dans l’espace public à l’insu des individus, sauf dans des cas précis délimités dans le texte, comme la recherche d’un suspect d’un enfant disparu par les autorités.

En cas d’infraction, la commission recommande que les entreprises s’acquittent d’amende représentant jusqu’à 6 % de leur chiffre d’affaires mondial ou 30 millions d’euros au maximum.

Pour que ces nouvelles règles entrent en vigueur le feu vert des États membres et du Parlement sont nécessaires. Cette proposition de légiférer sur l’intelligence artificielle est une première comme ce fut le cas pour le Règlement général sur la protection des données (RGPD). La procédure pourrait prendre plus d’un an.

Commentaires