MosaikHub Magazine

Réglementer l’intelligence artificielle : « Le nouveau modèle s’appuie de plus en plus sur la responsabilisation des entreprises »

vendredi 14 mai 2021 par Charles

Le juriste Gianclaudio Malgieri salue, dans une tribune au « Monde », l’initiative de la Commission européenne de vouloir mieux réglementer les usages de l’IA, mais il craint la mise en place d’un système contenant de nombreuses rigidités, lacunes et questions ouvertes.
Gianclaudio Malgieri

Professeur associé de droit et technologie, EDHEC Business School, EDHEC Augmented Law Institute

Tribune. Les systèmes d’intelligence artificielle (IA) présentent aujourd’hui de nombreux risques pour les individus : ils peuvent porter atteinte à la vie privée ou s’avérer discriminatoires, manipulateurs ou même produire des préjudices physiques, psychologiques ou économiques. Par exemple, les systèmes d’IA peuvent perpétuer des préjugés sociaux et discriminer les femmes ou les personnes LGBT (lesbiennes, gays, bisexuels et transgenres) sur le lieu de travail ou les minorités sociales dans des contextes de prévention de la criminalité.

Ils peuvent aussi manipuler les comportements en ligne des enfants, des personnes âgées ou même d’autres consommateurs, en exploitant leurs vulnérabilités grâce à des analyses de données avancées, et en les forçant à prendre des décisions commerciales (ou même électorales, comme dans le scandale de Cambridge Analytica) non souhaitées ou déraisonnables. En même temps, ces systèmes peuvent être obscurs et donc difficiles à remettre en question.

Lire aussi L’intelligence artificielle, enjeu majeur pour l’UE
Pour aborder ces questions, la Commission européenne a publié le 21 avril une nouvelle proposition de réglementation de l’intelligence artificielle, qui doit maintenant être discutée et approuvée par le Conseil et le Parlement européen. La proposition introduit une approche fondée sur le risque pour les produits et services basés sur l’IA, avec des règles de conception ambitieuses et des charges administratives, mais il n’ajoute aucun nouveau droit individuel pour les consommateurs/citoyens.

Interdictions
Alors que, par le passé, l’accent était mis sur le modèle « notification et droits individuels », le nouveau modèle s’appuie de plus en plus sur la responsabilisation des entreprises, sur la base de mesures techniques et organisationnelles visant à atténuer les risques de l’IA pour les humains, une autorité de surveillance contrôlant la conformité.

Dans le cadre proposé, certains systèmes d’IA sont interdits : les « dark patterns » (les publicités en ligne manipulatrices) qui causent des préjudices non économiques aux consommateurs ou qui exploitent leur vulnérabilité en raison de leur âge ou de leur handicap ; les systèmes de crédit social produisant des effets préjudiciables disproportionnés ou hors contexte ; et les systèmes d’identification biométrique utilisés par les forces de l’ordre dans les espaces publics (lorsque leur utilisation n’est pas strictement nécessaire ou lorsque le risque d’effets préjudiciables est trop élevé).


Accueil | Contact | Plan du site | |

Creative Commons License

Promouvoir & Vulgariser la Technologie