L’intelligence artificielle (IA) est une branche de l’informatique visant la programmation et la conception de systèmes matériels et logiciels permettant de doter les machines de caractéristiques considérées comme typiquement humaines.
Il s’agit de systèmes grâce auxquels les machines peuvent effectuer des actions et des raisonnements complexes, apprendre de leurs erreurs et accomplir des fonctions jusqu’ici exclusives à l’intelligence humaine.
En termes simples, l’IA permet aux machines de fonctionner comme des humains, en mettant en œuvre ses propres raisonnements et mécanismes.
Source: photo de Tara Winstead sur pexels.com
De par sa finalité et son fonctionnement, l’intelligence artificielle entraîne inévitablement un changement de la société et sa plus grande numérisation.
RISQUES ET AVANTAGES DE L’AI
L’IA peut apporter différents bénéfices à notre société, pour différentes cibles et dans différents domaines, et de tant de manières, elle l’a déjà fait.
C’est grâce à elle, en effet, que nous disposons de navigateurs ou de traducteurs, des outils simples qui facilitent et accélèrent certains aspects de notre vie. Tout comme elle a permis le développement de moteurs de recherche plus intuitifs, de nouveaux outils médicaux, de nouvelles
méthodes de prévention de la criminalité.
Quant aux biens et services, l’IA permet de faciliter et d’améliorer leur production, mais aussi leur approvisionnement, aidant à la fois les entreprises, les citoyens et l’État. Elle pourrait également aider la démocratie en permettant un accès plus facile à l’information et en assurant une plus grande transparence.
Cependant, autant l’IA peut améliorer nos vies, autant elle comporte plusieurs risques, ce qui est la raison principale pour laquelle une bonne réglementation de celle-ci est nécessaire.
Source: photo de Rahul Pandit sur pexels.com
Ces risques découlent avant tout de sa manipulation. L’IA, en effet, doit être programmée, et ce processus est naturellement réalisé par une personne, qui pourrait influencer intentionnellement la programmation. Cela poserait de nombreux risques tant pour la sécurité que pour la démocratie et la protection des droits des personnes.
Il s’ensuit qu’il est également nécessaire de comprendre, dans les cas où une machine commet un crime, qui doit en être tenu responsable, si l’erreur doit être imputée à la machine ou à la personne qui l’a programmée et donc actionnée.
Enfin, un défi majeur consiste à trouver un équilibre entre le risque de sous-utiliser l’intelligence artificielle, en ratant les opportunités qu’elle offre, et le risque de la surutiliser.
Il est donc utile et nécessaire de créer une législation pour réglementer l’utilisation de l’IA et tous ses aspects, afin qu’elle soit utilisée dans la bonne quantité et de la bonne manière, limitant ainsi les risques éventuels.
LA RÉGLEMENTATION DE L’UNION EUROPÉENNE
La politique de l’Union européenne en matière de technologie en général suit deux axes :
– la stimulation et le développement des technologies, par le biais d’investissements publics et privés;
– l’adaptation des technologies aux besoins des personnes et le respect de leurs droits fondamentaux.
Ici aussi, l’UE a donc donné naissance à une stratégie qui favorise la coopération des États membres et la création d’un ensemble de normes qui permettront la création d’une intelligence artificielle “centrée sur l’humain”.
Source: photo de Dušan Cvetanović sur pexels.com
Analysons donc les étapes de l’Union européenne pour la régulation de l’IA.
Avril 2018
La Commission présente une communication visant à esquisser une stratégie européenne en matière d’intelligence artificielle qui définit les objectifs en la matière. Ils sont principalement au nombre de trois :
– Accroître l’utilisation de l’IA dans le contexte européen de manière généralisée ;
– Garantir son utilisation appropriée sur le plan éthique et juridique ;
– Se préparer aux changements socio-économiques qui pourraient en résulter.
Décembre 2018
La Commission et les États membres adoptent le plan coordonné sur l’intelligence artificielle, visant à renforcer les synergies entre les États et les institutions européennes et à promouvoir l’adoption par les gouvernements nationaux d’une stratégie nationale en matière d’IA.
Février 2020
La Commission présente le Livre blanc sur l’intelligence artificielle, visant à la fois à soutenir l’adoption de l’IA et à traiter les risques qu’elle comporte.
Avril 2021
La Commission approuve un règlement visant à promouvoir l’IA et contenant des règles strictes pour minimiser ses risques. À cette fin, un classement des risques a été créé, sur la base duquel des mesures d’atténuation ou des interdictions sont prévues.
Par ordre de gravité, on trouve donc:
- les systèmes à faible risque, pour lesquels seules des exigences minimales de transparence sont envisagées.
- les systèmes à haut risque, pour lesquels sont prévues à la fois des exigences techniques spécifiques (utilisation d’ensembles de données de haute qualité, établissement d’une documentation appropriée pour améliorer la traçabilité, partage d’informations, conception et mise en œuvre de mesures de surveillance humaine et respect de normes de robustesse, de sécurité et de précision) et la mise en place d’un système de gestion des risques.
- les systèmes interdits, jugés incompatibles avec les principes de l’UE et les droits humains fondamentaux contenus dans la Charte européenne. Il s’agit des systèmes qui: utilisent des techniques subliminales ou exploitent les vulnérabilités d’une personne afin de fausser son comportement ou de lui causer un préjudice physique ou psychologique; attribuent aux personnes un score social dont dépend un traitement préjudiciable ou défavorable; permettent l’identification biométrique à distance (sauf dans les cas exceptionnellement autorisés par la loi).
L’article 29 établit également les obligations auxquelles les utilisateurs de systèmes d’IA sont tenus (suivre les instructions, s’assurer de la pertinence de l’utilisation, surveiller le fonctionnement, suspendre l’utilisation en cas d’accident, conserver les journaux générés).
Pour assurer la mise en œuvre du règlement et la coopération, les États sont tenus d’établir des autorités nationales compétentes, tandis qu’au niveau européen, il existe un Comité européen de l’intelligence artificielle. Ce dernier fait également office de passerelle entre les États et la Commission.
Enfin, un système d’évaluation de la conformité ex ante et un mécanisme de sanction en cas de violation des règles sont prévus.
CONCLUSIONS
L’intelligence artificielle a connu un fort développement ces dernières années et est destinée à poursuivre son expansion au niveau européen et mondial dans divers secteurs.
Il reste encore beaucoup de travail à faire en Europe en termes d’investissements, mais il existe un bon point de départ et une bonne réglementation pour soutenir un développement de l’IA approprié sur le plan éthique et juridique.
Sara Coppolecchia
SOURCES
https://www.altalex.com/documents/ news/2022/06/29/european-artificial-intelligence-regulation
https://www.europarl.europa.eu/RegData/etudes/STUD/2020/641547/EPRS_STU(2020)641547_EN.pdf
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52018DC0795