En mars dernier, apr\u00e8s trois ann\u00e9es de pr\u00e9paration, le Parlement europ\u00e9en adoptait d\u00e9finitivement le projet de r\u00e8glement visant \u00e0 encadrer le d\u00e9veloppement de l\u2019intelligence artificielle (AI) sur le sol europ\u00e9en.<\/p>\n\n\n\n
Le 12 juillet 2024, le R\u00e8glement (UE) 2024\/1689 du Parlement europ\u00e9en et du Conseil du 13 juin 2024 \u00e9tablissant des r\u00e8gles harmonis\u00e9es relatives \u00e0 l\u2019intelligence artificielle a \u00e9t\u00e9 publi\u00e9 au Journal officiel de l\u2019Union europ\u00e9enne (ci-apr\u00e8s \u00ab l\u2019AI Act \u00bb).<\/p>\n\n\n\n
L\u2019AI Act a la particularit\u00e9 in\u00e9dite d\u2019\u00eatre le tout premier acte l\u00e9gislatif en mati\u00e8re d\u2019intelligence artificielle.<\/p>\n\n\n\n
L\u2019objectif de l\u2019AI Act est de r\u00e9guler un domaine d\u2019activit\u00e9 en pleine expansion avec des applications multiples dans tous les aspects de la vie humaine. Ces d\u00e9veloppements r\u00e9cents permettent aux entreprises ainsi qu\u2019\u00e0 toute organisation, priv\u00e9e ou publique, de gagner en efficacit\u00e9, en automatisant certaines t\u00e2ches et en analysant de grandes quantit\u00e9s de donn\u00e9es.<\/p>\n\n\n\n
Toutefois, ces \u00e9volutions s\u2019accompagnent de risques importants sur les usages et les traitements de telles quantit\u00e9s de donn\u00e9es et d\u2019informations. Pour cette raison, l\u2019AI Act a pour objectif principal \u00ab de promouvoir l\u2019adoption de l\u2019intelligence artificielle (IA) ax\u00e9e sur l\u2019humain et digne de confiance<\/em> \u00bb[1]<\/a>. <\/p>\n\n\n\n Il s\u2019agit surtout de s\u2019assurer que les syst\u00e8mes d\u2019IA (ci-apr\u00e8s \u00ab SIA \u00bb), respectent les droits fondamentaux, la s\u00e9curit\u00e9 et les principes \u00e9thiques, tout en neutralisant les mod\u00e8les les plus risqu\u00e9s et dangereux pour le public tels que les algorithmes AI qui sont un risque pour la confidentialit\u00e9 des informations, ceux qui automatisent des processus malveillants ou optimisent des strat\u00e9gies d\u2019attaque ou encore ceux qui cr\u00e9er des messages et des sites de phishing extr\u00eamement cr\u00e9dibles\u2026<\/p>\n\n\n\n Qui est vis\u00e9 ? <\/mark><\/strong><\/p>\n\n\n\n Sont concern\u00e9s tous les op\u00e9rateurs de SIA (fournisseurs et utilisateurs) actifs sur le territoire de l\u2019Union europ\u00e9enne, m\u00eame lorsqu\u2019ils sont \u00e9tablis hors de ce territoire.<\/p>\n\n\n\n Est notamment vis\u00e9e une pluralit\u00e9 d\u2019acteurs intervenant dans la conception, la mise sur le march\u00e9 et \u00e0 l\u2019utilisation ult\u00e9rieure du SIA. Parmi ces acteurs, on distingue le fournisseur, le d\u00e9ployeur, le mandataire, l\u2019importateur et le distributeur.<\/p>\n\n\n\n L\u2019AI Act accorde une attention particuli\u00e8re au \u00ab fournisseur \u00bb et au \u00ab d\u00e9ployeur \u00bb. Le premier est toute personne ou entit\u00e9 d\u00e9veloppant ou faisant d\u00e9velopper un syst\u00e8me ou mod\u00e8le d\u2019IA \u00e0 usage g\u00e9n\u00e9ral et le commercialisant sous son propre nom ou sa propre marque, tandis que le second, repr\u00e9sente toute personne ou organisation utilisant un syst\u00e8me d\u2019IA sous sa propre autorit\u00e9.<\/p>\n\n\n\n Quels sont les syst\u00e8mes et mod\u00e8les d\u2019IA concern\u00e9s ?<\/mark><\/strong><\/p>\n\n\n\n L\u2019AI Act d\u00e9crit plusieurs cat\u00e9gories de SIA. Le SIA est d\u00e9fini comme \u00ab un syst\u00e8me automatis\u00e9 qui est con\u00e7u pour fonctionner \u00e0 diff\u00e9rents niveaux d\u2019autonomie et peut faire preuve d\u2019une capacit\u00e9 d\u2019adaptation apr\u00e8s son d\u00e9ploiement, et qui, (\u2026), d\u00e9duit, \u00e0 partir des entr\u00e9es qu\u2019il re\u00e7oit, la mani\u00e8re de g\u00e9n\u00e9rer des sorties telles que des pr\u00e9dictions, du contenu, des recommandations ou des d\u00e9cisions (\u2026)<\/em> \u00bb.<\/p>\n\n\n\n L\u2019AI Act classe ces syst\u00e8mes en fonction du niveau de risque associ\u00e9 \u00e0 leur utilisation.<\/p>\n\n\n\n Tout d\u2019abord, il convient d\u2019exclure d\u2019embl\u00e9e plusieurs syst\u00e8mes qui, pour des motifs divers, \u00e9chappent au AI Act :<\/p>\n\n\n\n Pour les autres, ils sont class\u00e9s comme suit :<\/p>\n\n\n\n 1. Les risques inacceptables<\/u><\/strong> : un ensemble tr\u00e8s limit\u00e9 d’utilisations qui portent atteinte \u00e0 des droits fondamentaux, et sont donc strictement interdites :<\/p>\n\n\n\n 2. Les syst\u00e8mes \u00e0 \u00ab haut risque \u00bb<\/u><\/strong> :il s\u2019agit aussi d\u2019un nombre limit\u00e9 de syst\u00e8mes d’IA qui peuvent avoir une incidence n\u00e9gative sur la s\u00e9curit\u00e9 des personnes ou sur leurs droits fondamentaux. <\/p>\n\n\n\n Pour qu\u2019un SIA soit consid\u00e9r\u00e9 comme \u00e0 \u00ab haut risque \u00bb, il doit r\u00e9unir les deux conditions suivantes :<\/p>\n\n\n\n A titre illustratif, sont consid\u00e9r\u00e9s comme \u00e9tant \u00e0 \u00ab haut risque \u00bb les SIA qui \u00e9valuent si une personne est en mesure de recevoir un traitement m\u00e9dical d\u00e9termin\u00e9, de se voir accorder un pr\u00eat pour acheter un appartement ou encore ceux qui sont con\u00e7us pour s\u00e9curiser et g\u00e9rer les infrastructures num\u00e9riques critiques, la circulation routi\u00e8re, ainsi que la distribution d\u2019eau, de gaz, de chauffage ou d\u2019\u00e9lectricit\u00e9.<\/p>\n\n\n\n Les listes des syst\u00e8mes d’IA \u00e0 \u00ab haut risque \u00bb figurent \u00e0 l\u2019Annexe III de l\u2019IA Act.<\/p>\n\n\n\n 3. Les syst\u00e8mes \u00ab \u00e0 usage g\u00e9n\u00e9ral \u00bb<\/u> : <\/strong>ce sont des syst\u00e8mes con\u00e7us sur un large \u00e9ventail de donn\u00e9es dans afin d\u2019\u00eatre optimis\u00e9s pour des usages g\u00e9n\u00e9raux et polyvalents. C\u2019est par exemple le cas de l\u2019IA g\u00e9n\u00e9rative tel que \u00ab Chat GPT \u00bb qui est capable d\u2019accomplir diverses t\u00e2ches \u00e0 la demande.<\/p>\n\n\n\n Parmi ces syst\u00e8mes \u00ab \u00e0 usage g\u00e9n\u00e9ral \u00bb, l\u2019IA Act vise sp\u00e9cifiquement ceux qui pr\u00e9sentent un \u00ab risque syst\u00e9mique \u00bb, c\u2019est-\u00e0-dire des grands mod\u00e8les d’IA g\u00e9n\u00e9rative tr\u00e8s performant qui pourraient affecter n\u00e9gativement de nombreuses personnes. L\u2019IA Act pr\u00e9cise qu\u2019un tel risque existe lorsque le SIA dispose de capacit\u00e9s \u00e0 fort impact \u00e9valu\u00e9es sur la base de m\u00e9thodologies et d\u2019outils techniques appropri\u00e9s. <\/p>\n\n\n\n Selon la Commission, les mod\u00e8les d’IA \u00e0 usage g\u00e9n\u00e9ral qui ont \u00e9t\u00e9 entra\u00een\u00e9s \u00e0 l’aide d’une puissance de calcul totale sup\u00e9rieure \u00e0 10^25 FLOPS sont consid\u00e9r\u00e9s comme pr\u00e9sentant des risques syst\u00e9miques[2]<\/a>.<\/p>\n\n\n\n \u00c0 l\u2019heure actuelle, seuls les mod\u00e8les Gemini de Google et ChatGPT d\u2019OpenAI d\u00e9passent le seuil fix\u00e9[3]<\/a>.<\/p>\n\n\n\n Quels obligations ?<\/strong><\/mark><\/p>\n\n\n\n L\u2019AI Act \u00e9tablit des exigences diff\u00e9renci\u00e9es selon les acteurs et la cat\u00e9gorie de SIA. Il est donc essentiel de d\u00e9finir au pr\u00e9alable le r\u00f4le de l\u2019op\u00e9rateur et le niveau de risque de d\u00e9terminer les obligations applicables.<\/p>\n\n\n\n 1. Obligation de transparence<\/span><\/strong> (article 50 AI Act)<\/p>\n\n\n\n Il s\u2019agit d\u2019une obligation g\u00e9n\u00e9rale \u00e0 l\u2019\u00e9gard des fournisseurs et d\u00e9ployeurs de certains SIA. Il s\u2019agit d\u2019une obligation de transparence mati\u00e8re d’utilisation de l’IA qui vise \u00e0 renforcer la confiance en cas d\u2019interaction entre une personne physique et un SIA.<\/p>\n\n\n\n La personne physique doit notamment savoir qu\u2019elle interagit avec un SIA, sauf si cela ressort de mani\u00e8re \u00e9vidente du contexte d\u2019utilisation (Ex : \u00e9change avec un chatbot sur un site).<\/p>\n\n\n\n Les sorties des SIA doivent aussi \u00eatre marqu\u00e9es dans un format lisible par machine et identifiables comme ayant \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9es ou manipul\u00e9es par une IA.<\/p>\n\n\n\n 2. Obligations des fournisseurs de SIA \u00ab \u00e0 haut risque \u00bb<\/span><\/strong><\/p>\n\n\n\n Les fournisseurs de SIA \u00e0 \u00ab haut risque \u00bb sont soumis \u00e0 un ensemble d\u2019obligations pour garantir la s\u00e9curit\u00e9 et la transparence des syst\u00e8mes.<\/p>\n\n\n\n Cela inclut notamment :<\/p>\n\n\n\n 3. Obligations des d\u00e9ployeurs de SIA \u00ab \u00e0 haut risque \u00bb<\/span><\/strong><\/p>\n\n\n\n Les d\u00e9ployeurs de syst\u00e8mes d\u2019IA doivent garantir une utilisation s\u00fbre et conforme de ces technologies, et d\u2019assurer une surveillance continue de leur fonctionnement.<\/p>\n\n\n\n Ils doivent ainsi prendre des mesures techniques et organisationnelles appropri\u00e9es pour garantir que l\u2019utilisation des SIA est conforme aux instructions fournies par le fournisseur, assurer un contr\u00f4le humain ad\u00e9quat, veiller \u00e0 ce que les donn\u00e9es d\u2019entr\u00e9e des syst\u00e8mes soient pertinentes et repr\u00e9sentatives pour assurer le bon fonctionnement du syst\u00e8me, et informer les fournisseurs, les importateurs ou distributeurs, ainsi que les autorit\u00e9s de surveillance comp\u00e9tentes en cas de risque ou d\u2019incident grave.<\/p>\n\n\n\n Politique de soutien \u00e0 l\u2019innovation ?<\/mark><\/strong><\/p>\n\n\n\n L\u2019IA Act pr\u00e9voit la mise en place obligatoire d’au moins un \u00ab bac \u00e0 sable \u00bb r\u00e9glementaire de l’IA dans chaque \u00c9tat membre. Il s\u2019agit d\u2019un cadre mis en place par un r\u00e9gulateur qui permet aux entreprises, aux start-ups, d\u2019avoir la libert\u00e9 de tester des technologies, des produits, des services et des m\u00e9thodes de travail innovants dans un environnement r\u00e9el mais contr\u00f4l\u00e9, sous la supervision du r\u00e9gulateur \u00e9tatique.<\/p>\n\n\n\n Les sanctions ?<\/mark><\/strong><\/p>\n\n\n\n L\u2019IA Act met en place un syst\u00e8me de gouvernance \u00e0 deux niveaux en vue d\u2019assurer l\u2019efficacit\u00e9 du R\u00e8glement. D\u2019une part, les r\u00e9gulateurs nationaux sont charg\u00e9s de superviser et de faire respecter les r\u00e8gles applicables aux SIA, et, d\u2019autre part, le Bureau de l\u2019IA, au sein de la Commission, sera en charge d’appliquer toutes les dispositions relatives aux mod\u00e8les d’IA \u00e0 usage g\u00e9n\u00e9ral.<\/p>\n\n\n\n Afin de garantir la coh\u00e9rence et la coop\u00e9ration \u00e0 l’\u00e9chelle de l’Union, le Comit\u00e9 europ\u00e9en de l’intelligence artificielle (\u00abComit\u00e9 IA\u00bb) sera cr\u00e9\u00e9 et sera constitu\u00e9 de repr\u00e9sentants des \u00c9tats membres afin d\u2019assurer une collaboration entre autorit\u00e9s comp\u00e9tentes.<\/p>\n\n\n\n L\u2019IA Act demande aux \u00c9tats membres d\u2019instaurer un syst\u00e8me de sanctions effectives, proportionn\u00e9es et dissuasives en cas de non-respect des r\u00e8gles applicables aux SIA.<\/p>\n\n\n\n Il fixe ainsi les seuils suivants :<\/p>\n\n\n\n L\u2019IA Act pr\u00e9voit que pour chaque cat\u00e9gorie d’infraction, le seuil sera le plus faible des deux montants pour les PME et le plus \u00e9lev\u00e9 des deux pour les autres entreprises.<\/p>\n\n\n\n La Commission est charg\u00e9e de la supervision des fournisseurs de mod\u00e8les d’IA \u00e0 usage g\u00e9n\u00e9ral en infligeant des amendes, en tenant compte du seuil suivant:<\/p>\n\n\n\n Les institutions, agences et organes de l’Union europ\u00e9enne sont \u00e9galement soumis aux r\u00e8gles et pourront encourir des sanctions. Le Contr\u00f4leur europ\u00e9en de la protection des donn\u00e9es aura le pouvoir de leur infliger des amendes en cas de non-respect du IA Act.<\/p>\n\n\n\n Quel calendrier ?<\/mark><\/strong><\/p>\n\n\n\n L\u2019IA Act est entr\u00e9 en vigueur le 1er<\/sup> aout 2024 et sera applicable \u00e0 partir du 2 ao\u00fbt 2026.<\/p>\n\n\n\n Toutefois, certaines r\u00e8gles seront d\u2019application de mani\u00e8re graduelle :<\/p>\n\n\n\n Pour conclure\u2026 <\/mark><\/strong><\/p>\n\n\n\n L\u2019IA Act a la difficile t\u00e2che de constituer la premi\u00e8re r\u00e9glementation de cette activit\u00e9 technologique aux multiples usages.<\/p>\n\n\n\n La structure r\u00e9glementaire est fort complexe et la gouvernance est partag\u00e9e entre l’Union et les \u00c9tats membres. Il est probable que certains acteurs comme les fournisseurs ou les d\u00e9ployeurs pourraient consid\u00e9rer les proc\u00e9dures impos\u00e9es comme lourdes ou couteuses (enregistrement, marquage CE, \u00e9valuation des risques,\u2026). <\/p>\n\n\n\n Cela pourrait peser sur l\u2019innovation et le d\u00e9veloppement de certaines start-ups.<\/p>\n\n\n\n Dans un an, la Commission devra rendre son premier rapport sur les pratiques d\u2019IA interdites et les SIA \u00ab \u00e0 haut risque \u00bb. Cela sera l\u2019occasion de v\u00e9rifier les premiers effets du r\u00e8glement sur le secteur de l\u2019IA.<\/p>\n\n\n\n Septembre 2024<\/strong><\/p>\n\n\n\n <\/p>\n\n\n\n [1]<\/a> Consid\u00e9rant premier du R\u00e8glement (UE) 2024\/1689.<\/p>\n\n\n\n [2]<\/a> Voy. Commission europ\u00e9enne, Intelligence artificielle – Questions et r\u00e9ponses*, https:\/\/ec.europa.eu\/commission\/presscorner\/detail\/fr\/QANDA_21_1683<\/a><\/p>\n\n\n\n [3]<\/a> AI Act : des experts alertent sur le fait que la technologie pourrait d\u00e9passer la r\u00e8glementation, EURACTIV, https:\/\/www.euractiv.fr\/section\/intelligence-artificielle\/news\/ai-act-des-experts-alertent-sur-le-fait-que-la-technologie-pourrait-depasser-la-reglementation\/<\/a><\/p>\n","protected":false},"author":4,"featured_media":1259,"template":"","format":"standard","class_list":["post-1258","publication","type-publication","status-publish","format-standard","has-post-thumbnail","hentry"],"acf":[],"yoast_head":"\n\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n\n\n\n