Alors que la biodiversité s'impose comme un défi de taille, 11 ministres de l’environnement ont interpellé l’UE dans une lettre pour approuver une législation imposant la restauration des écosystèmes abîmés.

The post La biodiversité, grande oubliée de l’Europe : aux entreprises de jouer ? appeared first on Intelekto.

Le rapport annuel d’Amnesty International publié ce 24 avril met en lumière les préoccupations croissantes concernant l’impact de l’intelligence artificielle sur les droits humains dans le monde. Il souligne que l’essor rapide de l’IA, combiné à l’inaction en matière de réglementation, crée un environnement propice pour le racisme, la discrimination et la division.

Pour Amnesty International, “le monde récolte les terribles conséquences de l’escalade des conflits et du quasi-effondrement du droit international”.

Le rapport 2024 sur La situation des droits humains dans le monde évalue l’état des droits fondamentaux dans 155 pays. En 2023, de nombreux états et groupes armés ont ignoré ou contourné les règles de la guerre, tandis que le racisme a été central dans certains conflits armés et leurs répercussions. Les populations marginalisées ont été particulièrement touchées par les crises économiques, le changement climatique et la dégradation de l’environnement.

Les défenseurs des droits humains, en particulier ceux qui militent pour les droits de ces populations, ont été visés dans une répression généralisée des voix dissidentes. Les oppositions aux droits des femmes, des filles et des personnes LGBTI ont également augmenté, tout comme la prolifération en ligne de discours de haine et d’autres contenus préjudiciables visant certains groupes racisés. Parallèlement, les avancées dans le domaine de l’intelligence artificielle ont parfois été utilisées pour restreindre les libertés individuelles et bafouer les droits fondamentaux.

Agnès Callamard, secrétaire générale d’Amnesty International, déclare :

“Le rapport d’Amnesty International dresse un tableau affligeant caractérisé par une répression alarmante des droits humains et de multiples violations des règles internationales, sur fond d’accroissement des inégalités mondiales, de rivalités entre superpuissances pour la suprématie et d’aggravation de la crise climatique”.

Pour l’organisation, l’effondrement de l’état de droit constaté en 2023 risque de s’accélérer avec le développement rapide de l’IA qui, couplé à la domination des géants de la haute technologie, pourrait entraîner une multiplication des violations des droits humains si la réglementation reste à la traîne.

Selon elle :

“Le mépris de la loi, la discrimination et l’impunité dans les conflits et ailleurs ont été favorisés par l’utilisation incontrôlée de technologies nouvelles ou familières, qui sont aujourd’hui couramment utilisées comme armes par des acteurs militaires, politiques et du monde de l’entreprise. Les plateformes des géants technologiques alimentent les conflits. Des logiciels espions et des outils de surveillance de masse sont utilisés pour attenter aux libertés et aux droits fondamentaux, tandis que les gouvernements déploient des outils automatisés visant les groupes les plus marginalisés de la société”.

De l’urgence d’une réglementation de l’IA plus stricte

Pour Amnesty International, bien qu’imparfait et incomplet, l’AI Act a eu le mérite d’ouvrir un débat indispensable sur la réglementation de l’IA. Cependant, elle estime que l’évolution rapide de l’IA générative a fait changer d’échelle la menace que constituait l’éventail de technologies déjà existantes, des logiciels espions à l’automatisation des services publics en passant par les algorithmes incontrôlables des réseaux sociaux.

Agnès Callamard souligne :

“Nous avons vu combien la haine, la discrimination et la désinformation étaient amplifiées et diffusées par les algorithmes des réseaux sociaux, qui sont optimisés avant tout pour obtenir un taux d’“engagement” maximal. Ils créent une boucle de commentaires infinie et dangereuse, en particulier dans les périodes particulièrement sensibles sur le plan politique. Les outils actuels peuvent générer des images, des enregistrements audio et des vidéos virtuels en quelques secondes, ainsi que prendre pour cible des publics précis par groupes entiers. Or, la réglementation électorale est en retard face à cette menace. Jusqu’à présent, nous avons vu trop de discours mais pas assez d’actes”.

Pour Amnesty International, les gouvernements doivent prendre des mesures législatives et réglementaires fermes pour lutter contre les risques et les préjudices liés aux technologies de l’IA et au règne des géants technologiques.

Il n’est pas simple de suivre les avancées dans le domaine de l’intelligence artificielle, encore moins leur mise en œuvre. Cependant, face à la mise en place de nouvelles réglementations (IA Act ou la déclaration de Bletchley sur la sécurité de l’IA signée par 28 pays), il sera bientôt difficile d’invoquer cette excuse. Un cadre plus précis pour la réglementation de l’IA va faciliter sa mise en œuvre dans les entreprises, à condition de disposer d’un socle de données solide.

Principale conséquence, les dirigeants mettent la pression sur leurs collaborateurs en leur demandant de démontrer rapidement la valeur de l’IA pour l’entreprise. Ce sont les équipes en charge des données qui se trouvent en première ligne. Ces experts jouent un rôle clé dans toute stratégie d’IA, car leur mission consiste à alimenter les modèles en injectant des informations contrôlées tout en s’assurant de leur pertinence et de leur éthique.

Les équipes data entretiennent désormais avec l’IA des relations réellement fusionnelles. Certes, une de leurs missions consiste à vérifier les informations alimentant l’intelligence artificielle, mais pour réaliser son plein potentiel, l’IA peut avant tout les aider à extraire le maximum de valeur des données disponibles.

Améliorer les processus de données avec l’IA

S’il est reconnu depuis longtemps que les données massives engrangées par les entreprises cachent une valeur significative ; aujourd’hui l’IA peut jouer un rôle majeur dans l’amélioration des processus analytiques et contribuer à exploiter pleinement le potentiel non encore exploré des données.

Au-delà de la rapidité d’analyse souvent associée à l’IA, ces technologies sont capables de créer des modèles prédictifs qui permettent aux entreprises d’anticiper les tendances et leurs résultats, un avantage incontesté dans un contexte économique perturbé. Ainsi, dans le domaine de la santé, les entreprises collectent des données à chaque interaction avec le patient et à chaque test de diagnostic. Ces données sont ensuite utilisées pour prévoir de possibles goulots d’étranglement et le flux de patients entre les services, pour mieux répondre à la demande et dispenser les meilleurs soins possibles.

Le principal atout de l’IA pour les équipes data est bien là : apporter des réponses aux questions qu’elles ne se posaient même pas. Outre la capacité à analyser de très grandes quantités d’informations, l’IA peut instantanément identifier des relations, des formes, des patterns et des anomalies dans des jeux de données. Pour les entreprises cela signifie que sans être des data scientists, les utilisateurs métiers et les analystes seront capables de tirer des données toute leur valeur.

Et pourtant adopter l’IA ne se fait pas d’un coup de baguette magique. Les équipes data connaissent les difficultés que présente l’intégration de l’IA aux processus en place qui ont fait leurs preuves, même s’ils demeurent perfectibles. Des tests rigoureux et le respect des réglementations en vigueur sont essentiels pour créer un socle de données nécessaire à l’adoption de l’IA et atteindre l’équilibre entre le risque et l’innovation.

Mettre l’IA au service des équipes data

Conscients des avantages, mais aussi des interrogations que peuvent avoir les professionnels des données qui cherchent à améliorer les processus analytiques grâce à l’IA, comment appliquer concrètement ces techniques et les mettre en pratique pour maximiser leur valeur ?

• Trouver des quick wins : malgré la capacité de l’IA à gérer des données non structurées, c’est dans les informations structurées que se trouvent les gains les plus rapides. Connues et exploitées de façon régulière par les entreprises, ces données sont propres, fiables et représentent une bonne base pour tester des techniques d’IA plus sophistiquées sans prendre de risques.
• Choisir un cas d’usage pour mesurer l’impact de l’IA : fait désormais avéré, l’IA aura un fort impact dans les entreprises. Il est donc important d’associer l’IA à un cas d’usage précis pour produire un retour démontrable. Simplement expérimenter avec la technologie ne mènera nulle part. Pour démontrer les avantages de la technologie, les initiatives et les investissements dans l’IA, souvent pilotés par l’équipe data chargée de la gestion des modèles, doivent être guidés par un objectif précis.
• Penser aux utilisateurs : utiliser l’IA dans les processus de données ne garantit pas qu’elle apportera un résultat business. Une analyse avancée ne présente aucun intérêt si elle ne peut être partagée clairement avec les décideurs. Il est essentiel d’impliquer les utilisateurs de ces informations dans tout le processus, de la création du modèle d’IA jusqu’à la manière dont les insights vont être partagés. Trop souvent les modèles innovants restent non utilisés parce que la façon dont ils sont déployés ne correspond pas aux besoins et aux attentes de l’utilisateur final des données.
• Minimiser les risques grâce à l’intégration des données : l’intégration et la gouvernance des données sont deux piliers essentiels à la mise en œuvre de nouveaux processus impliquant l’IA. Cette dernière exige également une approche plus souple de la gestion des données, parce que l’ingestion de nouvelles données peut très vite modifier un modèle. Les organisations doivent bâtir une source de données fiable, solide et gouvernée, pour soutenir les processus de données et d’analyse actuels, mais aussi être en mesure de s’ouvrir aux nouvelles techniques basées sur l’IA.
• Aller de l’avant et expérimenter : le déploiement de processus de sécurité et de gouvernance des données ne doit pas empêcher les équipes data d’expérimenter avec l’IA. Il est essentiel de se donner des objectifs clairs, correctement anonymiser les données et introduire des POC avec le concours du service IT. Remettre en cause des processus existants n’est jamais facile, c’est même une raison de plus pour expérimenter sans tarder.

  Avec l’aide de l’IA, les équipes data peuvent extraire les données plus rapidement et en obtenant des résultats bien meilleurs. Parfois des applications adressant des consommateurs font la une, mais avant d’y arriver, il est indispensable d’optimiser l’utilisation des données pour les équipes internes. Comme pour toute nouvelle technologie, introduire de l’AI dans des processus établis suscite des débats sur son véritable impact business. Si l’IA était appliquée aux process fondamentaux qui sous-tendent l’IA, cet impact pourrait être exponentiel.

Compte tenu du potentiel que cachent les données d’entreprise, l’IA semble un allié indispensable pour beaucoup, mais son l’adoption reste un long chemin. Pour maximiser son intérêt, les équipes data doivent avancer étape par étape, par itérations et apprendre en permanence, sans négliger les pratiques éthiques et responsables. Et surtout, se lancer sans hésiter !

Le 8 décembre dernier,  les négociateurs du Parlement européen et du Conseil, à la suite d’âpres négociations, annonçaient être parvenus à un accord provisoire sur l’AI Act. Après avoir été adopté par les Etats membres de l’UE le 2 février dernier, il l’a été hier par les eurodéputés. Il ne lui manque plus que la validation du Conseil de l’Europe en avril prochain et sa publication dans le Journal Officiel de l’UE pour entrer en vigueur progressivement selon le niveau de risque des systèmes ou modèles d’IA.

L’UE a été la première à vouloir instaurer un cadre réglementaire pour l’IA, visant à réguler l’intelligence artificielle en fonction de son potentiel à causer des dommages. Elle a de fortes chances d’être également la première à appliquer une loi contraignante sur l’IA puisqu’hier matin les eurodéputés l’ont adopté à une très large majorité : 523 votes pour, 46 contre, 49 abstentions.

Thierry Breton s’est félicité sur X : “L’Europe est AUJOURD’HUI un pionnier mondial de l’IA”, ajoutant “Nous réglementons le moins possible, mais autant que nécessaire !”

🇪🇺 Democracy: 1️⃣ | Lobby: 0️⃣

I welcome the overwhelming support from European Parliament for our #AIAct —the world's 1st comprehensive, binding rules for trusted AI.

Europe is NOW a global standard-setter in AI.

We are regulating as little as possible — but as much as needed! pic.twitter.com/t4ahAwkaSn

— Thierry Breton (@ThierryBreton) March 13, 2024

Pour rappel, la Commission européenne avait soumis une proposition de règlement de l’IA le 21 avril 2021. Les développements de l’IA générative et de modèles de fondation, notamment celui de ChatGPT, qui n’étaient pas prévus dans la proposition initiale de la loi européenne, lui ont fait subir de nombreuses modifications et reports.

L’AI Act vise à garantir que les systèmes et modèles d’IA commercialisés au sein de l’UE soient utilisés de manière éthique, sûre et dans le respect des droits fondamentaux de l’UE.

Il impose des obligations et des restrictions aux fournisseurs et aux utilisateurs qui développent, déploient ou exploitent des systèmes et des modèles d’IA au sein de l’UE. Bien qu’il soit désormais prévu de réviser régulièrement ces obligations, aujourd’hui, une réglementation produit, allant du marquage CE à l’interdiction de mise sur le marché, est  appliquée à ces derniers suivant leur niveau de risque, des dispositions particulières sont prévues pour les entreprises qui développent des modèles d’IA génératives.

• les systèmes d’IA présentant un risque inacceptable vont être interdits de mise sur le marché ;
• les systèmes d’IA présentant un haut risque devront obtenir un marquage CE;
• les systèmes d’IA à risque faible ou minime doivent intégrer des obligations d’information des utilisateurs ou suivre un code de conduite volontaire.

Selon Ashley Casovan, Directrice générale de l’AI Governance Center pour l’Association internationale des professionnels de la vie privée, à but non lucratif (IAPP) :

“L’adoption de la loi européenne sur l’IA marquera le début d’une nouvelle ère pour le développement et l’utilisation de l’IA. Avec des valeurs centrées sur l’humain qui sous-tendent cette législation sur la sécurité des produits, elle établit des garde-fous importants pour l’adoption sûre, équitable et responsable de l’IA dans tous les secteurs de la société. Reconnaissant et s’appuyant sur les cadres adoptés à l’échelle mondiale et la législation connexe, cette loi complète fournira les conseils nécessaires aux entreprises qui achètent, construisent et vendent de l’IA. Compte tenu de la nature mondiale de l’utilisation de l’IA, il est probable que ces règles de l’UE auront un impact bien au-delà des frontières européennes. C’est pourquoi il est crucial pour toutes les entreprises impliquées dans l’IA à quelque titre que ce soit de comprendre la loi et de commencer à préparer leur organisation et leurs équipes à la conformité”.

Après une stratégie annoncée en juin 2023 pour renforcer la sécurité économique de l’UE, la Commission européenne a présenté en janvier dernier de nouvelles initiatives allant dans ce sens, notamment un meilleur filtrage des investissements étrangers dans l’UE et une coordination dans le domaine du contrôle des exportations. Pour SEMI Europe, avant de mettre en place plus de mesures restrictives et protectrices, l’UE devrait s’attacher à un des piliers de la stratégie : le renforcement de partenariats et de collaborations avec des pays tiers partageant les mêmes intérêts et les mêmes préoccupations.

Face aux difficultés d’approvisionnement de puces et aux menaces sur la technologie soulignées par la pandémie, l’UE a annoncé en mars 2021 son objectif de doubler les capacités de production de puces en Europe d’ici à 2030 pour parvenir à produire 20% des semi-conducteurs dans le monde, ce qui devait également lui permettre d’attirer des investissements étrangers. Par la suite, le projet d’un Chips Act européen a été présenté début 2022 visant à renforcer la souveraineté de l’Europe dans le domaine des semi-conducteurs en stimulant la production locale de puces électroniques et réduisant la dépendance vis-à-vis des fournisseurs étrangers. Il est d’ailleurs entré en vigueur en septembre dernier.

Dans un contexte géopolitique dégradé, (guerre entre Ukraine et Russie, tensions sino-américaines sur le marché des puces, menaces chinoises sur Taiwan), et de profondes mutations technologiques, La Commission européenne et le haut représentant ont publié en juin 2023 une communication conjointe sur une “stratégie européenne en matière de sécurité économique”.

En janvier dernier, la Commission a adopté 5 initiatives visant à renforcer la sécurité économique au sein de l’UE tout en préservant l’ouverture des échanges commerciaux, des investissements et de la recherche au bénéfice de l’économie de l’UE, s’appuyant sur trois piliers : promouvoir la compétitivité de l’Union, se prémunir contre les risques et conclure des partenariats avec le plus large éventail de pays possible afin de préserver les intérêts communs en matière de sécurité économique.

SEMI, une association industrielle mondiale représentant plus de 3 000 entreprises membres et plus de 300 entreprises européennes de toute la chaîne d’approvisionnement en fabrication et conception de microélectronique, a publié la semaine dernière “Priorités sur la stratégie européenne de sécurité économique“, un document de position qui propose différentes recommandations à l’intention des décideurs politiques.

Elle y encourage notamment la Commission européenne à mettre l’accent sur les aspects de protection, de promotion et de partenariat de la sécurité économique afin de donner aux entreprises européennes le plus haut niveau possible d’accès aux marchés mondiaux, préservant ainsi leur compétitivité.

Elle lui demande également de maintenir une approche équilibrée des contrôles des investissements étrangers qui peuvent préserver la compétitivité mondiale des entreprises européennes.

Elle déclare dans le document de position :

“Nous en appelons à la Commission européenne afin qu’elle procède à une évaluation minutieuse des avantages sécuritaires liés à l’instauration de mécanismes de contrôle des investissements directs étrangers (IDE) plus rigoureux. Cette évaluation devra prendre en considération l’impact potentiel sur l’attractivité de l’UE en tant que destination d’investissement, notamment à la lumière de l’adoption récente de l’European Chips Act et des investissements substantiels réalisés par des acteurs non-UE. En outre, il est essentiel que la Commission reconnaisse l’importance des investissements en greenfield pour l’avenir de l’industrie européenne des semi-conducteurs, tant ceux provenant d’acteurs européens que de pays tiers, afin de renforcer les capacités productives de l’Europe dans ce secteur”.

Laith Altimime, Président de SEMI Europe, commente :

“La stratégie européenne de sécurité économique devrait prévoir un dialogue structuré avec les parties prenantes de l’industrie sur la base d’une compréhension commune des risques liés à la chaîne d’approvisionnement et de la sécurité économique. Il est d’une importance vitale pour la Commission européenne de s’engager avec l’industrie des puces en Europe afin de permettre des conclusions significatives et des décisions politiques efficaces”. 

L'Etat montre qu'il est à la traîne d'un modèle qui permet de plus en plus aux gens d'avoir des flux de revenus multiples et flexibles.

La réussite du mariage entre le progrès technologique et les impératifs réglementaires

L’intelligence artificielle s’est imposée comme un thème central dans les discussions internationales, notamment à Davos et au sein de l’Union Européenne. Lors de sa 54ème édition, Davos a récemment mis en lumière l’importance cruciale de l’IA dans le futur technologique, particulièrement l’IA générative avec des avancées majeures comme ChatGPT d’OpenAI. Le président d’OpenAI, Sam Altman, a marqué les débats en présentant la perspective d’une IA générale, imaginant des machines ayant une intelligence similaire à celle des humains.

Malgré ces perspectives enthousiasmantes, de nombreuses préoccupations sont soulignées. Le progrès rapide de l’IA alimente les inquiétudes quant à l’avenir du travail et les implications pour l’économie mondiale. Selon Goldman Sachs, près de 300 millions d’emplois pourraient disparaître dans le monde en raison de l’intégration généralisée de l’IA. Les PDG à travers le monde sont conscients de cette réalité, un sondage de PwC indiquant que près d’un quart des dirigeants d’entreprise s’attendent à réduire leurs effectifs en raison des gains de productivité apportés par l’IA.

Le rôle majeur de l’Union Européenne pour l’équilibre entre innovation et protection des droits fondamentaux

Les progrès de l’intelligence artificielle mettent en évidence l’importance croissante d’une régulation appropriée de cette technologie. L’Union Européenne s’est affirmée comme un acteur central dans cette démarche. En effet, en avril 2021, la Commission européenne a présenté un cadre réglementaire inédit, connu sous le nom de « loi sur l’IA », l’IA Act. Et plus récemment, le 9 décembre 2023, le Conseil et le Parlement européens ont conclu un accord provisoire sur cette proposition de loi. Ce texte est une avancée importante vers une régulation harmonisée de l’IA à l’échelle européenne, et au-delà.

Cette loi novatrice ambitionne de trouver un équilibre entre la protection des droits fondamentaux et le soutien à l’innovation. Elle a été conçue pour cultiver une IA digne de confiance, soutenant la sécurité et les droits des individus et entreprises tout en favorisant l’adoption et l’innovation dans une variété de domaines. En parallèle, un défi majeur apparaît : il est nécessaire d’établir des cadres réglementaires fiables qui permettent un développement harmonieux de l’IA à l’échelle mondiale. Alors que l’Europe a fait un pas décisif avec l’IA Act, d’autres régions expriment leurs préoccupations et leurs demandes de régulation, illustrant le caractère incontournable de ces considérations éthiques et pratiques pour l’avenir de l’IA.

La montée en puissance de l’intelligence artificielle, soulignée au Forum de Davos et matérialisée par des avancées comme ChatGPT d’OpenAI, crée donc à la fois des opportunités et des défis. Malgré les promesses d’innovation, le rapide développement de l’IA engendre des préoccupations légitimes sur l’emploi à l’échelle mondiale. Face à ces enjeux, l’Union Européenne s’établit comme un leader réglementaire avec son IA Act, une loi novatrice cherchant un équilibre entre l’innovation et la protection des droits fondamentaux.

Néanmoins, pour un avenir harmonieux de l’IA à l’échelle internationale, l’implication et la collaboration d’autres régions et des grands acteurs de l’industrie informatique sont cruciales. La discussion entre tous les acteurs concernés doit continuer.

Les Etats membres de l’UE ont adopté l’AI Act le 2 février dernier, confirmant l’accord provisoire obtenu en décembre dernier. Les premières obligations l’accompagnant seront effectives dans les 6 mois suivant sa publication au Journal officiel de l’UE, après un dernier vote au Parlement européen. France Digitale, Wavestone et Gide publient un guide pratique à l’intention des entreprises de toutes tailles, leur permettant de comprendre rapidement les enjeux de cette nouvelle réglementation et d’anticiper les prochaines étapes de la mise en conformité de leurs systèmes d’IA.

L’AI Act vise à garantir que les systèmes et modèles d’IA commercialisés au sein de l’UE soient utilisés de manière éthique, sûre et respectueuse des droits fondamentaux de l’UE.

L’AI Act impose des obligations et des restrictions aux fournisseurs et aux utilisateurs qui développent, déploient ou exploitent des systèmes et des modèles d’IA au sein de l’UE. Bien qu’il soit désormais prévu de réviser régulièrement ces obligations, aujourd’hui, une réglementation produit, allant du marquage CE à l’interdiction de mise sur le marché, est  appliquée à ces derniers suivant leur niveau de risque, des dispositions particulières sont prévues pour les entreprises qui développent des modèles d’IA génératives.

• les systèmes d’IA présentant un risque inacceptable vont être interdits de mise sur le marché ;
• les systèmes d’IA présentant un haut risque devront obtenir un marquage CE;
• les systèmes d’IA à risque faible ou minime doivent intégrer des obligations d’information des utilisateurs ou suivre un code de conduite volontaire.

Selon Marianne Tordeux Bitker, Directrice des affaires publiques de France Digitale, la plus grande association de start-ups et investisseurs de l’UE:

“Cette décision a un goût doux amer. Si l’AI Act répond à un enjeu majeur en matière de transparence et d’éthique, il crée néanmoins des obligations conséquentes pour toutes les entreprises qui utilisent ou développent de l’intelligence artificielle, malgré quelques aménagements prévus pour les startups et PME notamment au travers de bacs à sable réglementaires. Nous craignons que le texte ne fasse que créer des barrières réglementaires supplémentaires qui profiteront à la concurrence américaine et chinoise et réduiront l’opportunité de faire émerger des champions européens de l’IA”.

L’AI Act va entrer en vigueur progressivement selon le niveau de risque des systèmes ou modèles d’IA, les entreprises auront de 6 à 36 mois pour se mettre en conformité comme on peut le voir dans la frise ci-dessous :

Mais pour les auteurs du guide, si ce calendrier progressif a été pensé par le régulateur pour laisser le temps aux entreprises de se mettre en conformité, il est important d’anticiper les différentes étapes à venir dès à présent.

Chadi Hantouche, Partner chez Wavestone, un cabinet de conseil français, explique :

“Pour réussir cette mise en conformité, les entreprises vont devoir réaliser des tests, fournir la documentation requise, interagir avec la gouvernance prévue et suivre le processus de mise en conformité dans la durée. 3 conseils pour y arriver sereinement : suivre la méthode par étapes que nous proposons dans le guide, constituer une équipe dédiée et anticiper l’impact budgétaire pour votre entreprise.”

Le non-respect du règlement expose les fournisseurs et les utilisateurs  à des risques juridiques et financiers. Le règlement prévoit en effet des sanctions administratives, civiles et pénales, qui peuvent aller jusqu’à 7% du chiffre d’affaires annuel mondial ou 35 millions d’euros, pour les infractions les plus graves, comme la mise sur le marché ou l’utilisation d’IA interdites.

Comment tester l’IA avant sa mise sur le marché ou en service ?

L’AI Act prévoit une obligation pour chaque autorité nationale de mettre en place un bac à sable réglementaire.

Ces bacs à sables doivent être opérationnels au moment de l’entrée en application de l’AI Act, en 2026. Ils permettront aux entreprises de tester les systèmes d’IA avant leur mise sur le marché ou en service, afin de favoriser l’innovation et le développement de l’IA en Europe.

Des tests en vie réelle sont également prévus par l’AI Act, ces expérimentations pourront être menées par les fournisseurs d’IA, avec le consentement des utilisateurs et des autorités nationales concernés, tout en respectant certaines conditions de sécurité, de transparence et de supervision.

Julien Guinot-Deléry, Associé, et Matthieu Lucchesi, Counsel chez Gide, concluent :

“L’application de l’AI Act va arriver très vite. Les opportunités mais aussi les défis que pose ce nouveau règlement sont significatifs et touchent un panel d’acteurs et d’industries très large. Il est essentiel que les entreprises se préparent dès maintenant et anticipent la mise en conformité de leurs systèmes d’IA, en tenant compte d’autres réglementations, dont celles sur le droit d’auteur”.

Découvrir le guide ici