Vue normale

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.
À partir d’avant-hierFlux principal

Faire dialoguer les pratiques entre pays

10 juin 2024 à 11:36

Faire dialoguer les pratiques entre pays

Plongée au cœur de l'expédition apprenante rwandaise

Article rédigé par Mathilde Bras et Maxime Lubrano et publié le 10 juin 2024

Du 25 au 29 mars 2024, une délégation rwandaise a été accueillie à Paris pour une expédition apprenante inédite.

Au programme : 5 jours pour s’immerger dans les méthodes et projets de transformation numérique publique en France et échanger entre pairs afin d’identifier de futurs chantiers.

A mi-parcours d’un projet visant à accompagner le réseau des Chief Digital Officers (CDO) du Rwanda, animé par la Rwanda Information Society Authority (RISA), cette expédition apprenante a offert aux CDO la possibilité de se “décentrer” du quotidien et de se projeter vers la suite de leur parcours de transformation numérique.

Embarquez avec nous pour découvrir le programme proposé et les principaux enseignements de cette semaine !

Pour Numéricité, accompagner des équipes revient avant tout à leur transmettre les clés de compréhension et les bonnes pratiques pour mettre en œuvre leurs projets de transformation numérique. Avec nos clients, nous proposons ainsi des formats adaptés à leurs besoins : parcours de formations, gages de montée en compétences et d’autonomisation des équipes, événements de co-construction (hackathons, open labs), ou encore expéditions apprenantes, sources d’inspiration et de reconnaissance entre pairs.

Dans un projet au long cours, organiser une expédition apprenante à mi-parcours est un moment clé pour :

  • Se décentrer du quotidien et proposer de nouvelles perspectives aux CDOs sur les axes prioritaires du projet

    Le projet FEXTE s’articule autour de 5 priorités thématiques : la gouvernance, les process, outils et méthodologies, la gestion du changement, la gestion des talents, et les relations avec l’écosystème. Depuis septembre 2023, nous travaillons avec les CDOs de manière alternée : des sessions de travail à distance qui démarrent souvent par un retour d’expérience français puis un approfondissement des réflexions pour concevoir le cadre d’implémentation au Rwanda ; et des missions sur le terrain à Kigali, permettant d’être au plus proche du contexte local et se projeter.

    L’expédition apprenante en France est donc un format complémentaire, qui permet d’incarner davantage les retours d’expérience, notamment via des rencontres avec des praticiens et praticiennes de l’administration française, et des visites “in situ” dans les institutions.

  • Alterner temps d’échanges et moments réflexifs

    Une expédition apprenante est souvent un moment intense. Au total, la délégation rwandaise a suivi les présentations de 15 intervenants de 8 administrations différentes. Une diversité de représentants et de praticiens des administrations françaises, porteurs d’initiatives clés pour la transformation numérique publique.

    En concevant le programme de la semaine, nous avons choisi d’alterner des moments d’échange sur les thématiques de travail du projet FEXTE avec les experts français et des temps de discussion “internes” à la délégation, afin de relier les retours d’expérience avec leurs défis communs. La composition de la délégation a été pensée en ce sens : les CDO du Ministère de l’Environnement et de la Gestion des urgences, du Ministère du Commerce et de l’Industrie, du Ministère de la Justice et du Ministère des Affaires étrangères, un représentant de RISA et un représentant du Ministère des Technologies de l’Information et de Communication et de l’Innovation.

Nous remercions chaleureusement les intervenants qui ont fait de cette semaine une réussite :

Direction interministérielle du numérique
Philippe Vrignaud, directeur du département relation agents – usagers, fondateur de Démarches Simplifiées

Service d’information du gouvernement
Michaël Nathan, Directeur
Missak Kéloglanian, Chief Digital Officer, Conseiller Sécurité Numérique et Chef du Département Ecosystème numérique
Jean Delpech, Adjoint en charge du numérique
Maxime Beaugrand, Responsable de projet

Ministère de l’Europe et des Affaires étrangères
Henri Verdier, Ambassadeur pour les affaires numériques

Ministère de l’Economie, des Finances et de la Souveraineté industrielle et numérique
Bénédicte Roullier, cheffe du pôle transformation numérique des TPE/PME, Responsable de l’initiative France Num, Direction générale des entreprises

Ministère de la Justice
Xavier Albouy, directeur du numérique

Agence nationale de la cohésion des territoires
Alexis Boudard, directeur de l’Incubateur des Territoires
Léa Gislais, Directrice adjointe du Programme Société numérique
Vincent Viers, développeur de Données et Territoires

PIX
Benjamin Marteau, directeur
Marie Bancal, directrice des partenariats, du développement et du juridique
Elsa Dufayard, Responsable des secteurs organismes de formation et international
Angélina Magne, chargée de partenariats et de développement international

Remerciements :
Pierre-Louis Rolle, ancien conseiller du ministre chargé du Numérique, ancien directeur stratégie et innovation à l’Agence nationale de la cohésion des territoires
Romain Talès, Digital Transformation Specialist à Numéricité, ancien chef du département data au sein d’Etalab

À Numéricité, nous sommes fiers de porter la vision du numérique public à la française, cette Digital French Touch, dont les valeurs résident dans l’usage d’un numérique ouvert et responsable, vecteur de transparence et d’efficacité pour l’action publique. Au fil de nos missions à l’international et des visites d’études que nous organisons, nous attachons une importance particulière à relayer ces valeurs, pratiques, méthodes et communs.

L’expédition apprenante à destination de la délégation rwandaise a été conçue pour créer des synergies entre les principes clefs de la Digital French Touch et les priorités du Rwanda.

En France, l’ouverture – ou l’open – est à la fois un mode d’action et un objectif dans la transformation numérique de l’action publique. Améliorer l’accès à l’information sur les démarches administratives, via la création du portail service-public.fr en 2000, rendre disponibles les données collectées et produites par l’administration, via la création de la plateforme interministérielle data.gouv.fr en 2011, ou encore ouvrir l’administration à des talents numériques issus de extérieurs, via la mise en place du programme Entrepreneurs d’intérêt général en 2017. Ces quelques initiatives illustrent l’approche choisie par l’administration française : en “faisant plateforme” avec l’extérieur, en permettant la réutilisation de ressources, le numérique contribue à l’amélioration de la qualité et l’efficacité de l’action publique.

 

Intervention de Philippe Vrignaud devant la délégation rwandaise - Mars 2024

Sur la donnée, cette approche a été accélérée par l’adoption de la loi pour une République numérique en 2016 : principe d’open data data by design, réutilisation gratuite des données publiques, facilitation de la circulation de la donnée entre administrations, principe du “dites-le-nous une fois”, évitant ainsi aux usagers la complétion de données déjà détenues par l’administration, ouverture des logiciels développés (ou financés) par l’administration, transparence des algorithmes. L’ouverture et la circulation des données réduisent la charge administrative pour les citoyens, renforcent la collaboration entre institutions, contribuent à la proactivité de l’administration auprès des usagers.

Sur les codes sources, le développement de briques logicielles communes pour la transformation connaît aujourd’hui une nouvelle impulsion. Au sein de la Direction interministérielle du numérique (DINUM), le pôle opérateur coordonne la mise en place d’une suite numérique consolidée – depuis démarches-simplifées à FranceConnect, en passant par des outils de messagerie, d’agenda, de partage de documents – qui s’attachent mettre l’open source au cœur. Cette approche de mutualisation est particulièrement prometteuse. Lire les dernières actualités sur la suite numérique collaborative.

Enseignements de l’expédition apprenante avec le Rwanda – L’open
Plusieurs bonnes pratiques ont été relevées par la délégation :

  • L’importance de la qualité des données et leur mise à disposition en vue de leur réutilisation par d’autres administrations ou des personnes externes
  • L’ouverture et la circulation des données brutes produites par des acteurs publics complémentaires à l’approche de production statistique
  • La nécessité d’installer une gouvernance interministérielle pour développer une politique de la donnée 360 (open data, API, IA) au service de l’amélioration de l’action publique
  • La mutualisation de briques logicielles selon le mode “volontaire” : par exemple, un ministère peut choisir d’instancier un logiciel commun à toutes les administrations tout comme ne pas utiliser une autre solution de la suite, tant que l’information existe sur ce qui est mis à disposition ! 

En 2014, la France est le premier pays à créer par décret une fonction d’administrateur général des données (AGD), traditionnellement incarnée par le Directeur interministériel du numérique (DINUM).

  • L’AGD doit assurer l’accélération de l’ouverture, de la circulation et de l’exploitation des données publiques au profit des politiques publiques. Cette fonction est venu compléter l’action et le réseau d’Etalab pour mettre en œuvre la transformation des politiques publiques de la donnée.
  • En 2021, l’équivalent ministériel de l’AGD est créé, via une circulaire définissant les missions des administrateurs ministériels des données, des algorithmes et des codes sources (AMDAC). Les AMDAC (qui peuvent être les directeurs du numérique dans les ministères, mais pas toujours), ont pour fonction la mise en œuvre et le suivi des stratégies ministérielles pour l’ouverture des données, algorithmes et codes sources. Ils coconstruisent et mettent en œuvre leur feuille de route ministérielle en ce sens, toutes disponibles en accès libre sur numerique.gouv.fr.
  • Une comitologie est mise en place : le Ministre de la Transformation et de la Fonction publiques assure le suivi stratégique, et chaque mois, les AMDAC se réunissent avec l’AGD. Des projets conjoints peuvent être menés en parallèle.

Intervention de Romain Talès devant la délégation rwandaise - Mars 2024

La gouvernance du réseau des AMDAC est une approche parmi d’autres de modes de pilotage de la transformation numérique. Il est important de pouvoir ajuster les mécanismes de gouvernance en fonction des acteurs concernés et des décisions à prendre. Un spectre large de dispositifs de gouvernance existent en France. Parmi les initiatives présentées lors de l’expédition apprenante :

  • L’approche partenariale public-privé-communs, consistant à mettre ouvrir les codes sources des logiciels développés sur des financements publics, à créer une communauté d’utilisateurs et de développeurs et à réemployer au maximum l’existant. Par exemple, le gouvernement, comme de nombreux incubateurs ministériels, est présent sur GitHub : https://github.com/GouvernementFR. Dans cette dynamique de numérique d’intérêt général, il existe également l’Accélérateur d’initiatives citoyennes (AIC), lancé en 2021 par la DINUM afin de renforcer les coopérations entre l’Etat et les initiatives citoyennes porteuses de communs numérique.

Enseignements de l’expédition apprenante avec le Rwanda – La gouvernance
Plusieurs bonnes pratiques ont été relevées par la délégation :

  • L’avantage de bénéficier d’une organisation interministérielle pour collaborer avec les CDO sectoriels et placer la transformation numérique à un niveau de décision élevé au sein du gouvernement
  • L’open-source et les communs numériques pour
    • Développer des infrastructures de services numériques offre plusieurs avantages, tels que l’efficacité des investissements, la garantie de la souveraineté numérique et l’attraction de talents
    • Favoriser l’innovation ouverte et collaborative, essentielle pour l’adaptation rapide aux nouvelles technologies et aux besoins évolutifs des citoyens
    • Animer des communautés de pratiques, essentielles pour le partage de connaissances et de meilleures pratiques, la résolution de problèmes communs et le soutien mutuel dans les initiatives de transformation numérique

De nombreux chantiers liées aux politiques d’inclusion numérique ont été lancées depuis plus de 10 ans. Aujourd’hui, la Stratégie nationale pour un numérique inclusif est structurante pour les acteurs publics.

La délégation a découvert les initiatives phares, qui couvrent l’ensemble des champs de l’inclusion (de la connectivité aux usages) : le Plan France Très Haut Débit, le programme France Mobile, les programmes de médiation numérique, l’accompagnement des collectivités territoriales, par exemple avec la création des conseillers numériques. La progression de l’inclusion numérique est suivie par une nouvelle métrique développée par l’ANCT : la distance numérique. Celle-ci englobe l’accès aux équipements, la diversité des usages, les compétences formelles, la facilité.

Les équipes de l’ANCT et de PIX devant la délégation rwandaise - mars 2024
Intervention de Bénédicte Roullier devant la délégation rwandaise - mars 2024

Pour ce qui est de la formation, l’équipe de Pix a présenté l’histoire du service, le modèle de mise en œuvre et les caractéristiques clés. Pix est une startup d’État devenue un service autonome, avec un modèle de financement hybride. L’équipe s’appuie sur le cadre européen des compétences numériques pour construire des modules pédagogiques, dispensés de l’école primaire à l’université. A l’occasion de la présentation de Pix, la délégation a partagé leurs préoccupations sur la façon de s’attaquer à l’alphabétisation numérique pour les populations ayant des problèmes d’alphabétisation ou des questions de diversité linguistique.

La méthode startup d’Etat a été explorée par la délégation à travers la présentation de deux initiatives portées par l’Agence nationale de la cohésion des territoires (ANCT) : Aidants Connect et Données et Territoires. Cette méthode permet d’apporter une réponse à un problème de politique publique par le développement d’un service numérique à impact, conçu à partir des besoins exprimés par les utilisateurs (citoyens ou agents publics).

Aidants Connect est un service basé sur les principes d’authentification de FranceConnect permettant aux aidants de soutenir les utilisateurs dans la réalisation de leurs démarches administratives.

Données et Territoires est un service proposé par l’ANCT à destination des agents, des services et des collectivités territoriales afin de les accompagner dans toutes les étapes de la création à l’utilisation des données.

Ces deux exemples de produits, centrés sur l’exploitation de la donnée au service des besoins des utilisateurs, montrent combien les bases de données standardisées et ouvertes permettent d’opérer des politiques publiques ou d’outiller les agents, gages de confiance et d’efficacité.

Enseignements de l’expédition apprenante avec le Rwanda – La méthode produit des start-up d’État
Plusieurs bonnes pratiques ont été relevées par la délégation :

  • L’importance de maintenir un lien constant avec les utilisateurs finaux lors du développement de services numériques
  • La nécessité de faciliter l’expérience utilisateur en proposant un univers graphique cohérent
  • L’utilité du modèle start-up d’État pour dynamiser des projets numériques au service des politiques publiques

Afin de proposer aux usagers des interfaces numériques standardisées et un univers de marque État uniformisé, la France s’est doté d’un système de design : le DSFR (Système de Design de l’Etat).

  • Elaboré par le Service d’information du gouvernement (SIG), le DSFR permet d’assurer la cohérence des produits numériques publics avec la stratégie de marque de l’État. Des composants sont mis à disposition des designers et développeurs de services (blocs fonctionnels, typographies, modèles, références colorimétriques, boutons, fil d’Ariane, etc.). Ils sont prêts à l’emploi, accessibles et standardisés. Le DSFR est ouvert, une documentation est mise à disposition, et les utilisateurs peuvent émettre des besoins en évolution ou ajouts de composants.
  • La force du DSFR réside dans son adaptabilité, en ce qu’il est « agnostique » en termes de langages web et de programmation. Il vient outiller les équipes de services numériques pour mieux construire leurs produits et mettre en œuvre les normes d’éco-conception et d’accessibilité.

Les membres de la délégation en compagnie de Michaël Nathan et Missak Kéloglanian - mars 2024

La transformation numérique n’est pas synonyme de la mise en œuvre des nouvelles technologies. Comme le précise la Fing suite à la création du groupe de travail Nos Systèmes, il est essentiel d’opéter une rétroingénierie des solutions techniques émergentes avant de les déployer. Ils préconisent d’ailleurs d’opter pour une rétroingénierie sociale, méthode permettant de comprendre et d’améliorer les systèmes techniques en interagissant avec eux : l’idée est de rendre les systèmes techniques socialement responsables et transparents sans nécessairement dévoiler tous leurs secrets.

Enseignements de l’expédition apprenante avec le Rwanda – Ne pas tomber dans le techno-solutionnisme

Xavier Albouy, Directeur du numérique au Ministère de la Justice, a insisté sur un point : lorsqu’une innovation est présentée comme un virage incontournable à prendre, le rôle d’un directeur du numérique est de remettre l’usage, la valeur, au centre, et de considérer la technologie comme un moyen et non une fin.

Intervention de Xavier Albouy devant la délégation rwandaise - mars 2024

Pour autant, la recherche de l’état de l’art dans l’usage d’innovations technologiques majeures est importante. Par exemple, la France expérimente et met en œuvre diverses initiatives liées à l’intelligence artificielle :

  • “Pour une intelligence artificielle française” (PIAF), portée dès 2018 par le Lab’IA d’Etalab et visant à construire le premier jeu de données ouvert de questions-réponses francophone ;
  • Albert, nouvel outil d’IA générative lancé en 2023 à destination des agents de l’administration et porté par le Datalab d’Etalab ;

Dans le sillon de l’approche public-privé-communs, l’État a également lancé en juillet 2023 une communauté : AllIAnce. Sous l’égide de la DINUM, AllIAnce rassemble des ministères, des administrations publiques, des opérateurs de services publics, des start-up et entreprises privées, des organismes de recherche et des établissements d’enseignement supérieur. L’objectif : répondre à des problématiques concrètes rencontrées par les administrations sur le terrain en réunissant toutes les expertises permettant à l’État de s’approprier tout le potentiel des technologies d’IA.

Cette communauté assure la gouvernance en expérimentant régulièrement des solutions avant de les passer à l’échelle. A l’instar des DNUM ministériels, la communauté joue le rôle d’éclaireur et permet à la France de se positionner techniquement, juridiquement et éthiquement sur les innovations technologiques et de créer des produits souverains et libres. In fine, cela revient interroger la technique pour en dévoiler le potentiel en vue de répondre aux besoins des agents et des administrés.

À la fin de la semaine d’expédition apprenante, trois mots-clés ont marqué les discussions entre les membres de la délégation rwandaise : open-source, souveraineté et user-centric. En privilégiant le dialogue entre praticiens et en intégrant les meilleures pratiques de la Digital French Touch, cette expédition a offert une vision complète et pragmatique des opportunités et des défis de la transformation numérique.

Les différents enseignements ont mis en lumière l’importance d’une approche ouverte et collaborative, de la transparence des systèmes techniques, et d’une gouvernance adaptée et placée à un haut niveau stratégique. Ces éléments ont permis aux membres de la délégation rwandaise de redéfinir leur perspective sur les différents aspects du projet FEXTE.

L’expédition apprenante a ainsi apporté des orientations supplémentaires pour formuler des besoins et idées pour la suite du programme. L’échange avec Henri Verdier, Ambassadeur pour les affaires numériques a été très enthousiasmant pour les CDOs, qui ont perçu qu’il était possible – et souhaitable – d’associer des principes de transformation numérique et des projets concrets à impact.

Les membres de la délégation en compagnie de Henri Verdier, Ambassadeur français pour les affaires numériques - mars 2024

À l’instar de cette expédition apprenante, accompagner à la transformation numérique, c’est aussi garantir la montée en compétences et l’autonomisation des équipes.

Partant de cette conviction, nous avons fait le choix de concevoir une diversité de formats et modules de formation que nous pouvons proposer clé en main ou intégrer dans des missions spécifiques.

Découvrez notre offre sur la page dédiée aux formations

Ingénierie : l’impact de l’IA et de l’automatisation

10 juin 2024 à 11:30

Les technologies d’IA, de ML et d’automatisation sont en train de remodeler en profondeur les industries. Une récente enquête de Deloitte indique que 93 % des entreprises manufacturières estiment que l’IA sera une technologie clé pour stimuler la croissance et l’innovation.

L’industrie manufacturière a tout à gagner car elle s’appuie sur différents systèmes d’ingénierie qui génèrent de grandes quantités de données, lors de la curation des données, de la conception, ou encore lors de la création de modèles d’IA dans la fabrication des produits. Ces systèmes peuvent être liés à la gestion du cycle de vie des produits (PLM), la planification des ressources de l’entreprise (ERP), ou encore le pilotage de la production (MES). En outre, il existe une grande diversité de données dans l’écosystème des fournisseurs, des équipementiers, des régulateurs et d’autres parties prenantes.

D’autre part, les fusions et acquisitions courantes dans cette industrie, entraînent la nécessité d’intégrer constamment de nouveaux concepts, de nouvelles données et une nouvelle culture au sein des entreprises.

L’IA et le Machine Learning (ML) au service des résultats de l’entreprise

Au cours des dernières années, l’IA et l’automatisation ont eu un impact significatif sur l’industrie manufacturière en offrant la possibilité d’examiner les données historiques, de les nettoyer et de les rationaliser. L’IA peut supprimer les informations en double et réduire le nombre de biais afin d’assurer la normalisation de la base de données.

Les systèmes traditionnels d’ingénierie ont permis jusqu’à aujourd’hui de traiter, conserver et réutiliser les connaissances existantes. Ces systèmes transitent vers l’IA de nouvelle génération. Ils offrent une plus grande précision et une meilleure traçabilité, qui sont des atouts importants pour la recherche et le développement de la plupart des chaînes de valeur des produits. Les grands modèles de langage permettent désormais d’apporter l’échelle nécessaire au traitement et à l’extraction des connaissances à chaque fois que cela est nécessaire.

Les algorithmes d’IA peuvent piloter des analyses prédictives de la demande et de l’offre en utilisant des modèles ML simples, des modèles de réseaux neuronaux ou des réseaux neuronaux profonds.

Intégration et centralisation des données

Les outils alimentés par l’IA peuvent collecter et intégrer des données provenant de divers systèmes d’enregistrement, tels que les logiciels de CAO/FAO, les appareils IoT, les systèmes ERP, et plus encore, et compléter les entreprises grâce à leurs capacités d’IA. Par exemple, un réseau neuronal artificiel a été utilisé pour une entreprise aérospatiale mondiale afin d’aider à équilibrer les moteurs d’avion.

Nettoyage et préparation des données

L’automatisation peut contribuer au nettoyage et à la préparation des données pour l’analyse, en réduisant les efforts manuels et le temps requis pour le nettoyage des données. Par exemple, une classification et un résumé de documents juridiques ont été fournis à une entreprise d’informatique et d’électronique grand public.

Maintenance prédictive

Les modèles de maintenance prédictive pilotés par l’IA analysent les données provenant de capteurs et d’appareils IoT pour prédire quand un équipement ou une machine est susceptible de tomber en panne. Par exemple, une société minière mondiale utilise des camions lourds de type mammouth pour transporter le minerai. Un travail a été mené avec leurs équipes pour développer les modèles de diagnostic et de pronostic pour les camions afin d’identifier et de prédire les défaillances. L’ensemble du processus a été développé dans le cadre d’un projet de retour sur investissement.

Recommandations contextuelles et optimisation des performances

L’ingénierie des connaissances peut être utilisée pour développer des systèmes de recommandation qui fournissent aux utilisateurs des contenus, des produits ou des services pertinents en fonction de leurs préférences et de leur comportement. Cela peut grandement améliorer l’expérience de l’utilisateur en rendant les interactions plus efficaces et plus satisfaisantes.

Le contrôle et l’optimisation des performances des produits par le biais de tests utilisateurs permettent d’identifier et de résoudre les problèmes qui ont une incidence sur l’expérience des utilisateurs, ce qui débouche sur des conceptions plus accessibles.
Les ingénieurs logiciels peuvent développer des solutions logicielles personnalisées et des outils d’automatisation qui rationalisent divers processus de fabrication. Cela permet de réduire le travail manuel, de minimiser les erreurs et de garantir une qualité constante des produits, ce qui améliore l’expérience des opérateurs et des utilisateurs finaux.

Maximiser le potentiel de l’IA

Il n’est pas facile pour les fabricants d’intégrer les capacités de l’IA dans leurs systèmes et infrastructures existants. Il existe une résistance culturelle, un manque de talent et l’incapacité d’absorber les nouveaux algorithmes d’IA dans les systèmes existants. Ainsi, il est essentiel de préparer l’organisation à surmonter les obstacles, à conduire le changement et à favoriser une culture de l’innovation pour que l’adoption de l’IA soit couronnée de succès. Les chefs d’entreprise doivent ainsi identifier les freins technologiques qui entravent l’adoption de l’IA, telles que l’infrastructure obsolète, le manque de talents qualifiés ou les problèmes de cybersécurité, la croissance future de l’entreprise, et y remédier par le biais d’investissements et de formations.

Les leaders du secteur doivent ainsi devenir les fers de lance de l’innovation et du changement. Il se doivent de créer des espaces et des processus qui encouragent les employés à réfléchir, à expérimenter et à proposer des idées novatrices. Aussi, ils doivent mettre en place les formations nécessaires pour leurs employés et tirer ainsi pleinement parti des nouvelles technologies pour prendre les devants sur le secteur.

tribune_Raghavendra_KA

VASA-1 – Des visages parlants ultra-réalistes et en temps réel

Par : Korben
18 avril 2024 à 01:49

VASA-1 est un nouveau framework qui permet de générer des visages parlants ultra-réalistes en temps réel ! En gros, vous balancez une simple photo à cette IA, ainsi qu’un petit clip audio, et bim ! Elle vous pond une vidéo d’un visage qui parle, avec une synchronisation de la bouche nickel chrome, des expressions faciales hyper naturelles et des mouvements de tête très fluides. C’est hyper bluffant !

Les chercheurs de Microsoft ont réussi ce tour de force en combinant plusieurs techniques de pointe en deep learning. Ils ont d’abord créé un espace latent expressif et bien organisé pour représenter les visages humains. Ça permet de générer de nouveaux visages variés, qui restent cohérents avec les données existantes. Ensuite, ils ont entraîné un modèle de génération de dynamiques faciales et de mouvements de tête, appelé le Diffusion Transformer, pour générer les mouvements à partir de l’audio et d’autres signaux de contrôle.

Et le résultat est juste époustouflant. On a l’impression de voir de vraies personnes qui parlent, avec toutes les nuances et les subtilités des expressions faciales. Les lèvres bougent parfaitement en rythme avec les paroles, les yeux clignent et regardent naturellement, les sourcils se lèvent et se froncent…

En plus de ça, VASA-1 peut générer des vidéos en haute résolution (512×512) à une cadence élevée, jusqu’à 40 images par seconde, avec une latence de démarrage négligeable. Autant dire que c’est le graal pour toutes les applications qui nécessitent des avatars parlants réalistes. On peut imaginer des assistants virtuels avec lesquels on pourrait interagir de manière super naturelle, des personnages de jeux vidéo encore plus crédibles et attachants, des outils pédagogiques révolutionnaires pour apprendre les langues ou d’autres matières, des thérapies innovantes utilisant des avatars pour aider les patients… etc etc..

En plus de pouvoir contrôler la direction du regard, la distance de la tête et même les émotions du visage généré, VASA-1 est capable de gérer des entrées qui sortent complètement de son domaine d’entraînement comme des photos artistiques, du chant, d’autres langues…etc.

Bon, évidemment, il reste encore quelques limitations. Par exemple, le modèle ne gère que le haut du corps et ne prend pas en compte les éléments non rigides comme les cheveux ou les vêtements. De plus, même si les visages générés semblent très réalistes, ils ne peuvent pas encore imiter parfaitement l’apparence et les mouvements d’une vraie personne mais les chercheurs comptent bien continuer à l’améliorer pour qu’il soit encore plus versatile et expressif.

En attendant, je vous invite à checker leur page de démo pour voir cette merveille en action. C’est juste hallucinant ! Par contre, vu les problèmes éthiques que ça pourrait poser du style usurpation d’identité, fake news et compagnie, et connaissans Microsoft, je pense que VASA-1 ne sera pas testable par tous bientôt malheureusement. Mais je peux me tromper…

Dragon Medical One : une implémentation réussie aux Hôpitaux Civils de Colmar

5 avril 2024 à 14:00

Afin d’optimiser le processus de prise en charge des patients, d’assurer une continuité de soins hôpital-médecine de ville, et de réduire la charge de travail des secrétaires, les Hôpitaux Civils de Colmar (HCC) se sont équipés de Dragon Medical One, une solution de reconnaissance vocale de Nuance communications, entreprise acquise par Microsoft en 2022, pour automatiser la rédaction de comptes-rendus et lettres de liaison.

L’Établissement Public de Santé HCC, composé de 4 sites distincts géographiquement sur la partie ouest de la ville de Colmar, compte 675 médecins et réalise 413 653 admissions par an. Plus de 200 médecins d’entre eux utilisent désormais Dragon Medical One.

Basée sur le deep learning, hébergée dans les centres sécurisés Microsoft Azure en France, avec une IA entrainée sur un vocabulaire médical professionnel, cette solution s’interface directement avec le dossier patient informatisé (DPI) Easily des HCC.

Le Dr Marc Schneider, urologue, utilise Dragon Medical One depuis une dizaine d’années, tant dans un cadre professionnel que personnel, il était déjà convaincu des avantages en termes de précision, de rapidité et de gain de temps que cette solution offre.

À cette époque, même la secrétaire la plus expérimentée passait entre 15 et 20 minutes pour finaliser une lettre. Avec une charge de travail comprenant environ cinquante patients par jour, en plus de ses autres responsabilités, le processus de révision de ces lettres par le Dr Schneider prenait généralement deux à trois mois. Relire une pile de documents et de courriers de patients rétrospectivement représentait un défi majeur, nécessitant de se rappeler tous les détails.

Depuis l’intégration réussie de Dragon Medical One aux HCC, et sa compatibilité avec le DPI, le Dr Schneider a encouragé ses collègues à l’adopter afin d’alléger le fardeau des secrétaires surchargées.

Désormais, une lettre médicale est remise au patient directement à la fin de la consultation, réduisant ainsi les délais pour les autres intervenants de la prise en charge hospitalière. Elle est également transmise au médecin traitant via une messagerie sécurisée et à Mon Espace Santé (si le patient a consenti).

Le Dr Schneider, également expert médical dans les procédures de plaintes de patients dans toute la France, affirme :

“Dragon Medical One a participé à améliorer l’accueil des patients. Il est inenvisageable de travailler sans. Avec Dragon Medical One, je peux dicter un résumé d’un dossier de 300 pages juste en 2 heures, alors que sans la solution, il m’en faudrait 4″.

Le Dr Marie-Sandrine Mann, spécialiste en médecine physique et de réadaptation, qui gère diverses consultations au sein des HCC, utilise elle aussi la solution. Elle crée des comptes rendus spécifiques pour chaque type de consultation, qu’il s’agisse de consultations externes spécialisées, comme la consultation post-AVC ou le bilan sclérose en plaques, de consultations de podologie, de réunions de concertation pluridisciplinaire pour le pied diabétique et neuropathique, ou encore d’avis interservices et de consultations en hôpital de jour.

Elle explique :

“Avec Dragon Medical One, l’information précise est affichée instantanément dans le DPI, sans erreur. Dragon Medical One m’aide dans la rédaction des comptes rendus de consultation en direct devant le patient, et aussi des lettres à transmettre aux médecins traitants. Je peux ainsi rédiger des comptes-rendus longs et détaillés, en dictant à mon rythme et sans perdre le fil de mes idées”.

La solution lui permet également de gagner un temps considérable pour retranscrire les antécédents et l’histoire de la maladie d’un patient transféré d’un autre hôpital.

99 % des 200 médecins se déclarent satisfaits de l’utilisation de Dragon Medical One tout comme Loïc Moeglin, Directeur des systèmes d’informations aux HCC, qui dresse un premier bilan très positif :

“DMO a permis de réaliser des gains tangibles : l’établissement a récupéré 5 176 heures de travail en un trimestre, et les insertions automatiques offertes par l’outil ont permis d’éviter 10 jours de dictée supplémentaires. Cette solution apporte un bénéfice réel avec un suivi précis des performances”.

Dragon-Medical-One-implementation-reussie-Hopitaux-Civils-Colmar

Comment Pure Storage collabore avec NVIDIA pour accélérer l’adoption de l’IA au sein des entreprises

21 mars 2024 à 12:00

Pure Storage, fournisseur de technologies et de services de stockage de données, collabore depuis plusieurs années avec NVIDIA. A l’occasion de la GTC 2024, il a annoncé une nouvelle architecture de référence validée pour les serveurs NVIDIA OVX équipés de GPU NVIDIA L40S et FlashBlade//S. Cette validation offre aux entreprises un éventail élargi de choix de serveurs GPU, ainsi qu’une infrastructure d’IA prête à l’emploi pour des charges de travail d’entraînement, d’ajustement et d’inférence de petits modèles, rapide et efficace.

En 2018, Pure Storage et NVIDIA développaient une infrastructure pour le déploiement du machine learning à grande échelle. Baptisée AIRI (pour AI-Ready Infrastructure), avec l’objectif de permettre aux organisations de transformer les données, elle associait une baie de stockage 100 % flash de type FlashBlade (boîtier 4U) avec quatre boîtiers NVIDIA GPU DGX-1 et une paire de commutateurs 100 Gb Ethernet d’Arista Networks.

En 2022, Pure Storage lançait la nouvelle génération de l’infrastructure : AIRI//S, pilotée par la boîte de stockage FlashBlade//S, les systèmes NVIDIA DGX A100 et le réseau de bout en bout, grâce aux plateformes réseau Quantum Spectrum de NVIDIA. L’architecture de référence AIRI certifiée NVIDIA DGX BasePOD a, quant à elle, été lancée fin 2023.

S’appuyant sur sa collaboration continue avec NVIDIA, outre l’architecture de référence certifiée NVIDIA OVX Server Storage, Pure Storage annonce un pipeline de génération augmentée de récupération pour l’inférence de l’IA, un développement de génération augmentée de récupération et un investissement accru dans l’écosystème de partenaires IA :

  • Architecture de référence certifiée NVIDIA OVX Server Storage : Pure Storage a obtenu la validation OVX Server Storage, ce qui lui permet de fournir aux entreprises des architectures de référence de stockage flexibles et validées pour des solutions matérielles et logicielles d’IA optimisées en termes de coûts et de performances. Elle complète la certification de Pure Storage pour NVIDIA DGX BasePOD annoncée l’année dernière ;
  • Pipeline de génération augmentée de récupération pour l’inférence de l’IA : Pure Storage a créé un pipeline exploitant les microservices NVIDIA NeMo Retriever, les GPU NVIDIA, ainsi que son propre stockage d’entreprise all-flash. Ce pipeline accélère le temps d’apprentissage en utilisant les données internes de l’entreprise pour l’entraînement à l’IA, tout en éliminant le besoin de recyclage constant pour les LLM ;
  • Développement de génération augmentée de récupération : Pure Storage a créé une solution de génération augmentée de récupération pour les services financiers afin de résumer et d’interroger des ensembles de données avec une précision supérieure à celle des grands modèles de langage standards. Des solutions similaires seront lancées pour le secteur de la santé et le secteur public ;
  • Investissement accru dans l’écosystème de partenaires IA : Pure Storage collabore avec des partenaires tels que Run.AI et Weights & Biases pour optimiser l’utilisation des GPU et gérer le cycle de vie du développement des modèles d’IA. L’entreprise travaille également avec des revendeurs et des partenaires de services axés sur l’IA pour rendre les déploiements d’IA des clients plus opérationnels.

Rob Lee, Chief Technology Officer, Pure Storage, conclut :

“Pure Storage a reconnu très tôt la demande croissante en matière d’intelligence artificielle, en proposant une plateforme efficace, fiable et performante pour les déploiements d’IA les plus avancés. Grâce à notre collaboration de longue date avec NVIDIA, les dernières architectures de référence d’Intelligence artificielle validées et les preuves de concept d’IA générative apparaissent comme des composants essentiels pour les entreprises mondiales afin de résoudre les complexités du puzzle de cette technologie”.

pure-storage-nvidia-adoption-ia-entreprises

Comment l’IA et la blockchain transforment la supply chain

13 février 2024 à 11:03

La chaîne d’approvisionnement est confrontée à des défis de taille, de la volatilité des marchés à la demande des consommateurs en évolution constante. Dans ce contexte complexe, l’intégration de technologies émergentes telles que l’IA, le ML et la blockchain, ouvrent la voie à une efficacité accrue, une transparence renforcée et une gestion des risques améliorée.

Les principales activités de la supply chain englobent l’approvisionnement en matières premières, la transformation et la fabrication, la gestion des stocks, la logistique et la distribution, la gestion des commandes et des fournisseurs, ainsi que le service client. Une gestion efficace de la chaîne d’approvisionnement est essentielle pour garantir la disponibilité des produits, réduire les coûts, améliorer la satisfaction client et maintenir un avantage concurrentiel sur le marché.

La blockchain, souvent associée à la cryptomonnaie, trouve également des applications dans la supply chain. En tant que registre distribué et sécurisé, elle offre une traçabilité sans précédent à chaque étape du processus d’approvisionnement. Les transactions enregistrées sur la blockchain sont immuables et transparentes, ce qui réduit les risques de fraude et de contrefaçon. Chaque acteur de la chaîne, qu’il soit fournisseur, transporteur ou distributeur, peut vérifier et enregistrer des informations en temps réel. De la provenance des produits à la gestion des stocks et des contrats intelligents, la blockchain permet ainsi d’optimiser la chaîne d’approvisionnement, de manière sécurisée et responsable.

L’IA, le machine learning et le deep learning apportent une valeur ajoutée à la chaîne d’approvisionnement en permettant une optimisation plus fine et une prise de décision proactive. Les algorithmes d’IA analysent de vastes ensembles de données pour identifier des schémas, des tendances et des anomalies dans les données de la chaîne d’approvisionnement, permettant une meilleure prévision de la demande, une gestion plus efficace des stocks et une planification logistique optimisée. De plus, l’IA peut automatiser des tâches répétitives telles que la gestion des commandes et des fournisseurs, libérant ainsi des ressources précieuses pour des activités à plus forte valeur ajoutée.

L’IA et l’automatisation peuvent contribuer à dégager davantage de valeur lorsqu’elles sont intégrées aux données fiables fournies par la blockchain.

Cas d’usage de la blockchain : IBM Food Trust pour la traçabilité des produits agroalimentaires

IBM Food Trust est une plateforme basée sur la technologie de la blockchain développée par IBM. Elle vise à améliorer la traçabilité, la transparence et la sécurité dans l’industrie alimentaire en permettant aux entreprises et aux consommateurs de suivre et de tracer les produits alimentaires tout au long de la chaîne d’approvisionnement, depuis la ferme jusqu’à la table du consommateur.

En stockant les données sur les récoltes, la transformation, l’emballage et l’expédition sur la blockchain, Food Trust permet de retracer les produits en quelques secondes seulement, alors que plusieurs jours ou semaines étaient auparavant nécessaires. Après 18 mois de tests, durant lesquels des millions de produits alimentaires individuels ont été tracés par les distributeurs et les fournisseurs, IBM l’a lancée en 2018.

Parmi les premiers utilisateurs de la plateforme, on trouve des géants de l’agroalimentaire comme Walmart, Unilever, Nestlé et Carrefour, qui visent à renforcer la confiance de leurs clients et à répondre aux exigences réglementaires en matière de sécurité alimentaire.

Nestlé, l’un des premiers à collaborer avec IBM pour la solution, a testé sa capacité à retracer les fruits et légumes de ses produits alimentaires pour bébés de la marque Gerber, l’a ensuite appliquée avec Carrefour à leur gamme de lait infantile GUIGOZ. Les clients, en scannant le QR code depuis un smartphone, peuvent accéder à l’ensemble des informations concernant le lait, son origine, les étapes de production et les contrôles qualité. Nestlé a étendu l’utilisation de la solution en 2020 pour la traçabilité de sa marque de café “Zoégas”.

Carrefour l’utilise également pour permettre à ses clients de vérifier la traçabilité de certains de ses produits frais comme le poulet, le saumon ou les œufs.

Walmart, quant à lui, utilise la solution afin de réduire la propagation des maladies d’origine alimentaire en identifiant les problèmes dans la chaîne alimentaire.

Comment-IA-blockchain-transforment-supply-chain

Google publie TensorFlow GNN 1.0 : une avancée majeure dans l’apprentissage sur les graphes

8 février 2024 à 13:30

Google Research a annoncé mardi dernier TensorFlow GNN 1.0 (TF-GNN), une bibliothèque testée en production permettant de construire et entraîner des réseaux de neurones de graphes (GNN) à grande échelle.

Les graphes sont omniprésents dans de nombreux domaines, de la biologie à la finance en passant par les réseaux sociaux. Ils offrent une représentation puissante des relations entre différentes entités, mais leur exploitation efficace dans le domaine de l’apprentissage automatique est un défi de taille.

Les GNN permettent d’exploiter à la fois la connectivité et les caractéristiques des nœuds et des arêtes d’un graphe. Ils peuvent faire des prédictions pour des graphes entiers, des nœuds individuels ou des arêtes potentielles. Ils peuvent également encoder l’information discrète et relationnelle d’un graphe de manière continue, afin de l’intégrer dans un autre système d’apprentissage profond.

TF-GNN supporte à la fois la modélisation et l’entraînement en TensorFlow, la bibliothèque open-source développée par Google, l’une des plus populaires pour l’apprentissage automatique et le deep learning en raison de sa flexibilité, de sa richesse en fonctionnalités et de sa communauté active, ainsi que l’extraction de graphes d’entrée à partir de vastes bases de données.

Il est conçu dès le départ pour les graphes hétérogènes, où les types d’objets et de relations sont représentés par des ensembles distincts de nœuds et d’arêtes.

TF-GNN propose une API Python flexible pour configurer l’échantillonnage de sous-graphes, qui consiste à extraire des sous-graphes de taille raisonnable du graphe sous-jacent pour créer des exemples d’entrée pour l’entraînement des GNN. L’échantillonnage peut se faire de manière dynamique ou par lots, à différentes échelles : interactivement dans un notebook Colab, de manière efficace pour un petit ensemble de données en mémoire, ou distribuée par Apache Beam pour des ensembles de données énormes stockés sur un système de fichiers réseau.

TF-GNN fournit également une collection de modèles prédéfinis et un modèle template hautement configurable, exprimés en couches Keras. Les modèles peuvent être entraînés sur une seule tâche ou sur plusieurs tâches en même temps, de manière supervisée ou non supervisée. Il inclut aussi une implémentation des gradients intégrés pour l’attribution des modèles.

Cette bibliothèque marque une avancée significative dans le domaine de l’apprentissage sur les graphes. En permettant une manipulation facile et efficace des graphes hétérogènes, elle ouvre de nouvelles perspectives pour l’application des réseaux de neurones dans des domaines variés, de la recommandation de produits à l’analyse de réseaux sociaux. L’équipe Tenserflow de Google espère qu’elle sera utile pour faire progresser l’application des GNN dans TensorFlow à grande échelle et alimenter de nouvelles innovations dans ce domaine.

Pour en savoir plus, consultez sa Démo de Colab avec le benchmark populaire OGBN-MAG (dans votre navigateur, aucune installation requise), son guide d’utilisation et Colabs.

Références de l’article : blog Google Research

La version 1.0 de TF-GNN est le fruit d’une collaboration entre Google Research : Sami Abu-El-Haija, Neslihan Bulut, Bahar Fatemi, Johannes Gasteiger, Pedro Gonnet, Jonathan Halcrow, Liangze Jiang, Silvio Lattanzi, Brandon Mayer, Vahab Mirrokni, Bryan Perozzi, Anton Tsitsulin, Dustin ZelleGoogle Core ML : Arno Eigenwillig, Oleksandr Ferludin, Parth Kothari, Mihir Paradkar, Jan Pfeifer, Rachael Tamakloe et Google DeepMind : Alvaro Sanchez-Gonzalez et Lisa Wang.

Vous pouvez retrouver leur papier “TF-GNN:Graph Neural Networks in TensorFlow” sur arXiv : https://doi.org/10.48550/arXiv.2207.03522

Google-publie-TensorFlow-GNN-10

IA : suspicion de dopage !

Par : Axel Cypel
2 février 2024 à 15:00

Citius, Altius, Fortius, trois mots latin signifiant « plus vite, plus haut, plus fort », forment la devise originelle des Jeux Olympiques, mais aussi une forme de course vers une augmentation indéfinie de la performance que certains ont pu comprendre comme une invitation au dopage. Le parallèle avec l’intelligence artificielle s’avère intéressant à plus d’un titre. L’IA, c’est une révolution ! Mais elle est permanente, infatigable, un peu à la manière dont elle est menée par nos machines dorénavant déifiées, ces ordinateurs qui comptent sans se tromper, sans se plaindre aussi… Dans tous les domaines, l’IA progresse. Voyez plutôt :

Chœur des louanges techniques

Fortius : Grâce aux GPU, TPU et consorts, les capacités de calcul continuent de soutenir la force requise pour entraîner des modèles consommant des quantités astronomiques de données (et aussi d’électricité) au sein de clouds pour servir le deep learning. Dernière grande réussite en date : les Large Language Models («LLM»), noyau dur de ChatGPT, l’assistant conversationnel qui écrit. Quel dommage que de moins en moins de gens lisent…

Altius : Et c’est vrai qu’ils sont forts, ces LLM! Etonnante surprise que leur haute performance dans la maîtrise du langage, disons du versant purement syntaxique du langage. L’illusion fait le reste. L’ordinateur vous parle ; le test de Turing vole littéralement en éclat (en même temps, c’était un canular…). Et si l’on n’y prend garde, ce sera bientôt toute la cognition humaine qui sera reproduite par ces capacités « machiniques » nouvelles. Pourquoi l’IA connaîtrait-elle de limites ?

Citius : Ce rythme, qui nous entraîne jusqu’au bout de l’IA (mais peutêtre aussi au bout de la nuit ? – il paraît que les années 80 reviennent à la mode), semble s’accélérer à son tour. Les retombées techniques des LLM s’auto-entretiennent dans un concert assez cacophonique d’open-source et de but lucratif bien compris (mais il n’y a pas de mal à cela). Et nous nous précipitons, mus par un progrès qui demeure inquestionné, à toute
allure vers… Bien malin qui saurait dire quoi !

Intermezzo : Retour à la devise des J.O. : il est d’ores et déjà su que le cru parisien de 2024 aura recours à l’IA, à l’œuvre derrière les caméras intelligentes censées veiller à la sécurité du peuple, augmenté de ses généreux touristes étrangers. La surveillance – d’autres disent « la sécurité » – ne saurait se reposer, contrairement aux contrôleurs et aux athlètes (il faudrait bientôt songer à les remplacer un jour, ceux-là aussi !)

Chœur des louanges éthiques

La fin de l’année qui vient de s’achever portait comme un avant-goût de nouvel an, largement confirmé depuis :

Prospérité ! L’IA ne se limite heureusement pas à ses performances techniques sans cesse repoussées. Le business est aussi florissant et le montant des dernières levées de fonds ou des investissements consentis donne le tournis. A moins de compter en milliards de dollars – altius ! –, on ne fait pas vraiment partie des acteurs intéressants. En centaines de millions d’euro, on a une place dans le décor, ou on peut être promu à un petit rôle de configuration, peut-être. Bien sûr, les rabat-joie pointeront qu’un investissement n’est qu’une espérance de gains futurs (et pour ce qui est du présent, une dépense tout à fait effective). Ils n’omettront pas de noter également que la valeur en bourse n’est qu’une mesure bien volatile de la valeur réelle d’une société. Mais enfin, il faut bien s’occuper…

Bonheur ! Et comme on n’est pas tous traders et qu’il en faut pour tous les goûts, la régulation de l’IA bat aussi son plein. Sommet mondial de l’intelligence artificielle les 1er et 2 novembre 2023 en Angleterre où les figures politiques discutent avec chercheurs et dirigeants des inévitables grandes entreprises du numérique. Réunion placée sous l’égide du bien des peuples et des Nations (et de la figure tutélaire d’Alan Turing – autres temps, autres mœurs) qui conduisit même à la signature d’un accord – ou n’était-ce qu’une déclaration ? –, dit de Bletchley, intervenant à peu près en même temps que la signature du décret Biden visant un début de réglementation en la matière et que l’édiction d’un code de bonne conduite par le G7. Les choses apparaissent enfin clairement : c’était une conspiration menée contre l’AI Act européen qui accouchera (?) seulement un mois plus tard ! Citius : chacun veut être le premier à dire la même chose, à savoir, faire de l’IA responsable, éthique et sécurisée (pieuse « wishlist » non exhaustive). Même la Chine a pu signer. Fortius !

Une dissonance audible ou un chœur qui chante faux ?

Et pourtant, de « révolution permanente » (notez bien sûr l’oxymoron) à « crise », il n’y a pas loin. Comment expliquer, sinon, ces récents engouements médiatico-politiques ? Le succès technique des LLM suffit-il pour remettre au goût du jour les vieilles lunes du grand remplacement, du revenu universel (qui sera « élevé », selon Elon Musk, mal habitué, il est vrai, aux inconforts du SMIC) et des robots humanoïdes qui pourraient devenir méchants si leur IA venait à dérailler ?

Crise des consciences, aussi, comme prises de vertige devant l’extrapolation de ce que pourrait être l’IA de demain. Raison de plus pour s’assurer de ce qu’est l’IA d’aujourd’hui, l’IA qui se fait plutôt qu’elle ne se raconte dans la bouche des « heureux du monde ». Revenons donc à un peu de science et de pédagogie, à la fabrique des IA, et non aux communications à son sujet. Entreprendre un voyage au bout de la nuit est toujours possible, réaliser celui au bout de l’IA s’avérera sans doute plus enthousiasmant, on l’espère !

Retrouvez le nouveau livre “Voyage au bout de l’IA”
d’Axel Cypel aux éditions De Boeck supérieur.

tribune-axel-cypel

A quoi correspond l’explicabilité des IA en cybersécurité ?

Par : Céline Minh
31 janvier 2024 à 13:50

L’intelligence artificielle a révolutionné de nombreux domaines dont celui de la cybersécurité. Cependant, cette technologie prometteuse soulève des questions en termes d’explicabilité et de transparence. Le machine learning a connu des avancées remarquables depuis ces dernières années.

Aujourd’hui, grâce à d’énormes bases de données, des modèles de plus en plus élaborés peuvent classifier des attaques complexes et variées sans qu’il soit nécessaire de les définir explicitement. Cependant, cette évolution s’accompagne d’une opacité croissante. Bien que des méthodes de ML avancées, telles que les réseaux neuronaux profonds, démontrent une excellente efficacité en laboratoire, leur utilisation comme « boîtes noires » peut causer des erreurs inattendues et difficiles à comprendre en conditions réelles. Il est donc utile de comprendre en quoi consiste l’explicabilité des IA dans le monde de la cybersécurité et pourquoi cela est devenu une nécessité.

Le concept de l’explicabilité des IA

L’explicabilité est la capacité d’un système à rendre son processus de raisonnement et ses résultats intelligibles pour les humains. Dans le contexte actuel, des modèles sophistiqués opèrent souvent comme des « boîtes noires », masquant les détails de leur fonctionnement. Ce manque de transparence soulève des enjeux. En effet, sans une compréhension claire du processus décisionnel, il devient difficile d’identifier, et encore moins de corriger, d’éventuelles erreurs. De plus, il est compliqué pour l’être humain de faire confiance à une IA qui délivre des résultats sans justification apparente.

L’importance de l’explicabilité

Dans des domaines où la prise de décision est critique, il est primordial de comprendre comment l’IA opère pour lui accorder notre confiance. L’absence d’explicabilité et de transparence est aujourd’hui un frein à l’intégration de l’IA dans ces secteurs sensibles. Prenons l’exemple d’un analyste de sécurité ; il a besoin de savoir pourquoi un comportement a été classé comme suspect et d’obtenir des rapports d’attaque approfondis avant d’engager une action aussi importante que de bloquer le trafic en provenance d’adresses IP spécifiques. Mais l’explicabilité ne profite pas uniquement aux utilisateurs finaux. Pour les ingénieurs et concepteurs de systèmes d’IA, elle simplifie la détection de potentielles erreurs du modèle de ML et évite les ajustements « à l’aveugle ». L’explicabilité est donc centrale dans la conception de systèmes fiables et dignes de confiance.

Comment rendre les IA explicables

Des modèles de ML comme les arbres de décision sont naturellement explicables. Bien qu’en général moins efficaces que des techniques de ML plus sophistiquées comme les réseaux neuronaux profonds, ils offrent une totale transparence.

Certaines techniques « post hoc », telles que SHAP et LIME, ont été développées pour analyser et interpréter des modèles « boîte noire ». En modifiant les entrées et en observant les variations correspondantes dans les sorties, ces techniques permettent d’analyser et de déduire le fonctionnement de nombreux modèles existants.

L’approche « explainability-by-design » va au-delà des techniques post hoc en intégrant l’explicabilité dès la conception de systèmes d’IA. Plutôt que de chercher à expliquer les modèles a posteriori, l’« explainability-by-design » s’assure que chaque étape du système est transparente et compréhensible. Cela peut impliquer l’utilisation de méthodes hybrides et permet la conception d’explications appropriées.

L’explicabilité en IA n’est donc pas un luxe, mais une nécessité, surtout dans des domaines sensibles comme la cybersécurité. Elle permet de gagner la confiance des utilisateurs mais aussi d’améliorer continuellement les systèmes de détection. Il s’agit d’un point essentiel à prendre en considération dans le choix d’une solution de sécurité.

tribune_celina_minh

❌
❌