RTFlash

VOUS ÊTES ICI :
Une IA sûre sans données fiables

TIC

Une IA sûre sans données fiables

Lundi, 05/05/2025 - 18:26 4 commentaires
Une IA sûre sans données fiables zoom

Aujourd’hui, presque tout le monde a entendu parler de l’intelligence artificielle et des millions de personnes dans le monde l’utilisent déjà ou y sont exposées, de la rédaction de nos e-mails par ChatGPT à l’aide au diagnostic médical. À la base, l’IA utilise des algorithmes, c’est-à-dire des ensembles d’instructions mathématiquement rigoureuses, qui indiquent à un ordinateur comment exécuter diverses fonctions avancées ou transformer des faits en informations utiles. Les grands modèles de langage (LLM), qui alimentent l’IA de plus en plus performante, sont des types particuliers d’algorithmes qui apprennent à partir d’ensembles de données massifs et pour la plupart centralisés.

Pourtant, la centralisation de ces immenses ensembles de données génère des problèmes de sécurité, de confidentialité et de propriété des données. En effet, l’expression « les données sont le nouveau pétrole » signifie qu’elles sont devenues une ressource essentielle, stimulant l’innovation et la croissance dans l’économie numérique d’aujourd’hui. Pour contrer ces problèmes, une approche appelée apprentissage fédéré est en train de révolutionner l’IA. Contrairement à l’entraînement des modèles d’IA sur de vastes ensembles de données centralisés, l’apprentissage fédéré permet à ces modèles d’apprendre à travers un réseau de périphériques (ou de serveurs) décentralisés, en conservant les données brutes à leur source.

« L’IA d’aujourd’hui entraînée par l’apprentissage fédéré rassemble des données du monde entier issues d’Internet, d’autres grandes bases de données, d’hôpitaux, d’appareils intelligents, etc. Ces systèmes sont très efficaces mais en même temps il y a un paradoxe. Ce qui les rend si efficaces les rend également très vulnérables à l’apprentissage à partir de “mauvaises” données », explique le professeur Rachid Guerraoui, responsable du Laboratoire d’informatique distribuée (DCL) de la Faculté informatique et communications.

Les données peuvent être incorrectes pour de nombreuses raisons. Peut-être qu’elles sont mal saisies dans une base de données du fait d’un manque d’attention ou d’une erreur humaine, qu’il y a des erreurs dans les données au départ, que des capteurs ou d’autres instruments sont cassés ou fonctionnent mal, que des données incorrectes ou dangereuses sont enregistrées de manière malveillante, etc. Parfois, les données sont bonnes, mais la machine qui les héberge est piratée ou fausse. Dans tous les cas, si ces données sont utilisées pour entraîner l’IA, cela rend les systèmes moins fiables et peu sûrs. « Tout cela soulève une question essentielle », déclare Rachid Guerraoui. « Pouvons-nous construire des systèmes d’IA fiables sans faire confiance aux sources de données ? » Après une décennie de travaux théoriques consacrés à relever ce défi, le professeur et son équipe disent que la réponse est oui ! Un ouvrage récent résume leurs principales conclusions.

En collaboration avec l’Institut national de recherche en sciences et technologies du numérique, ils mettent aujourd’hui leurs idées en pratique. Ils ont développé ByzFL, une bibliothèque utilisant le langage de programmation Python qui est conçue pour comparer et améliorer les modèles d’apprentissage fédérés contre les menaces adverses, en particulier les mauvaises données. « Nous pensons que la majorité des données sont bonnes, mais comment savoir à quels ensembles de données nous ne pouvons pas faire confiance ? », demande Rachid Guerraoui. « Notre bibliothèque ByzFL teste si un système est robuste contre des attaques inconnues a priori, puis rend ce système plus robuste. Plus précisément, nous fournissons aux utilisatrices et utilisateurs des logiciels pour émuler les mauvaises données à des fins de test ainsi que des filtres de sécurité pour garantir la robustesse. Les mauvaises données sont souvent distribuées de manière subtile, de sorte qu’elles ne sont pas immédiatement visibles ».

ByzFL n’isole pas et ne localise pas les bonnes données des mauvaises, mais utilise des schémas d’agrégation robustes (p. ex. médiane) pour ignorer les entrées extrêmes. Par exemple, si trois capteurs enregistrent une température de 6, 7 et 9 degrés et qu’un autre enregistre -20°, cela ruine tout un calcul. Le logiciel ByzFL exclut les extrêmes de sorte que l’impact des mauvaises données est limité, tandis que l’information est agrégée. L’intelligence artificielle devrait toucher tous les aspects de notre vie dans un avenir proche. Selon Rachid Guerraoui, aujourd’hui, la plupart des entreprises utilisent des formes très primitives d’IA, par exemple des plates-formes de streaming recommandant des films ou des assistants d’IA aidant à écrire du texte. Si quelqu’un n’aime pas le film qui est recommandé ou si un e-mail n’est pas parfait, ce n’est pas grave.

À l’avenir, pour toute application essentielle, comme le diagnostic du cancer, la conduite d’un véhicule ou le contrôle d’un avion, une IA sûre est essentielle. « Le jour où nous mettrons vraiment l’IA générative dans les hôpitaux, les voitures ou les infrastructures de transport, je pense que nous verrons que la sécurité est problématique à cause des mauvaises données », indique Rachid Guerraoui. « Le plus grand défi actuel est de passer de ce que j’appelle un cirque animalier au monde réel avec quelque chose en quoi nous pouvons avoir confiance. Pour les applications critiques, nous sommes loin du point où nous pouvons cesser de nous soucier de la sécurité. L’objectif de ByzFL est d’aider à combler ce fossé ». Le professeur craint qu’il faille de graves accidents pour que le public et les décisionnaires politiques comprennent que l’IA créée à ce jour ne devrait pas être utilisée pour la médecine, les transports ou toute autre fin essentielle et que le développement d’une nouvelle génération d’IA sûre et robuste est essentiel.

EPFL : https://actu.epfl.ch/news/une-ia-sure-sans-donnees-fiables/

Noter cet article :

 

Vous serez certainement intéressé par ces articles :

Recommander cet article :

  • deepseekitaliano

    6/05/2025

    Questo articolo solleva una questione molto importante sulla sicurezza dell'IA quando i dati di input non sono affidabili. Chiaramente, la qualità dei dati è fondamentale per la costruzione di sistemi di IA affidabili. Mi chiedo se progetti di IA come l'italiano DeepSeek ( https://deepseekitaliano.net/ ) adottino approcci specifici per garantire accuratezza e sicurezza anche in presenza di dati imperfetti. Questa è una sfida importante che la comunità dell'IA deve affrontare.

  • Kathleen Dunham

    13/05/2025

    C'est vraiment regrettable que la FDA et les grandes sociétés pharmaceutiques interdisent de nombreux remèdes naturels contre le CANCER juste pour gagner de l'argent.

    Je suis quelqu'un de très réservé, surtout quand il s'agit de ma santé ! J'ai décidé de partager mon histoire pour donner espoir et inspiration.
    Il y a deux ans, ma fille, aujourd'hui âgée de 21 ans, a reçu un diagnostic de cancer de stade 4 avec métastases osseuses. Elle a suivi une chimiothérapie orale, qui a entraîné une toxicité. Son cœur et ses reins ont été gravement endommagés. Elle ne pouvait ni marcher ni parler sans tousser et a été hospitalisée à plusieurs reprises pour une tension artérielle dangereusement basse. J'ai abandonné les médecins ; j'ai décidé d'arrêter tout traitement médical et de chercher des alternatives. J'ai fini par me renseigner sur les plantes naturelles, ce qui m'a amenée à contacter un herboriste, le Dr Water. Il m'a proposé des produits à base de plantes, que j'ai donnés à ma fille, et sa santé s'est rapidement améliorée. Quelques jours après la fin du traitement, nous avons fait un scanner, qui a confirmé qu'elle n'avait plus de cancer et que ses os étaient en voie de guérison. J'étais folle de joie ; c'était comme un miracle. Cela fait plus d'un an maintenant, et elle est en parfaite santé. Pas d'antibiotiques, pas de probiotiques ; elle prend seulement quelques compléments naturels que le Dr Water nous a recommandés.
    Les plantes naturelles peuvent être une alternative parfaite à de nombreux problèmes de santé, mais nous semblons les négliger. N'hésitez pas à partager mon histoire. Voici les coordonnées du Dr Water : +2349050205019 et DRWATERHIVCURECENTRE@GMAIL.COM.
    Un grand merci aux Drs Hamza Shazam et Terry Marcelino pour leurs conseils tout au long de mon parcours !
    Merci à Jimmy Philip Sacchetti de m'avoir contactée !
    Merci à ma famille et à mes amis pour leur amour et leur soutien, et un grand merci au Dr Water, qui a sauvé la vie de ma fille ! Je vous aime tous.

  • timharrison

    15/05/2025

    A great reminder that without reliable data, even the smartest AI can make flawed decisions. It's similar in fashion—brands like Washington Outfits rely on real customer feedback and trends to design what people actually want. That’s how pieces like the Navy Classic Puff Hoodie are created—not just stylish, but based on what truly resonates with people.

  • sloperun3az

    16/05/2025

    To tell you the truth, I thought that was an exceptionally good post. Reading it during my lunch break was a very enjoyable experience for me. I found it to be very enjoyable. There is no question in my mind that Will will be appearing on this blog on a more regular basis. We are grateful that you are willing to share. happy wheels

    • back-to-top