Les failles dans le cloud : se protéger contre les principaux risques liés aux LLM

Les technologies modernes s’appuient fortement sur le cloud, et à mesure que les entreprises migrent vers le SaaS, elles utilisent de plus en plus de fonctions et d’outils avancés tels que l’IA générative.

Brock Bauer, architecte sécurité, et Ellen Wilson, directrice du marketing produit chez Varonis, ont récemment discuté des tendances en matière d’IA et expliqué comment les grands modèles linguistiques (LLM) aident les utilisateurs à gérer rapidement de nombreuses informations.

Cependant, cette hausse de productivité s’accompagne d’un risque accru. À mesure que les organisations passent au cloud, elles sont confrontées à une surface d’exposition de plus en plus grande.

Poursuivez votre lecture pour un résumé détaillé de la session en direct et découvrez pourquoi une visibilité complète sur les données est cruciale pour protéger les informations sensibles.

Exploiter les LLM dans le cloud

Le cloud constitue la base de toutes les technologies de pointe, et son adoption est devenue essentielle.

Pour les équipes de sécurité, la question n’est plus de savoir s’il faut passer au SaaS, mais comment et à quel moment migrer.

« Le cloud est le terreau fertile de toutes les nouvelles technologies de nos jours », a déclaré Brock.

À mesure que les entreprises passent au cloud, elles cherchent à mettre en œuvre de nouvelles fonctionnalités et de nouveaux outils, l’IA suscitant le plus grand intérêt.

De nombreux produits, nouveaux ou existants, sont désormais dotés de capacités d’IA, ce qui révolutionne la manière dont nous interprétons les données. Les LLM nous permettent d’interagir avec les données et de recevoir des informations en langage naturel. Ils sont intégrés dans les nouveaux copilotes fournis par Microsoft, Salesforce et de nombreuses autres applications.

Cependant, selon Brock, les plateformes, les personnes et les outils qui traitent nos données ne donnent pas toujours la priorité aux intérêts de l’organisation. Il a invité les participants à faire preuve de prudence lors de l’adoption de nouvelles technologies telles que les LLM.

« Nous pouvons augmenter notre productivité en demandant à l’IA de résumer des e-mails et des réunions, d’analyser des ensembles de données ou des systèmes de fichiers gigantesques, ou même de rédiger des réponses à des messages, explique Brock. Mais nous devons comprendre les risques de mettre ces technologies entre les mains de nos utilisateurs. »

Comment l’IA ajoute aux défis de la sécurité des données

Les attaques proviennent de nombreuses directions différentes avec tous les types de motivations, de méthodes et de techniques. Quelle que soit la nature de l’attaque ou de la fuite, elles ont toutes un objectif commun : cibler vos données.

Ellen a fait remarquer que l’adoption de l’IA n’a fait qu’ajouter de la complexité à une discipline déjà complexe en matière de sécurité des données.

« Nous constatons qu’à mesure que les entreprises migrent vers le cloud, elles ont une surface d’exposition croissante, a-t-elle déclaré. Imaginez comment ces nouveaux copilotes d’IA peuvent ajouter des risques supplémentaires d’exposition excessive des données. »

Concilier productivité et confidentialité des données

Gartner rapporte que 42 % des responsables informatiques et de sécurité sont préoccupés par la confidentialité des données liées à l’IA. Les organisations reconnaissent la nécessité de protéger la vie privée tout en conservant les fonctionnalités de l’IA, mais elles rencontrent des difficultés à gérer ces deux aspects.

« Nous voulons tirer parti de la technologie LLM, explique Brock. Nous voulons offrir des capacités de productivité à nos utilisateurs, mais nous devons également protéger la confidentialité des données auxquelles ils accèdent. »

Garantir la conformité réglementaire peut également représenter un défi important dans le domaine de l’IA.

Plus tôt cette année, la loi de l’Union européenne sur l’intelligence artificielle a été introduite, la première réglementation complète sur l’IA au monde, dont les violations sont passibles d’amendes pouvant aller jusqu’à 35 millions d’euros.

« Je suis sûr que nous verrons davantage de réglementations comme celle-ci dans les années à venir », ajoute Brock.

Ellen a souligné qu’avec de nombreuses entreprises confrontées à la mise en œuvre de l’IA, les mesures de sécurité pourraient être reléguées au second plan.

Protégez votre organisation contre les risques liés à l’IA.

Pour protéger les données sensibles des risques liés à l’IA, vous devez d’abord disposer d’une visibilité complète sur vos données.

« Vous devez savoir qui y a accès, comment il l’a obtenu, qui ou qui l’utilise, ainsi que le degré de sensibilité », explique Brock.

Il est essentiel de savoir quels utilisateurs ou comptes d’IA activés par le copilote peuvent accéder à vos données. Il s’agit notamment d’avoir une visibilité sur les charges de travail d’IA sur les principales plateformes de données comme AWS, Azure et Snowflake.

La surveillance de l’utilisation anormale de l’IA, par exemple lorsque les processus ou les utilisateurs de l’IA enfreignent la politique ou se comportent de manière anormale, est également cruciale.

Enfin, il est essentiel de vous permettre de révoquer des autorisations dangereuses et excessives sans perturber les activités métier.

« Cela vous permet de contrôler et de réduire automatiquement la surface d’exposition de votre IA », explique Ellen.

Comment Varonis peut vous aider

Varonis utilise une approche automatisée et holistique de la sécurité des données.

Notre plateforme cloud-native évalue votre surface d’exposition, traite automatiquement les menaces pour garantir un minimum de privilèges continus et vous alerte des nouvelles menaces pour une action plus rapide.

« Nous pouvons détecter exactement à quoi sert Copilot, explique Brock. Et ce ne sont pas seulement les instructions saisies et les réponses que nous suivons, mais aussi les fichiers consultés et même rédigés par l’IA.

« Varonis émet des alertes comportementales relatives aux données depuis des années, et maintenant que nous disposons du traitement LLM, nous pouvons identifier les intentions frauduleuses ou malveillantes d’un utilisateur, ce qui nous permet de détecter les attaques liées à l’IA le plus tôt possible et d’empêcher les fuites avant qu’elles ne se produisent. »

Regardez la discussion complète entre Brock et Ellen pour en savoir plus sur les risques liés aux LLM. 

Faites le premier pas vers la protection de vos données sensibles contre les risques liés à l’IA grâce à une évaluation gratuite des risques sur vos données. En moins de 24 heures, vous aurez une vision claire de votre posture de risque et vous saurez où vos données sensibles sont exposées.