Les entreprises déploient l’IA plus rapidement qu’elles ne peuvent en maîtriser les risques, selon une nouvelle étude de TrendAI. Les deux tiers ressentent une pression pour approuver l’IA, malgré des préoccupations de sécurité « extrêmes » qui sont ignorées pour rester compétitifs.
La course au déploiement de l’IA éclipse la nécessité d’une gouvernance solide. Une étude mondiale menée par TrendAI, connue dans une vie antérieure sous le nom de Trend Micro, auprès de trois mille décideurs informatiques, révèle que 67 % d’entre eux sont sous pression pour autoriser des projets d’IA, même lorsque les risques de sécurité sont qualifiés d’« extrêmes ». Seul un sur sept cite ces préoccupations comme déterminantes, tandis que les autres les écartent pour ne pas se laisser distancer par la concurrence ou pour répondre à la demande interne.
Cette situation est aggravée par une gouvernance incohérente et des responsabilités floues concernant les risques liés à l’IA. Les équipes de sécurité travaillent souvent de manière réactive, ce qui mène à l’utilisation d’outils d’« IA fantôme » non autorisés. TrendAI avertit que les attaquants utilisent déjà l’IA pour accélérer les cyberattaques, telles que la reconnaissance automatisée et le hameçonnage, abaissant ainsi le seuil de la cybercriminalité.
L’IA sans règles
Les organisations implémentent l’IA plus rapidement qu’elles ne peuvent la sécuriser, admettent 57 % des répondants, tandis que 64 % n’ont qu’une confiance modérée dans leur connaissance des cadres juridiques entourant l’IA. Seuls 38 % disposent de cadres politiques complets en matière d’IA, alors que 41 % perçoivent l’imprécision de la réglementation comme un obstacle.
lire aussi
Mistral plaide pour une « taxe sur les contenus » pour les entreprises d’IA : « Les règles européennes ne satisfont personne »
En pratique, cela signifie que l’IA est souvent opérationnalisée avant que les règles relatives à son utilisation ne soient pleinement établies. Cela crée une situation où les systèmes d’IA influencent des processus métier critiques sans les contrôles nécessaires. Rachel Jin, Chief Platform & Business Officer chez TrendAI, souligne que la pression concurrentielle mène à une mise en œuvre sans gouvernance adéquate, entraînant des risques imprévisibles.
Peu de confiance dans l’IA autonome
Malgré l’adoption croissante des systèmes d’IA autonomes, la confiance en ces derniers reste limitée. Seuls 48 % pensent que l’IA agentique améliorera la cyberdéfense à court terme, tandis que des inquiétudes subsistent concernant l’accès aux données, les abus et le manque de supervision. 44 % perçoivent le risque que des agents d’IA accèdent à des données sensibles, tandis que 36 % craignent des requêtes malveillantes susceptibles de compromettre la sécurité.
Un tiers des organisations redoute un élargissement de la surface d’attaque pour les cybercriminels, en plus de risques tels que l’abus du statut d’IA de confiance et des problèmes liés au déploiement de code autonome. Par ailleurs, 31 % admettent n’avoir aucune visibilité sur ces systèmes, ce qui soulève des questions sur la manière dont elles peuvent intervenir en cas de défaillance ou d’abus. Près de 40 % soutiennent l’introduction d’un « bouton d’arrêt d’urgence » pour désactiver les systèmes en cas de problème, mais près de la moitié hésite.
La gouvernance d’abord
L’écart entre l’adoption de l’IA et la gestion des risques devient de plus en plus évident. TrendAI avertit que les organisations déploient des systèmes qu’elles ne comprennent ou ne maîtrisent pas totalement, ce qui accroît les risques. Sans visibilité ni contrôle, l’IA risque de devenir une nouvelle catégorie de risques pour l’entreprise.
TrendAI conclut par un appel à l’action : les organisations doivent adapter leur gouvernance à la vitesse d’adoption de l’IA. C’est la seule façon de rétablir l’équilibre entre innovation et sécurité avant que les risques ne deviennent incontrôlables.