Philippe Cudré-Mauroux : "Les modèles d’IA ne sont pas sûrs"

L’intelligence artificielle progresse à une vitesse fulgurante. Mais derrière les performances toujours plus impressionnantes de ChatGPT, Anthropic ou Claude et des autres modèles cachent aussi des risques. Cybersécurité, emploi, économie ou encore souveraineté: les conséquences pourraient être nombreuses.

Alors que plusieurs chercheurs et anciens employés des grands laboratoires alertent sur des risques pouvant aller jusqu’à la perte de contrôle de l’IA avec des conséquences potentiellement délétères pour l'humanité, OpenAI vient elle-même de reporter la sortie d’un nouveau modèle pour des raisons de sécurité.

Président du département d’informatique de l’Université de Fribourg, Philippe Cudré-Mauroux suit de près l'évolution de l'IA. Au micro de Nathan Gendre, il revient sur les dangers qu’il identifie, mais aussi sur les moyens dont disposent la Suisse et l’Europe pour ne pas subir les choix des géants américains et chinois.

L'interview de la semaine: Philippe Cudré-Mauroux

Radio Fribourg: l’intelligence artificielle pourrait-elle réellement représenter une menace existentielle pour l’humanité?

Philippe Cudré-Mauroux: c’est peut-être un point de vue un petit peu sensationnaliste. Je ne pense pas que cela va arriver dans un avenir proche. Cela dit, il y a vraiment des dangers. Cette intelligence artificielle est à la fois extrêmement puissante et malheureusement peu sûre, notamment en raison de la façon dont on l’entraîne.

Quels sont aujourd’hui les principaux risques?

Il y a un panel de risques très différents. L’un des plus importants à l’heure actuelle concerne la cybersécurité. Les tout derniers modèles ont une capacité d’attaque impressionnante et on ne les maîtrise pas forcément, surtout en Europe. Il y a aussi des risques au niveau des emplois, avec certains métiers qui pourraient disparaître. Il y a un risque pour notre économie, puisque l’Europe et la Suisse ne sont pas très bien placées à ce niveau. Et puis un risque pour notre société: si ce sont des modèles de langage américains et chinois qui contrôlent ce que nous produisons, nous perdons en autonomie et en souveraineté.

Les modèles accessibles au grand public sont-ils concernés par ces risques?

Il faut bien comprendre que les modèles qui sortent pour le grand public, typiquement ceux d’Anthropic ou d’OpenAI, sont des modèles bridés. Si on prend les modèles d’Anthropic, par exemple Claude Opus, ils ne peuvent pas être utilisés pour certaines choses: les cyberattaques, certaines applications liées aux armes biologiques ou à la sécurité informatique. Ce sont des entreprises et l’État américain qui ont exigé que ces modèles soient bridés par rapport aux modèles de base que d’autres entités peuvent utiliser.

C’est assez clair. Il y a deux grands acteurs de l’IA à l’heure actuelle: les États-Unis et la Chine.

Les engagements pris récemment par les géants de l’IA vous rassurent-ils?

Je serais assez catégorique: c’est plutôt de la façade. Donald Trump a compris que l’intelligence artificielle était un sujet absolument stratégique à tous les niveaux. Il compte vraiment sur cette intelligence artificielle pour la domination mondiale via les États-Unis. Le président chinois a, je crois, fait un peu le même constat. On est plutôt face à des dirigeants qui veulent absolument avoir la maîtrise de l’IA pour ensuite avoir la maîtrise sur le reste du monde. Pour l’instant, ces entreprises sont très opaques et font un petit peu ce qu’elles veulent.

Ces enjeux peuvent-ils réellement nous toucher ici, en Suisse et à Fribourg?

Malheureusement, c’est assez clair. Il y a deux grands acteurs de l’IA à l’heure actuelle: les États-Unis et la Chine. Tous les autres sont très loin derrière. Cela pose de vrais problèmes au niveau économique, social et de l’emploi, parce que ces agents d’IA vont de plus en plus s’immiscer dans nos vies. Pour l’instant, l’Europe et la Suisse se positionnent comme des consommateurs, comme des clients de ces technologies. On peut imaginer qu’on va payer le prix fort, en termes économiques, de compétitivité, de savoir-faire, mais également d’autonomie et d’emplois.

Il faut que les politiques s’emparent de cette problématique et que les citoyens se rendent compte à quel point certains pans de notre société sont en danger.

Que peut faire la Suisse pour ne pas simplement subir cette évolution?

On est relativement mal placé. Pour l’instant, on a peu de cartes à jouer au niveau européen. Mais ce n’est pas parce qu’on n’est pas en pole position qu’il faut abandonner la bataille. Il faut vraiment monter en compétence dans tous les domaines. Il faut que les politiques s’emparent de cette problématique et que les citoyens se rendent compte à quel point certains pans de notre société sont en danger. Il faut qu’on puisse nous-mêmes être les propres acteurs de notre futur en matière d’IA.

Quel rôle l’Université de Fribourg peut-elle jouer dans cette évolution?

On a vraiment beaucoup de chance, parce que l’Université de Fribourg a des experts de premier plan dans différents domaines. Dans mon département, plusieurs spécialistes comprennent comment ces modèles fonctionnent, parce qu’ils ne sont pas très faciles à comprendre. On a aussi des professeurs qui étudient comment l’humain et la machine peuvent collaborer, ainsi que des chercheurs qui travaillent sur les prochains modèles. Mais au-delà de la technique, nous avons également des compétences dans les domaines juridique et éthique. Je pense qu’il faut maintenant utiliser ces experts au mieux pour encadrer le débat local et cantonal. Et j’espère qu’on pourra renforcer ce pôle de compétences à l’Université, parce qu’on en aura terriblement besoin dans les années qui viennent.

Ces modèles peuvent déraper, produire du contenu qui n’est pas factuel et dérailler.

Faut-il alors se méfier de ces outils, ou peut-on continuer à les utiliser?

Ces modèles sont extrêmement puissants et le deviennent de plus en plus. Tous les deux mois, on a de nouveaux modèles qui arrivent et qui peuvent résoudre toutes sortes de problèmes, notamment mathématiques. Ce qu’il faut comprendre, c’est que ces modèles ne sont malheureusement pas sûrs. Ils sont probabilistes, entraînés sur d’énormes quantités de données de manière statistique. Ils ne suivent pas directement une logique ou des règles. De manière générale, ces modèles peuvent déraper, produire du contenu qui n’est pas factuel et dérailler. C’est clair.

Retrouvez l'interview complète de Philippe Cudré-Mauroux: