Faut-il craindre davantage l’IA ou les cybercriminels ?

Réunis à Lille lors du forum InCyber, qui se tenait à Lille du 26 au 28 mars, les experts de la cybersécurité se sont penchés sur l’intelligence artificielle et sur l’aide qu’elle peut apporter dans la lutte contre le piratage. Si elle est utilisée par les cybercriminels, elle est aussi un des piliers de la détection et de la réaction en temps réel aux attaques. « Le Forum InCyber est un rendez-vous incontournable », se félicite Thierry Breton, commissaire européen chargé notamment du numérique, lors de son discours d’introduction à la 16^e édition du salon.

Le commissaire, conquérant, s’enorgueillit d’avoir doté l’IA d’un bouclier législatif qui vise à encadrer son utilisation sans porter atteinte à l’innovation. La Californie, qui s’apprête à réglementer l’utilisation de l’IA en s’inspirant de la législation européenne semble lui donner raison. Plus de 30 propositions de lois ont été introduites au parlement de Californie, selon David Harris, conseiller à la California Initiative for Technology and Democracy. « L’espace informationnel est un espace contesté, comme le spatial, l’aérien, ou le maritime, poursuit Thierry Breton… Chaque produit connecté est un point d’entrée potentiel à une attaque cyber… Nous devons assumer davantage de responsabilités et ne plus nous reposer sur un tiers pour notre sécurité. On ne doit pas dépendre d’un pays et jouer la défense à pile ou face tous les quatre ans. »

Quant à l’IA proprement dite, « il y a toujours les deux côtés de la pièce : le côté positif et le côté sombre, a averti Thierry Breton. L’émergence de l’IA fait qu’aujourd’hui sur le darkweb, vous pouvez trouver des modèles commerciaux de ransomware-as-a-service que n’importe qui peut acheter. » Il a également rappelé que « les montants en jeu sont considérables… la cybercriminalité et ses retombées représentent pratiquement la troisième économie au monde, 1 500 milliards d’euros… Pour atténuer les menaces, on doit répondre le plus vite possible. » Et l’IA peut justement nous aider dans ce domaine, c’est le fameux côté positif.

Thierry Breton en 2022 Crédit: AFP / JOHN THYS

Ce discours de la double face de l’IA trouve un écho chez le général Marc Watin-Augouard, fondateur du Forum InCyber qui note « une peur devant l’inconnu et un émerveillement devant un nouveau monde ». Mais, bien sûr, pas d’IA sans cybersécurité. Guillaume Tessier, directeur du forum, confirme que « l’IA peut nous aider à identifier les menaces mais sera aussi utilisée par les criminels ».

Mais a-t-on raison de craindre l’IA ? Devons-nous avoir peur qu’elle devienne en quelque sorte indépendante et se retourne contre nous ? Pour le philosophe Raphaël Enthoven, lors de son intervention au Forum InCyber, la crainte de l’IA n’a pas de sens : « l’IA est évidemment supérieure à l’homme dans sa capacité de calcul. Mais c’est le propre des machines, pourquoi fabriquerait-on des machines si elles n’étaient pas supérieures à l’homme ? » Le philosophe rappelle que le marteau est déjà supérieur au poing, que l’automobile plus forte que le cheval, lui-même plus fort que l’homme et bien sûr l’IA plus forte que le cerveau humain.

Mais l’IA se borne à compiler ce qui existe déjà, elle n’est pas capable d’analyser. Il prend l’exemple d’un sujet du bac proposé à une IA. ChatGPT a fort bien su exhumer les théories antérieures, mais n’a pas su trouver la problématique du sujet. La copie ChatGPT finalement ne vaut pas grand-chose. Mais risque-t-on de voir un jour la machine dépasser l’homme ? Il s’agit d’un vieux fantasme qu’on retrouve aussi bien dans la mythologie grecque avec la statue de Pygmalion, au XVIe siècle avec le Golem, plus tard chez Frankenstein, voire chez Pinocchio où des créatures échappent à leur créateur et le dépassent.

Toutefois, demande Raphaël Enthoven, quel est donc le créateur à qui les créatures tournent le dos ? Ne serait-ce pas dieu dont les hommes s’éloignent. Et donc penser que nos créatures vont nous dépasser, n’est pas une humilité, mais au contraire un péché d’orgueil. En craignant cela, nous nous prenons pour Dieu. La leçon est remarquable, l’orateur brillantissime mais peut-être la crainte qui touche l’IA est-elle ailleurs. Un vote des participants au forum donne un exemple très concret de crainte associée au développement de l’IA : celle de voir des IA manipulatrices influer sur une élection, guider de façon excessive des humains.

Quoi qu’il en soit, dans les couloirs du forum, les avis sont nuancés. « La majorité des attaques, aujourd’hui, ne passent pas par l’IA, explique Pascal Le Digol de WatchGuard, elles ne demandent pas beaucoup de connaissances et nous disposons des outils techniques pour bloquer une grande partie des attaques. » Et si l’IA est une crainte c’est plutôt à cause des risques de fuite de données que son utilisation peut impliquer. « Quand on fait appel à une IA générative, analyse Eric Heddeland, de Barracuda Networks, on envoie des données, parfois des données très précises voire confidentielles. Mais que deviennent ces données ? Il y a un vrai risque de fuite. »

Les questions de cybersécurité dépassent le cadre des grands pays industrialisés. Présent sur le forum, Franck Kié, créateur du Cyber Africa Forum (CAF) qui se tiendra mi-avril à Abidjan, reconnaît que les questions de cybersécurité deviennent de plus en plus cruciales sur le continent africain qui connaît une accélération numérique sans précédent. Signe de la préoccupation grandissante des questions de cybersécurité, 17 000 personnes étaient attendues au forum mais la fréquentation dépassera sans doute les 20 000 personnes.