Israël signe un traité de lutte contre les risques de l’intelligence artificielle

Israël s’est joint aux États-Unis, au Royaume-Uni et à plusieurs pays de l’Union européenne en apposant sa signature au bas d’un traité international ayant pour finalité d’exploiter au mieux l’intelligence artificielle, dans le sens du bien commun, en veillant particulièrement à la protection de la démocratie, des droits humains et de l’État de droit.

« La signature par Israël de ce qui est la toute première convention mondiale sur l’intelligence artificielle témoigne de notre engagement envers une innovation responsable et les droits inaliénables de la personne », a déclaré la ministre de l’Innovation, des Sciences et de la Technologie, Gila Gamliel.

« Cette convention fait d’Israël un partenaire à part entière dans la création d’une politique internationale en le matière, ces prochaines années, et nous place à l’avant-garde des pays développés du monde. »

Recevez gratuitement notre édition quotidienne par mail pour ne rien manquer du meilleur de l’info Inscription gratuite !

Il s’agit du premier traité international contraignant en matière d’IA – signé par 57 pays, dont 46 États membres du Conseil de l’Europe –, désormais en attente de ratification par ses signataires. Une fois cette étape passée, les pays signataires seront responsables de tout résultat préjudiciable ou discriminatoire en matière de systèmes d’IA.

Partout dans le monde, les autorités s’efforcent de réglementer cette technologie et de régler les problèmes de sécurité et autres abus et dangers qu’elle pose déjà.

La convention du Conseil de l’Europe sur l’IA signée jeudi a pour objet d’édicter des principes, règles et normes de base au niveau mondial afin de garantir que le déploiement de cette technologie révolutionnaire, dont les progrès sont extrêmement rapides, soit compatible avec les droits de l’homme, la démocratie et l’État de droit.

La signature de cette convention par Israël a lieu au moment-même où la guerre contre l’organisation terroriste du Hamas fait craindre un retard de l’écosystème local par rapport aux États-Unis ou à l’Europe, faute de pouvoir attirer les investissements que requièrent les startups qui développent des technologies basées sur l’IA.

L’intelligence artificielle – cette technologie qui donne aux ordinateurs la capacité d’apprendre rapidement – existe depuis les années 1950. Mais ces dix dernières années, elle a connu un regain de vitalité alimenté par la puissance de calcul plus élevée des puces et la grande quantité de données disponibles en ligne.

À titre d’illustration : Le logo OpenAI s’affiche sur un téléphone portable avec une image sur un écran d’ordinateur générée par le modèle texte-image Dall-E de ChatGPT, le 8 décembre 2023, à Boston. (Crédit : AP Photo/Michael Dwyer)

Les progrès ont permis aux ordinateurs d’analyser des ensembles de données et de trouver des modèles pour résoudre des problèmes, la machine déjouant parfois le cerveau humain. L’IA et l’apprentissage automatique sont déjà utilisés dans de nombreux domaines allant de la reconnaissance faciale à la détection de maladies dans l’imagerie médicale en passant par la course mondiale en matière de jeux comme en matière militaire.

Lors d’une conférence à Tel Aviv cette semaine, l’expert en IA, le professeur Amnon Shashua, cofondateur de la startup israélienne AI21 Labs, a déclaré que les progrès de l’IA générative pour créer des images et améliorer la recherche de données et de texte étaient certes très agréables et utiles, mais ne constituaient pas encore une révolution.

AI21 Labs est une société de traitement du langage naturel (NLP) dont le but est de mettre l’IA générative à disposition du plus grand public et de concurrencer OpenAI.

« Cette vague technologique a le potentiel d’imiter l’intelligence humaine en résolvant des problèmes complexes dans tous les domaines de la connaissance humaine, à la place des experts humains », a expliqué Shashua. « Ceux qui travaillent sur des modèles avancés d’IA pense que c’est littéralement pour demain. »

« L’avancement très rapide de ces modèles donne le sentiment que, très prochainement, ces systèmes seront non seulement capables de résumer des articles, mais aussi de résoudre des problèmes comme un expert humain, ce qui va tout changer, car la relation les machines et nous-mêmes va radicalement changer », a-t-il ajouté.

Un peu partout, les pays investissent d’énormes sommes d’argent sur la question qui sera au cœur des technologies d’avenir et une clé de la croissance économique mondiale.

L’IA a, certes, le potentiel de transformer le monde dans lequel nous vivons, non sans risques considérables, particulièrement pour la démocratie, mettent en garde de nombreux experts à l’origine du développement des systèmes d’IA.

Le fondateur et PDG de la société américaine d’intelligence artificielle OpenAI, Sam Altman, s’exprimant à l’Université de Tel Aviv, en Israël, le 5 juin 2023. (Crédit : Jack Guez/AFP)

Le PDG d’OpenAI, Sam Altman, estime que l’intervention des gouvernements sera essentielle pour encadrer les risques liés aux systèmes d’IA toujours plus puissants. Il a proposé la création d’un régulateur international chargé de la surveillance des usages dangereux de l’IA, un peu sur le modèle de l’agence nucléaire des Nations Unies.

Les dangers de l’IA portent notamment sur les infrastructures critiques, l’éducation, les ressources humaines et l’ordre public. L’évolution de l’IA générative (GenAI), capable de créer des contenus complexes très semblables à ceux issus de la créativité humaine comme l’illustre ChatGPT d’OpenAI, a donné lieu à la création de deepfakes susceptibles de diffuser en ligne des contre-vérités sur la Shoah, à des tricheries scolaires, à la diffusion de mensonges et à un très grand nombre d’ingractions aux droit d’auteur. Mais au-delà, on craint que les systèmes d’IA les plus perfectionnés ne manipulent les humains pour obtenir tout le contrôle.

« Malgré la guerre, la douleur et les problèmes qu’elle entraîne, nous devons rester à l’écoute et impliqués dans les processus et les organisations internationales », explique le procureur général adjoint, le Dr Gilad Noam.

« Et, ce qui est tout aussi important, nous voulons envoyer le signal à nos alliés et amis, partout dans le monde, que nous partageons le même souhait, à savoir favoriser l’innovation tout en protégeant les droits de la personne. »

Le traité oblige les signataires à veiller à ce que les systèmes d’IA ne soient pas utilisés pour « porter atteinte à l’intégrité, à l’indépendance et à l’efficacité des institutions et des processus démocratiques, y compris le principe de la séparation des pouvoirs, le respect de l’indépendance judiciaire et l’accès à la justice ».

Le cadre juridique impose également aux États l’obligation générale de surveiller les résultats des systèmes d’IA et de prendre des mesures pour protéger les droits de l’homme conformément au droit international et national, et notamment la protection du droit à la vie privée des individus et de leurs données personnelles.

Pour se conformer aux normes de ce traité, les États signataires sont tenus d’agir, identifier, évaluer et minimiser les risques posés par les systèmes d’IA, sur la base d’une évaluation des risques pratiques et potentiels pour les droits de l’homme, la démocratie et l’État de droit. Le traité ne prévoit toutefois pas de régime de sanctions ou d’amendes en cas de non-respect, ce qui fait douter de son applicabilité effective.