Un adolescent de Tel Aviv arrêté pour avoir créé des photos explicites de mineures

Un ado de 15 ans habitant à Tel Aviv a été arrêté mercredi, soupçonné d’avoir utilisé un logiciel d’intelligence artificielle (IA) pour modifier des photos de jeunes filles mineures avant de les diffuser en ligne, selon la police israélienne.

Dans un communiqué, la police a déclaré avoir reçu un certain nombre de plaintes concernant les images et a localisé le suspect mercredi matin.

Lors de son arrestation, un ordinateur portable, un téléphone mobile et un iPad ont été saisis, a indiqué la police.

Recevez gratuitement notre édition quotidienne par mail pour ne rien manquer du meilleur de l’info Inscription gratuite !

Il a été placé en détention pour être interrogé, puis a été libéré dans des conditions restrictives, selon le communiqué. L’enquête se poursuit.

Selon le site d’information Ynet, l’adolescent aurait photographié des élèves de Première et aurait ensuite utilisé un logiciel d’IA pour monter leurs visages sur des corps de femmes nues. Il a ensuite distribué ces photos retouchées à des groupes WhatsApp, et ce pendant plusieurs mois.

Alors que l’utilisation de l’IA devient de plus en plus prolifique à l’échelle mondiale, les nations du monde entier sont toujours confrontées à la question de savoir comment gérer les menaces qu’elle représente.

À LIRE: 16 M$ de financement pour une start-up israélienne de détection d’images truquées

En Australie, par exemple, un adolescent a été arrêté en juin après que les images de 50 élèves d’un lycée ont été modifiées. En mai, un élève d’un autre lycée australien a été renvoyé pour avoir utilisé l’IA afin de générer des photos sexuellement explicites de son professeur.

En août, l’ensemble de données de recherche LAION a supprimé quelque 2 000 liens web après qu’un rapport du Stanford Internet Observatory a constaté qu’ils comprenaient des liens vers des images sexuellement explicites de mineurs, contribuant ainsi à la facilité avec laquelle certains outils d’IA ont pu produire des deepfakes – ou hypertrucage – de photos réalistes représentant des enfants.

Ces dernières semaines, les législateurs californiens ont approuvé une série de propositions visant à réglementer le secteur de l’IA, à lutter contre les deepfakes et à protéger les employés contre l’exploitation de cette technologie en évolution rapide, en invoquant les inquiétudes suscitées par la manière dont l’IA est de plus en plus utilisée pour générer de la pornographie impliquant des mineurs.

La distribution présumée d’images d’abus sexuels sur des enfants sur l’application de messagerie Telegram fait également partie de ce qui a conduit les autorités françaises à porter plainte contre le fondateur et PDG de la plateforme, Pavel Durov.