Baltimore: Un ex-employé aurait utilisé l’IA pour faire passer pour antisémite le directeur d’un lycée

Un cas qui vient s’ajouter à de nombreux autres incidents liés à des usurpations d’identité réalisées via l’intelligence artificielle – des incidents qui suscitent une nouvelle inquiétude, selon les experts, dans un domaine de la technologie qui ne cesse de se développer et qui demeure mal régulé. A Baltimore, l’auteur de l’imposture a fait tenir au principal du lycée des paroles antisémites afin de nuire à sa réputation.

La police de Baltimore a mis en examen Dazhon Darien, qui travaillait au lycée de Pikesville, pour troubles aux activités de l’établissement. Les autorités ont expliqué qu’elles avaient utilisé le réseau de l’école pour accéder au logiciel OpenAI qui avait permis à l’inculpé de créer un faux enregistrement qui avait été attribué au directeur de l’école, Eric Eiswert, a fait savoir le Baltimore Banner, un journal à but non-lucratif local.

Dans l’enregistrement, une voix qui ressemble à celle d’Eiswert déclare : « Si je dois avoir encore une plainte d’un seul Juif de cette communauté, je rejoins l’autre côté ». La voix prononce également des paroles racistes sur les élèves afro-américains. Pikesville est le centre de la communauté juive du grand Baltimore.

L’enregistrement avait largement circulé sur les réseaux sociaux au mois de janvier et il avait aussi été transmis à au moins trois enseignants du district. L’un d’entre eux, une femme, avait indiqué à la police qu’elle l’avait fait parvenir à un étudiant, sachant qu’il le mettrait rapidement en ligne. Un courriel lié à Darien avait envoyé la séquence à des sources variées.

Certains membres de la communauté avaient très vite attribué les propos à Eiswert, qui est blanc, en faisant allusion à des antécédents de tensions avec les communautés minoritaires. « Je ne suis absolument pas surpris par les paroles prononcées dans cet enregistrement », avait commenté sur X, au mois de janvier, Deray Mckesson, un activiste en justice sociale de premier plan, originaire de Baltimore, qui avait ajouté qu’Eiswert avait été son professeur au lycée. Il avait appelé au « renvoi immédiat » du principal et à la révocation définitive de son droit à enseigner.

A.I. USED TO FRAME WHITE PRINCIPAL:

Pikesville High principal Eric Eiswert was CAUGHT on tape having a racist rant.

People called for him to lose his job.

The only problem?

The whole recording was AI-generated.

Dazhon Darien, former athletic director (Pikesville) was… pic.twitter.com/E6bSbH7TQq

— End Wokeness (@EndWokeness) April 25, 2024

La superintendante Myriam Rogers avait déclaré que les propos tenus dans l’enregistrement étaient « des propos hautement offensants et inappropriés » à l’égard des élèves afro-américains, des personnels et de la communauté juive de Pikesville.

Mais Eiswert avait nié avec force avoir prononcé ces paroles et des interrogations avaient rapidement été soulevées concernant l’authenticité de la voix figurant dans l’enregistrement. Les autorités locales et le district scolaire avaient alors lancé des enquêtes. Eiswert n’a plus assumé sa fonction au sein de l’établissement depuis le début de ces investigations, même si le district n’a pas fait savoir s’il avait été limogé.

Au mois de mars, des experts de l’intelligence artificielle avaient indiqué aux journaux locaux que la séquence audio avait probablement été fabriquée de toute pièce, citant sa qualité sonore et le manque constant du bruit habituel de respiration humaine.

« Depuis le début de cet incident, cet enregistrement semblait étrange et suspect », a commenté Howard Libit, directeur exécutif du Conseil juif de Baltimore, auprès de la Jewish Telegraphic Agency, dans la journée de jeudi. Libit a ajouté que pour cette raison, l’organisation avait décidé de garder le silence lorsque l’incident avait été signalé.

« J’apprécie que la police et le système scolaire aient pris le temps d’enquêter et d’apparemment avoir tiré au clair ce qui est réellement arrivé », a ajouté Libit. « C’est effrayant de constater comment l’AI peut être ainsi manipulée, comment elle peut causer autant de dégâts dans une communauté scolaire et porter ainsi atteinte à un individu. Nous avons suffisamment d’incidents liés à l’antisémitisme et au racisme dans nos communautés sans connaître des choses telles que celle-là », a-t-il déploré.

Dans l’acte de mise en examen, la police a noté qu’Eiswert soupçonnait Darien d’être à l’origine de l’enregistrement, ce dernier s’étant offusqué face au non-renouvellement de son contrat.