Un observatoire israélien veut réduire les ventes de surveillance hi-tech

L’observatoire de la démocratie israélienne appelle à une plus grande supervision de la vente des technologies israéliennes à la suite d’un nombre croissant de rapports indiquant qu’elles sont utilisées en Cisjordanie et dans le monde en violation des droits de l’homme.

Si les rapports sont exacts, « il y a de plus en plus d’entreprises israéliennes qui font honte à la réputation d’Israël », a déclaré Tehilla Shwartz Altshuler, chercheuse principale à l’Institut israélien de la démocratie (IID), qui étudie l’impact des technologies sur la démocratie. « L’exportation de technologie n’est pas différente de l’exportation d’armes – elle doit être encadrée. »

Elle s’est entretenue avec le Times of Israel dimanche après que Microsoft eut annoncé vendredi qu’elle embauchait l’ancien ministre américain de la justice Eric Holder pour revoir son investissement dans AnyVision, une startup israélienne de reconnaissance faciale dont la technologie serait utilisée pour scanner des visages aux points de contrôle militaires en Cisjordanie.

Une équipe dirigée par Holder tentera de déterminer si les applications technologiques d’AnyVision sont conformes aux principes éthiques de Microsoft contre l’utilisation de la reconnaissance faciale pour la surveillance de masse.

La startup israélienne AnyVision utilise l’intelligence artificielle pour reconnaître des visages, des corps et des objets à des fins de sécurité et autres. (Capture d’écran : YouTube)

L’annonce de Microsoft fait suite à des rapports du journal économique israélien TheMarker et à un rapport de NBC affirmant que la technologie AnyVision est utilisée pour surveiller les Palestiniens de Cisjordanie. Le rapport accablant de NBC, qui affirme également que le logiciel est utilisé par la police israélienne pour suivre les résidents de Jérusalem-Est, pour la plupart Palestiniens, arrive à un moment où Microsoft « se positionne comme un leader moral parmi les entreprises technologiques », écrit son auteur, Olivia Solon.

Dans les pays démocratiques où les gouvernements délivrent des passeports biométriques, des cartes d’identité ou d’autres méthodes de surveillance, les citoyens ont le droit de protester, a déclaré Amit Gilutz, porte-parole du groupe anti-occupation B’Tselem, basé à Jérusalem. Mais lorsque ces mêmes outils sont déployés dans un territoire occupé, les résidents n’ont pas le droit de protester et la demande de transparence est minimale.

« Il est inacceptable qu’une population entière de Palestiniens devienne un cobaye au profit d’une entreprise israélienne, sans avoir aucun droit d’appel », a-t-il déclaré.

« Lorsque les gens sont photographiés ou filmés, on ne peut jamais savoir ce que les entreprises de technologie de l’information seront en mesure d’extraire de ces données », a averti Shwartz Altshuler, de l’IID.

AnyVision a levé un total de 74 millions de dollars auprès d’investisseurs tels que Microsoft, Qualcomm Ventures, LightSpeed Venture Partners, Robert Bosch GmbH et Eldridge Industries, selon les données compilées par Start-Up Nation Central, qui suit le secteur technologique israélien.

La startup utilise la technologie de l’intelligence artificielle pour reconnaître les visages, les corps et les objets à des fins de sécurité, médicales, commerciales, agricoles, etc. Son logiciel de technologie de reconnaissance est utilisé pour « authentifier les utilisateurs et les clients légitimes, détecter les cibles, suivre les criminels et les terroristes, et localiser les personnes disparues dans un large éventail d’environnements, y compris les banques, les établissements d’enseignement, les établissements correctionnels, les aéroports, les casinos, les entreprises et les événements spéciaux », selon la base de données de Start-Up Nation Central. Sa technologie est également utilisée dans les aéroports et aux postes frontaliers, selon un article publié en août sur le blog d’AnyVision.

AnyVision a déclaré à NBC que « sa mission fondamentale » est d’aider à assurer la sécurité des personnes en leur offrant la « meilleure technologie », quelque soit l’origine de la menace.

Dans un message envoyé par courriel au Times of Israel, AnyVision indique : « La technologie de reconnaissance faciale d’AnyVision n’est pas utilisée à des fins de surveillance en Cisjordanie ou dans la bande de Gaza, et AnyVision ne permettrait pas que sa technologie soit utilisée à cette fin. Notre technologie est utilisée aux points de contrôle à l’entrée et à la sortie d’Israël pour améliorer la sécurité et faciliter l’entrée et la sortie de tous les individus, comme c’est le cas pour l’entrée aux États-Unis. »

Concernant l’audit de Microsoft, la startup israélienne a ajouté : « Ces dernières semaines, il y a eu un certain nombre de rapports inexacts sur la technologie AnyVision. Nous avons proactivement encouragé Microsoft à effectuer un audit de notre société… L’éthique, la confidentialité et l’intégrité des données sont les principes fondamentaux sur lesquels notre technologie et notre société ont été construites. Nous attendons avec impatience la vérification pour valider nos normes élevées et continuer à fournir une technologie irréprochable ».

Tehilla Shwartz Altshuler, chercheur à l’Institut israélien de la démocratie. (Autorisation)

« Toute cette histoire pourrait exploser à la face de la Startup Nation, a déclaré Shwartz Altshuler de l’IID, car les investisseurs étrangers vont commencer à réfléchir à deux fois avant d’investir dans des start-up israéliennes s’ils craignent que ces technologies soient mal utilisées et violent les droits humains. Ils pourraient renforcer l’examen et les audits des startups israéliennes. Cela pourrait également nuire à la volonté des grandes entreprises comme Microsoft de coopérer avec les startups israéliennes, car elles opèrent dans d’autres pays et sont tenues de respecter des normes élevées. »

L’audit de Microsoft intervient un mois après que WhatsApp ait déclaré en octobre qu’il poursuivait en justice la société technologique israélienne NSO Group, l’accusant d’utiliser le service de messagerie appartenant à Facebook pour effectuer du cyberespionnage sur des journalistes, des militants des droits humains et autres. Amnesty International a accusé le groupe NSO d’avoir tiré profit de ses logiciels espions « utilisés pour intimider, traquer et punir » des dizaines de défenseurs des droits humains dans le monde, dont le Royaume de Bahreïn, les Emirats arabes unis et le Mexique.

NSO a été catégorique sur le fait qu’elle ne concède des licences de ses logiciels aux gouvernements que pour « lutter contre le crime et le terrorisme » et qu’elle enquête sur des allégations crédibles d’utilisation abusive.

« Il n’y a rien d’intrinsèque à la technologie qui exige qu’elle ne poursuive que de bonnes fins », a déclaré Shwartz Altshuler de l’IID. Ainsi, « il y a un besoin croissant d’inclure les préoccupations éthiques dans le développement, la distribution, la mise en œuvre et l’utilisation de la technologie. Cela est d’autant plus important que, dans de nombreux domaines, il n’existe pas de réglementation ou de législation permettant de définir clairement ce qui peut et ne peut pas être fait”.

Le logo de la société israélienne du groupe NSO sur un bâtiment à Herzliya, en Israël, apparaît sur cette photo du 25 août 2016. (AP Photo/Daniella Cheslow)

L’Agence de contrôle des exportations de la défense (DECA – Defense Export Controls Agency) du ministère de la Défense est chargée d’approuver l’exportation des produits sensibles en matière de sécurité.

Eitay Mack, un avocat militant israélien, a déclaré lors d’un entretien téléphonique que le ministère de la Défense est responsable d’avoir permis à ces entreprises d’exporter leurs technologies. Ses politiques sont évidemment problématiques, a-t-il dit, et ont le potentiel de faire tomber l’ensemble de l’industrie des technologies de défense et de la cyberindustrie.

« Les entreprises de technologie israéliennes font la une des journaux et causent des scandales dans le monde entier depuis un certain temps déjà, et pas pour de bonnes raisons », a-t-il dit. « Mais il ne faut pas oublier que c’est le ministère de la Défense qui leur donne les permis d’exportation. Donc, il y a évidemment un problème avec la façon dont le ministère prend ses décisions, en ce qui concerne les personnes à qui accorder les permis et dans quel but. Si le ministère continue à fonctionner comme il le fait, il risque de faire tomber toute l’industrie des technologies de défense et de la cybernétique, même celles qui ont des applications positives et essentielles. »

Dans une déclaration envoyée par courriel au Times of Israel, le ministère de la Défense a déclaré que « la politique de supervision des exportations de défense de l’État d’Israël vers tout autre pays est soumise à un examen constant et à des évaluations périodiques par les échelons supérieurs du ministère de la Défense en coordination avec les autres parties concernées, et les licences d’exportation de défense sont accordées après un examen individuel, conformément à la loi ».

« Les listes d’équipements de sûreté surveillés sont fondées sur les régimes réglementaires internationaux. Le ministère de la Défense supervise l’exportation des cybersystèmes figurant sur ces listes », a déclaré le ministère de la Défense dans son communiqué.

« Absence de transparence »

Mme Shwartz Altshuler, de l’IID, a déclaré que pour des raisons de sécurité, le ministère de la Défense ne divulgue pas les détails des règles applicables ni qui est responsable de la supervision des exportations des technologies israéliennes.

« Parce que tout cela est fait par le ministère israélien de la Défense, tout cela est voilé dans le secret et il n’y a aucune transparence dans le processus », a-t-elle dit.

La vente des technologies utilisées pour violer les droits de l’homme peut être arrêtée, a-t-elle précisé, « mais nous devons le vouloir ». En Israël, a-t-elle ajouté, personne n’est vraiment intéressé à l’arrêter.

« Autrefois, tous les diplômés du système de défense entraient dans l’industrie de l’armement. Aujourd’hui, ils s’occupent de technologie », a déclaré Shwartz Altshuler. « Beaucoup de ceux qui créent ces entreprises sont issus des services de sécurité et de défense, et personne n’est intéressé ou n’ose les encadrer – car ils font de l’argent et ils sont tous amis les uns avec les autres. Et parce que nous parlons de services de sécurité, il n’y a ni liberté d’information ni transparence. »

AnyVision a été fondée en 2015 par Eylon Etshtein et le professeur Neil Roberston ; Tamir Pardo, ancien chef du service de renseignement du Mossad d’Israël, siège à son comité consultatif, selon son site Web. Les fondateurs de nombreuses autres entreprises de cybersécurité et de technologie sont issus d’unités de renseignement d’élite de l’armée israélienne.

Le chef du Mossad Tamir Pardo s’exprime lors d’une cérémonie marquant le 50e anniversaire de la mort de l’agent du Mossad Eli Cohen, à la résidence du président, le 18 mai 2015. (Haim Zach/GPO)

Shwartz Altshuler a également averti que les technologies qui se sont avérées efficaces dans la lutte contre le terrorisme pourraient facilement faire leur entrée dans l’arsenal des forces de police pour lutter contre le crime, la surveillance par reconnaissance faciale s’insérant dans nos vies et nos routines quotidiennes sous le couvert de la protection de notre sécurité.

Aider à « lutter contre le terrorisme »

Au milieu des préoccupations et des critiques, un ancien membre de la communauté de la sécurité israélienne a déclaré que les capacités conférées par ce type de nouvelles technologies « aident par définition à combattre le terrorisme ».

« Le fait que les gens utilisent la même technologie à des fins malveillantes ne rend pas le logiciel mauvais », a déclaré l’ancien responsable de la sécurité au Times of Israel. « C’est comme un fabricant de tournevis qui ne peut être blâmé pour quelqu’un qui s’en sert un jour pour poignarder et tuer quelqu’un. »

« Si Microsoft a entamé un examen de ce logiciel israélien, l’entreprise va-t-elle aussi étudier comment son logiciel Word est utilisé par le Hezbollah ou le Hamas et d’autres organisations terroristes ? Ces organisations terroristes utilisent toutes sortes de logiciels Microsoft, y compris Word. Si le Hezbollah crée sa liste de cibles en utilisant le logiciel Word, pensez-vous que Microsoft pensera que son logiciel n’est pas légitime ? »

« Le ministère de la Défense a tout un département pour superviser les exportations, qui réglemente ce qui peut être vendu », a déclaré l’ancien responsable de la sécurité. « Si vous publiez la raison pour laquelle vous n’autorisez pas la vente d’une certaine technologie, vous donnez des informations importantes à votre adversaire, car cela pourrait signifier que vous n’avez aucun moyen de vous défendre contre cette arme ou technologie. C’est une question d’équilibre. Je ne dis pas que si quelqu’un veut utiliser ces technologies à des fins malveillantes, cela n’arrivera pas. Mais nous avons de très nombreux contrôles en place, et il n’est pas exact de dire qu’il n’y a pas de réglementation en place.

« En Israël, nous protégeons les droits de l’homme beaucoup plus que dans d’autres pays, mais d’un autre côté, nous devons veiller à ne pas saper nos capacités, car les terroristes ont accès aux meilleures et aux plus récentes technologies, sans que personne ne les surveille. »

OSN : Notre objectif est de « sauver des vies »

Dans un SMS, un porte-parole de Microsoft a déclaré que l’entreprise « prend au sérieux ces allégations de surveillance de masse parce qu’elles violeraient nos principes de reconnaissance faciale. AnyVision a certifié leur conformité à nos principes, et nous engageons un cabinet d’avocats externe très expérimenté pour effectuer une vérification. Nous avons également demandé à AnyVision de mettre en œuvre un solide processus d’examen et de conformité au niveau du conseil. AnyVision a accepté les deux. Si l’audit révèle une violation de nos principes, nous mettrons fin à notre relation. »

NSO a dit dans un texto : « Le seul but de la technologie de NSO est d’aider à sauver des vies en aidant les agences gouvernementales de renseignement et d’application de la loi dans leurs enquêtes sur le terrorisme et les crimes graves.

« Non seulement cette technologie a permis de sauver des milliers de vies en déjouant des attaques terroristes, en stoppant les réseaux de trafic de drogue et de trafic sexuel et en secourant les enfants kidnappés, mais NSO a également servi de modèle à l’industrie israélienne et étrangère en devenant la première entreprise à s’aligner sur les principes directeurs des Nations unies sur les entreprises et les droits humains. Le cadre de gouvernance de NSO établit les normes les plus élevées de l’industrie du cyberespionnage, en intégrant la protection des droits de l’homme dans tout ce que nous faisons. »