Rechercher

Des cyber-experts dénoncent l’influence de l’intelligence artificielle

Lors d'une conférence internationale à Tel Aviv, des experts ont souligné la nécessité de protéger le public contre les dangers d'une vie régie par des algorithmes

Une présentation de drones à la 5e exposition internationale sur la sécurité intérieure et la cybersécurité, Tel Aviv, 13 novembre 2018. (Crédit : Miriam Alster/FLASH90)
Une présentation de drones à la 5e exposition internationale sur la sécurité intérieure et la cybersécurité, Tel Aviv, 13 novembre 2018. (Crédit : Miriam Alster/FLASH90)

Les experts du cyberespace ont appelé mardi à mettre l’accent sur l’éducation à la cyber-formation afin de former les professionnels nécessaires pour assurer la sécurité des véhicules autonomes.

M. Jacob Mendel, chef de la coopération en matière de recherche avec les industries au Centre de recherche interdisciplinaire sur la cybercriminalité de l’université de Tel Aviv, a déclaré lors d’une prise de parole à la 5e Conférence internationale et exposition sur la sécurité nationale et le cyberespace, que les avions actuels étaient tellement remplis de composants électroniques, qu’il était important que tous ces avions soient testés en vue d’en mesurer la vulnérabilité aux cyberattaques.

« Non seulement il n’y a pas assez d’ingénieurs concepteurs ayant des connaissances en informatique », a-t-il dit, « mais il n’y a pas assez de ‘bons hackers’ pour tester ces produits ».

« Il faut ‘attaquer’ l’appareil, utiliser le maximum de connaissances dont nous disposons aujourd’hui pour le protéger », a-t-il dit, appelant les avionneurs à créer des départements de cyber-sécurité au même titre que ceux de vente, marketing et engineering.

Dirk Hoke, PDG d’Airbus Defense and Space, Allemagne, a averti que « même si vous sécurisez votre propre entreprise, vos fournisseurs et sous-traitants peuvent être exposés. L’écosystème tout entier doit être protégé. »

Une vision des transports en 2030 présentée à la 5e Conférence et exposition internationale sur la sécurité intérieure et le cyberespace, Tel Aviv, 13 novembre 2018. Dirk Hoke est le deuxième à partir de la gauche. (Crédit : Sue Surkes/Times of Israel)

Hoke a présenté une image décrivant ce à quoi pourrait ressembler le transport en 2030. Il a montré des taxis aériens et une petite fille pointant une télécommande vers une cagette de légumes livrée par un drone.

Yochai Corem de Cyberbit – une filiale de la société israélienne de technologie de défense Elbit Systems – a appelé le gouvernement à « promouvoir, former et réglementer » la cyber-éducation.

Les conférences de mardi ont principalement porté sur les questions d’intelligence artificielle et sur la confiance humaine à leur égard.

Roey Tzezana, chercheur américain en prospective, est intervenu depuis la Californie via une tablette disposée sur un robot à l’apparence humaine se déplaçant sur la scène.

Tzezana a décrit la présence croissante d’algorithmes dans nos vies – des morceaux de code qui fournissent les instructions pour les systèmes d’intelligence artificielle (IA). En connectant les algorithmes entre eux, des réseaux neuronaux artificiels sont créés.

« Ce sont les algorithmes qui décident si vous allez obtenir un prêt d’une banque, qui vous recommandent des amis et des produits, qui façonnent le comportement du marché boursier et qui déterminent les prix sur Amazon », a-t-il dit.

Roey Tzezana, chercheur en prospective, s’exprime depuis la Californie via une tablette placée sur un robot en mouvement lors de la 5e Conférence internationale et exposition sur la sécurité intérieure et le cyberespace à Tel Aviv, le 13 novembre 2018. (Crédit : Sue Surkes/Times of Israel)

« Un algorithme est une façon de faire les choses sans cerveau – un ensemble d’étapes précises qui, si elles sont exécutées mécaniquement, mèneront à un résultat souhaitable », a-t-il expliqué.

Mais aujourd’hui, les algorithmes « apprennent » à partir de grandes quantités de données. S’ils voient suffisamment d’images d’un hamburger de bœuf, par exemple, ils seront éventuellement en mesure de produire leur propre image d’un burger.

« Grâce aux réseaux neuronaux artificiels, nous disposons d’algorithmes plus efficaces que ceux des humains pour déchiffrer les conversations humaines, reconnaître les chiffres, reconnaître les visages et battre même les meilleurs joueurs humains au Go [un jeu de stratégie abstrait].

Tzezana a décrit comment les autorités chinoises utilisent des algorithmes de reconnaissance faciale dans leurs systèmes de surveillance pour identifier des individus dans une foule de 60 000 personnes.

Le gouvernement chinois obligerait les citoyens ouïghours musulmans de la région résistante du Xinjiang, dans le nord-ouest du pays, à télécharger une application de surveillance appelée JingWang Weishi (« nettoyage du Web ») qui enregistre des informations sur chaque appareil, et les analyse pour trouver certains fichiers. Si un fichier indésirable est trouvé, l’application envoie un message au propriétaire du téléphone avec une instruction pour le supprimer.

« Qui a autorisé les algorithmes à avoir un impact sur nos vies ? » s’est interrogé Tzezana de façon rhétorique. « C’est nous », a-t-il répondu, ajoutant que les algorithmes pouvaient aussi causer des dégâts.

En 2012, une société de commerce électronique, Knight Capital Group, a perdu plus de 450 millions de dollars en une demi-heure après qu’un algorithme défectueux a acheté des actions de plusieurs sociétés, pour une valeur de plusieurs milliards de dollars, continuant à payer alors que le cours des actions grimpait.

Dans un autre exemple, la tarification algorithmique sur Amazon a fait grimper le prix d’un livre sur les mouches à plus de 3,5 millions de dollars.

« Bientôt, nous serons entourés d’algorithmes, de robots et de voitures autonomes », a déclaré Tzezana. « Un taxi autonome choisira qui prendre et qui ne pas prendre. Votre serrure de porte Amazon vous enfermera dans votre maison si Amazon ne vous aime pas. »

Ce pouvoir artificiel est déjà si vaste que les gens deviennent défiants, et votent avec leurs doigts en abandonnant des géants comme Facebook, selon Tzezana.

Cette photo de dossier du 16 juillet 2013 montre un panneau au siège social de Facebook à Menlo Park, Californie. (Crédit : AP Photo/Ben Margot)

En perdant confiance, ils se replient sur leurs instincts profonds tels que la peur, le doute et la xénophobie.

« Si vous êtes une entreprise qui fournit des services basés sur des données, vous devez comprendre que les gens n’ont plus confiance aussi facilement qu’auparavant. Ils veulent savoir qu’il y a quelqu’un en qui ils peuvent avoir confiance. Ils veulent que les entreprises soient plus transparentes, qu’elles soient réglementées – pas nécessairement par le gouvernement, mais par le public, par une sorte de médiateur. »

Russell Roberts, directeur de l’information de la Transportation Security Administration du département de la Sécurité intérieure des États-Unis, a noté que les machines n’étaient « pas bonnes dans les zones grises » et que les préjugés de leurs créateurs étaient intégrés dans leur apprentissage.

« Si vous conduisez votre Mercedes dans quelques années et qu’un camion vous coupe la route et que, d’un côté, il y a une falaise et, de l’autre, une famille, la Mercedes vous protégera et écrasera la famille », a-t-il dit. « Ce n’est pas vous qui décidez. »

« Tout est une question de réseaux », a déclaré le chef de la police israélienne Roni Alsheikh lors de la 5e Conférence internationale et exposition sur la sécurité intérieure et le cyberespace à Tel Aviv, le 13 novembre 2018. (Crédit : Sue Surkes/Times of Israel)

Le chef de la police israélienne, Roni Alscheich, a déclaré que, tout comme les États se livrent à des attaques sur le Web avant de lancer de véritables armées, les criminels se sont aussi tournés vers un monde virtuel où ils ont la possibilité de voler de l’argent sans avoir à braquer une banque, se livrer à de la pédophilie sans quitter leurs domiciles et exploiter un casino en ligne sans risquer une descente de police.

De nouveaux défis se posent à la police, selon lui. Si la collecte d’informations en ligne pour arrêter les terroristes bénéficie du soutien du public, faire de même pour attraper les délinquants soulève des protestations pour atteinte à la vie privée, a-t-il noté.

La police doit désormais trouver quel smartphone ou quel ordinateur a été utilisé pour commettre une infraction et prouver l’identité du contrevenant qui s’est assis au clavier ou a tenu le téléphone pendant que l’infraction était commise. Il s’agit d’une nouvelle forme de preuve à laquelle les tribunaux devront s’habituer.

En s’engageant dans la collecte de banques de données, la police a appris à considérer la criminalité en termes de réseaux plutôt que de hiérarchie, a poursuivi Alsheich. En attaquant les plateformes, ils sont parvenus à affaiblir des réseaux entiers.

De nouvelles méthodes d’analyse des banques de données ont permis de réduire considérablement les crimes contre les biens (15 % de moins cette année par rapport à 2017) et les vols de voitures (près de 20 % de moins l’an dernier et 18 % cette année), a-t-il ajouté.

Cependant, les plaintes concernant les problèmes de voisinage tels que le bruit et les querelles de stationnement ont fortement augmenté au cours de la dernière décennie et représentent maintenant la moitié des plaintes du public à la police.

Shalom Tower, Tel Aviv (photo credit: Carli Kiene)
Shalom Tower, Tel Aviv (Crédit: Carli Kiene)

Les hautes tours résidentielles isolent les gens et les poussent à chercher des contacts sur les réseaux sociaux, a ajouté M. Alsheich. Les habitants des quartiers s’éloignent les uns des autres, deviennent moins tolérants envers ceux qu’ils ne connaissent pas et sont plus enclins à s’adresser à la police s’il y a du bruit dans l’appartement du dessus.

Pour y répondre, la police se concentre davantage sur les initiatives communautaires, a-t-il dit.

En savoir plus sur :
C’est vous qui le dites...