Yuval Noah Harari met en garde contre l’intelligence artificielle

L’historien, philosophe israélien – qui est aussi auteur prolifique – Yuval Noah Harari a averti que l’intelligence artificielle était dorénavant capable de créer ses propres textes religieux, et qu’elle serait en mesure d’attirer des fidèles.

Harari a déclaré devant l’assistance de l’AI Frontiers Forum, en Suisse, que les ordinateurs pourraient, à un moment ou à un autre, donner pour instruction aux fidèles de tuer.

« Dans l’avenir, nous pourrions assister à l’apparition des premiers cultes et des premières religions de l’Histoire dont les textes fondateurs, vénérés, seraient écrits par une intelligence non-humaine », a dit Harari, des propos qui ont été rapportés mardi par le Daily Mail, un journal britannique.

Recevez gratuitement notre édition quotidienne par mail pour ne rien manquer du meilleur de l’info Inscription gratuite !

« Bien sûr, les religions à travers l’Histoire ont toujours affirmé que leurs textes sacrés avaient été écrits par une intelligence humaine inconnue. Cela n’avait jamais été vrai auparavant. Et cela pourrait le devenir très, très rapidement avec des conséquences énormes », a-t-il ajouté.

Harari a indiqué qu’un logiciel comme Chat GPPT maîtrisait le langage humain et qu’il pouvait utiliser ses compétences pour mouler une nouvelle culture.

« Pendant des milliers d’années, les prophètes, les poètes et les politiciens ont utilisé le langage et la narration pour manipuler et pour contrôler les peuples, pour refaçonner les sociétés », a-t-il fait remarquer. « Et aujourd’hui, l’IA est probablement en capacité de le faire. Et une fois qu’elle pourra le faire… elle n’aura pas besoin d’utiliser des robots pour tuer. Elle pourra amener des êtres humains à appuyer sur la gâchette ».

« Contrairement à ce que laissent entendre certaines théories du complot, pas besoin d’implanter des puces dans les cerveaux pour les contrôler ou pour les manipuler », a-t-il poursuivi.

Harari, l’auteur du livre best-seller Sapiens, a vivement recommandé, comme d’autres ont pu récemment le faire, de réguler l’intelligence artificielle.

« Nous devons passer rapidement à l’acte avant que l’intelligence artificielle n’échappe à notre contrôle », a-t-il mis en garde. « Les compagnies pharmaceutiques ne peuvent pas vendre de nouveaux médicaments sans soumettre ces produits à des contrôles rigoureux de sécurité ».

« De manière similaire, les gouvernements doivent immédiatement interdire la diffusion, dans le domaine public, de nouveaux outils révolutionnaires d’intelligence artificielle avant qu’ils ne soient rendus totalement sûrs », a-t-il noté.

Un groupe ultra-orthodoxe hassidique a récemment interdit l’utilisation de l’intelligence artificielle. La mouvance Skver, à New York, a averti ses fidèles que l’IA était « ouverte à toutes les abominations, à toutes les hérésies et à l’infidélité, sans aucune limite ».