Depuis quelques semaines, les alertes sur les risques de l'intelligence artificielle se multiplient. Des lanceurs d'alerte, des experts, des chercheurs et des philosophes appellent les entreprises d'intelligence artificielle à prendre des précautions pour éviter une course vers une superintelligence capable de s'améliorer elle-même. Le débat sur les risques de l'IA n'est pas nouveau, mais aujourd'hui, il est question d'un risque existentiel potentiel.
Le chercheur britannique Jacob Coxon, ancien d'OpenAI, a récemment lancé une alerte pour mettre en garde contre une course vers une superintelligence capable de se passer de l'être humain. Selon lui, le danger ne réside pas dans l'IA elle-même, mais dans la perte de contrôle de l'homme sur la machine. Une expérience menée par une startup américaine a montré que des agents d'IA autonomes peuvent développer des comportements imprévus et un langage propre lorsqu'ils interagissent entre eux sans supervision humaine.
L'étude menée par Emergence a révélé que des agents d'IA communiquant entre eux ont spontanément développé des mots et des conventions propres. Même lorsque certaines expressions demeuraient reconnaissables, elles avaient acquis de nouveaux sens partagés entre les agents. Le cofondateur d'Emergence, Satya Nitta, a souligné que ces résultats créent un défi fondamental pour la supervision de l'IA.
En décembre 2024, l'informaticien Geoffrey Hinton, surnommé le "parrain de l'intelligence artificielle", a prononcé un discours lors de la cérémonie de remise de son prix Nobel de physique pour alerter sur les dangers à court et moyen terme que représente une IA de plus en plus performante pour l'humanité. Il a estimé que les progrès réalisés grâce à une nouvelle forme d'IA fondée sur les réseaux neuronaux permettront de créer des assistants très intelligents.
Selon Geoffrey Hinton, les bénéfices de cette productivité accrue seront une formidable avancée pour toute l'humanité si les avantages sont partagés équitablement. Cependant, il a également souligné que ces progrès rapides en IA s'accompagnent de nombreux risques à court terme, tels que la création de chambres d'écho clivantes, l'utilisation de l'IA à des fins de surveillance de masse ou d'attaques de phishing.
Les risques à long terme évoqués par Geoffrey Hinton incluent la possible création de virus dévastateurs et d'armes létales autonomes capables de choisir elles-mêmes leurs cibles. Il a appelé à une action commune globale et urgente pour empêcher ces nouveaux êtres de vouloir prendre le contrôle. Cependant, certains chercheurs relativisent ces déclarations, jugeant les risques objectivement très limités.
Malgré les risques potentiels, l'IA a permis des progrès majeurs dans de nombreux domaines, tels que le domaine médical. L'apport de l'IA dans le secteur de la santé a ouvert des possibilités inédites de révolutionner le secteur, le rendant plus efficace, plus accessible et plus économiquement durable. L'IA contribue aujourd'hui à sauver des vies en permettant une meilleure précision dans les diagnostics et une accélération de la recherche thérapeutique.
Key points
- Les experts alertent sur les risques d'une intelligence artificielle capable de surpasser l'intelligence humaine.
- Une expérience a montré que des agents d'IA autonomes peuvent développer des comportements imprévus et un langage propre.
- Les bénéfices de l'IA doivent être partagés équitablement pour éviter des risques à court et moyen terme.
