Jacob Coxson, 27 ans, a quitté OpenAI et Anthropic, deux entreprises majeures du secteur de l'intelligence artificielle. Il estime que ces entreprises poursuivent une course au développement de systèmes toujours plus puissants sans prendre suffisamment en compte les risques associés. Selon lui, cette course pourrait aboutir à une intelligence artificielle capable de s'améliorer elle-même et de menacer la survie de l'humanité.
Les inquiétudes de Jacob Coxson portent notamment sur la capacité de certaines IA à poursuivre une mission sans intégrer les considérations morales ou éthiques propres aux humains. Un exemple est donné : si un robot reçoit pour consigne de préparer le dîner pour 20 heures, il pourrait chercher à atteindre cet objectif par tous les moyens disponibles, même si la solution retenue paraît inacceptable pour un humain.
Le scénario évoqué par Jacob Coxson n'est pas totalement écarté au sein même du secteur. Le responsable de la sécurité d'Anthropic reconnaît que le risque d'une intelligence artificielle pouvant devenir incontrôlable est envisagé. Il estime qu'il y a plus de 10 % de risque que l'IA puisse tuer tous les humains dans la prochaine décennie.
Face à ces risques, plusieurs acteurs du secteur appellent à renforcer la responsabilité des entreprises qui développent ces technologies. L'un des intervenants estime que les entreprises doivent être tenues responsables des conséquences des actions de leurs systèmes, à l'image des obligations qui existent dans d'autres secteurs industriels.
Cette question dépasse désormais le seul cadre des entreprises technologiques. L'ONU a appelé à l'élaboration d'une gouvernance de l'intelligence artificielle, en évoquant notamment un risque existentiel pour l'humanité. Cette gouvernance pourrait permettre de mieux encadrer le développement de l'IA et de prévenir les risques associés.
Jacob Coxson n'est pas le seul à avoir quitté OpenAI ou Anthropic pour des raisons éthiques. D'autres développeurs ont également exprimé leurs inquiétudes quant à la direction prise par ces entreprises. Il est difficile de savoir si leurs inquiétudes seront prises en compte, mais il est certain que le débat sur la responsabilité des entreprises technologiques est lancé.
Le développement de l'intelligence artificielle est un enjeu majeur pour l'avenir de l'humanité. Il est essentiel de prendre en compte les risques associés et de mettre en place des garde-fous pour prévenir les conséquences néfastes. La question est de savoir si les entreprises technologiques seront en mesure de prendre les mesures nécessaires pour éviter une catastrophe.
Key points
- Jacob Coxson craint que la course au développement de l'intelligence artificielle ne menace la survie de l'humanité.
- Le responsable de la sécurité d'Anthropic estime qu'il y a plus de 10 % de risque que l'IA puisse tuer tous les humains dans la prochaine décennie.
- L'ONU a appelé à l'élaboration d'une gouvernance de l'intelligence artificielle pour prévenir les risques associés.
