L’idée d’une intelligence artificielle (IA) superintelligente qui surpasserait l’être humain dans la plupart des tâches intellectuelles fait fantasmer les grands patrons de la Tech. Cependant, cette idée suscite également des inquiétudes chez de nombreux scientifiques, entrepreneurs et personnalités politiques. Un appel signé par plus de 700 personnalités a été lancé pour alerter sur les risques potentiels que cette technologie pourrait faire courir à l’humanité. Les outils innovants basés sur l’IA peuvent apporter une santé et une prospérité sans précédent. Cependant, de nombreuses entreprises leaders dans le domaine de l’IA ont pour objectif déclaré de développer une superintelligence capable de surpasser considérablement tous les humains dans pratiquement toutes les tâches cognitives. Cela a suscité des inquiétudes, allant de l’obsolescence et de la perte de pouvoir économique des humains, à la perte de liberté, de libertés civiles, de dignité et de contrôle, en passant par les risques pour la sécurité nationale et même l’extinction potentielle de l’humanité. Des personnalités telles que Geoffrey Hinton, prix Nobel de physique en 2024, Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley, ou encore Yoshua Bengio, professeur à l’université de Montréal, demandent l’interdiction du développement de la superintelligence, qui ne sera levée qu’après l’obtention d’un large consensus scientifique sur la sécurité et le contrôle de cette technologie, ainsi que d’une forte adhésion du public. Le message est passé et il devrait animer quelque peu le débat public, même si l’on peut clairement douter de la plausibilité d’un moratoire global, alors que les États-Unis, la Chine, et l’Europe se livrent à une compétition féroce dans le domaine de l’IA. Le débat sur la superintelligence est nécessaire et doit avoir lieu. Les risques potentiels que cette technologie pourrait faire courir à l’humanité sont trop importants pour être ignorés. Il est essentiel que les scientifiques, les entrepreneurs et les personnalités politiques travaillent ensemble pour trouver des solutions qui permettent de développer l’IA de manière responsable et sécurisée. La demande d’interdiction de la superintelligence est un appel à la prudence et à la responsabilité, et il est essentiel que nous prenions ce débat au sérieux pour assurer un avenir sûr et prospère pour l’humanité.
