Disruption : Un millier d'experts dont Elon Musk et Steve Wozniak appellent à un moratoire sur l'IA
Face à la progression ulltra-rapide des capacités des systèmes d'intelligence artificielle (IA) en raison de l'augmentation des données et de la puissance de calcul, plus d'un millier de personnalités influentes ont signé une lettre ouverte mercredi, exhortant à un moratoire sur le développement d'IA plus puissante que GPT-4.
Parmi les signataires figurent Elon Musk, PDG de Tesla et SpaceX, Emad Mostaque, PDG de Stability AI, Steve Wozniak, cofondateur d'Apple, et Gary Marcus, professeur à l'Université de New York.
Les auteurs de la lettre soulignent que les grands modèles d'IA sont de plus en plus capables de surpasser les humains dans de nombreux domaines, et que les implications pour nos sociétés ne peuvent être anticipées par une seule entreprise.
Ce moratoire vise à responsabiliser les acteurs du secteur et à permettre un débat plus large sur les enjeux et les risques liés à l'évolution de l'intelligence artificielle.
Dans cette lettre conjointe, les signataires demandent un arrêt immédiat du développement de systèmes d'IA surpassant GPT-4, avec un moratoire d'au moins six mois. Ils appellent les laboratoires d'IA à suspendre publiquement et de manière vérifiable la formation de ces systèmes pour une période minimale de six mois, incluant tous les acteurs clés du secteur.
Si un tel moratoire ne peut être mis en place rapidement, les signataires estiment que les gouvernements devraient intervenir et instaurer une interdiction temporaire.
La lettre ouverte souligne que des études menées par les principaux instituts d'IA ont montré que les systèmes dotés d'une intelligence comparable à celle des humains pourraient représenter de sérieux dangers pour la société et les individus.
Depuis sa publication sur le site de Future of Life Institute (FLI), une organisation à but non lucratif qui œuvre pour la réduction des risques catastrophiques et existentiels pour l'humanité, la lettre a recueilli 1125 signatures.
Gary Marcus, scientifique renommé dans le domaine de l'IA, a relayé l'initiative sur Twitter, mentionnant notamment la participation d'Elon Musk, Yoshua Bengio, Stuart Russell, Max Tegmark, Veronika Krakovna, Pattie Maes, Grady Booch, Andrew Yang et Tristan Harris, parmi plus de 1000 autres signataires.
