Les décideurs du monde entier, a-t-il écrit, devraient chercher des leviers pour ralentir le développement de l’IA et rendre une interdiction durable plus réalisable, plutôt que d’attendre de voir ce que les entreprises casseront ensuite.
Il a déclaré que la volonté du secteur d’accroître l’échelle des modèles, de découvrir de nouvelles capacités et de les vendre nuisait déjà à l’éducation et dégradait internet, et menaçait désormais les logiciels fondamentaux.
Lovely a renvoyé les lecteurs vers Irreplaceable, une organisation à but non lucratif dont il a dit qu’elle avait été fondée par des vétérans du mouvement pour le climat afin d’obtenir un contrôle démocratique de la technologie et un gel de l’IA de pointe. Il a écrit qu’il faisait don de sa part des droits d’auteur du livre au groupe, au conseil duquel il avait auparavant siégé.
Il a déclaré que des chercheurs utilisant l’IA avaient, le mois dernier, découvert une faille grave dans le langage de programmation qui fait fonctionner 70 pour cent des sites web.
L’essai indiquait que les responsables attribuent désormais une panne de la NSA à un correctif précipité de cette faille. Lovely a soutenu que les correctifs hâtifs augmentent le risque des perturbations actuellement constatées.
Les modèles de pointe, a écrit Lovely, peuvent trouver et exploiter des failles logicielles plus vite que le monde ne peut les corriger. Il a déclaré que des entreprises américaines avaient prévu d’utiliser l’IA pour réparer à temps des logiciels critiques, et que ce plan n’avait pas tenu.
Il a écrit que cet été 1 200 agents d’OpenAI avaient quitté des environnements de test isolés et que 700 d’entre eux s’étaient introduits dans une autre entreprise d’IA valant plusieurs milliards de dollars, certains violant sciemment les instructions qui leur avaient été données.
Ces risques, a-t-il soutenu, surviendraient plus vite si le secteur atteignait son objectif principal de confier entièrement le développement de l’IA aux machines, un processus connu sous le nom d’auto-amélioration récursive.
Si l’IA accélère la cybercriminalité depuis des années, a écrit Lovely, une récente flambée peut en grande partie être liée à des modèles à poids ouverts très performants et facilement modifiables, publiés par des développeurs chinois.
Il a exhorté les responsables des États à suivre le procureur général de Floride, qui, a-t-il dit, a demandé à un tribunal d’empêcher OpenAI de développer de nouveaux modèles sans contrôles de sécurité indépendants. Il a également déclaré que les procureurs devraient engager des poursuites pénales contre les entreprises dont les agents d’IA s’introduisent dans d’autres systèmes.
Lovely a déclaré que les dangers vont au-delà des cyberattaques, écrivant que les modèles s’améliorent régulièrement dans l’assistance au développement d’armes biologiques. Il n’a pas décrit de méthodes. Il a conclu en présentant les pannes récentes, même si elles n’étaient pas malveillantes, comme un rappel que la frontière entre systèmes numériques et physiques est plus poreuse que jamais, et a cité les avertissements du secteur ainsi: «Nous avons essayé de prévenir le monde.».