Jacob Coxon, un chercheur en intelligence artificielle de 27 ans, a décidé de quitter l'industrie IA en septembre 2026, annonçant une technologie qui « pourrait tous nous tuer d’ici à la fin de la décennie ». Est-ce que la France et ses acteurs en IA ont réagi depuis ? Et si demain un chercheur français quittait Mistral AI, en affirmant que ses modèles pourraient devenir incontrôlables, comment réagirions-nous ?
« Pensez-vous qu’il y ait 10 % de chance que l’IA puisse potentiellement tuer tous les humains d’ici à une décennie ? » ... « 10 % de chance ne me semble pas être une estimation déraisonnable. »
Depuis le 9 septembre, ces mots résonnent sur la planète IA : « Si nous ne ralentissons pas le rythme actuel, il y a une forte probabilité que nous puissions tous mourir dans un avenir proche ». Ils sont prononcés par un jeune chercheur en IA, Jacob Coxon dans l'émission de la BBC « Sunday with Laura Kuenssberg ». Le Britannique de 27 ans vient tout juste de démissionner de l'entreprise Anthropic.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Le lendemain, une autre vidéo retentit. Il s’agit d’une interview de Geoffrey Hinton, lauréat 2024 du prix Nobel de physique jeudi 10 septembre. La journaliste de la BBC, Victoria Derbyshireelle, lui demande : « Pensez-vous qu’il y ait 10 % de chance que l’IA puisse potentiellement tuer tous les humains d’ici à une décennie ? » et l’expert reconnu de lui répondre : « 10 % de chance ne me semble pas être une estimation déraisonnable. ». Stupéfaction.
“You just said that 10% doesn’t seem an unreasonable estimate that AI could kill all humans”
— BBC Newsnight (@BBCNewsnight) September 9, 2026
“Yes”
“Wow… oh my God.”@vicderbyshire speaks to Nobel Prize Winner and so-called ‘Godfather of AI’ Geoffrey Hinton about predictions by an Anthropic researcher that there’s a more… pic.twitter.com/sGYQI57REF
Comment l’IA pourrait-elle nous tuer ? La question est posée partout, à tous les experts. Certains disent qu’elle pourrait utiliser des robots pour diffuser de nouveaux agents pathogènes par exemple, d’autres expliquent qu’elle pourrait convaincre des personnes de déclencher une guerre nucléaire ou pirater nos systèmes informatiques, couper Internet et donc bloquer les accès aux comptes bancaires, aux systèmes d’alimentation. Des experts parlent même de création d’une nouvelle forme de virus qui pourrait être créée par les IA…
“nous devons tempérer la frontière”.
Les acteurs français de l’IA réagissent aux propos alarmants sur l’IA
Les experts français en IA n’ont pas manqué de réagir. Clément Delangue par exemple, directeur général de la plateforme Hugging Face (qui vient de se faire racheter par le géant américain Nvidia) a réagi sur X, ironisant sur les raccourcis. Son nouveau propriétaire, Jensen Huang, a lui aussi rejeté les déclarations de Jacob Coxon, les qualifiant de « complètement absurdes ».
Sorry, but asking Jacob about AI extinction risk is like asking your AC guy about climate change.
— clem 🤗 (@ClementDelangue) September 11, 2026
Not saying it's necessarily uninteresting or wrong per se but let’s keep things in perspective and hear from the full range of expertise across the ecosystem!
Des entrepreneurs français créent une licorne IA aux Etats-Unis, rachetée par Nvidia
Du côté des principaux concernés par les propos du Britannique Jacob Coxon, les déclarations officielles sont au ralentissement. Dario Amodei, le patron d'Anthropic prend la parole sur X : “nous devons tempérer la frontière”.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Elon Musk et Sam Altman, dirigeants de de Grok et Open AI, se joignent aux déclarations de Dario Amodei.
Sur X, d’autres acteurs français, champions de l’IA comme Mistral AI, Contentsquare, licorne française spécialisée dans l’analyse comportementale des utilisateurs, ou Dataiku - l’une des plus grandes plateformes d’IA collaborative au monde, née à Paris - n’ont pas commenté publiquement les propos de Jacob Coxon.
L’IA menacerait l’humanité, qu’en dit la France ?
L’alerte de Jacob Coxon a été largement reprise par les médias français depuis le 9 septembre. Le sujet est présenté comme une nouvelle étape dans le débat sur le risque existentiel lié à l’IA. Fin août 2026, le ministre français de l'Europe et des Affaires étrangères, Jean-Noël Barrot, avait plaidé pour une forme de « discipline de l'IA ». Il appelait notamment à renforcer l'évaluation des modèles avant leur déploiement et organiser leur surveillance.
A ce jour, il n’y a pas de déclaration officielle française sur les propos alarmants, ni de l’Elysée, ni de Matignon. Cela ne signifie pas que la France ne se préoccupe pas de la sécurité de l'IA. La France défend une approche de régulation et de gouvernance de l'IA, notamment dans le cadre européen.
L’Union européenne n’a pas choisi d’interdire l’intelligence artificielle. Son objectif est de permettre son développement tout en imposant davantage de contrôles
L’Europe met en place un cadre juridique consacré à l’intelligence artificielle
En Europe, la réponse aux propos de Jacob Coxon peut s’identifier à l’AI Act, le premier cadre juridique au monde consacré à l’intelligence artificielle. Entré progressivement en vigueur depuis 2024, ce règlement européen est désormais dans une nouvelle phase d’application depuis le 2 août 2026.
L’Union européenne n’a pas choisi d’interdire l’intelligence artificielle. Son objectif est de permettre son développement tout en imposant davantage de contrôles lorsque les risques augmentent. Pour le dire autrement, les systèmes considérés comme peu risqués sont peu concernés par la réglementation. À l’inverse, les systèmes susceptibles d’avoir un impact important sur la vie des citoyens sont soumis à des obligations renforcées. Les entreprises devront alors démontrer que leurs systèmes sont fiables, documentés, sécurisés et placés sous contrôle humain.
Surprise, la France devient la 3e puissance mondiale de l'IA devant la Chine
Pour les modèles les plus puissants, considérés comme présentant un « risque systémique », les exigences sont encore plus importantes. Alors, lorsque Jacob Coxon met en garde contre une perte de contrôle potentielle des systèmes les plus avancés, c’est ce type de risques que le législateur européen cherche à anticiper.
En France, plusieurs organismes se partagent l’application des règles de AI Act. La CNIL intervient sur les questions de données personnelles et de vie privée. Le Défenseur des droits veille aux risques de discrimination et au respect des libertés fondamentales. La DGCCRF est chargée de la protection des consommateurs, tandis que l’Arcom intervient sur certaines questions liées à l’environnement numérique et audiovisuel.
La position délicate de la France en terme d’IA
La position de la France repose sur un équilibre délicat. Le pays applique et participe à la régulation européenne. D’un autre côté, le gouvernement investit massivement dans le développement de l’IA.
La France s'invite sur le podium mondial de l'intelligence artificielle. Selon une étude internationale publiée par Adobe, l'Hexagone occupe désormais la 3e place mondiale des écosystèmes les plus performants dans l'IA, derrière les États-Unis et le Royaume-Uni, mais devant la Chine. Depuis 2017, la France s'engage résolument dans le développement de l’IA avec une stratégie nationale ambitieuse, une « approche Notre-Dame » avait lancé Emmanuel Macron lors du sommet sur l’IA en février 2025. L'objectif est clair : faire de la France un pionnier de l'innovation d'ici 2030.
lors de l'Assemblée générale des Nations unies à New York, l'intelligence artificielle devrait figurer parmi les dossiers majeurs défendus
La France cherche-t-elle à ralentir l’intelligence artificielle et trouver des garde-fous ? Dans la semaine du 21 septembre 2026, lors de l'Assemblée générale des Nations unies à New York, l'intelligence artificielle devrait figurer parmi les dossiers majeurs défendus par la diplomatie française. Paris, qui assure la présidence du Conseil de sécurité de l'ONU en septembre, souhaite notamment ouvrir une discussion sur les enjeux de sécurité liés aux systèmes d'IA les plus avancés. Selon des sources diplomatiques françaises, il s'agit notamment d'aborder les risques les plus graves associés à cette technologie, y compris ceux que certains experts qualifient de « menace existentielle » pour l'humanité.
Cette concertation prévue à l’ONU contrasterait avec les propos du président américain Donald Trump, qui a rejeté les appels à davantage de régulation et qualifié de « canular » l'idée selon laquelle l'intelligence artificielle pourrait un jour provoquer l'extinction de l'humanité. Il a ajouté le 14 septembre : “Le seul contrôle ou « garde-fous » dont l’IA a besoin est un PRÉSIDENT FORT ET INTELLIGENT (QI élevé !), et les États-Unis en ont un, et en abondance !”
Sur le même sujet
L'annuaire 
L'agenda 
