« L’IA va tous nous tuer » : une probabilité, pas une prophétie
Équipe Merlya · mis à jour le 25 septembre 2026
En bref : le titre « l’IA va tous nous tuer d’ici dix ans » transforme une probabilité subjective en prophétie. Des chercheurs sérieux estiment un risque, ils ne prédisent pas une date, et d’autres contestent leur raisonnement. Pour une PME, ce débat de fond ne doit pas masquer les risques concrets d’aujourd’hui, qui se traitent avec des règles simples.
Ce qui a été dit, exactement
Le sujet circule depuis la démission de Jacob Coxon, chercheur qui a passé trois ans sur l’entraînement des modèles, chez OpenAI puis chez Anthropic. Il a quitté Anthropic le 9 septembre 2026. Il accuse les laboratoires de courir vers une superintelligence capable de s’améliorer elle-même, et de « parier avec nos vies » (Axios, 9 septembre 2026 ; Time, 15 septembre 2026 ; Newsweek).
Dans le même temps, Evan Hubinger, qui travaille chez Anthropic, a chiffré publiquement le risque d’extinction humaine dans la décennie à « plus de 10 % ». Il ajoute qu’Anthropic « fait de son mieux » mais « n’a pas encore de plan pour résoudre l’alignement d’une superintelligence », c’est-à-dire pour garantir qu’un système plus capable que l’humain agisse dans le sens voulu (propos publiés sur son compte X, repris par Axios et le Daily Caller).
Ces deux personnes ne font pas de la communication pour leur employeur : l’un a démissionné, l’autre met en cause publiquement sa propre entreprise. Leurs propos méritent d’être pris au sérieux, et d’être cités exactement.
Une probabilité n’est pas une date
Le titre dit « va nous tuer d’ici dix ans ». Le chercheur dit « plus de 10 % de chances dans la décennie ». Ce n’est pas la même phrase.
- Une estimation de « plus de 10 % » est une probabilité subjective : un jugement personnel, argumenté, sur un événement incertain.
- Elle ne dit pas que l’événement va se produire. Elle dit que, selon cette personne, le risque est trop élevé pour être ignoré.
- Les chercheurs cités estiment une probabilité. Ils ne prédisent pas une fin du monde datée.
Ce que fait la réglementation américaine
Le décret américain du 2 juin 2026, intitulé « Promoting Advanced Artificial Intelligence Innovation and Security », précise qu’il ne crée aucun régime de licence ni d’autorisation préalable. Il installe trois choses :
- un guichet dédié à la cybersécurité, piloté par le Trésor ;
- une liste classifiée de « modèles couverts », établie par la NSA ;
- une revue volontaire de 30 jours avant la publication d’un modèle.
Les modèles dont les paramètres sont publiés librement (dits « à poids ouverts ») n’y sont pas soumis. Des analystes y voient une lacune plutôt qu’un privilège. D’autres qualifient l’ensemble de « licence de fait ». Le texte dit qu’il n’y a pas de licence, le mécanisme laisse la question ouverte (résumé juridique du cabinet Foley Hoag, juin 2026 ; Center for American Progress, juillet 2026).
La thèse inverse : le risque comme argument de concentration
Yann LeCun défend publiquement une autre lecture, dans un texte intitulé « The Doomer’s Delusion ». Selon lui, le raisonnement s’enchaîne ainsi : l’IA va nous tuer, donc elle doit être réservée à quelques entreprises sous contrôle réglementaire serré. Autrement dit, la peur servirait à verrouiller le marché. Il a levé 1,03 milliard de dollars en mars 2026 pour AMI Labs, sur le pari que les grands modèles de langage actuels ne mènent pas à une intelligence générale.
Son argument le plus solide porte sur les données. Un grand modèle de langage est entraîné sur environ 2 × 1013 octets de texte, ce que LeCun chiffre à 170 000 ans de lecture humaine. Le cortex visuel d’un enfant de quatre ans a déjà reçu environ 1015 octets, soit cinquante fois plus.
Un argument revient souvent et ne tient pas : le cerveau humain fonctionne avec environ 20 watts (le corps entier, 80 à 100 watts), bien moins qu’un centre de calcul. C’est vrai, mais l’efficacité énergétique ne dit rien sur la dangerosité d’un système. Ce n’est pas une réponse au débat.
Ce que ça change pour une PME du Grand Est
Ce débat existe et il est légitime. Mais il se joue entre laboratoires, chercheurs et États. Pour un dirigeant de PME industrielle ou de négoce, le mélanger avec les décisions de tous les jours mène à deux erreurs opposées : tout refuser par peur, ou tout accepter parce que « de toute façon, ça nous dépasse ».
Les risques concrets, eux, sont connus et se traitent aujourd’hui :
| Risque concret | Ce qui le limite |
|---|---|
| Une réponse inventée qui finit dans un devis ou un cahier des charges | Exiger la source de chaque réponse et une relecture humaine. Voir pourquoi les astuces ne suffisent pas. |
| Des prix, des plans ou des données clients collés dans un outil grand public | Une charte d’usage et un outil interne. Voir les données de l’entreprise dans ChatGPT. |
| Des données hébergées chez un fournisseur soumis à un droit étranger | Savoir où sont les données et qui peut les réclamer. Voir la souveraineté vue par une PME. |
| Des équipes qui utilisent ces outils sans formation | Former sur les tâches réelles et garder la trace. Voir AI Act et formation des salariés. |
Aucun de ces risques ne dépend de l’issue du débat sur la superintelligence. Tous dépendent de choix que vous pouvez faire dès cette semaine.
Notre position
Chez Merlya, l’IA sert à des tâches précises et vérifiables : préparer un devis, rédiger un cahier des charges, contrôler une facture. Chaque réponse renvoie à sa source, les données restent hébergées dans l’Union européenne, et une personne valide avant tout envoi. L’outil prépare, votre équipe décide. Voir le chiffrage des devis et la rédaction des documents techniques.
En conclusion
« L’IA va tous nous tuer d’ici dix ans » n’est pas ce qu’ont dit les chercheurs cités. Ils estiment une probabilité, d’autres contestent leur raisonnement, et personne ne peut trancher aujourd’hui. Ce débat mérite d’être suivi avec sérieux, sans céder à la peur. Pour une entreprise, l’essentiel se joue ailleurs : des usages encadrés, des réponses sourcées et une validation humaine. Pour en parler sur votre cas, contactez-nous.