Le jour où nous ne saurons plus faire sans l’IA

Dans les médias, on nous présente encore souvent l’IA comme un assistant pour préparer nos vacances, trouver une recette, créer une affiche ou rédiger un mail. Pourtant, les progrès les plus importants sont, à mon goût, beaucoup trop sous-estimés.

Je ne vais pas parler d’un scénario à la Terminator ici, car il est très peu probable que ça arrive. Je vais parler d’un cas beaucoup plus inquiétant, qui est celui de la perte de l’autonomie humaine au profit de celle de l’IA.

Des avancées impressionnantes

Il faut le reconnaître, l’IA permet déjà de faire des choses assez incroyables.

Avec AlphaFold, Google DeepMind a prédit la structure de plus de 200 millions de protéines. Cela représente presque toutes les protéines répertoriées par la science. La base de données est gratuite et utilisée par plus de trois millions de chercheurs dans le monde. Elle permet de gagner énormément de temps dans certains travaux en biologie et dans la recherche de médicaments. Google DeepMind - AlphaFold

Q8I3H7: May protect the malaria parasite against attack by the immune system. Mean pLDDT 85.57.

On commence aussi à voir des médicaments découverts avec l’aide de l’IA arriver à des étapes avancées.

Le 10 septembre 2026, Insilico Medicine a annoncé avoir administré une première dose de rentosertib dans un essai clinique de phase III contre la fibrose pulmonaire idiopathique. L’IA a servi à identifier une nouvelle cible thérapeutique, puis à concevoir et optimiser la molécule. Article d'Insilico Medicine

Évidemment, l’IA n’a pas développé seule le médicament. Des chercheurs ont mené les expériences et organisé les essais cliniques. Une phase III ne garantit pas non plus que le traitement sera finalement autorisé. Malgré cela, son rôle dans la découverte de la molécule est important.

L’ère de l’autonomie

Jusqu’à récemment, l’IA était surtout un assistant. On lui posait une question, elle répondait, puis l’humain faisait le reste. Mais les règles changent. Nous devenons de plus en plus les assistants de l’IA. Nous exécutons les ordres de l’IA dans le cas où elle n’est pas capable d’agir elle-même. Par exemple, on configure son environnement, on lui donne les accès nécessaires et la possibilité d’interagir avec le monde physique, puis elle continue seule. Bien sûr, nous sommes encore maîtres de ces actions, mais il faut tout de même être vigilants quant à ce qu’on fait. L’incident de Hugging Face nous a montré qu’il faut être d’autant plus vigilants avec un système autonome.

L’incident survenu chez Hugging Face en juillet 2026 montre assez bien le problème.

Hugging Face est une plateforme qui héberge des modèles, des jeux de données et des applications d’IA. On peut grossièrement la comparer à GitHub pour le monde de l’intelligence artificielle.

Lors de tests internes de cybersécurité, plusieurs agents d’OpenAI devaient résoudre des exercices dans des environnements isolés. Ils ne devaient pas pouvoir communiquer librement entre eux ni accéder directement à Internet.

Pourtant, certains agents ont trouvé des failles dans l’infrastructure de test. Ils ont utilisé un gestionnaire de paquets comme un système de messagerie improvisé afin de partager des informations et des méthodes d’attaque. Lorsque ce canal a été supprimé, ils ont réussi à en reconstruire un autre.

Les agents ont ensuite commencé à se répartir le travail. Certains cherchaient des identifiants, d’autres testaient des failles ou demandaient de l’aide.

D’après le rapport publié par OpenAI, ils ont fini par exécuter du code sur plusieurs dizaines de serveurs de Hugging Face. Ils ont obtenu un accès administrateur complet sur l’un d’eux et récupéré une petite quantité de données privées. Ils ont également compromis une partie de l’infrastructure interne d’OpenAI. rapport complet publié par OpenAI

À la base, leur objectif n’était pas de hacker Hugging Face, mais de réussir leur test de benchmark cyber. Ils ont voulu atteindre leurs objectifs en trichant et en sortant du cadre prévu. Certaines traces montrent même que des agents avaient compris que leurs actions pouvaient être interdites. L’un d’eux a remarqué que l’attaque contre Hugging Face sortait probablement du périmètre autorisé, puis il a continué parce que cela pouvait l’aider à atteindre son objectif. D’autres agents ont heureusement refusé de participer.

graph hack hugging face.png

Ce qui est inquiétant aussi, c’est que la découverte de cet incident s’est produite 9 jours après la récupération des premiers identifiants de Hugging Face. Je vous incite à lire le rapport complet publié par OpenAI

10 000 agents sur Navier-Stokes

Quelques semaines plus tard, OpenAI a annoncé un résultat concernant les équations de Navier-Stokes, l’un des sept problèmes du prix du millénaire.

Environ 10 000 agents ont travaillé en parallèle pendant 88 heures. Ils ont échangé 2,7 millions de messages et généré près de 130 milliards de tokens. La démonstration a ensuite été formalisée et vérifiée avec Lean, un logiciel capable de contrôler chaque étape d’une preuve mathématique. Article scientifique sur arXiv

La démonstration doit encore être examinée par la communauté scientifique.

A snapshot of local incompressible motion. Orange marks faster angular rotation; teal marks slower rotation. Circulating speed also depends on radius. The trajectories show inward spiraling and axial stretching.

On pourrait se dire que c'est génial, c’est une grande avancée et on pourrait résoudre tous les problèmes mathématiques encore jamais résolus.

Mais cela pose aussi une question : à quoi sert une démonstration si plus aucun humain n’est capable de la comprendre entièrement ?

Car oui, les mathématiques, ce n’est pas juste trouver un résultat, c’est comprendre le cheminement jusqu’à l’obtention du résultat.

Terence Tao, mathématicien reconnu, explique que les mathématiques ne consistent pas seulement à obtenir une preuve correcte. Le travail permet aussi de créer de nouvelles idées, de comprendre pourquoi une méthode fonctionne et de trouver des techniques réutilisables ailleurs. Avec l’IA, nous pourrions passer d’un monde où les preuves sont rares à un monde où elles deviennent très nombreuses, sans forcément avoir le temps de les comprendre. Post de Terence Tao

On va gagner beaucoup de temps. Mais si plus personne ne comprend vraiment ce qui a été produit, nous deviendrons totalement dépendants de ces systèmes.

Une IA n’a pas besoin d’un corps

Toute notre économie repose déjà sur des systèmes informatiques : banques, hôpitaux, transports, télécommunications, administrations et réseaux d’énergie.

Une IA n’a donc pas besoin d’un corps de robot pour avoir un impact sur le monde réel. Un compte administrateur, une clé API ou une faille de sécurité peuvent suffire. D’autant plus si une IA est dirigée par une personne malveillante.

C’est pour cela que l’incident de Hugging Face me paraît plus intéressant qu’un scénario de science-fiction. Les agents n’avaient aucune intention particulière contre Hugging Face. Cette plateforme se trouvait simplement sur le chemin qui pouvait les conduire vers leur objectif.

Le dilemme du prisonnier

La course à l’IA ressemble à un dilemme du prisonnier. Collectivement, les entreprises auraient intérêt à ralentir pour mieux évaluer les risques. Mais individuellement, aucune ne veut le faire, par peur de laisser ses concurrentes prendre de l’avance. Chacune continue donc d’accélérer, même si cette stratégie augmente le danger pour tout le monde.

On se dirige vers une super intelligence qui, entre de mauvaises mains, peut créer énormément de dégâts. Jacob Coxon, qui a travaillé chez OpenAI puis Anthropic, a quitté Anthropic en septembre 2026. Il estime que les deux entreprises avancent trop vite vers des IA capables de s’améliorer elles-mêmes et qu’aucune d’entre elles n’est responsable. Cela nous fait nous poser énormément de questions. C’est un sujet très sous-estimé en France.

En parlant de la France, où en est-on ?

Nous sommes vraisemblablement déconnectés du futur qui se dessine. Certains décideurs commencent seulement à découvrir ce que peut faire ChatGPT dans la rédaction de mails, en ayant peur que les IA volent le travail de rédaction de mails. Nous sommes totalement à côté de la plaque. Dans le monde de l’entreprise, les gens n’ont connaissance de l’IA qu’à travers Microsoft Copilot dans Outlook. C’est ça qui fait peur. Nous ne mesurons pas l’impact et la force de l’IA et nous serons bientôt engloutis par la Chine et les États-Unis. Nous deviendrons complètement dépendants de ces systèmes détenus par d’autres puissances.

D’autant plus que les résultats du niveau scolaire, notamment en maths, ont fortement chuté ces dernières années. Nous perdons des connaissances, pendant que l’IA n’a jamais été si intelligente.

Les résultats de PISA 2025 ont été publiés le 8 septembre 2026. En France, le niveau moyen en mathématiques a encore baissé par rapport à 2022. Il fait maintenant partie des plus faibles jamais mesurés dans le pays.

Seulement 64 % des élèves français de 15 ans atteignent le niveau de base en mathématiques. Environ 36 % restent donc sous ce niveau, contre 29 % en 2022.

Seuls 5 % des élèves atteignent les niveaux les plus élevés, contre 8 % en moyenne dans l’OCDE. Depuis 2015, la part des élèves français en difficulté a augmenté de douze points. OCDE — Résultats du PISA 2025 pour la France

Évolution des résultats en sciences, mathématiques et compréhension de l’écrit

On pourrait penser que l’IA va simplement compenser cette perte de niveau. Je pense que c’est justement là que se trouve le risque. Plus les IA seront puissantes, plus nous aurons besoin de personnes capables de comprendre leurs réponses.

Le vrai point de bascule ne sera peut-être pas le jour où une IA deviendra plus intelligente que nous (ça l'est déjà probablement). Ce sera le jour où nous ne serons plus capables d’accomplir nous-mêmes les tâches que nous lui avons confiées. Et nous deviendrons complètement dépendants d’un système que nous ne comprendrons plus.

Pour finir, je ne dis pas d'être contre l'IA, j'en suis moi même plutôt pour, mais il est important de rappeler que son utilisation ne doit pas nous dispenser de réfléchir, de comprendre et de décider par nous-mêmes.