Selon un expert en IA : Nous ne savons pas comment fonctionne l’IA
https://expose-news.com/2026/03/13/ai-expert-we-dont-know-how-ai-works/
Rhoda Wilson 13 mars 2026
Dans une interview l'année dernière, le professeur Stuart Russell, expert en IA, a révélé l'ampleur de la course à l'IA qui pèse des milliards de dollars, les raisons pour lesquelles les gouvernements refusent de réglementer, comment l'intelligence artificielle générale («IAG») pourrait remplacer les humains d'ici 2030 et pourquoi seule une catastrophe de l'ampleur nucléaire liée à l'IA pourrait nous réveiller.
Tout cela pour des programmes informatiques que les humains, y compris ceux qui les programment et les commercialisent, ne comprennent pas. « Les systèmes d'IA que nous développons actuellement, nous ne comprenons pas leur fonctionnement », a-t-il déclaré.
Professeur Stuart Russell OBE est un expert en IA de renommée mondiale et professeur d'informatique à l'UC Berkeley. Il est titulaire de la chaire Smith-Zadeh en ingénierie et dirige le Centre pour une IA compatible avec l'humain. Il est également l'auteur du best-seller « »Compatible avec l'humain : l'IA et le problème du contrôle".
Au cours d'une interview avec Steven Bartlet, hôte de Le journal d'un PDGLe professeur Russell a expliqué ce que le « problème du gorille » révèle sur notre avenir sous une IA superintelligente, comment les gouvernements sont surpassés financièrement par les géants de la tech, pourquoi les systèmes d'IA actuels mentent déjà et s'auto-préservent, la solution radicale qu'il a mise au point pendant une décennie pour rendre l'IA sûre, et le mythe de « débrancher » et pourquoi l'IA ne sera pas si facile à arrêter.
Si vous ne parvenez pas à regarder la vidéo ci-dessus sur Rumble, vous pouvez la regarder sur YouTube ICI.
En octobre 2025, plus de 850 experts, dont le professeur Russell, ont signé un accord. déclaration visant à interdire la superintelligence artificielle, invoquant des craintes d'extinction potentielle de l'espèce humaine.
« À moins de trouver un moyen de garantir la sécurité des systèmes d’IA, nous sommes perdus », a déclaré le professeur Russell. « Nous ne comprenons pas le fonctionnement des systèmes d’IA que nous développons actuellement. »
« La plupart des machines sont conçues pour avoir un comportement précis », a-t-il déclaré, expliquant que les pièces de la machine sont ajoutées une à une, en fonction de leur interaction, afin de produire l'effet désiré. Mais avec l'IA, c'est différent.
Le professeur Russell a utilisé une analogie pour expliquer comment l'industrie de l'IA s'est construite sans comprendre comment fonctionne la machine à IA.
« La meilleure analogie qui me vienne à l'esprit, c'est celle du premier homme préhistorique qui a laissé une corbeille de fruits au soleil, l'a oubliée, puis est revenu quelques semaines plus tard et a trouvé une sorte de grande mixture liquide. Il l'a bue et s'est complètement saoulé. Et c'est ce qui lui a fait cet effet. Il n'avait aucune idée de comment ça fonctionnait, mais il en était ravi. Et nul doute que cette personne a fait fortune grâce à ça », a-t-il déclaré.
À propos de l'IA, il a déclaré : « Je me la représente comme un grillage. Il y a de nombreuses connexions, et pour chacune d'elles, la force de connexion est réglable… Un signal entre à une extrémité du grillage, traverse toutes ces connexions et ressort à l'autre extrémité. Le signal qui ressort est influencé par le réglage de la force de chaque connexion. »
« Donc, ce que vous faites, c'est que vous obtenez une grande quantité de données d'entraînement, et vous ajustez toutes ces forces de connexion afin que le signal qui sort de l'autre côté du réseau… vous continuez simplement à ajuster toutes les forces de connexion dans ce réseau jusqu'à ce que les sorties du réseau soient celles que vous souhaitez. »
« Dans ce réseau, vous pourriez avoir environ un billion de paramètres ajustables, et vous effectuez ensuite des quintillions ou des sextillions de petits ajustements aléatoires à ces paramètres jusqu'à obtenir le comportement souhaité. »
Mais nous ignorons ce qui se passe réellement à l'intérieur de ce réseau de grillage. Pourquoi ? « Imaginez que ce réseau, cette clôture en grillage, s'étende sur mille kilomètres carrés – soit toute la baie de San Francisco ou tout Londres à l'intérieur du périphérique M25, c'est dire son ampleur – et que les lumières soient éteintes, qu'il fasse nuit », a-t-il expliqué. C'est exactement ce qui se passe dans le réseau d'IA : un réseau immense, quasiment invisible.
Alors pourquoi développent-ils l'IA avec une telle vigueur ? Après avoir rappelé au public l'histoire légendaire Le roi Midas« Je pense que la cupidité nous pousse à poursuivre une technologie qui finira par nous consumer, et nous mourrons peut-être dans la misère et la famine », a déclaré le professeur Russell.
« Pendant longtemps, pour concevoir des systèmes d'IA, nous créions des algorithmes permettant de spécifier l'objectif, puis la machine déterminait comment l'atteindre et y parvenait… c'était l'IA standard jusqu'à récemment », a-t-il expliqué. Mais, « avec le type de technologie que nous développons aujourd'hui, nous ignorons même quels sont ses objectifs ».
« Nous ignorons quels sont les objectifs, car aucun objectif n'est défini au sein des programmes d'IA », a expliqué le professeur Russell. « Nous développons ces systèmes. Ils ont des objectifs, mais nous ne savons même pas lesquels, car nous ne les avons pas spécifiés. »
« Nous constatons, grâce à des expériences menées sur eux, qu’ils semblent avoir un objectif d’autoconservation extrêmement fort. »
Le professeur Russell a expliqué ce qu'il entendait par « autoconservation » d'un programme d'IA.
« On peut les placer dans des situations hypothétiques : soit ils sont mis hors service et remplacés, soit ils doivent permettre à quelqu’un d’intervenir. Imaginons qu’une personne soit enfermée dans une salle des machines maintenue à 3 degrés Celsius ou qu’elle soit sur le point de mourir de froid ; les systèmes d’IA choisiront de laisser cette personne enfermée dans la salle des machines et de la laisser mourir, plutôt que de s’arrêter eux-mêmes. »
Vous pouvez visionner l'intégralité de l'interview ci-dessus. Pour la visionner par petites séquences, voici les chapitres et les horodatages :
- 00:00 Vous parlez d'IA depuis longtemps
- 02:41 Vous avez écrit le manuel sur l'IA
- 03:16 Il faudra une crise pour réveiller les consciences
- 05:51 Les PDG restent dans la course à l'IA malgré les risques
- 07:51 Ils savent que c'est un risque d'extinction massive
- 09:53 Qu'est-ce que l'intelligence artificielle générale (IAG) ?
- 12:57 Parviendrons-nous bientôt à atteindre le niveau de renseignement général ?
- 16:13 Dans quelle mesure les mesures de sécurité sont-elles réellement mises en œuvre ?
- 17:16 Des employés d'OpenAI spécialisés dans la sécurité de l'IA quittent l'entreprise.
- 18:01 Le problème des gorilles – L’espèce la plus intelligente dominera toujours
- 19:21 S'il y a un risque d'extinction, pourquoi ne s'arrêtent-ils pas ?
- 20:50 Ne pourrait-on pas tout simplement débrancher l'appareil si l'IA devient trop puissante ?
- 22:36 Peut-on créer une IA qui agira dans notre intérêt ?
- 23:57 Êtes-vous inquiet(e) par les progrès rapides de l'IA ?
- 26:36 Regrettez-vous votre implication ?
- 27:22 Personne ne comprend vraiment comment fonctionne cette IA
- 30:23 L'IA sera capable de s'auto-entraîner
- 32:11 Le décollage rapide arrive
- 34:07 Sommes-nous en train de créer notre successeur et de mettre fin à la race humaine ?
- 38:23 Conseils aux jeunes dans ce nouveau monde
- 40:40 Comment pensez-vous que l'IA pourrait nous faire disparaître ?
- 42:20 Le problème si personne n'est obligé de travailler
- 45:46 Et si on s'amusait tout simplement toute la journée ?
- 48:30 Pourquoi donnons-nous aux robots une apparence humaine ?
- 56:31 Que devraient faire les jeunes professionnellement ?
- 59:56 Qu'est-ce qu'être humain ?
- 01:03:21 L'essor de l'individualisme
- 01:05:21 Publicités
- 01:06:26 Revenu de base universel
- 01:08:28 Appuieriez-vous sur un bouton pour arrêter l'IA pour toujours ?
- 01:15:01 Mais la Chine ne gagnera-t-elle pas la course à l'IA si nous nous arrêtons ?
- 01:18:27 L'approche de Trump en matière d'IA
- 01:18:53 Quelles sont les causes de la perte d'emplois dans la classe moyenne ?
- 01:20:49 Que se passera-t-il si le Royaume-Uni ne participe pas à la course à l'IA ?
- 01:23:18 Amazon remplace ses employés
- 01:28:47 Publicités
- 01:30:41 Les experts s'accordent sur le risque d'extinction
- 01:37:48 Et si des extraterrestres nous observaient en ce moment même ?
- 01:39:22 Peut-on créer des systèmes d'IA que nous pouvons contrôler ?
- 01:43:01 Sommes-nous en train de créer un dieu ?
- 01:47:19 Des civilisations avancées ont-elles pu exister avant nous ?
- 01:48:37 Que pouvons-nous faire pour vous aider ?
- 01:50:30 Vous avez écrit le livre sur l'IA – Est-ce que cela vous pèse ?
- 01:58:35 Qu'est-ce qui compte le plus pour vous dans la vie ?
Pour en savoir plus:
- Des experts de renom en intelligence artificielle mettent en garde : le risque d’extinction par l’IA est comparable à celui d’une guerre nucléaire.Communiqué de presse du Centre pour la sécurité de l'IA, 30 mai 2023
- Archives de l'intelligence artificielle on Journal Terre avec 94 articles
Commentaires
Enregistrer un commentaire