Depuis que tout un chacun a accès à des systèmes d’intelligence artificielle générative, les merveilles et les dangers de ce qu’on appelle couramment l’IA sont devenus un sujet de préoccupation omniprésent. Pour appréhender un phénomène qui ne cesse d’exercer des effets sur la société, l’économie, l’environnement, et pour distinguer les faits derrière les effets de communication, il est utile de prendre en compte certaines bases techniques.

Voir, du même auteur, La fresque du numérique – Économie et politique

Approche scientifique ou récit marketing ? Cette opposition fondamentale atteint son paroxysme aujourd’hui dans la difficulté à comprendre et à saisir l’évolution des technologies de l’Information, représentée par la « pyramide du numérique » : les couches technologiques à la base – composants, processeurs et mémoires, les microprogrammes puis les couches logicielles de plus en plus évoluées au milieu, les grandes plateformes et le cloud ensuite, et enfin les IA et les GAFAM au sommet.

« Scientifiques » et « commerciaux », les deux métiers sont respectables. Le vrai problème est que la parole du marketing – portée par tous les canaux médiatiques – étouffe et submerge le discours scientifique, car la compréhension basique des technologies devient extrêmement complexe et pluridisciplinaire, alors que les promesses du marketing sont toujours simplistes et magiques : « la technologie va résoudre tous vos problèmes, il suffit de l’adopter et de s’adapter ! » ou encore « on ira sur Mars dans trois ans ! » – alors que le projet lunaire Artemis vient d’être gravement retardé…

Mais alors, est-il possible dans un article de quelques pages de faire toucher du doigt la réalité des affrontements dans les modèles technologiques de l’information ?

La compréhension globale (holistique) de la pyramide du « numérique » suppose une pluridisciplinarité quasi inatteignable pour un individu scientifiquement éduqué. La rédaction d’un article « grand public » nécessite de s’affranchir du «jargon technique » pour rester accessible, mais il ne faut pas trop trahir la vérité scientifique sous peine d’être décrédibilisé auprès de ses pairs… C’est pourquoi il y a beaucoup moins de bons vulgarisateurs scientifiques en 2026 qu’en 1968, même si de très bonnes vidéos pédagogiques sont accessibles sur le Web (encore faut-il savoir où chercher !).

Pour atteindre une vision acceptable de la situation du « numérique » en 2026, il faut éviter de nombreuses confusions et pièges sémantiques. Au fait, pourquoi parle-t ’on désormais de numérique et plus d’informatique ? le choix du mot « numérique » reste contestable (numériser revient à faire des choix, et donc à perdre une partie des informations), alors que celui d’informatique correspondait à la volonté française du Plan Calcul de s’affranchir du Computing » américain …

Qu’est ce qui a changé dans le traitement de l’Information pour que des mots fétiches disparaissent et que d’autres émergent ? Car il s’agit toujours bien de manipuler la notion d’information, au sens propre (physique) comme au figuré (sémantique, politique).

C’est quoi l’Information, au fait ?

Vaste sujet, polysémique et donc avec de multiples grilles de lecture. La notion de révolution informationnelle, qui est le sujet de ce dossier, se réfère à une définition aussi générale que l’aphorisme de Norbert Wiener, père fondateur de la cybernétique : « l’information, c’est l’information, elle n’est ni matière, ni énergie [1] ». Le point de vue de l’histoire des sciences se place sur un plan plus empirique. Il décrit deux visions de l’information qui finalement se rejoignent.

1°) la vision physique, issue de la thermodynamique (Boltzmann)

Le degré d’information d’un système est relié au nombre de ses micro-états (notion difficile à appréhender concrètement – pour être précis, c’est l’inverse du logarithme du nombre de ses micro-états), mais c’est surtout la mesure de son ordre sous-jacent.

Un système très désordonné contient très peu d’information (situation très probable dans l’univers, et donc peu intéressante) : on parle de « bruit blanc, ou coloré », c’est le bruit thermique d’un appareil électronique par exemple, ou le texte produit par un singe tapant à la machine…

Dans un système ordonné, au contraire, des informations structurées sont présentes : c’est intéressant. La nature produit elle-même des systèmes possédant des structures sous-jacentes, c’est pourquoi on peut distinguer des images synthétiques qui ne respecteraient ces lois internes, comme la loi de distribution de Benford, ou la loi de Hack pour les deltas fluviaux, par exemple…).

Pour simplifier, l’entropie thermodynamique est la mesure du degré de désordre. L’information est assimilée à la néguentropie (degré d’ordre d’un système).

2°) la vision d’un canal d’information, codé (Claude Shannon).

On s’inscrit là dans la continuité du philosophe et mathématicien Leibniz qui, dès le XVIIe siècle, explique qu’avec seulement 2 symboles, il pourrait représenter le monde. C’est le père des « jumeaux numériques », ces modèles numériques très perfectionnés utilisés en santé, en aéronautique, mécanique, météorologie, et nourris de données réelles issues du fonctionnement de systèmes existants, afin de permettre des simulations et des tests les plus proches du comportement réel.

Claude Shannon s’intéresse vers 1940 à la probabilité d’erreurs de codage ou d’une transmission d’un signal, ce taux d’erreurs représentant la qualité du canal utilisé. Le bruit d’un canal rejoint la notion de désordre et de bruit thermique (c’est particulièrement vrai dans le cas de l’imagerie en infrarouge, où la qualité de l’image est liée aux différences de températures)

Le codage limite la qualité d’information – cela dépend de la résolution de l’échantillonnage choisie (c’est là ce qu’on appelle numérisation) compte tenu de la bande passante – mais il permet finalement la transmission de cette information. De la même façon, on peut définir l’entropie d’un canal ou d’un codage donné, au sens probabiliste (quelles sont les chances d’avoir un symbole B qui suive un symbole A ?).

Le français Léon Brillouin, dans les années 1960, a réalisé la fusion de ces deux approches. Beaucoup d’autres physiciens ont également contribué à travailler cette notion d’Information, et le débat continue à faire rage en physique, notamment à propos des trous noirs qui posent la question de la disparition de l’Information (équation de Hawking )…

Revenons à notre monde sensible, celui de tous les jours, en se focalisant sur la pyramide du numérique

Quelles confusions éviter ?

1°) les tromperies du marketing

Une des plus classiques, actuellement, consiste à confondre la résolution des machines de gravure des microprocesseurs – l’épaisseur du trait du masque, soit quelques nanomètres – avec la taille des composants de base (les portes logiques), qui tiennent dix à vingt fois plus de place.

2°) les buzz words ou « mots totem », interchangeables au gré de modes commerciales, alors que, d’un point de technique, ce n’est pas du tout la même chose. En voici quelques exemples :

• base de données : elles peuvent être de structures très différentes : indexées ou pas, ouvertes ou pas, homogènes ou pas, normalisées ou pas … On il n’y a pas de « numérique » sans base de données, on l’oublie trop souvent !
• données / métadonnées : données dans leur contexte, données commentées…
• Big data / fusion de data / théorie des graphes : ensembles de procédés mathématiques et statistiques permettant de traiter les informations (massivement, en parallèle, à base de corrélations…) pour extraire des informations d’une vaste collection de données ;
• analyses statistiques, multifactorielles, fréquentielles…
• probabilités conditionnelles, bayésiennes permettant, à partir d’un jeu de données, d’en déduire des lois de comportements et de prédire son évolution : suivi de la trajectoire d’un avion de ligne, gestion de la maintenance prédictive d’une flotte, HUMS (Health and Usage Monitoring Systems) servant au management de l’état de santé d’un système, durée de vie, pannes probables…

Le cœur du moteur : l’apprentissage machine

L’invention du terme d’ « intelligence artificielle » à la conférence de Dartmouth (New Hampshire) en 1956 fut un génial coup de marketing qui n’a pas aidé à faire comprendre au grand public de quoi il s’agit au juste. Il nous faut, à ce stade, « soulever le capot » et s’intéresser au cœur du moteur, à savoir l’apprentissage machine (Machine Learning).

Volontairement, on ne parle pas encore ici de réseau de neurones, mais seulement d’une « boite noire » informatique, qui réalise un apprentissage automatique à partir d’un jeu de données, en jouant sur les connexions entre données. Par exemple, on veut apprendre à un tel système à reconnaitre une forme géométrique ou un symbole donné.

Pour cela, il faut mettre en œuvre une fonction de coût, et ensuite, par traitement informatique, essayer de minimiser cette fonction de coût (on recherche un optimum en résultat de sortie). Si le score de sortie de la boite noire est bon, cela veut dire que le système a bien appris et qu’il est donc fonctionnel.

Au début, le problème tenait essentiellement dans l’optimisation des poids de connexion, permettant d’atteindre le résultat désiré, par exemple la reconnaissance d’une forme ou d’un caractère spécifique parmi une collection variée. Cette optimisation se faisait « à la main », par tentatives successives, ce qui limitait très fortement la complexité des problèmes traitables dans un temps raisonnable !

Avec l’expérience des programmeurs, avec des architectures de plus en plus sophistiquées, mais aussi avec les progrès de l’électronique et des processeurs (la « loi de Moore » selon laquelle, dans l’opinion courante, « la puissance de calcul des processeurs double tous les 18 mois » ), cette optimisation est devenue de plus en plus efficace et rapide.

Historiquement, les deux grandes approches structurantes étaient :

1°) celle des les réseaux de neurones ou algorithmes apprenants (très simples au début), appelée « IA connexionniste ou probabiliste ».

2°) celle des moteurs d’inférences, à base de systèmes experts sur corpus de règles, appelée « IA symbolique ».Eh ouE

L’IA symbolique a eu son moment de gloire dans les années 1980 – 1990. Mais l’automatisation de la rétrogradation de gradient d’erreur (faire converger vers la solution adéquate en réduisant systématiquement l’erreur) et l’optimisation de la descente de gradient (Vladimir Vapnik impose la descente stochastique de gradient vers 1993, contre l’avis de l’Académie, voir encadré…) redonnent de l’efficacité aux réseaux de neurones.

Puis, avec l’augmentation de la puissance de calcul des processeurs, le Machine Learning est devenu le Deep Learning, essentiellement en en empilant de nombreuses couches, et en complexifiant les architectures de connexions. À partir de ce moment, ce sont les réseaux de neurones qui ont « tué la concurrence ». La transition se situe vers 2006 – 2012. En 2012, Yann LeCun, qui a déjà beaucoup travaillé sur des réseaux convolutifs dans les années 1985 – 1995, gagne le concours mondial ImageNet (identifier une image spécifique dans une base de données) grâce à un réseau de neurones de type Deep Learning, utilisant notamment les possibilités de calculs parallèles des processeurs de type GPU (dédiés à l’origine aux jeux vidéo).

Les réseaux de neurones sont déjà un formidable outil d’optimisation, de classification, et de reconnaissance de patterns ou de figures. Mais les choses ne vont pas en rester là. Les architectures de réseaux continuent d’évoluer et, en 2017, apparaissent les GPT (Generative Pre-trained Transformer), architectures complexes et réentrantes, à la base des LLM = Large Langage Model.

Sans qu’on sache vraiment pourquoi, la puissance de frappe probabilistique de ces LLM GPT (la capacité à prévoir une suite cohérente de mots, et qui ait un sens) permet enfin d’obtenir des traductions automatiques relativement fiables dans des temps de calcul raisonnable. C’est un tremblement de terre dans le milieu de la traduction automatique du langage naturel (TALN), alors que les linguistes étaient encore très pessimistes dans les années 2010…

Puis vient la révélation pour le grand public, avec la mise en ligne de ChatGPT en novembre 2022 par OpenAI. Depuis, l’IA générative à base de GPT est devenue incontournable… et les outils LLM réalisent des milliards de milliards de calculs de corrélations par seconde (multiplication d’énormes matrices de nombres, avec beaucoup de dimensions), avec des longueurs de cohérence (l’attention) de plus en plus grandes, ce qui consomme de plus en plus de parts de puissance de calcul disponibles !

Quels sont les risques de l’intelligence artificielle ?

Mais alors qu’elle est si efficace (traduction quasi-instantanée, optimisation de problèmes complexes, classification et reconnaissance de patterns, rédaction cohérente de textes et de résumés, génération de vidéo…), pourquoi l’IA d’aujourd’hui est-elle si problématique ?

Il y a beaucoup de raisons à cela, en voici quelques-unes :

• elle est non déterministe (donc invérifiable) ;
• elle est non explicable (« problé-magique » ! ), opaque, non certifiable ;
• les bases d’apprentissages sont biaisées et peu représentatives (elles représentent principalement la culture WASP dominante des États-Unis « blancs, anglo-saxons, protestants » ;
• l’anglais et quelques langues sont sur-représentées, ce qui induit de forts biais culturels ;
• on observe un pillage des droits intellectuels, jusqu’à la destruction de livres rares…
• les réglages fins ne sont pas révélés ;
• les calculs reposent sur une statistique gaussienne (courbe en cloche, les occurrences les plus fréquentes centrées sur le sommet de la courbe) ;
• le résultat obtenu est la vraisemblance, mais pas la vérité !
• les systèmes produisent des « hallucinations », inventent de fausses sources. Ils ne publient pas leurs taux d’erreurs ;
• ils ne sont pas ancrés dans le monde réel
• les systèmes produisent une Slope IA (IA pourrie ou « bouillie ») : réponses dans la moyenne, renforcement de la vision mainstream, peu d’infos réellement pertinentes ;
• les bases d’entrainement sont empoisonnées par des données synthétiques (non humaines) : depuis 2024, la moitié d’Internet est constitué de données artificielles ;
• la diffusion de fausses nouvelles est facilitée, notamment via la génération d’images, de bandes son et de vidéo toujours plus réalistes !
• la génération d’attaques cyber est facilitée. Anthropic a développé, en contrepartie, des modèles de LLM spécialisé dans la défense et l’analyse de cybersécurité, tels que Fable ou Mythos, mais le gouvernement US en a limité l’utilisation aux seuls intérêts américains !
• les systèmes produisent des programmations approximatives, non validés
• l’opacité caractérise les bases d’apprentissage, les modèles d’étiquetage des données, les réglages fins des algorithmes (sous prétexte de « protéger le savoir ;
• des IA agentiques (des sous-programmes d’IA qui sont relativement autonomes, mais qui peuvent se coordonner et se sous-traiter des tâches) qui sortent du cadre défini …

À quoi s’ajoutent les risques de nature économique et écologique : bulle spéculative, course au gigantisme, non optimisation des calculs qui concourent à une très forte consommation électrique et des composants (GPU, mémoires RAM, serveurs …), avec une surenchère sur la sophistication technologique, sans réfléchir à des algorithmes ou des architectures plus sobres (on pourrait notamment essayer d’utiliser les verres de spins comme matrices d’optimisation : cela consommerait 1 million de fois moins d’énergie…).

La tendance actuelle est à la multiplication de matrices géantes, à la course aux gigantisme des GPT, jusqu’à 4 000 milliards de paramètres dans une architecture LLM d’aujourd’hui. Tout le contraire du principe de parcimonie énoncé par Guillaume d’Occam, au début du XIVème siècle, qui reste une des bases de la révolution scientifique de l’époque moderne !
Faut il autant de data centers ? quels arbitrages pour l’énergie et les mémoires ?
Comment les reconvertir si la bulle explose (sachant que la valorisation boursière de NVIDIA, fabriquant de fameux GPU, dépasse le PIB d’un état européen) ?

La question des bases de données d’entraînement mérite qu’on s’y arrête plus précisément. La logique US de prédation est à son paroxysme. Pourquoi Open AI ou Meta rachètent-ils des livres rares pour les détruire ? Espèrent-ils en tirer un avantage définitif ? C’est illusoire. Est-ce pure prédation ? Mais les événements rares ne sont pas dans les livres rares (ils ne sont même pas écrits…). Alors, le but serait une séquestration du savoir, mais cette tentative, elle aussi, est illusoire. Elle rappelle les expériences autour du Knowledge Management des années 2000, qui visaient à compiler tout le savoir-faire humain.

Un risque politique immédiat

Un autre motif d’inquiétude touche aux dispositifs de sécurité. Comment faire de la désignation de cibles à partir d’une IA probabiliste ? Quel taux d’erreur opérationnel ? quels choix éthiques (optimiser les faux positifs ou les faux négatifs) ?

À Mexico, à la fin des années 2010, un grand fournisseur de sécurité européen a déployé un algorithme de reconnaissance de visages et de détection d’incidents dans le métro : très rapidement, les commissariats ont été submergés par le nombre de suspects arrêtés !

Les réglages d’un tel système sont cornéliens. Si le taux de faux positifs est trop élevé, on arrête de innocents et des personnes victimes de ressemblances. Si le taux de faux négatifs est trop élevé, le système ne sert à rien ! Or, les deux taux sont antagonistes : si on optimise l’un, on dégrade l’autre… C’est ce type de considération technique qui devrait être le premier frein à un déploiement de système automatisé de surveillance de masse !

Malheureusement, la CNIL, qui était extrêmement sévère, à juste titre, dans les années 2000 pour les déploiements scientifiques, n’a plus la main aujourd’hui, et c’est le politique qui décide du nombre de caméra et du niveau d’automatisation des détections et identifications (forcément partiellement fausse)…

Mais c’est du côté des technosolutionnistes (étatsuniens, israéliens…) que vient le plus gros danger, via des outils comme « Palantir Mavem System » pour le ciblage des frappes militaires ou «opérations spéciales », ou des logiciels espions comme Pegasus, qui intègrent évidemment de plus en plus d’IA et d’agent autonomes.

Palantir, menace emblématique

S’où vient Palantir ? pour comprendre, il faut faire un petit historique du Renseignement. Il est évidemment d’abord humain, jusque dans les années 1920. Puis avec le développement du spectre électromagnétique (EM) des ondes radio, les écoutes téléphoniques et EM se sont fortement développées. Le programme Echelon aux USA, vers 1995, était emblématique de l’après-chute du mur de Berlin, avec un quasi-monopole des technologies américaines. Le traumatisme du 11 septembre 2001 (essentiellement dû à l’échec du renseignement humain, et à l’incapacité de recouper des informations pourtant existantes) a conduit le complexe militaro-industriel (CMI) américain à chercher des solutions technologiques du côté de la Silicon Valley et de ses innovations.

En 2004, Peter Thiel et son acolyte Alex Karp fondent la société Palantir Technologies, spécialisée en Big Data. Dès les années 2012, on peut voir dans les salons spécialisés des démonstrations impressionnantes de surveillance sémantique du Web (alertes sur mots clefs, reliés aux identifiants informatiques des individus) ou d’analyses de comportements humains en milieu ouvert (outil de renseignement puissant). Tout cela avec un projet politique et idéologique toujours plus affiché. Nous sommes donc prévenus…

Du côté de l’Europe et surtout de la France, la société ChapsVision a été développée, à partir de 2018 pour monter une alternative industrielle à Palantir pour les applications sécurisées de fusion massive de données et de « Big data », les grands groupes de sécurité, de défense et d’aéronautique étant, par défaut, « obligés » d’utiliser les services de Palantir, d’Amazon Web Service ou de Microsoft pour gérer les très grandes bases de données sécurisées de ces domaines pourtant régaliens ! La crise vient de se focaliser très récemment sur le choix de la DGSI de renouveler son contrat avec Palantir mais, les Allemands ayant choisi le français ChapsVision contre Palantir, la situation devenait politiquement intenable !

Les alternatives aux MAGA / GAFAM

Elles peuvent venir de trois sources.

La première est celle des logiciels Open Source et modèles universitaires ouverts (bases de données, bases d’apprentissages certifiées…). Sous pression des problèmes de souveraineté numérique et de cybersécurité (révélation des « portes dérobées » et des mouchards par Edward Snowden, espionnage par les logiciels israéliens de Pegasus…), les États et leurs administrations quittent progressivement la tutelle GAFAM (dont le fameux Windows de Microsoft), pour revenir vers Linux et les systèmes d’exploitation Open Source.

Une deuxième source pourrait être constituée par les modèles européens – mais ceux-ci restent à créer !

En revanche, les modèles chinois sont intéressants. D’abord, Ils ne doivent rien aux USA, les Chinois étaient sous embargo. Ils n’ont donc pas copié ; ils ont trouvé, sous contrainte, des solutions plus frugales et un modèle économique plus ouvert et non licencié. Ensuite, ils sont au moins au même niveau que les meilleurs LLM américains, sauf qu’ils consomment nettement moins et sont gratuits (open source et base d’apprentissage partagée).

Ainsi, l’histoire récente du développement chinois en logiciels et en infrastructures informatiques débouche aujourd’hui sur un rattrapage complet (voire un dépassement ?) des outils américains de l’IA et du traitement massif de données. Cette histoire est d’autant plus paradoxale (en apparence) et étonnante que la Chine est sous embargo depuis la fin du mandat d’Obama… Comme si cela avait dopé la stratégie chinoise en matière de filière industrielle du numérique (le symétrique n’est pas vrai en Europe). Toujours est-il qu’en moins de 15 ans, les Chinois sont passé du statut d’« industriel de copie » à celui de leader dans l’IA frugale et open source, et ont également largement comblé leurs retards en matière de composants (mémoires, processeurs, machines à graver…) dans la mesure où ils ont globalement dépassé l’Europe dans ces domaines d’équipements électroniques.

Le modèle économique proposé par la Chine pour sa filière numérique (quasi-complète, nous l’avons vu) est à l’opposé de celui des USA sous mandat Trump. En effet, il consiste en un système sans licences, ouvert aux universitaires, alors que le complexe militaro-industriel américain, sous l’égide des Elon Musk et Peter Thiel, ferme complètement aux étrangers les applications de type cybersécurité (utilisation d’IA avancées – comme Fable 5 ou Mythos – pour analyser les failles cyber d’un système donné).

Mais le mieux serait de ne dépendre ni des USA, ni de la Chine. Pour cela, il faut développer une filière complète du numérique en Europe, depuis les composants de base, en passant par les infrastructures, jusqu’aux serveurs et aux bases de données indépendantes (académiques et universitaires) et enfin à l’IA et la cyber.

Il conviendrait de partir de l’existant – ST Micro, SOITEC, LETI CEA, ASML, Infineon, ATOS, Dassault System, OVH Cloud, Cap Gemini, Mistral AI… puis de développer des solutions alternatives (Hilton sur les verres de spins, spintroniques avec CNRS / Thales, architectures distribuées…) pour contourner les goulots d’étranglement de calculs et d’énergie.

[1] « l’information, c’est l’information, elle n’est ni matière, ni énergie, Aucun matérialisme qui ne reconnaît pas ce fait ne peut survivre aujourd’hui « , Norbert Wiener, Cybernetics or Control and Communication in the Animal and the Machine, Paris, Cambridge (Mass.) et New York, Hermann & Cie Éditeurs, The Technology Press et John Wiley & Sons Inc., 1948, p. 155.

[2] Il convient cependant de noter que le problème de l’arrêt des calculs n’est toujours pas résolu : on ne peut jamais savoir quand un programme se termine, et s’il va se terminer.