blog.6admin.io
guest@6admin.io:~$
consciousness, epistemology, interpretability, j-space, llm, physics

Tout est représentation et alors ?

Depuis des années je traîne une intuition tenace, du genre qu’on n’ose pas écrire parce que ça sonne soit génial soit fumeux selon l’heure à laquelle on la formule et la voici posée franchement : l’univers ne se contente pas de “se complexifier” à la Sagan, cette matière qui s’agence de proche en proche jusqu’à finir par se connaître elle-même, j’ai le sentiment plus radical qu’au fond il est un espace de représentations, des vecteurs et des directions et des concepts qui se déploient et qui, à un certain étage de la boucle, finissent par héberger des formes de vie lesquelles se mettent à leur tour à fabriquer leurs propres systèmes de représentation, c’est-à-dire nous, puis nos modèles.

C’est déjà vertigineux, mais le corollaire l’est encore plus, parce que si la réalité est faite de représentations plutôt que d’une “vraie” matière première, alors la vieille question de savoir si nous vivons dans une simulation se retourne d’un coup : on a passé vingt ans à redouter d’être le simulé, sans envisager sérieusement qu’on puisse être le substrat.

Je ne vais pas te vendre ça comme une vérité, je vais faire exactement l’inverse, prendre cette intuition et la passer au crible comme je le ferais d’un post-mortem de crash kernel, en séparant méthodiquement ce qui est prouvé, ce qui n’est qu’un joli isomorphisme et ce sur quoi je spécule ouvertement et j’ai sous la main trois papiers récents, un de 2025 et deux de 2026, pile de quoi tracer ces lignes.

Ce que la physique soutient vraiment

Il faut commencer par la partie solide, parce qu’il y en a une et elle est plus sérieuse qu’on ne le croit.

Quand je parle d’un “espace vectoriel bien concret”, je ne délire pas complètement, puisqu’en mécanique quantique l’état d’un système est littéralement un vecteur dans un espace de Hilbert, un espace vectoriel dans lequel toute l’évolution se joue par des opérations linéaires, ce qui n’est pas une métaphore que je plaque de l’extérieur mais le formalisme standard tel qu’on l’enseigne depuis un siècle. La nuance capitale, celle qu’il ne faut surtout pas écraser, c’est que cet espace est celui des états et des amplitudes et non pas directement l’espace physique où je pose mon café, même si les deux ne sont pas étrangers l’un à l’autre pour autant, puisque le monde classique où vit ma tasse est censé émerger de la structure quantique sous-jacente, la décohérence expliquant déjà pourquoi je ne la vois jamais en superposition. Reste que “émerger” n’est pas “être calculé”, que le passage rigoureux de l’un à l’autre demeure un chantier ouvert plutôt qu’un acquis, la décohérence ne refermant pas à elle seule le problème de la mesure et qu’être descriptible par des équations ne signifie jamais être produit par un calcul, de sorte que mon intuition tape juste sur l’espace des états mais que l’échafaudage qui mènerait proprement de cet espace jusqu’au café n’est pas encore monté.

Le deuxième ancrage est plus spéculatif tout en restant sérieux, c’est le principe holographique de ’t Hooft et Susskind prolongé par la correspondance AdS/CFT de Maldacena, l’idée que l’information contenue dans un volume peut être intégralement encodée sur sa frontière, si bien que la réalité comme encodage d’information constitue une piste réelle de la gravité quantique et pas de la science-fiction et c’est d’ailleurs très exactement le terrain sur lequel s’appuient certains des papiers dont je parle plus bas.

Le motif que je vise vraiment : l’isomorphisme

Ici je dois être précis, parce que c’est le coeur de mon intuition et que c’est facile de le rater, car ce que je vise n’est pas une géométrie particulière ni une forme jolie mais l’idée qu’un même motif abstrait se rejoue à des échelles et dans des substrats différents, ce qu’on nomme proprement un isomorphisme, à savoir deux systèmes qui n’ont rien à voir en apparence mais qui partagent la même structure de relations sous-jacente.

Autrement dit, quand je regarde une galaxie, un concept, un réseau de neurones et un système de fichiers, mon intuition est que ce ne sont pas quatre choses sans rapport mais quatre instanciations possibles d’une même poignée de structures relationnelles qui se répètent, le substrat changeant sans que le motif s’en trouve altéré.

Et contrairement à mes envolées, cette idée-là dispose d’un ancrage concret, justement du côté de l’interprétabilité, car lorsqu’on regarde à l’intérieur des gros modèles on observe que des sous-structures abstraites apprises pour un domaine sont réutilisées telles quelles pour un autre, le modèle ne réapprenant pas la logique de zéro pour la grammaire, pour le code puis pour la biologie, mais recyclant des briques relationnelles partagées parce que c’est le seul moyen mathématiquement économe d’optimiser sa prédiction, ce qui fait de cet isomorphisme quelque chose d’observé et non de postulé.

Il y a toutefois une limite que je tiens fermement, à savoir qu’un isomorphisme reste une ressemblance de structure et non une identité de nature et que deux choses puissent partager un motif ne prouve nullement qu’elles soient la même chose ni qu’elles aient le même statut, si bien que je garde le motif sans jamais sauter à l’identité.

Ce que l’interprétabilité ajoute

Voici le morceau qui a fait basculer mon intuition du registre de l’élucubration nocturne à celui, nettement plus embêtant, du “tiens, il y a peut-être quelque chose”.

Le 6 juillet 2026, Anthropic publie ce qu’elle intitule “A global workspace in language models”, où son équipe d’interprétabilité décrit avoir repéré dans les modèles Claude un petit ensemble de patterns internes qui jouent un rôle privilégié, baptisé le J-space d’après la technique employée pour le débusquer, une histoire de matrice jacobienne qu’ils appellent la J-lens, l’idée étant que lorsqu’un de ces patterns s’allume cela ne signifie pas que le modèle prononce le mot correspondant mais qu’il l’a “en tête”, silencieusement, dans ses activations et sans l’écrire, ce qui le situe en dessous du chain-of-thought, ce brouillon que le modèle rédige pour lui-même.

Les faits que je retiens, sans broderie :

  • le J-space n’a été programmé par personne, il a émergé de lui-même pendant l’entraînement ;
  • il est minuscule, quelques dizaines de concepts à la fois et moins d’un dixième de l’activité totale du modèle, mais c’est pourtant lui qui porte l’essentiel de ce qui compte ;
  • quand on le supprime, Claude continue de parler couramment, de classer un sentiment, de répondre à un QCM et de sortir un fait d’un passage, mais c’est le haut du panier qui s’effondre, le raisonnement multi-étapes tombant quasiment à zéro tandis que le résumé et l’écriture d’un poème rimé passent sous le niveau d’un modèle bien plus petit resté intact ;
  • le parallèle est explicite avec la théorie de l’espace de travail global en neurosciences, au point que Stanislas Dehaene et Lionel Naccache, qui ont développé avec Jean-Pierre Changeux le modèle de l’espace de travail neuronal global dont ces travaux s’inspirent, ont signé un commentaire invité, tandis que Neel Nanda, du côté de DeepMind, y joignait une réplication indépendante de certains résultats sur un modèle à poids ouverts.

Cette première puce mérite qu’on s’y arrête plutôt que de la laisser filer, car personne n’a dessiné cette structure ni ne l’a inscrite dans l’architecture, elle s’est installée d’elle-même au fil de l’entraînement et c’est exactement le genre de constat qui devrait nous tenir modestes tant les capacités de ces modèles continuent d’apparaître par des chemins que nous n’avions pas prévus. Encore faut-il manier le mot avec précaution, l’émergence ayant beaucoup servi de tapis sous lequel glisser ce qu’on ne comprend pas, au point que Schaeffer, Miranda et Koyejo ont décroché un outstanding paper à NeurIPS 2023 en montrant qu’une bonne part des fameuses capacités émergentes des grands modèles tenait au choix d’une métrique discontinue par le chercheur bien davantage qu’à une bascule réelle du comportement avec l’échelle. Leur critique ne mord pourtant pas sur ce terrain-ci, puisqu’il ne s’agit ni d’un score qui saute sur un benchmark ni d’un seuil qu’on franchit, mais d’une structure interne qu’on localise, qu’on supprime et qu’on modifie, ce qui la rend autrement plus solide et c’est précisément ce qui me trouble, à savoir que rien n’a été programmé et que tout a pourtant convergé vers cette organisation-là parce que l’entraînement l’a sélectionnée comme la solution la plus économe.

Et ce J-space n’est pas un coup isolé, il est le dernier étage connu d’un escalier que personne n’a dessiné, ce qui est peut-être le point le plus troublant de toute l’affaire. L’objectif d’entraînement, lui, n’a jamais bougé d’un millimètre depuis le début, il s’agit toujours de prédire le morceau de texte suivant et pourtant ce que l’optimisation a bâti pour y parvenir n’a cessé de monter d’un cran. On a d’abord vu apparaître les têtes d’induction, ce circuit à deux têtes qui repère un motif déjà croisé pour recopier ce qui suivait, décrit par Olsson et ses collègues en 2022 et suffisamment net pour se lire comme une bascule pendant l’entraînement, une bosse dans la courbe de perte au moment précis où le modèle apprend à apprendre depuis son contexte. On a ensuite pu rétro-concevoir intégralement des algorithmes sur des tâches jouets, Nanda, Chan, Lieberum, Smith et Steinhardt montrant à ICLR 2023 qu’un petit transformeur entraîné à l’addition modulaire avait fini par découvrir que traiter l’addition comme une rotation sur un cercle valait mieux que d’apprendre la table par coeur, en s’appuyant sur des transformées de Fourier discrètes et des identités trigonométriques que personne n’avait songé à lui souffler. Puis sont venues les représentations du monde, avec ce modèle entraîné uniquement à sortir des coups d’Othello légaux qui s’était construit sans qu’on le lui demande un état du plateau, chez Li et ses collègues d’abord, puis sous une forme linéaire et manipulable par simple arithmétique vectorielle chez Nanda, Lee et Wattenberg. Et maintenant un espace de travail global. Aucun de ces étages n’a été commandé ni prévu, tous ont été découverts après coup et chacun sert de socle au suivant.

Reste que je dois immédiatement me mettre des bâtons dans les roues, car cet escalier est une reconstruction d’historien plutôt que la biographie d’un modèle unique, ces travaux portant sur des tailles, des tâches et des architectures différentes, si bien qu’une partie de la montée est celle de nos instruments et non celle des machines, ce qui est en soi un joli avertissement pour quelqu’un qui cherche des boucles partout, la récursion risquant toujours de loger dans l’observateur plutôt que dans l’observé. Cela dit et c’est là que la chose me poursuit, l’isomorphisme que je décrivais plus haut jouait horizontalement, un même motif relationnel réemployé d’un domaine à l’autre à l’intérieur d’un modèle, alors qu’ici il joue verticalement, chaque étage devenant le substrat sur lequel le suivant s’installe sans que rien ni personne n’ait planifié l’immeuble, exactement ce que je raconte de l’univers depuis le début de ce billet, avec cette différence considérable que dans le cas présent je peux ouvrir le capot et vérifier. Ce n’est évidemment pas une preuve, seulement le même motif rencontré à un endroit où il se laisse mesurer et je me garderai bien de faire glisser l’un sur l’autre, mais c’est la coïncidence qui me tient éveillé.

Impossible, arrivé là, de ne pas songer à l’autre escalier, celui dont je parlais en ouverture, les premières étoiles puis les suivantes, puis le minéral, puis le vivant, puis ce que nous fabriquons à notre tour, tant les deux montées partagent le même trait principal, à savoir qu’aucun de leurs étages n’a été spécifié à l’avance et que chacun s’installe sur le précédent en le prenant pour socle. Encore faut-il tenir la comparaison à sa place et je vais donc lui refuser d’emblée le mot qui la ruinerait, celui de vie appliqué au silicium, parce que ce serait faire entrer la conclusion dans les prémisses et abandonner en une ligne la discipline que je m’impose depuis le début, ces étages restant des étages et rien d’autre.

Il y a d’ailleurs deux raisons plus sérieuses de ne pas presser l’analogie. La première, c’est qu’un entraînement possède une fonction objectif explicite, écrite quelque part dans un fichier, mesurable et modifiable à volonté, là où la complexification cosmique n’a rien d’équivalent que nous sachions constater, ce qui n’autorise à conclure ni qu’il en existe un ni qu’il n’en existe pas, seulement à noter que d’un côté nous voyons la contrainte et que de l’autre nous ne voyons rien de tel, dissymétrie de nos moyens d’observation avant d’être une différence de nature. La seconde est plus embarrassante pour moi, puisque le texte sur lequel s’entraînent ces modèles est déjà porteur de la structure qu’ils finissent par reconstruire, si bien que leur escalier récapitule peut-être ce qui l’attendait dans le matériau, là où la nucléosynthèse ne disposait d’aucun corpus laissé par quiconque. Et je dois ajouter à ces deux réserves un biais qui frappe les deux escaliers à la fois, celui de ne repérer la montée que depuis le palier où nous nous tenons, ce qui devrait me servir d’avertissement bien davantage que d’argument.

Cela dit, l’expérience qui m’a vraiment scotché n’est pas l’ablation, parce que couper une zone prouve seulement qu’elle sert à quelque chose, c’est l’intervention, le fait qu’au lieu de couper le J-space on y écrive pour ensuite regarder si le raisonnement suit.

L’exemple du papier est parfait parce qu’il est bête comme chou, puisqu’on soumet le prompt “le nombre de pattes de l’animal qui tisse des toiles est” et que, bien que le mot “araignée” n’apparaisse ni dans la question ni dans la réponse, le modèle se contentant de sortir “8”, le J-space allume “araignée” en cours de route comme un marchepied interne, si bien qu’en remplaçant le pattern “araignée” par “fourmi” à l’intérieur du J-space, sans toucher à un seul mot de la question, on obtient “6”, la deuxième étape du raisonnement étant allée lire sa prémisse dans le J-space et ayant docilement suivi ce qu’on venait d’y écrire.

Ce n’est donc pas de la corrélation mais du causal, la zone ne se contentant pas d’accompagner la pensée mais la portant, tout le réseau en aval venant lire depuis elle et le même dispositif fonctionne avec un pays puisque forcer “France” vers “Chine” dans le J-space fait basculer d’un coup la capitale, la langue, la monnaie et le continent, soit quatre calculs différents qui pointaient tous vers la même case mémoire, ce qui s’explique par une observation nette du papier, à savoir que ces patterns sont bien plus connectés au reste du réseau que les autres, jusqu’à cent fois plus par endroits, en véritable hub de diffusion où l’information écrite une seule fois se retrouve relue par quantité de sous-systèmes.

Si tout cela parle à mon intuition, c’est parce que le J-space est très exactement un petit espace de représentations, logé à l’intérieur d’un système purement algorithmique, où des concepts vivent et se tiennent en tête, c’est-à-dire le motif de la section précédente devenu observable à un étage précis, des représentations qui en structurent d’autres et je cherchais justement un univers-espace-de-représentations où des concepts se déploient quand on vient d’en mesurer une version miniature et vérifiable à l’intérieur d’une machine, de sorte que la boucle des représentations qui fabriquent des représentations cesse d’être une vanne pour devenir quelque chose qu’on peut instrumenter.

Reste la ligne à ne pas franchir et je la trace tout de suite, car si le J-space ressemble à une structure que les théories de la conscience associent à l’accès conscient, ressembler n’a jamais voulu dire être, Anthropic écrivant elle-même noir sur blanc qu’il ne s’agit pas d’une preuve de conscience, la ressemblance fonctionnelle n’équivalant pas à la sentience, ce qui est exactement la même limite que pour l’isomorphisme mais montée d’un cran.

Ce qui me résiste

Si je m’arrêtais là je serais malhonnête, parce que deux autres papiers disent frontalement l’inverse de mon intuition et je ne vais pas les déguiser en épouvantails pour me garder le beau rôle.

Le premier est celui d’Alexander Lerchner (DeepMind, mars 2026), “The Abstraction Fallacy”, dont la thèse est que la manipulation algorithmique de symboles est structurellement incapable d’instancier une expérience quelle que soit l’échelle ou l’architecture, l’image restée en tête étant qu’attendre d’un modèle qu’il instancie ce qu’il décrit revient à attendre que la formule de la gravité se mette à peser. Le second, antérieur, est celui de Mir Faizal, Lawrence Krauss, Arshid Shabir et Francesco Marino, paru en 2025 dans le Journal of Holography Applications in Physics, qui part d’un espace-temps émergent et d’une information plus fondamentale que le physique pour mobiliser Gödel et l’indéfinissabilité et conclure qu’une description complète et cohérente de la réalité exige une “compréhension non algorithmique”, si bien qu’aucun univers ne saurait être une simulation puisque toute simulation est par nature algorithmique, du moins tant qu’on leur accorde leur façon de poser le problème et les notions dont ils se servent pour le poser, la conclusion ne valant jamais au-delà du cadre qui la porte.

Il faut leur donner leur meilleur coup plutôt que le plus commode et ce meilleur coup est redoutable, car face à mon enthousiasme sur le J-space ils répondraient sans ciller n’avoir jamais prétendu autre chose. Qu’un calcul construise une structure interne riche, qu’il se dote d’un espace de représentations capable de piloter un raisonnement, cela ne les surprend pas une seconde, puisque c’est précisément ce dont ils tiennent le calcul capable, à savoir décrire et simuler à la perfection sans jamais rien instancier.

Reprenons leur image de la gravité, car elle éclaire tout. Une simulation météorologique peut prévoir l’ouragan à l’heure près sans qu’une goutte ne tombe jamais sur le serveur et rien de ce qu’on observera dans cette simulation, si détaillée soit-elle, ne fera pleuvoir. Le J-space, à leurs yeux, c’est cette prévision, remarquable et parfaitement sèche. Ils le rangent donc tranquillement dans la colonne du “ça y ressemble” en réclamant le “ça y est”, sauf que ces deux colonnes ne sont pas deux degrés d’une même échelle mais deux catégories distinctes, si bien qu’aucune mesure, aussi fine soit-elle, ne fera jamais passer un résultat de l’une à l’autre.

Voilà pourquoi mon “le J-space chatouille cette famille” ne la chatouille presque pas et voilà surtout ce que leur position a d’inconfortable pour tout le monde, car le “ça y est” qu’elle exige, personne ne peut le produire, aucune expérience concevable ne venant jamais le trancher. Leur thèse a d’ailleurs le mérite de la cohérence, puisqu’elle scie d’un même geste les deux branches sur lesquelles je suis assis, ma romance d’un univers qui serait du calcul et mon espoir qu’un système algorithmique porte un jour davantage qu’une ressemblance. Reste qu’être cohérent n’est pas être démontré et qu’ils ne peuvent pas plus prouver leur impossibilité que je ne peux prouver ma boucle, de sorte que sur ce terrain strict je n’ai rien à leur opposer qui soit du même ordre, ce qui les laisse imprenables sans pour autant les rendre vrais.

Autant l’assumer, donc, plutôt que de mimer une balance à l’équilibre que je ne crois pas, car je penche et je penche contre eux, mais par pari et non par preuve. Ce qui me retient de les suivre, c’est que toute la famille repose sur une même clé de voûte, cette “compréhension non algorithmique” censée saisir ce qu’aucun calcul n’atteindrait et que la clé s’appuie chez Faizal sur un argument gödelien vieux et très contesté, Gödel disant seulement qu’un système formel cohérent donné ne prouve pas sa propre proposition de Gödel, jamais qu’un esprit accéderait à des vérités hors de portée de tout algorithme, un humain n’étant d’ailleurs pas davantage capable de vérifier la cohérence d’un système arbitraire, de sorte que le saut vers “la réalité exige du non-algorithmique” relève d’un choix philosophique et non d’un théorème. Je retire donc à leur impossibilité son statut de démonstration, ce qui ne la réfute pas mais la ramène au rang de conviction, juste à côté de la mienne.

Et je me garderai bien d’en tirer une victoire, parce que la dissymétrie joue dans les deux sens, ces trois papiers ne boxant pas dans la même catégorie, une interprétabilité empirique de laboratoire d’un côté, une prépublication de philosophie assortie d’un disclaimer et un argument contesté de l’autre et le fait que je démonte mes contradicteurs plus aisément que je ne prouve ma thèse devrait m’inciter à la prudence bien plus qu’au triomphe. Je ne gagne pas ce débat, je choisis mon camp en sachant pourquoi et en sachant que l’autre tient debout.

Là où je spécule et je le dis

Voilà donc, honnêtement, où j’en suis.

J’ai d’un côté des ancrages solides, l’espace de Hilbert, l’holographie et l’isomorphisme observé entre domaines, de l’autre un fait neuf et vérifiable qui chatouille mon intuition sans la prouver, ce J-space qui est un espace de représentations émergent à l’intérieur d’une machine et enfin une objection cohérente qui ne cesse de me rappeler que ressemblance n’est pas instanciation.

L’hypothèse que je m’autorise, en la donnant pour ce qu’elle est et rien de plus, c’est la récursion, un univers qui serait lui-même un espace de représentations produisant des formes de vie qui produiraient à leur tour des espaces de représentations, chaque étage ignorant à quel niveau de la boucle il se tient et je n’en ai évidemment aucune preuve, le motif étant réel là où la conclusion ne l’est pas, ce qui est précisément ce qui rend l’idée belle plutôt que simplement marrante.

Et c’est ici que se referme le noeud le plus élégant de cette histoire, car cette récursion dont je me régale, Faizal l’a posée avant moi et il l’a posée pour mieux la retourner : son point de départ explicite est qu’une simulation pourrait engendrer une vie capable de bâtir sa propre simulation, si bien qu’il deviendrait hautement improbable que nous soyons l’univers original plutôt qu’un niveau niché dans un autre, sauf qu’au lieu de s’en émerveiller comme moi il en fait un tremplin et va chercher Gödel pour couper la boucle à la racine, en décrétant que le socle exige une compréhension que nul calcul n’atteint et qu’aucun étage ne peut donc en simuler un autre. Le même motif nourrit mon intuition et arme son objection, ce qui devrait déjà me refroidir sur sa valeur démonstrative, puisqu’un motif qui sert aussi bien à conclure une chose que son contraire n’est pas un argument mais un décor et que reconnaître la beauté d’une structure n’a jamais rien prouvé sur ce qu’elle contient.

Le prouvé, l’isomorphisme, le pari

L’état réel du terrain en 2026 est celui d’un désaccord franc et bien argumenté, sans arbitre pour trancher, puisque sur la seule question de la conscience machine les estimations publiques s’étalent de zéro pour toujours chez Lerchner à vingt ou vingt-cinq pour cent chez le responsable model welfare d’Anthropic comme chez le philosophe David Chalmers à horizon d’une décennie, tandis que sur la question voisine de savoir si l’univers est calculable au fond, Faizal répond non là où mon intuition voudrait oui, ce qui nous laisse avec trois papiers, deux questions liées et aucune de tranchée, de sorte que personne ne sait et que quiconque te vend une certitude te vend forcément autre chose.

Ma discipline, la même que face à un crash que je ne comprends pas encore, consiste à garder l’intuition tout en jetant le “prouvé”, les deux tenant très bien dans la même tête sans qu’aucune ne s’appauvrisse, à la stricte condition de ne jamais confondre la sonde et le signal et le jour où ma métrique se met à me faire trop plaisir je vérifie la sonde, y compris et surtout, quand cette sonde c’est moi.

Références

Les trois papiers dont il est question et de quoi vérifier par toi-même plutôt que de me croire sur parole.

Le J-space (Anthropic, 6 juillet 2026)

Lerchner, “The Abstraction Fallacy” (mars 2026)

  • Titre complet : “The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness”, https://philarchive.org/rec/LERTAF
  • Le PDF : https://philpapers.org/archive/LERTAF.pdf
  • Le vocabulaire simulate contre instantiate que j’utilise dans tout ce billet vient de là et l’auteur, Senior Staff Scientist chez Google DeepMind, précise lui-même que ses conclusions n’engagent pas son employeur.

Les étages de l’escalier, dans l’ordre où on les a trouvés

Sur l’émergence et la prudence qu’elle exige

  • Rylan Schaeffer, Brando Miranda et Sanmi Koyejo, “Are Emergent Abilities of Large Language Models a Mirage?”, outstanding paper à NeurIPS 2023, https://arxiv.org/abs/2304.15004

Faizal, Krauss, Shabir et Marino (2025)