« Le slop est le produit du capitalisme computationnel », rappelle la chercheuse Kate Crawford dans une tribune pour e-flux. Ces contenus générés par l’intelligence artificielle qui ne veulent rien dire, cet internet zombie, sont à la fois des déchets et le carburant de l’IA. Les images générées par l’IA ne s’intéressent pas à l’ordre des événements et ne ressemblent même pas à la réalité. « Le slop n’est pas le territoire : il l’étouffe simplement sous une substance synthétique ». L’information est inondée de déchets destinés au consommateur, créés par la transformation de la culture humaine en une réserve inépuisable de données. Les résultats synthétiques sont le produit de la machinerie IA et sont ensuite excrétés puis rapidement diffusés en ligne. Ils sont ensuite réingérés, et le cycle continue.
Pour Crawford, ce qu’elle appelle « les images métaboliques » sont la dernière étape d’une longue évolution des médias industriels qu’elle compare avec l’évolution des déchets réels. Alors que dans les sociétés préindustrielles, les déchets étaient recyclés, avec l’essor des villes et l’industrialisation, ils se sont accumulés sous forme de pollution. Le sociologue John Bellamy Foster a plus tard qualifié ce phénomène de « rupture métabolique » pour désigner la perturbation systémique des processus écologiques et métaboliques par la production capitaliste. L’évolution vers une IA générative massive et gourmande en données est à l’origine d’une nouvelle rupture métabolique qui affecte l’environnement, mais également le travail, la culture, la science… et la perception elle-même, rappelle Crawford. Les LLM sont en train de supplanter les sources d’information en ligne, cannibalisant les marchés de la création de contenu. « La marée noire va monter », prédit la chercheuse, nous confrontant à la submersion par le slop.
De nombreuses études ont montré que les systèmes d’IA dégénèrent lorsqu’ils se nourrissent trop de leurs propres productions – un phénomène d’effondrement que les chercheurs appellent MAD (La maladie du modèle autophage). En d’autres termes, l’IA s’autodétruira, puis s’effondrera progressivement dans le non-sens et le bruit.
Crawford revient ensuite sur les volumes de données et la puissance nécessaire pour faire tourner ces « parcs d’engraissements » culturels, dénonçant l’accaparement sans fin de tous les contenus disponibles et rappelant que cette digestion des contenus est extrêmement consommatrice d’énergie et de ressources. Les estimations de la quantité d’électricité nécessaire à l’IA générative sont désormais couramment exprimées en unités de mesure d’un État-nation : l’Agence internationale de l’énergie estime que d’ici 2030, l’IA consommera autant d’électricité que le Japon aujourd’hui. « Cette demande industrielle croissante suit la logique récursive du développement de l’IA elle-même : des modèles plus grands exigent davantage de données, ce qui permet des modèles encore plus grands, produisant des résultats à plus haute résolution, nécessitant davantage de puissance de calcul, consommant davantage d’énergie » – et ainsi de suite, dans une boucle sans fin. Les projets d’usines à IA se multiplient au détriment des ressources énergétiques et aquifères destinées aux populations. Ces déploiements engendrent un nouveau « supercycle » des minéraux critiques qui accélère la dégradation de l’environnement.
Mais la « fracturation métabolique » ne décime pas que nos écosystèmes, elle transforme l’environnement informationnel. Les producteurs de contenus synthétiques atteignent des taux d’engagements supérieurs aux influenceurs humains qui semblent de plus en plus indiscernables des humains, comme l’était, dès 2018, l’une des premières influenceuses synthétiques, Lil Miquela. Les équipes de création de contenu déploient des outils d’IA pour générer des centaines de publications, d’images et de vidéos potentielles, puis utilisent l’analyse de l’engagement pour identifier les combinaisons les plus addictives afin de les optimiser. L’industrialisation du contenu viral s’auto-accélère. Les fonds destinés aux créateurs de contenus se transforment en subvention du seul contenu synthétique, à l’image de TikTok ou Meta qui sponsorisent les usines à slops en distribuant des revenus du fait de leur viralité, comme des lapins sautant sans fin sur des trampolines.
Pour la chercheuse, la géographie mondiale de la production de contenu se transforme avec la montée des contenus synthétiques, qui vient exploiter la division internationale du travail. « Les fermes à contenu des régions où le coût de la main-d’œuvre est plus faible déploient des outils d’IA pour générer des milliers de publications synthétiques sur les réseaux sociaux, d’articles de presse et de critiques de produits ciblant les marchés publicitaires à plus forte valeur ajoutée des pays riches ». « Les revenus publicitaires des économies développées sont redirigés vers les régions à faibles revenus ».
« L’exploitation des déchets d’IA finira-t-elle par épuiser le sol des espaces en ligne ? Les gens les fuiront-ils, les toléreront-ils, voire les accueilleront-ils favorablement ? En viendrons-nous finalement à les aimer ? » Pour l’instant, bien souvent, ils semblent l’emporter dans des machineries qui sont faites pour les optimiser.
« L’IA slop n’est pas une aberration, mais une caractéristique inévitable du fonctionnement des médias génératifs ». Cette rupture métabolique promet de multiples effondrements, prédit la chercheuse : effondrement des modèles, effondrement écologique et effondrement cognitif s’entrecroisent dans une forme de polycrise.
« La question n’est pas de savoir si l’économie de l’IA slop s’autodétruira, mais quand ». Cette instabilité ouvre la voie à ce que la chercheuse désigne sous le nom d’organisation culturelle « post-synthétique » : c’est-à-dire un nouveau rapport culturel. Pour s’en extraire, il va nous falloir exiger une transformation radicale des dispositifs techniques et économiques existants. Non pas un retour nostalgique aux formes culturelles pré-numériques, mais des pratiques adaptées à notre époque écologique et sociale. La question qui se pose est de savoir si nous choisirons d’adopter le gaspillage ou de cultiver le désir d’autre chose : des formes culturelles allant au-delà de la reproduction synthétique, orientées vers l’épanouissement plutôt que vers l’extraction ; vers la régénération écologique plutôt que vers un état hypermétabolique d’épuisement et de dégradation.
