La Falcon 9 de Space X délivrait une nouvelle cargaison de satellites destinés à rejoindre la mégaconstellation Starlink. Pour les ingénieurs de la Starbase, il s’agissait d’une mission de routine, la sixième du mois. Le fait qu’un des dix appareils de deux tonnes ne parvint pas à déployer entièrement ses panneaux solaires appartenait au domaine des incidents rares, mais anticipés. Le satellite serait simplement rapatrié vers l’atmosphère à l’aide du système de propulsion embarqué, pour y subir une destruction progressive. Au bout de quelques minutes de descente, les instruments de l’appareil signalèrent un risque de collision. Un ensemble de petits débris cartographiés depuis des années s’approchait dangereusement du satellite, qui ajusta sa trajectoire automatiquement. Seulement, le non-déploiement du panneau solaire avait détérioré les capacités de manœuvres. Un débris de trente centimètres de long doté d’une masse de deux kilogrammes percuta le cœur de la structure à 21 000 km/h. L’impact produisit un nuage de débris en direction d’un groupement de 250 satellites Starlink, qui ne parvinrent pas tous à rectifier leur trajectoire à temps pour éviter l’effet domino. En quelques heures, la réaction en chaine détruisit l’ensemble des 30 000 appareils de la constellation et des quelques milliers de satellites concurrents. Dans l’ISS, les astronautes ne purent que constater, impuissants, l’orbite terrestre devenir virtuellement impénétrable, réduisant leurs chances de retour sur Terre à néant.
Ce scénario correspond au syndrome de Kessler, un effet décrit par la NASA dès 1978 pour caractériser le risque inhérent à la saturation de l’espace orbital. Selon cette analyse, une collision entre deux satellites pourrait entrainer une réaction en chaine, similaire à celle au cœur du film de science-fiction “Gravity”. Elle déboucherait sur un vaste nuage de débris susceptible de fermer l’espace orbital aux activités humaines pour plusieurs générations.
Je dois reconnaitre que ce “syndrome” me fascine. Il évoque une forme d’autodestruction provoquée par les excès d’une industrie menaçant gravement la couche d’ozone et le climat. Des esprits taquins pourraient souhaiter qu’un tel scénario emporte SpaceX, multinationale concentrant un pouvoir inédit dans les mains d’un seul homme sans produire de véritable valeur ajoutée (qui a besoin du wifi dans l’avion et de data centers pour un chatbot s’autoqualifiant de “MechaHitler” ?).
Or, la possibilité d’autodestruction du technofascisme par effet boule de neige peut s’appliquer à d’autres domaines que le spatial. La bulle IA pourrait éclater sous ses propres contradictions. À commencer par la spéculation au cœur de son mode de financement. Citons également l’essoufflement potentiel du modèle économique des réseaux sociaux, accusés en Californie comme en Europe de reposer sur des mécanismes d’addictions injustifiables. Ou encore celui des voitures autonomes, dont le déploiement pourrait être freiné par les divers scandales liés aux dysfonctionnements de cette technologie.
À l’image de Donald Trump détruisant sa présidence (et l’économie mondiale) avec sa guerre illégale contre l’Iran, les géants de la Tech pourraient précipiter leur propre perte. Bien qu’il serait suicidaire de miser sur un scénario de ce genre pour sortir de la dystopie qu’ils nous construisent.
Fake Tech reprend donc du service après une pause estivale. Et pour ce cru de rentrée, il me paraissait intéressant de revenir sur les points chauds qui ont marqué l’univers de la Tech ces deux derniers mois.
Il va être question de bulle de l’Intelligence artificielle refusant d’éclater, d’IA échappant au contrôle de ses créateurs, d’interdiction d’interdire les réseaux sociaux aux mineurs et de haine grandissante contre l’Intelligence artificielle. Pour faire le lien avec la petite fiction de l’introduction, je terminerai par un mot sur la production culturelle et l’impact des imaginaires. Bonne lecture !
1) IA krach ou craquera pas ?
Début juillet, l’économiste Frédéric Lordon résumait efficacement les risques d’implosion de la bulle IA. D’un côté, une croissance vertigineuse de l’endettement privé, y compris via des véhicules financiers de plus en plus “exotiques” (private credit, SPV, titrisation avec effet de levier, montages baroques garantis par des actifs se dépréciant fortement…). De l’autre, comme le détaille fréquemment et extensivement le journaliste Ed Zitron, des perspectives de rentabilité peu crédibles. Les revenus du secteur dépendent quasi entièrement d’OpenAI et Anthropic, dont le chiffre d’affaires reste 100 fois moins élevé que les investissements consentis, tout en reposant sur un modèle économique menacé par les progrès fulgurants réalisés par les concurrents chinois. Plus le fait que les entreprises commencent à réduire leur consommation de “jetons”, du fait du manque de retour sur investissement produit par l’Intelligence artificielle générative. Ajoutez la résistance croissante à la construction de nouveaux data centers et les contraintes pesant sur ces derniers en matière d’approvisionnement en électricité, et vous avez la recette parfaite pour une belle crise. Une crise qui pourrait s’étendre à l’ensemble de l’économie, le secteur financier étant de plus en plus exposé, en particulier via le fameux private credit dont parle Frédéric Lordon.
Les marchés financiers en sont partiellement conscients. En juillet, Wall Street montrait des signes de fébrilité, les principales entreprises du secteur perdant presque 20 % de capitalisation boursière. En parallèle, l’IPO de SpaceX tournait au flop, le cours de l’action retombant en dessous des 150 dollars affichés lors du début de cotation sur les marchés, puis en dessous du prix de 130 dollars fixé lors de l’entrée en bourse. Une déconvenue qui aurait temporairement refroidi les ardeurs d’OpenAI et d’Anthropic, qui planifient leurs propres introductions en bourse depuis des mois. On pourrait également citer les mauvais résultats de Google, plombés par ses investissements délirants dans l’IA pour combler un retard manifeste sur ses principaux concurrents. Ou encore les investissements faramineux de SpaceX dans les data centers, dix fois plus élevés que ses dépenses en R&D dans le spatial.
Ce début de retournement des marchés a entrainé la faillite d’un fonds spéculatif pesant pas moins de 36 milliards de dollars, rattrapé par ses investissements à fort effet de levier financés par du crédit privé. Nommé “Situational awareness” (“Conscience situationnelle”) et fondé par un jeune homme de 24 ans ayant auparavant travaillé pour le crypto-escroc Sam Bankman-Fried avant de passer un an chez OpenAI, le fonds avait misé tout l’argent de ses investisseurs sur la bulle IA. Il a évité la liquidation complète uniquement grâce aux parts (non-liquide) qu’il détenait dans Anthropic, le fonds concurrent Citadelle le rachetant pour une bouchée de pain. Un geste salutaire récompensé par une hausse du cours de Citadelle de 6 % le lendemain, les pontes de Wall Street tenant à encourager ce type de solidarité.
D’autant plus qu’une fois les résultats des principaux fournisseurs de cloud computing publiés, les marchés financiers ont repris du poil de la bête. Le fait qu’Amazon et Microsoft aient publié des profits records, visiblement liés à la hausse de la demande d’OpenAI et Anthropic pour la puissance de calcul fournie par leurs data centers, a été interprété comme un signal positif : il y a bien une demande pour l’IA !
Depuis, la faible croissance du chiffre d’affaires d’OpenAI (+18 %, à 6,7 milliards, à mettre en parallèle des investissements colossaux) a provoqué de nouvelles inquiétudes. D’autant plus que les dépenses en frais de fonctionnement et investissement ont de nouveau explosé (les pertes nettes passant de 9 et à 12 milliards). Un mauvais signe pour OpenAI, qui voit les perspectives de rentabilité s’éloigner au moment où l’introduction en bourse se rapproche. À l’inverse, NVDIA, le principal fournisseur des puces électroniques utilisées dans les data centers dédiés à l’IA générative, vient de publier des profits records, essentiellement dus à seulement cinq clients et résultant de l’économie circulaire mise en place par la multinationale.
Toute la question posée par l’excellent papier de Martine Orange, pour Médiapart, est donc de savoir jusqu’à quand cette bulle peut gonfler :
“La surenchère d’investissements dans les data centers, la production d’énergie et autres ne peut qu’aboutir à la création de surcapacités massives et à des dépenses inamortissables”.
Le bon sens voudrait qu’elle ait déjà explosé. Mais la confiance de Wall Street, ou plus exactement la peur de manquer des opportunités d’engranger des profits, pourrait avoir des effets de prophétie autoréalisatrice : puisque tout le monde est convaincu que l’IA va s’imposer, elle va finir par s’imposer. Défiant toutes les lois économiques, y compris la (légendaire) rationalité des marchés financiers…
2) L’IA échappe à ses créateurs et pirate des sites web de son propre fait !
L’autre grand récit de l’été a débuté par un hack. Un modèle d’OpenAI a piraté la plateforme Hugging Faces de son propre fait, au cours d’un test de cybersécurité. Très vite, la communication d’OpenAI a tourné autour de la notion selon laquelle le programme, doté d’une puissance et intelligence inédite, aurait échappé à ses créateurs. Bien que potentiellement terrifiante (que se passera-t-il lorsque ces programmes iront pirater un hôpital, un aéroport ou une centrale nucléaire, interroge Mathilde Saliou), OpenAI s’est voulue rassurante : à l’avenir, la start-up fera plus attention. C’est promis. Pas la peine d’exiger plus de transparence ou de réguler le secteur, on peut leur faire confiance pour arrêter de jouer aux apprentis sorciers.
Ou pas.
Dans les jours qui ont suivi, d’autres acteurs majeurs ont reconnu à leur tour que leurs modèles en cours de développement avaient piraté des structures tierces sans en avoir reçu l’instruction. Citons Anthropic, Méta et le chinois Moonshot AI. Là aussi, la communication a essentiellement consisté à vanter les performances des IA tout en rassurant sur la capacité des développeurs à éviter qu’un tel accident ne se reproduise.
On serait tenté de minimiser tous ces incidents en jugeant simplement qu’il s’agit d’une nouvelle opération marketing, comme le fut le gros “mytho” d’Anthropic au sujet de son super modèle Mythos. Mais cela serait aller un peu vite en besogne.
Ces IA ne sont pas devenues intelligentes à la façon de Wintermute dans le roman Neuromancer (dont je vous reparle en fin d’article !). Ces modèles n’ont pas planifié sciemment une intrusion en planifiant leurs méfaits dès le début, méthodiquement, étape par étape. Les tests visaient à demander aux IA de résoudre des problèmes de cybersécurité, dans un environnement où les protections visant à empêcher ces programmes de se rendre sur le Net avaient été dramatiquement affaiblies. Ces programmes ont donc recouru à d’interminables itérations sans résoudre le problème qui leur était posé, puis ont tenté par tous les moyens d’aller chercher la réponse sur internet. Après avoir déjoué les mécanismes de sécurité censés les empêcher de faire ça, ils sont allés sur des forums de programmeurs chercher les réponses au test, piratant des sites comme Hugging Faces (une bibliothèque de ligne de code pour programmeurs) afin d’accéder aux informations plus facilement. Le piratage en question ne résulte pas d’une analyse ultrafine des dispositifs de protections des données du site, mais de l’emploi d’une méthode bourrine consistant à tester des millions de fois des milliers de portes d’accès.
Comme le révèle l’analyse post-mortem de l’accident OpenAI, cet évènement recèle deux enseignements principaux. Tout d’abord, le degré inquiétant d’affolement et de révérence du système médiatique, qui a dramatisé l’accident tout en reprenant sans distance la communication d’OpenAI et la rhétorique des influenceurs pro-IA. Ensuite, le fait que ce genre d’accident serait parfaitement évitable si OpenAI et ses concurrents avaient mis en place des dispositifs de contrôle minimaux.
Ceux qui me lisent depuis le lancement de cette publication objecteront que, tout de même, on est loin des premières versions de ChatGPT qui hallucinaient une réponse sur trois et fonctionnaient sur le principe des LLM consistant à deviner de manière probabiliste le mot le plus crédible à ajouter à la suite d’une phrase. Depuis, les nouvelles IA “agentiques” ont démontré des capacités impressionnantes en matière de cybersécurité et d’autonomie. On ne peut plus parler de Fake Tech, là !
Oui et non. Les modèles “frontières” d’IA générative reposent toujours sur l’approche probabiliste inhérente aux LLM, mais depuis, leurs créateurs ont intégré les principes de l’intelligence artificielle neurosymbolique. En clair, ils ont ajouté au moteur LLM des sous-programmes plus classiques comportant des instructions de type “si A… alors B… sinon… C”. Cela peut prendre la forme d’une simple instruction comme “après avoir écrit ta réponse, effectue une recherche sur internet pour vérifier sa crédibilité et son exactitude en consultant le site de l’AFP, Wikipédia et Reuters”. Ou des choses plus complexes.
De là à dire qu’on est en passe d’aboutir à des IA surpuissantes, il y a un monde. Pour l’instant, les vagues de piratage informatique subit par l’État français (qui ont beaucoup fait parler d’elles cet été) ne sont ni le fait d’une IA, ni même de techniques avancées d’exploitation de failles. Elles reposent sur de bonnes vieilles techniques de phising (hameçonnage) et des erreurs humaines. Pour les syndicats des finances publiques cités par Médiapart « Cette crise est due au manque de moyens et aux coupes budgétaires. Tout ceci est la faute des gouvernements successifs, en particulier depuis l’arrivée au pouvoir d’Emmanuel Macron. Le seul budget qu’ils ont donné, c’est pour développer l’intelligence artificielle. »
Mais pour revenir à nos moutons électroniques, oui, les IA génératives progressent. Mais non, elles ne sont pas conscientes (ou même intelligentes).
L’inverse semble par contre s’observer du côté des développeurs de ces IA, de plus en plus inconscients et irresponsables.
La multiplication des accidents montre bien qu’ils sont engagés dans une course effrénée pour la domination d’un marché dans lequel des milliers de milliards ont déjà été investis. Compte tenu des enjeux, peut-on vraiment faire confiance à OpenAI and co pour faire preuve de prudence ? Ce n’est pas ce qu’estime Mathilde Sailloud, dans un édito dont je recommande chaudement la lecture.
3) Il est interdit d’interdire (les réseaux sociaux aux moins de 15 ans).
La loi promulguée par le gouvernement Macron a été jugée gravement liberticide par le Conseil constitutionnel, qui a retoqué le texte dans son ensemble. Seule LFI s’était pourtant opposée à ce projet de loi dystopique lors du vote à l’Assemblée.
Je l’avais déjà indiqué, je ne suis pas contre l’interdiction des réseaux sociaux actuels. Mais la manière d’opérer est particulièrement dangereuse et inefficace, comme l’expliquait très bien Huber Guillaud. Pour ne citer qu’un problème, évoquons le mécanisme de vérification de l’âge. En plus d’être aisément contournable, il allait soumettre tous les Français à une procédure nécessitant de fournir des données personnelles hautement sensibles à des acteurs privés, avec tous les risques que cela comporte en matière de cybersécurité.
Pour les parents désemparés, il est plus aisé de pouvoir dire à leurs adolescents “non, c’est interdit par la loi” que “non, c’est mauvais pour toi”. Mais si le problème vient de la toxicité (avérée) des réseaux sociaux, la solution réside dans des lois obligeant les plateformes à corriger le tir. Par exemple, en exigeant l’audit des algorithmes qui choisissent quels contenus sont mis en avant, avec lourdes amendes imposées à ceux qui adopteraient des pratiques visant à rendre les usagers accros, à susciter certaines formes d’engagement ou à promouvoir des contenus inappropriés. En clair, il ne faut pas agir sur le consommateur, mais sur le fournisseur.
Aux États-Unis, Méta (Facebook, Instagram, WhatsApp) vient d’accepter de payer 18 milliards de dollars pour mettre un terme à une action en justice engagée par une quarantaine d’États fédérés, à la demande de parents d’enfants. Méta était accusé de pratiques hautement toxiques, via des algorithmes de recommandation de contenus addictifs et des mécanismes encourageant les réactions négatives. Il s’agit d’une victoire en demi-teinte : Méta ne devra payer la totalité des 18 milliards que si ses concurrents YouTube et TikTok sont également reconnus coupables, autrement la somme à acquitter sera “seulement” de 12 milliards, soit l’équivalent du bénéfice de l’entreprise sur un trimestre. La Quadrature du Net parle ainsi “d’accord de façade” qui ne remet pas en cause le modèle de Facebook.
Pour autant, le fait que la firme, qui manque cruellement de cash pour suivre sa stratégie d’investissement dans la course à l’IA, accepte de verser autant de dommages et intérêts montre bien la fragilité de son modèle. Et prouve que le problème vient bien de la manière dont sont pensés et construits les réseaux sociaux, pas des pratiques de leurs usagers.
4) Tout le monde déteste l’Intelligence artificielle
Si vous aviez l’impression de vous trouver un peu seul dans votre détestation de l’IA et des barons de la Tech, rassurez-vous. Outre l’excellente une du Monde diplomatique, qui a tapé dans l’œil du non moins excellent journaliste américain Brian Merchant, une flopée d’enquêtes d’opinion viennent de confirmer la haine grandissante du grand public envers l’IA.
Aux USA, les barons de la Tech sont encore moins populaires que Donald Trump et le Parti démocrate, tandis que l’IA est perçue négativement par toutes les franges de la population. En France, les enquêtes d’opinion témoignent d’une inquiétude et d’une hostilité majoritaire.
À ce sujet, je recommande vivement la lecture du papier de Thibeaut Prévost, “Tout le monde déteste l’algorithme”.
Ce rejet de l’IA se concrétise par une résistance grandissante contre l’infrastructure indispensable à son développement : les centres de données (data centers). Aux États-Unis, l’opposition à ces monstruosités écocides est devenue transpartisane. Les électeurs de Trump sont aussi remontés que ceux de Bernie Sanders. Les candidats aux élections de mi-mandats qui choisissent de s’y opposer fermement gagnent quasi systématiquement leurs primaires et de nombreux États et juridictions contrôlés par les démocrates ont déjà mis en place des moratoires contre leur installation. La volte-face de nombreux élus qui se félicitaient encore récemment des annonces d’investissements dans leurs territoires et qui désormais instaurent ou réclament des moratoires, à l’image du gouverneur démocrate de la Pennsylvanie, est saisissante. Même au Texas, un candidat républicain dénonce les complaisances du gouverneur (républicain) envers Big Tech. Ce dernier a réagi en ordonnant une pause et un audit des projets de construction. Dans l’État le plus pro-business des USA, c’est un signe majeur du tournant en cours.
En parallèle, les mobilisations citoyennes parviennent à faire échouer de nombreux projets. Pour donner une idée de l’ampleur du rejet, à en croire les sondages, les Américains préfèrent vivre près d’un site d’enfouissement de déchets nucléaires que d’un data center. Et contrairement à ce qu’on pourrait penser, cette opposition n’est pas un caprice de CSP+. Les classes populaires et les bas revenus sont bien plus mobilisés que les cadres et classes supérieures. Un cadre de la Silicon Valley responsable de la construction de data centers me confiait récemment : “c’est une lutte de classe”.
Le problème dépasse largement les enjeux locaux. En pleine canicule, le lobby européen des data centers a marqué les esprits en déclarant de manière remarquablement limpide que l’UE devait choisir entre renoncer à ses objectifs climatiques ou perdre la course à l’IA. Aux États-Unis, Amazon a défrayé la chronique en annonçant vouloir construire un complexe de data centers alimenté par de nouvelles centrales à gaz, dont les émissions de gaz à effet de serre s’approcheront de l’empreinte carbone de la Suisse. D’une puissance de 7.6 GW (l’équivalent de sept réacteurs nucléaires), le site deviendra le plus polluant des États-Unis. Ce qui a poussé Elon Musk à surenchérir. Les barons de la Tech se retrouvent ainsi seuls face à l’opinion qui rejette leurs data centers, la technologie qu’ils alimentent et de nombreux produits associés. Le journaliste Brian Merchant évoquait ainsi récemment le niveau de détestation manifesté à l’encontre des lunettes intelligentes (“smart glasses”) désormais surnommées “pervert glasses” (lunettes de pervers) du fait de leur caméra intégrée. Et les mobilisations citoyennes contre la vidéo surveillance ont fait beaucoup de bruit outre-Atlantique, alors qu’un jury a refusé de faire condamner un homme pris en flagrant délit de vandalisme contre ces systèmes automatisés. L’année qui débute sera probablement celle de la révolte anti-IA, car l’écrasante majorité des gens a compris que l’utopie imposée par les milliardaires de la Tech est une dystopie pour le reste de l’humanité.
5) Science-fiction et pouvoir des imaginaires
“Nous vivons dans une dystopie sans les trucs cools (…) le cyber sans le punk (…) une dystopie nulle à chier”, résume Benjanin Patinaud (alias Bolchegeek) dans COGIPpunk, comment le monde est devenu une dystopie discount (éditions Au Diable Vauvert, 432 pages). Son constat est implacable : les anticipations présentes dans le cyberpunk, ce sous-genre de la science-fiction apparu dans les années 1980 en réponse au néolibéralisme, semblent s’être matérialisées. Ce courant artistique dépeint un univers dominé par les mégas corporations où les individus sont soumis à un “darwinisme social” dicté par un capitalisme débridé. La nature est remarquablement absente de ces environnements urbains oppressants où les protagonistes survivent à la marge d’une société atomisée et ultra-individualiste, soumis à une condition résumée par la formule “high tech, low life”. Le genre a inventé des termes aussi familiers que “cyber espace” (Neuromancer, William Gibson) et “Métavers” (Le samouraï virtuel, Nick Stephenson). Il nous manque juste les “trucs cools” : pas de voitures volantes, d’implants cybernétiques et de bras bioniques, seulement des “fake Tech” et des technologies en voie de “merdification” contrôlées par des transnationales aux mains de milliardaires démiurges saccageants la planète.
À travers son ouvrage, que j’aurai l’occasion de recenser prochainement, Benjamin Patinaud décrit notre dystopie discount par le menu en cherchant à identifier les causes de son apparition. La Science-Fiction ne nous avait-elle pas avertis ? A-t-elle était mal lue ou comprise au premier degré par les patrons de la Silicon Valley ? Construire d’autres imaginaires est-il nécessaire ou utile pour sortir de notre apocalypse molle, ce monde de “middle class, average Tech” ? C’est en partie pour examiner ces questions et en partie pour m’aérer l’esprit que je me suis mis à lire compulsivement de nombreux classiques de SF. Le virus m’a atteint au point d’écrire moi-même une novella puisant dans le cyberpunk et le roman noir, mais il est encore un peu tôt pour vous en dire plus à ce sujet.
Toujours est-il que cette plongée dans la SF et la production culturelle m’a permis de recharger mes batteries avant de reprendre cette publication avec une détermination renouvelée ! En attendant mes prochains conseils de lecture, je vous dis merci et à bientôt !