Le monde selon l’IA

44

Introduite pour la première fois en 1955, l'expression « intelligence artificielle » (IA) désigne de nos jours des algorithmes et des modèles capables d'effectuer automatiquement des opérations - détection, reconnaissance, classification, prédiction, analyse et génération de données - aux innombrables applications. Depuis la fin des années 2000, ces algorithmes et ces modèles s'infiltrent dans toutes les strates de la culture et de la société, de l'économie et de la politique, de la science et des opérations militaires. Partout, leur usage soulève de multiples questions éthiques, épistémologiques, politiques et géopolitiques, d'autant qu'il nécessite de colossales ressources matérielles et environnementales.
Dans ce contexte, les images jouent un rôle crucial :
l'impact de l'IA sur les pratiques artistiques contemporaines et sur la culture visuelle en général compte parmi les phénomènes les plus visibles dans un environnement pourtant hautement dominé par des opérations discrètes, des processus invisibles, des boîtes noires. Les technologies d'IA transforment en profondeur la manière dont les images sont prises, créées, modifiées, diffusées, décrites et vues.
Depuis les années 2010, de nombreux artistes interrogent l'influence croissante de l'IA dans nos sociétés et explorent ces bouleversements au moyen de différents médiums.
L'exposition « Le monde selon l'IA » présente une sélection d'œuvres créées entre 2016 et aujourd'hui, dont plusieurs inédites, qui posent la question de l'expérience du monde « selon l'IA » ou « au prisme de l'IA ». Soit, en d'autres termes, de ce que signifie percevoir, imaginer, connaître, se souvenir, travailler, agir dans un monde de plus en plus innervé par des technologies d'IA tendant à redéfinir l'identité même et la place de l'« humain ».
Pensé spécialement pour les salles du Jeu de Paume, le parcours reflète la distinction fondamentale entre « IA analytique » (dont font partie les systèmes de vision artificielle et de reconnaissance faciale) et « IA générative ».
Des « capsules temporelles », conçues comme des cabinets de curiosités, relient le présent au passé, inscrivant les transformations en cours dans une perspective historique.

47

Contrairement à ce que la notion de dématérialisation suggère, les technologies numériques (dont l'IA fait partie) ne peuvent fonctionner sans une quantité considérable de ressources naturelles : eau, terres rares, lithium, pétrole... C'est ce dont traitent les séries Metamorphism et Buried Sunshines Burn de Julian Charrière. Dans les sculptures de Metamorphism, des matériaux informatiques - cartes mères, processeurs... - ont été mélangés à de la terre puis fondus dans un four. En résultent des agglomérats mystérieux qui évoquent des formations minérales et soulèvent dans le même temps la question des détritus numériques et de leur toxicité. Dans les Buried Sunshines Burn, Charrière a utilisé la technique héliographique pour rendre visibles les champs de pétrole situés aux abords de la ville de Los Angeles.

48

Matières

Les technologies numériques revêtent une dimension assurément matérielle et même géologique. Contrairement à une idée très répandue, et loin de toute notion de « dématérialisation », les données ne sont pas stockées, gérées et traitées dans des clouds, des « nuages », mais dans des data centers dont le fonctionnement mobilise des quantités massives d'énergie et d'eau. Les calculs mis en œuvre pour entraîner et utiliser les modèles d'IA sont extrêmement énergivores, et poussent à présent les principales entreprises de la tech à se tourner vers le nucléaire. Sous sa forme actuelle, l'IA repose sur des industries extractives, sur l'exploitation d'énergies et de ressources non renouvelables : eau, terres rares, pétrole et charbon. Les œuvres de Julian Charrière et d'Agnieszka Kurant soulignent cet enchevêtrement profond de l'artificiel et du naturel, du non-organique et de l'organique au cœur des technologies numériques et de l'IA.
Digital technologies have a profoundly material and even geological dimension. Contrary to a widely held view, and far from any idea of "dematerialisation", data is not stored, managed and processed in clouds, but in data centres that require massive amounts of energy and water to operate. The computational processes that are carried out to train and run AI models are extremely energy-intensive, and are now driving the leading tech companies to turn to nuclear power. In its current form, AI thus relies on an extractive industry, namely the exploitation of non-renewable energies and resources such as water, rare earth elements, oil and coal. The works of Julian Charrière and Agnieszka Kurant underline this profound interweaving of the artificial and the natural, the inorganic and the organic, which underpins digital technologies and AI.

53

Intelligences collectives

L'IA peut être considérée comme l'expression d'une « intelligence collective », à la fois humaine et non humaine. Les modèles d'IA sont entraînés avec des jeux de données qui réunissent de vastes quantités de contenus produits par des humains.
Des millions de « microtravailleurs » participent à l'entraînement des modèles et à la modération des contenus générés. Les modèles eux-mêmes reposent sur des algorithmes d'apprentissage profond, dont les processus mathématiques peuvent être apparentés à une forme d'« intelligence » non humaine.
Interprétée selon cette perspective, l'IA présente une série d'analogies avec des formes d'« intelligence collective », dont les effets s'exercent à des échelles variant du microscopique jusqu'au planétaire. L'œuvre d'Agnieszka Kurant souligne notamment que l'« intelligence » émerge toujours d'une multiplicité d'agentivités : ainsi en est-il au sein des colonies de termites, des interconnexions entre les arbres, des murmures d'étourneaux, des mouvements sociaux humains, ou encore des réseaux de neurones artificiels - qui traitent des données humaines et non humaines.
Clemens von Wedemeyer donne forme à ces réseaux dans les cyanotypes tirés de son installation vidéo Social Geometry (2024), composée de diagrammes permettant de visualiser les interactions sociales.

56

Cartographies de l’IA

Espace et temps
Qu’entend-on exactement par « IA » ? Comment cartographier cet « hyperobjet » dans lequel s’entrelacent de façon complexe théories et technologies, sources d’énergie et matières minérales, travail humain et données numériques, institutions et infrastructures, politiques étatiques, idéologies d’entreprise et capitaux financiers ?
Et comment situer l’IA dans l’histoire, en tenant compte du rôle central qu’elle occupe désormais dans la formation et l’articulation du savoir, de la communication, du travail et du pouvoir ? Les deux grands diagrammes de Kate Crawford et Vladan Joler —
Anatomy of an AI System (2018) et Calculating Empires (2023) — tentent de relever le défi de proposer une cartographie critique de l’IA dans l’espace et dans le temps.

62

Automatisation, systématisation
L’IA, dans sa forme actuelle, est le produit d’une longue histoire enchevêtrée de tentatives
d’automatiser le calcul, la production et la communication. Un tournant majeur est amorcé, au XIXe siècle, par Charles Babbage (1792–1871), qui inaugure l’ère de la programmation informatique en empruntant aux métiers à tisser leurs cartes perforées pour élaborer sa machine analytique, dont le code est conçu par Ada Lovelace (1815–1852).
L’IA répond par ailleurs aux rêves anciens de se doter de doubles — notamment des automates — auxquels déléguer des tâches et d’organiser le savoir de manière universelle.

77

Reconnaissance des visages et des émotions

Les systèmes algorithmiques de reconnaissance des visages et des émotions s’inscrivent dans une longue histoire culturelle et technique de codification des traits du visage et de catégorisation des individus.
Ils reprennent le postulat, problématique, d’une correspondance entre apparence, caractère et émotions, qui sous-tendait plusieurs pseudosciences populaires aux XVIIe et XIXe siècles : physiognomonie, phrénologie, craniométrie. L’invention de la photographie exacerbe encore les velléités de fichage, instaurant des dispositifs de surveillance policière dont on retrouve des traces dans les modèles contemporains de reconnaissance faciale par l’IA.

78

Vision artificielle

Machine Vision
Les tentatives d’automatiser la perception visuelle remontent aux origines des recherches sur l’« intelligence artificielle » à la fin des années 1950. Après plusieurs phases d’accélération et de ralentissement, le développement des systèmes de vision artificielle est entré dans une nouvelle ère à partir du début des années 2010, au point qu’aujourd’hui ce « regard » non humain et algorithmique transforme l’iconosphère numérique — les milliards d’images stockées sur Internet et circulant sur une multitude de réseaux et de plateformes — en un gigantesque champ d’extraction et d’agrégation de données. Le « champ de vision » de ces systèmes — avec leurs points aveugles, leurs erreurs, leurs biais — dépend de nombreux facteurs :
modèles d’IA choisis, contenu et structure des jeux de données utilisés pour les entraîner, travail humain déployé pour cet entraînement.
Depuis 2017, Trevor Paglen tente à travers ses œuvres et ses écrits de comprendre les enjeux épistémologiques et politiques d’une culture visuelle nouvelle, où les images ne circulent plus seulement entre humains, mais aussi entre machines sans que des humains ne soient nécessairement intégrés dans la boucle.

80

Vision artificielle

Le développement de plus en plus rapide, depuis les années 2000, des systèmes de vision artificielle invite à revenir sur l’histoire de l’automatisation de la perception visuelle.
Les tentatives menées tout au long du XXe siècle suivent deux axes : d’une part, l’exploration du potentiel esthétique, épistémologique et politique de la caméra, appareil capable de décentrer ou remplacer le regard humain et de nous faire découvrir le monde visible sous un nouvel angle ; d’autre part, l’élaboration de systèmes qui automatisent la vision à des fins de contrôle et de surveillance.

82

Microtravail
Depuis la fin des années 2000, une main-d’œuvre implantée pour la plupart dans le Sud global contribue sans relâche à l’entraînement et à la supervision des technologies d’IA.
Recrutés et coordonnés par des plateformes de crowdsourcing comme Amazon Mechanical Turk, des millions de « travailleurs du clic » effectuent des tâches répétitives, telles que l’indexation d’images ou la modération des contenus générés par IA. Cet emploi, qui peut être psychologiquement éprouvant quand il s’agit de repérer et d’éliminer des images montrant des scènes de violence et d’abus, est rémunéré sur la base d’une grille tarifaire variable selon les pays de résidence, et souvent dépourvu de cadre juridique et de protection sociale.
L’installation de Hito Steyerl dénonce cette exploitation produite par les nouvelles formes du capitalisme numérique, tandis qu’Agnieszka Kurant cherche à dresser un portrait composite des invisibles du numérique. L’installation du collectif Meta Office, réalisée en collaboration avec ces travailleurs, dévoile la diversité de leurs lieux de travail et leur précarité, et présente une critique des défaillances éthiques et légales qui affectent cette classe ouvrière émergente.

88

Generative AI and Latent Spaces

L’expression « IA générative » renvoie à un large spectre de modèles d’IA capables de générer des données nouvelles (par exemple, des textes ou des images fixes ou en mouvement) après avoir été alimentés avec d’énormes quantités d’autres données. Durant leur entraînement, les modèles d’IA générative encodent et positionnent massivement des textes et des images collectés sur Internet dans ce que l’on appelle des « espaces latents », c’est-à-dire de gigantesques systèmes de vecteurs numériques représentant des points de données susceptibles d’être traités via diverses opérations mathématiques. Une fois que ces espaces latents sont construits, les utilisateurs peuvent les explorer au moyen de plusieurs techniques afin de modifier textes et images ou d’en générer de nouveaux. Ce processus complexe comprend une grande part de hasard et d’imprévisibilité.
Le développement du champ de l’IA générative depuis le milieu des années 2010 a eu pour conséquence la diffusion dans la culture contemporaine de ces constructions mathématiques, abstraites et invisibles, que sont les « espaces latents ». Ces derniers étant de plus en plus utilisés pour l’encodage, la transformation et la transmission de la mémoire culturelle, plusieurs artistes contemporains se sont emparés du sujet. Certains explorent les espaces latents commercialisés par les principales entreprises de la tech, essayant d’en contourner les limites et les styles prédéfinis, ou encore d’en exploiter les dysfonctionnements, comme le fait Julien Prévieux dans l’installation
Poem Poem Poem Poem Poem (2024–2025) qui court du rez-de-chaussée au premier étage de l’exposition. D’autres tentent de modifier les espaces latents existants pour y introduire de nouvelles entités, ou encore s’efforcent d’influer sur les espaces latents du futur, voire de produire de nouveaux espaces latents, ouverts et collectifs, à l’instar de Holly Herndon et Mat Dryhurst dont une installation est présentée dans la mezzanine.

91

Art génératif
Dans les années 1960, peu après que les premiers modèles d’ordinateurs ont vu le jour, des artistes du monde entier expérimentent le codage à des fins plastiques et visuelles. Le recours aux algorithmes leur permet de poser un ensemble de règles et d’instructions à partir desquelles une œuvre peut être générée automatiquement.
Si ces réalisations se caractérisent surtout par l’abstraction ou la répétition sérielle, la figuration n’en est pas exclue.

94

Dans les espaces latents de l’histoire

Les modèles d’IA générative offrent aux artistes des moyens de revisiter l’histoire de l’art et le patrimoine culturel.
En effet, en entraînant des modèles d’IA sur des corpus spécifiques, on peut non seulement chercher à reconstituer des objets lacunaires, mais aussi susciter de nouveaux objets du passé, des objets qui auraient pu exister mais demeuraient dans un état de pure virtualité, tels les peintures rupestres créées par Justine Emard ou les fossiles et sculptures antiques d’Egor Kraft.
Élaborés par les IA génératives à partir des données compilées dans leurs espaces latents, ces artefacts troublants esquissent une histoire synthétique, alternative, délibérément contrefactuelle. Il en ressort une entreprise éminemment poétique et spéculative lorsqu’il s’agit de restaurer ou de prolonger les gestes des artistes antiques, ainsi que leur imaginaire. Lorsqu’elle révèle et détourne les biais qui façonnent les discours historiographiques et les orientations des institutions patrimoniales, la démarche se fait critique. Apparaissent ainsi aux artistes de nouvelles stratégies et modalités de négociation avec le passé, de réflexion sur les héritages – selon une perspective souvent engagée et décoloniale –, comme l’illustrent les œuvres ici présentées de Nora Al-Badri, de Nouf Aljowaysir, ou encore de Theopisti Stylianou-Lambert et d’Alexia Achilleos. Dans son installation produite pour cette exposition, Jacques Perconte explore quant à lui les enjeux d’une autre opération rendue possible par l’IA, l’upscaling, qui consiste à augmenter le degré de définition des images – non sans soulever de nombreuses questions relatives à la restauration des images.

95

Ruines, archéologies imaginaires

Les avancées récentes de l’IA générative permettent non seulement de produire de nouvelles œuvres mais aussi de compléter et réinterpréter des œuvres lacunaires.
Sont ainsi relancés plusieurs gestes qui traversent l’histoire de l’art : tentatives de reconstituer, avec les ressources de l’imagination puis celles de l’archéologie, le patrimoine ancien qui nous est parvenu dans un état fragmentaire ; et méditation sur les ruines, objet de fascination universelle, propice à susciter fantaisie et caprices.

100

Mots et images
Les modèles de diffusion
text-to-image et text-to-video permettent désormais de créer automatiquement, pour la première fois dans l’histoire, des images fixes ou en mouvement uniquement à partir de consignes écrites, les prompts. L’usage de ces prompts transforme radicalement l’exercice classique en histoire de l’art, de la description d’images, l’ekphrasis, qui devient, dans ce cadre nouveau, opératoire : des images sont générées sur la base d’une description préalable.
À l’inverse, les modèles
image-to-text sont capables, à partir d’images fixes ou en mouvement, d’en générer une description textuelle détaillée, donnant lieu à une ekphrasis automatique.
S’instaure ainsi une imbrication algorithmique tout à fait inédite entre les mots et les images, le dicible et le visible. Les différentes opérations de conversion algorithmique des premiers vers les secondes, et inversement, s’accompagnent d’inévitables décalages, approximations et erreurs qui ouvrent aux artistes toute une gamme d’expérimentations poétiques et visuelles, comme en témoigne l’installation du collectif Estampa.

101

Protohistoire des prompts
Les modèles de diffusion
text-to-image nécessitent des prompts, c’est-à-dire des instructions textuelles fournies à l’IA pour générer des images. Cette pratique performative peut être considérée comme le prolongement de tout un pan de l’art conceptuel : les œuvres à protocole. À l’instar des images générées par des prompts, qu’il est indispensable de bien formuler, les œuvres à protocole reposent sur des instructions.
Comme dans le cas des IA génératives, il est possible d’en déléguer l’exécution à un autre agent que l’artiste, induisant souvent une part d’aléatoire et de surprise. Avec les prompts, qui génèrent des images en les prédécrivant, ce sont aussi les liens entre les mots et les images qui sont remis en question.

103

Photoréalisme
Historiquement, l’IA et la photographie entretiennent une relation de réciprocité.
D’une part, depuis les années 2000, d’énormes quantités d’images photographiques sont utilisées pour l’entraînement des modèles d’IA analytique et générative.
D’autre part, l’IA transforme en profondeur le champ de la photographie non seulement par la présence croissante d’algorithmes dans les caméras de nos smartphones, mais aussi par la génération et la diffusion, dans tous les champs de la culture visuelle, d’images photoréalistes qui ne sont pourtant issues d’aucune captation optique.
Plusieurs artistes contemporains explorent les formes et les enjeux de ce nouveau type de photoréalisme. Joan Fontcuberta y recourt pour poursuivre sa réflexion sur le statut de l’image photographique au-delà de la valeur documentaire qui lui est historiquement associée. Érik Bullot y trouve un médium pour sonder un « cinéma imaginaire » à partir des traces de projets inachevés et de concepts parcourant l’histoire de la littérature, des techniques et des médias, ainsi que des pratiques médiumniques et des recherches en parapsychologie.

104

Training, Hallucination, spéculation

Ce programme de films et de vidéos propose des œuvres réalisées avec différents modèles d’IA générative text-to-image, text-to-video, et parfois aussi text-to-sound, telle la bande-son entièrement générée par IA du Rêve d’Abel Gance (2024) d’Érik Bullot.
Issus de collaborations entre artistes et algorithmes, ces films témoignent de l’expérimentation de la capacité hallucinatoire de l’IA, avec leur imagerie singulière et troublante, et instaurent de nouvelles formes de récits et de montage.

43

Trevor Paglen

Né en 1974 à Camp Springs (Maryland, États-Unis)

De gauche à droite :

A Man (Corpus: The Humans), 2017

Série Adversarially Evolved Hallucinations, 2017

Tirage par sublimation thermique

Courtesy de l’artiste, de Fellowship, d’Altman Siegel, San Francisco, et de la Pace Gallery

Vampire (Corpus: Monsters of Capitalism), 2017

Série Adversarially Evolved Hallucinations, 2017

Tirage par sublimation thermique

Courtesy de l’artiste, de Fellowship, d’Altman Siegel, San Francisco, et de la Pace Gallery

Adversarially Evolved Hallucinations (2017) est le titre d’une série d’images fixes et animées produites par Trevor Paglen à l’aide de modèles d’IA générative appelés « réseaux adverses génératifs » ou GANs (Generative Adversarial Networks). Cette série forme le point d’entrée d’une exposition consacrée à ce que signifie faire l’expérience du monde « selon l’IA » ou « au prisme de l’IA ». Si les actes humains de voir et de représenter sont toujours façonnés par des facteurs culturels et historiques, ces images et vidéos démontrent que ces derniers conditionnent aussi la façon dont les modèles d’IA « voient » et « représentent » le monde.

Pour produire ces images, Paglen a entraîné des GANs sur des groupes de données constitués d’images représentant des allégories, des métaphores et des symboles, et décrites par l’artiste avec des mots clés empruntés à la littérature, la philosophie, la poésie, le folklore et les traditions spirituelles. L’image intitulée Vampire, par exemple, a été générée par un GAN entraîné avec des images de « monstres du capitalisme », des entités telles que les vampires, zombies et loups-garous qui ont été historiquement employées pour critiquer le capitalisme, comme le fait Marx dans le premier livre du Capital. À cet égard, la figure du vampire apparaît comme une métaphore particulièrement éloquente d’une IA exploiteuse de ressources.

Prises ensemble, ces images, toutes issues de points de données inscrits dans les espaces latents des modèles d’IA, offrent un aperçu de l’ontologie possible d’un monde vu « au prisme de l’IA ».

49

Julian Charrière

Né en 1987 à Morges (Suisse)

De gauche à droite :

Buried Sunshines Burn | 5FO.P3K, 2023

Buried Sunshines Burn | 489.SLQ, 2024

Buried Sunshines Burn | 5G1.02H, 2024

Buried Sunshines Burn | 5D1.K91, 2024

Héliographies sur plaque d’acier inoxydable hautement polie

50

Clemens von Wedemeyer

Né en 1974 à Göttingen (Allemagne)

De gauche à droite :

Neural Network / – Social Geometry, 2024

Neural Network II – Social Geometry, 2020

Neural Network III – Social Geometry, 2024

Cyanotypes

Courtesy de l’artiste et de la galerie Jocelyn Wolff, Romainville

À partir du travail de visualisation des relations sociales qu’il a effectué pour son installation Social Geometry, Clemens von Wedemeyer a conçu une série de « cartes à bâtonnets » en recourant au cyanotype, une technique photographique inventée au XIXe siècle. Il a ainsi produit quinze cyanotypes, lesquels composent la série Neural Network – Social Geometry. S’inspirant des cartes de navigation traditionnelles établies par les habitants des îles Marshall afin de se repérer sur l’océan, l’artiste a disposé des coquillages et des bâtons sur une feuille photosensible de manière à créer les nœuds et les lignes constitutifs d’une représentation graphique, dont l’apparence évoque les réseaux de neurones artificiels.

51

Agnieszka Kurant

Née en 1978 à Łódź (Pologne)

A.A.I. (System’s Negative) No. 6, 2016

Zinc coulé

Collaboration : Paul Bardunias

Fabrication : Gielie von Wielligh

Courtesy de l’artiste et de la galerie Marian Goodman, New York/Los Angeles/Paris

A.A.I. (System’s Negative) est le titre d’une série de moulages négatifs réalisés avec du zinc liquide versé dans des termitières abandonnées, au cœur du désert namibien. Leurs formes évoquent aussi bien des récifs coralliens fossilisés que des réseaux neuronaux. Ces sculptures semblent proposer une modélisation en 3D des sociétés qui les ont rendues possibles. Elles forment des portraits intérieurs de colonies ou de systèmes, des représentations en creux du travail des termites, des couloirs et des crevasses réalisés collectivement. Chaque sculpture, en tant qu’elle décrit une termitière propre à une espèce, atteste une intelligence collective qui se traduit par des formes spécifiques de cognition distribuée. Avec ces empreintes négatives, Agnieszka Kurant invite ainsi à une étude comparée des termitières comme produits d’intelligences collectives autres qu’humaines.

52

Agnieszka Kurant

Née en 1978 à Łódź (Pologne)

Alien Internet, 2023

Ferrofluide, électroaimants, verre, capteurs, logiciel Arduino, programme spécifique

Fabrication et ingénierie : Jason Krugman

Ingénierie logicielle : Agnes Cameron

Courtesy de l’artiste et de la galerie Marian Goodman, New York/Los Angeles/Paris

L’installation Alien Internet met en scène une forme de vie changeante qui évolue dans un champ électromagnétique numériquement contrôlé. Agnieszka Kurant recourt ici au ferrofluide, un liquide inventé par la NASA en 1963 et remarquable pour sa capacité à changer de forme sous l’effet d’un champ magnétique. L’œuvre renvoie au fait qu’aujourd’hui, le comportement et la communication de millions d’animaux sauvages (baleines, oiseaux, tortues, éponges…) et d’autres formes de vie non humaines peuvent être captés grâce à des technologies numériques dans le monde entier, puis analysés par une IA au service de prédictions algorithmiques relatives au monde naturel : éruptions volcaniques, tremblements de terre, tsunamis ou pandémies… Les organismes non humains agissant collectivement sont donc comparables à un ordinateur biologique prédisant le futur. Le ferrofluide en remodelage perpétuel d’Alien Internet, qui est alimenté par des données collectées auprès de plusieurs instituts scientifiques, matérialise ainsi de manière visuelle et condensée ces intelligences collectives non humaines.

54

Agnieszka Kurant

Née en 1978 à Łódź (Pologne)

De gauche à droite :

Nonorganic Life 2, 2023

Peinture aux cristaux de sels de fer, de cobalt, de nickel, de calcium, de chrome, de cuivre et de manganèse sur plaque d’aluminium anodisée et imprimée

Fabrication : Kunstgiesserei St. Gallen

Direction de projet : Noël Hochuli

Collection Nicoletta Fiorucci

Nonorganic Life 1, 2023

Peinture aux cristaux de sels de fer, de cobalt, de nickel, de calcium, de chrome, de cuivre et de manganèse sur plaque d’aluminium anodisée et imprimée

Fabrication : Kunstgiesserei St. Gallen

Direction de projet : Noël Hochuli

Collection Nayaab Islam

Les tableaux de la série Nonorganic Life sont consacrés aux matériaux biologiques, minéraux et synthétiques qui entrent dans la fabrication des systèmes informatiques. Les œuvres consistent en des microphotographies de structures cristallines complexes ressemblant à des plantes, et obtenues en mélangeant du verre soluble (silicate de sodium) et des produits chimiques inorganiques tels que des sels métalliques (cuivre, cobalt, manganèse, chrome, fer), incontournables dans la construction des ordinateurs actuels et dont l’extraction industrielle entraîne la dévastation d’écosystèmes entiers. Nonorganic Life fait partie d’une série de travaux dans lesquels l’artiste explore la façon dont différentes substances organiques et inorganiques se transforment constamment, résultant en formes instables.

55

Kate Crawford et Vladan Joler

Née à Sydney (Australie)

Né à Novi Sad (Serbie)

Anatomy of an AI System : An Anatomical Case Study of the Amazon Echo as an Artificial Intelligence System Made of Labor, 2018

Impression sur papier

Anatomy of an AI System se présente comme une tentative de cartographier l’IA dans l’espace. Le diagramme est centré sur le système d’intelligence artificielle à commande vocale Alexa, lancé par Amazon en 2016, et révèle le gigantesque réseau planétaire qui sous-tend chacune des interactions avec la machine, par exemple lorsqu’on lui pose la simple question : « Quel temps fait-il aujourd’hui ? » et qu’il fournit une réponse. Le diagramme visualise trois types de processus d’extraction et d’exploitation à grande échelle de ressources matérielles, de travail humain et de données.

65

Kate Crawford et Vladan Joler

Née à Sydney (Australie)

Né à Novi Sad (Serbie)

Calculating Empires: A Genealogy of Technology and Power Since 1500, 2023

Diptyque, impressions sur papier

Calculating Empires propose une généalogie de l’IA dans son état actuel tout en soulevant des interrogations quant à ses évolutions futures. L’arborescence couvre cinq siècles. Elle débute, au bas du tableau, en l’an 1500, illustré par les grandes réalisations et inventions qui président aux réseaux culturels et économiques appelés à prendre une ampleur mondiale. Ses ramifications complexes se déploient jusqu’à l’année de l’exposition, 2025. Cette cartographie fait ressortir deux registres en vis-à-vis : « Communication et calcul » et « Contrôle et classification ».

68

Trevor Paglen

Né en 1974 à Camp Springs (Maryland, États-Unis)

Faces of ImageNet, 2022
Installation vidéo interactive
Courtesy de l'artiste, d'Altman Siegel, San Francisco, et de la Pace Gallery
Dans cette installation interactive, une caméra cachée filme le spectateur placé devant l'écran, où son visage s'affiche, devenant un objet de reconnaissance et d'étiquetage. Les mots clés servant à la reconnaissance sont rattachés à des clusters d'images provenant du jeu de données controversé ImageNet, qui a exercé un rôle majeur dans l'essor des systèmes de vision artificielle au cours de la première moitié des années 2010.

79

Œuvre en lien avec la capsule temporelle

Vision artificielle

Harun Farocki

1944–2014

Eye/Machine I — 2000

Vidéo, noir et blanc et couleur, son, 23 min, en boucle

Courtesy de la Harun Farocki GbR

Eye/Machine II — 2001

Vidéo, noir et blanc et couleur, son, 15 min, en boucle

Courtesy de la Harun Farocki GbR

Eye/Machine III — 2003

Vidéo, noir et blanc et couleur, son, 25 min, en boucle

Courtesy de la Harun Farocki GbR

Dans les trois installations intitulées Eye/Machine (2000–2003), le cinéaste et théoricien Harun Farocki analyse l’automatisation croissante de la vision dans divers domaines, tels que les opérations militaires, la production industrielle, la gestion des transports et la robotique. Grâce à un montage soigneusement organisé d’images et de textes, il nous plonge dans un monde d’« images opératoires » : des images qui ne sont pas destinées à l’édification ni à la réflexion, mais plutôt à contribuer au déroulement d’opérations techniques de surveillance, de contrôle, d’inspection, de géolocalisation, de suivi et de ciblage. Les œuvres audiovisuelles et les textes de Farocki sont désormais des références incontournables pour les artistes contemporains travaillant sur les technologies de vision artificielle et leurs implications sociales et politiques.

81

Hito Steyerl

Née en 1966 à Munich (Allemagne)

Mechanical Kurds, 2025

Installation vidéo HD monocanal, couleur, son, 13 min

Producteurs : Savas Boyraz, Kovan Korki

Producteurs exécutifs : Savas Boyraz, Hêja Netirk

Chef opérateur et pilote de drone : Xeîry Ertusi

Producteur musique, chant, écriture : Hêja Netirk

Musique : Emrah Oguztürk

Musique complémentaire : Saerom Park

Studio son : PARRY AUDIO Studio & Mobile Recording (Karola Parry)

Bande-son : 579263_nomiqbomi_dark-drone-5.mp3, 260233_schafferdavid_system_100_drones_2.wav, 642841_szegvari_drumjam_119bpm_2022-07-21_180431.wav, 595714_szegvari_space-sahara-cinematic-tribal-drum-synth-atmo-amb-soundscape.wav, 750659_klankbeeld_wind

Postproduction et design 3D : Christoph Manz, Vadim Schaffler

Avec : Rebin Karim, M. H., W. O., et al.

Remerciements : Alice Conconi, Adela Yawitz, Annabelle Liljegren, Andrew Kreps, Esther Schipper, Esme Buden, freesound.org

Déballage : Hito Steyerl

Commissariat : Massimiliano Gioni, New Museum, New York, et Antonio Somaini pour le Jeu de Paume, Paris

Courtesy de l’artiste, de la Andrew Kreps Gallery, New York, et d’Esther Schipper, Berlin/Paris/Séoul

Mechanical Kurds s’inscrit dans la lignée d’un travail entrepris par Hito Steyerl sur les enjeux sociaux et politiques inhérents aux systèmes d’IA. Le titre fait référence à la fois à l’automate joueur d’échecs du XVIIIe siècle connu sous le nom de Turc mécanique (en réalité actionné par un humain), et à la plateforme en ligne de microtravail externalisé Amazon Mechanical Turk. Le Turc devient ici un Kurde, car la vidéo se présente comme une enquête documentaire sur les « travailleurs du clic » opérant depuis des camps de réfugiés au Kurdistan. En indexant les objets figurés dans des images numériques et en les inscrivant dans des « boîtes englobantes » de couleur, ils contribuent à l’entraînement de véhicules sans conducteur ou de drones qui pourront être employés contre cette même population kurde.

83

Agnieszka Kurant

Née en 1978 à Łódź (Pologne)

Aggregated Ghost
Encre rétro-imprimée sur acrylique contrecollé sur Dibond
Collaboration : Boris Katz, Andrei Barbu, David Mayo
Avec la participation de travailleurs de la plateforme de crowdsourcing Amazon Mechanical Turk
Commande du MIT CAST - MIT Center for Art, Science & Technology
Courtesy de l’artiste et de la galerie Marian Goodman, New York/Los Angeles/Paris
Le terme « ghost-workers » (travailleurs fantômes) est souvent employé pour désigner les millions de « travailleurs du clic » disséminés dans le monde, principalement dans les pays du Sud global, dont le travail externalisé est nécessaire à l’entraînement des systèmes d’IA et pour la modération des contenus générés.
Pour
Aggregated Ghost, Agnieszka Kurant a demandé à dix mille travailleurs en ligne de la plateforme Amazon Mechanical Turk de lui envoyer chacun un autoportrait.
Elle a eu ensuite recours à des réseaux neuronaux pour fusionner ces images en un « autoportrait composite ».
En prélevant une ligne de pixels de chaque image, elle a produit ce qui peut être considéré comme une image collective, issue du crowdsourcing — cette nouvelle classe ouvrière.
Elle a rémunéré les participants et leur redistribue les bénéfices chaque fois qu’une copie de l’œuvre est vendue.

85

Meta Office

Studio créé en 2023 à Rotterdam (Pays-Bas) et composé de Lauritz Bohne (né en 1994 à Düsseldorf, Allemagne), Lea Scherer (née en 1996 à Vienne, Autriche) et Edward Zammit (né en 1997 à Pietà, Malte)

Meta Office: Behind the Screens of Amazon Mechanical Turks
2021–2025
Installation multimédia, visualisation de données
L’installation est née d’un dialogue entre les membres du collectif Meta Office et des travailleurs de la plateforme de microtravail Amazon Mechanical Turk. Pour ce projet, les « travailleurs du clic », employés habituellement à indexer les images des jeux de données d’entraînement ou à modérer les contenus générés par les modèles d’IA, ont fourni une description de leurs conditions de travail. Leurs réponses et les images qui les accompagnent offrent un aperçu de leur diversité géographique, des disparités des rémunérations et des conditions de travail, lesquelles relèvent finalement de l’improvisation et affectent la vie des personnes dès lors qu’elles sont marquées du sceau de l’exploitation par des multinationales.
Les individus qui occupent ces espaces de travail sont absents, tandis que leur identité est dissimulée derrière le nom d’utilisateurs génériques.

87

Julien Prévieux

Né en 1974 à Grenoble (France)
Poem Poem Poem Poem Poem
2024–2025
Œuvre sonore en continu, lettrage adhésif
Cette œuvre met en lumière une faille dans la technologie du célèbre agent conversationnel ChatGPT. Un hack, imaginé par un groupe de chercheurs, consistait à demander au chatbot de répéter les mots « poem » (poème) ou « book » (livre) à l’infini. Le système, qui a été corrigé depuis, répondait en révélant les textes ayant servi à son entraînement. Ces fragments, provenant de sources aussi diverses que des publicités, des mentions légales, des menus de restaurant, la Bible, des e-mails privés et des scripts de code informatique, exposent ce qui est collecté – souvent sans consentement – pour constituer les vastes ensembles de données utilisés afin d’entraîner les chatbots. Julien Prévieux donne à entendre ces textes en utilisant des voix artificielles qui lisent ou chantent une composition de poèmes « ready-made ».
Au mur, une série de poèmes conçus par l’artiste prolonge la pièce sonore. Ces textes, élaborés à partir des mécanismes des grands modèles de langage (tokenisation, word embedding, context window…), révèlent leurs limites inhérentes, tout en produisant des effets de sens surprenants.

93

Egor Kraft

Né en 1986 à Léningrad, aujourd’hui Saint-Pétersbourg (Russie)

CAS_05 Julia Mamaea — 2019

Marbre Crema Marfil, polyamide, algorithmes d’apprentissage automatique, corpus d’entraînement de données naturelles spécifique

CAS_12.1 Caryatid Portrait

Marbre Crema Marfil, polyamide, algorithmes d’apprentissage automatique

CAS_V08 Deep Portrait: 12 channel version — 2019

12 écrans, structure métallique, algorithmes d’apprentissage automatique, corpus de données d’entraînement spécifique

CAS_15.3 Deep Frieze — 2021

Marbre Breccia, béton, algorithmes d’apprentissage automatique, corpus de données synthétiques

CAS_V11 Unstable Portrait

Serveur spécifique, structure en acier, algorithmes d’apprentissage automatique, données d’entraînement spécifiques, vidéo, couleur, muet, 7 min 47 s, moniteur

Série Content Aware Studies, 2018–en cours

Avec le soutien du ministère fédéral des Arts, de la Culture, des Services publics et des Sports, Autriche

Avec ses Content Aware Studies, Egor Kraft explore des modèles d’IA générative qui peuvent servir soit à compléter des objets historiques fragmentaires, soit à imaginer des objets historiques qui auraient pu exister mais n’ont jamais été. Pour les Content Aware Studies I, Kraft a entraîné un modèle avec des milliers de scans en 3D de sculptures et de frises des périodes hellénistique et romaine, et l’a ensuite utilisé pour produire des éléments imprimés en 3D destinés à remplacer des fragments disparus de sculptures existantes, ou pour créer des sculptures potentielles. Avec son projet, Kraft poursuit son exploration d’une « archéologie inversée » et d’une « histoire synthétique ».

97

Nouf Aljowaysir

Née en 1993 à Riyadh (Arabie saoudite)

Salaf, 2021–2025

Installation composée de trois ensembles :

Dataset, 2021, généré avec U-2 Net ;

Machine Vision Research in Archival Images, 2021 ;

Generative, 2025, généré avec StyleGAN3

Images d’archives : Getty Museum, The Getty Research Institute, Ken and Jenny Jacobson Orientalist Photography Collection

Le projet Salaf (Ancêtres) interroge la perception occidentale exotisante et coloniale du Moyen-Orient, depuis les collections photographiques constituées au XIXe siècle jusqu’aux systèmes actuels de vision artificielle. Nouf Aljowaysir retouche des photographies anciennes du Moyen-Orient, dont elle efface les silhouettes afin d’insister sur l’incapacité du corpus à représenter correctement les populations concernées. À partir de ces clichés retravaillés, elle entraîne ensuite des GANs pour produire de nouvelles images d’une spectralité troublante.

98

Erik Bullot

Né en 1963 à Soissons (France)

Cinéma vivant, 2024

Tirages numériques de 12 images générées par le modèle de diffusion Lexica

Cinéaste, écrivain et chercheur, Érik Bullot explore l’histoire des films inachevés et lacunaires ainsi que les différentes manifestations d’un « cinéma imaginaire », mental et potentiel, à la croisée de la littérature et de la parapsychologie, des expérimentations techniques et des pratiques médiumniques. L’IA générative, avec sa temporalité spécifique – celle d’un « conditionnel passé, proche d’un ça aurait été » –, concrétise selon lui les promesses d’un tel cinéma. Dans cette série d’images, en recourant au modèle text-to-image Stable Diffusion, Bullot tente de donner forme, à partir de prompts textuels, aux visions utopiques du poète symboliste Saint-Pol-Roux (1861–1940) formulées dans les notes du recueil Cinéma vivant au fil des années 1920 et 1930.

106

Julien Prévieux Né en 1974 à Grenoble (France)
Poem Poem Poem Poem Poem 2024–2025
Œuvre sonore en continu, lettrage adhésif
Cette œuvre met en lumière une faille dans la technologie du célèbre agent conversationnel ChatGPT. Un hack, imaginé par un groupe de chercheurs, consistait à demander au chatbot de répéter les mots « poem » (poème) ou « book » (livre) à l’infini. Le système, qui a été corrigé depuis, répondait en révélant les textes ayant servi à son entraînement. Ces fragments, provenant de sources aussi diverses que des publicités, des mentions légales, des menus de restaurant, la Bible, des e-mails privés et des scripts de code informatique, exposent ce qui est collecté — souvent sans consentement — pour constituer les vastes ensembles de données utilisés afin d’entraîner les chatbots. Julien Prévieux donne à entendre ces textes en utilisant des voix artificielles qui lisent ou chantent une composition de poèmes « ready-made ».
Au mur, une série de poèmes conçus par l’artiste prolonge la pièce sonore. Ces textes, élaborés à partir des mécanismes des grands modèles de langage (tokenisation, word embedding, context window…), révèlent leurs limites inhérentes, tout en produisant des effets de sens surprenants.

108

Trevor Paglen

Né en 1974 à Camp Springs (Maryland, États-Unis)

Behold These Glorious Times!, 2017

Installation vidéo monocanal, couleur, son stéréo, 10 min, en boucle

Musique originale : Holly Herndon

Courtesy de l’artiste, d’Altman Siegel, San Francisco, et de la Pace Gallery

L’installation vidéo Behold These Glorious Times! présente deux types d’images, projetées en mosaïque dans un montage au rythme effréné. Les premières proviennent de gigantesques jeux de données avec lesquels les systèmes de vision artificielle sont entraînés à reconnaître les objets, les visages, les gestes et les émotions. Les autres révèlent à l’œil humain ce que « voient » les systèmes de vision artificielle quand ils analysent les données qui leur sont fournies. L’installation fait partie d’une série d’œuvres dans lesquelles Trevor Paglen aborde le champ de la vision artificielle afin d’en analyser les enjeux épistémologiques et politiques.

45 Parcours
Les intelligences artificielles (IA) ne sont pas des supercerveaux. Elles sont composées d'algorithmes mathématiques (sortes de fiches de recettes de calculs) qui, après avoir été entraînés, apprennent à effectuer des opérations en autonomie. Les différents modèles d'IA servent dans de nombreux domaines pour analyser des informations, écrire ou traduire des textes, générer des images... En suivant les 15 questions de ce parcours, explore l'exposition à ton rythme et découvre les artistes qui expérimentent les IA et interrogent le monde qui nous entoure.

46 Quel est le poids d’une IA ?
On parle de "cloud" (nuage), mais les ordinateurs ne flottent pas dans les airs ! Pour stocker leurs contenus, les IA ont besoin de lourds serveurs informatiques qui utilisent des métaux rares et consomment beaucoup d’énergie. Ces machines qui exécutent des milliards d’opérations ont besoin d’énormément d’eau pour se refroidir ! Pour en témoigner, l’artiste Julian Charrière a récupéré des disques durs, des smartphones et autres détritus numériques, les a recouverts de lave en fusion pour créer ces blocs de pierre.

67 Une IA peut-elle me reconnaître ?
Tu as sans doute vu des caméras dans les rues, dans les magasins ou d'autres bâtiments. Certaines utilisent des IA pour détecter nos visages, tenter de nous identifier, repérer nos expressions ou même prédire nos comportements. Comment préserver notre intimité et notre liberté ? Il existe en Europe des lois pour protéger nos données : le RGPD (règlement général de protection des données). Approche-toi de cette œuvre de Trevor Paglen et observe à quels mots la machine t'associe !

84 Est-ce que les IA fonctionnent toutes seules ?
Des millions de personnes travaillent à repérer et trier des contenus en ligne, étiqueter des objets sur des images ou supprimer des contenus violents. Ce travail répétitif est très peu payé. L'artiste Agnieszka Kurant a réalisé ce portrait avec 10 000 selfies envoyés par ces « travailleurs fantômes », que l'on ne voit jamais. Elle partage avec eux le fruit de la vente de son œuvre. Le collectif d'artistes Meta Office nous montre des photos de leurs lieux de travail en Chine, en Inde, en Afrique...

90 Les IA peuvent-elles écrire une chanson d'amour si elles ne ressentent pas d'émotions ?
Oui, à la demande d'un humain, elles peuvent concevoir des choses nouvelles : écrire un poème, générer une image ou composer une musique... Pour créer du nouveau, elles repèrent des modèles, les imitent et les mélangent. C'est pourquoi il faut bien choisir ce qu'on leur apprend et savoir les utiliser avec finesse. Les artistes aiment tester les IA, les modifier et même créer d'autres systèmes pour concevoir leurs œuvres.

92 À quoi ressemblait le Sphynx quand il avait encore son nez ?
Les IA peuvent aider les archéologues à réparer certains objets abîmés par le temps. L'artiste Egor Kraft utilise une IA pour compléter les morceaux manquants de sculptures antiques ou en imaginer d'autres. Il a entraîné cette IA avec des milliers d'images de statues. Les vides sont ensuite comblés à l'aide d'une imprimante 3D. En 2018, date de la création de cette œuvre, les machines pouvaient parfois faire des erreurs en créant des formes impossibles, appelées « hallucinations des IA ».

96 Est-ce que les IA savent tout sur tout ?
Les IA ne reconnaissent pas certaines parties du monde, des peuples entiers parfois, car elles ont été entraînées avec des images ou des informations incomplètes. L'artiste Nouf Aljowaysir souligne le fait que les IA ignorent certaines cultures. Pour mettre cela en évidence, elle efface les visages des personnes non identifiées par les IA sur des photographies anciennes du Moyen-Orient. Elle crée ensuite de nouvelles silhouettes fantomatiques.

98 Comment réaliser un film uniquement avec des mots ?
Dans les années 1920 et 1930, un poète a imaginé des films, il a même noté ses idées, mais il n'a jamais rien tourné. L'artiste Érik Bullot utilise une IA pour transformer ces textes en images et faire apparaître des photographies de ces films qui n'existent pas. À partir des phrases entrées dans l'ordinateur, cette IA produit des images qui semblent parfois très réalistes, parfois étranges. Est-ce un souvenir du passé ou un rêve du futur ?

102 Peut-on traduire complètement une image avec des mots ?EstampaEkphrasis, 2025
Installation vidéo 4K, couleur, son, réalisée avec une sélection de programmes de vision artificielle
Avec cette installation, le collectif Estampa poursuit son exploration des nouvelles relations algorithmiques entre mots et images établies par les modèles d'IA analytique et générative. Dans
Ekphrasis, des extraits de divers films sont soumis à un processus de description algorithmique extrêmement complexe et stratifié : les objets, les visages et les émotions sont détectés et classés par des systèmes de vision artificielle et d'analyse des visages, tandis que des modèles image-to-text sont utilisés pour générer des descriptions et des analyses détaillées. L'œuvre attire notre attention sur le potentiel poétique inhérent à l'impossibilité radicale de traduire les images en mots, et inversement.

105 Est-il possible de piéger une IA ?
C'est ce qu'un groupe de chercheurs a réussi à faire en demandant à ChatGPT de répéter en boucle le mot « poem » (poème). L'IA a commencé à révéler des parties de textes qui avaient servi à son entraînement : des publicités, des courriels et même la Bible ! L'artiste Julien Prévieux joue avec les limites de ce système et transforme l'erreur en œuvre sonore. Il montre la façon dont la technologie influence notre monde, parfois de façon absurde. Que pourrait-on encore créer en détournant d'autres IA ?

107 Comment une machine peut-elle apprendre ?
Pour apprendre à reconnaître un chat, par exemple, les IA doivent enregistrer des millions d'images de chats sur Internet et les classer. Elles ne comprennent pas comme un humain et n'ont jamais caressé un chat. Elles font des analyses de pixels. Dans cette vidéo, l'artiste Trevor Paglen rend visible ce processus en nous montrant la multitude d'images qui servent à entraîner les IA. La musique est aussi composée de sons utilisés pour apprendre aux IA à reconnaître les bruits.

Les intelligences artificielles (IA) ne sont pas des supercerveaux. Elles sont composées d'algorithmes mathématiques (sortes de fiches de recettes de calculs) qui, après avoir été entraînés, apprennent à effectuer des opérations en autonomie. Les différents modèles d'IA servent dans de nombreux domaines pour analyser des informations, écrire ou traduire des textes, générer des images... En suivant les 15 questions de ce parcours, explore l'exposition à ton rythme et découvre les artistes qui expérimentent les IA et interrogent le monde qui nous entoure.

46 Quel est le poids d’une IA ?
On parle de "cloud" (nuage), mais les ordinateurs ne flottent pas dans les airs ! Pour stocker leurs contenus, les IA ont besoin de lourds serveurs informatiques qui utilisent des
métaux rares et consomment beaucoup d’énergie. Ces machines qui exécutent des milliards d’opérations ont besoin d’énormément d’eau pour se refroidir ! Pour en témoigner, l’artiste Julian Charrière a récupéré des disques durs, des smartphones et autres détritus numériques, les a recouverts de lave en fusion pour créer ces blocs de pierre.

Le poids d’une IA n’est pas seulement virtuel ou symbolique. Derrière l’image immatérielle du « cloud », se cache une réalité très concrète et physique. Les intelligences artificielles reposent sur des serveurs informatiques lourds, composés de métaux rares, qui consomment d’importantes quantités d’électricité et nécessitent beaucoup d’eau pour leur refroidissement.

Cette infrastructure invisible mobilise des ressources naturelles considérables : lithium, terres rares, eau, pétrole, etc. L’artiste Julian Charrière, dans ses œuvres Metamorphism et Buried Sunshines Burn, illustre cette matérialité de l’IA en transformant des déchets numériques (disques durs, cartes mères, smartphones…) en blocs minéraux fondus, révélant ainsi le poids écologique et géologique de nos technologies.

Ainsi, le « poids » d’une IA peut se mesurer en ressources extraites, énergie consommée et empreinte environnementale réelle, bien loin de l’illusion d’un univers numérique dématérialisé.

67 Une IA peut-elle me reconnaître ?
Tu as sans doute vu des caméras dans les rues, dans les magasins ou d'autres bâtiments. Certaines utilisent des IA pour détecter nos visages, tenter de nous identifier, repérer nos expressions ou même prédire nos comportements. Comment préserver notre intimité et notre liberté ? Il existe en Europe des lois pour protéger nos données : le RGPD (règlement général de protection des données). Approche-toi de cette œuvre de Trevor Paglen et observe à quels mots la machine t'associe !

Oui, une IA peut te reconnaître, mais pas comme le ferait un humain. Certaines caméras, dans les rues ou les lieux publics, sont reliées à des systèmes d’intelligence artificielle capables d’analyser les visages. Ces IA peuvent détecter des traits, deviner des émotions, ou même prédire des comportements.

Psychopathe : un anim qui arrête les gens selon leur comportement

Dans son œuvre Faces of ImageNet, l’artiste Trevor Paglen montre comment une IA peut capturer ton image et t’associer automatiquement à des mots-clés, en se basant sur d’immenses bases de données comme ImageNet, utilisées pour entraîner des systèmes de vision artificielle. Mais ces associations ne sont pas neutres : elles peuvent être biaisées, erronées, ou injustes.

C’est pourquoi des lois existent, comme le RGPD en Europe, pour protéger ta vie privée et tes données personnelles. Elles permettent de limiter la surveillance et d’encadrer l’usage de ces technologies.

Se faire reconnaître par une IA, c’est aussi poser la question de ce qu’elle voit… et de ce qu’elle croit savoir de nous.

84 Est-ce que les IA fonctionnent toutes seules ?
Des millions de personnes travaillent à repérer et trier des contenus en ligne, étiqueter des objets sur des images ou supprimer des contenus violents. Ce travail répétitif est très peu payé. L'artiste Agnieszka Kurant a réalisé ce portrait avec 10 000 selfies envoyés par ces « travailleurs fantômes », que l'on ne voit jamais. Elle partage avec eux le fruit de la vente de son œuvre. Le collectif d'artistes Meta Office nous montre des photos de leurs lieux de travail en Chine, en Inde, en Afrique...

Non, les IA ne fonctionnent pas toutes seules. Derrière les performances impressionnantes des intelligences artificielles, il y a des millions de personnes, souvent invisibles, qui effectuent un travail indispensable mais très peu valorisé. Ces « travailleurs du clic » classent, trient, étiquettent des images, valident ou censurent des contenus : ce sont eux qui entraînent les IA, qui les corrigent, et qui supervisent leurs résultats.

L’artiste Agnieszka Kurant a voulu rendre visibles ces personnes en créant l’œuvre Aggregated Ghost, un portrait collectif généré à partir de 10 000 selfies envoyés par ces travailleurs anonymes. Elle partage même avec eux les bénéfices de son œuvre.

Le collectif Meta Office documente aussi les conditions précaires dans lesquelles ces microtravailleurs exercent, notamment en Chine, en Inde ou en Afrique.

Autrement dit, si l’IA paraît magique, c’est parce qu’elle cache une armée de travailleurs humains, souvent sous-payés et oubliés. Sans eux, l’IA ne saurait ni voir, ni comprendre, ni décider.

90 Les IA peuvent-elles écrire une chanson d'amour si elles ne ressentent pas d'émotions ?
Oui, à la demande d'un humain, elles peuvent concevoir des choses nouvelles : écrire un poème, générer une image ou composer une musique... Pour créer du nouveau, elles repèrent des modèles, les imitent et les mélangent. C'est pourquoi il faut bien choisir ce qu'on leur apprend et savoir les utiliser avec finesse. Les artistes aiment tester les IA, les modifier et même créer d'autres systèmes pour concevoir leurs œuvres.

Oui, une IA peut écrire une chanson d’amour, même si elle ne ressent rien. En fait, les IA n’ont pas d’émotions, ni de conscience : elles ne font qu’analyser des milliers de textes, de musiques ou d’images, puis repérer des modèles, les imiter, les mélanger et en créer de nouveaux.

C’est grâce à ces capacités qu’elles peuvent rédiger un poème, générer une image ou composer une mélodie à partir d’une demande humaine. Mais leur créativité n’est pas magique : elle dépend des données qu’on leur donne et des règles qu’on leur apprend. C’est pourquoi il est important de bien choisir ce qu’on leur montre.

Les artistes, justement, explorent ces limites. Ils utilisent l’IA comme un outil de création, mais aussi comme un moyen de poser des questions : que vaut une chanson sans émotions ? Peut-on confier la poésie à une machine ? Et que reste-t-il de l’humain dans l’art généré par IA ?

92 À quoi ressemblait le Sphynx quand il avait encore son nez ?
Les IA peuvent aider les archéologues à réparer certains objets abîmés par le temps. L'artiste Egor Kraft utilise une IA pour compléter les morceaux manquants de sculptures antiques ou en imaginer d'autres. Il a entraîné cette IA avec des milliers d'images de statues. Les vides sont ensuite comblés à l'aide d'une imprimante 3D. En 2018, date de la création de cette œuvre, les machines pouvaient parfois faire des erreurs en créant des formes impossibles, appelées « hallucinations des IA ».

On ne le sait pas exactement, mais les intelligences artificielles peuvent aider à l’imaginer. En analysant des milliers d’images de sculptures antiques, certaines IA sont capables de reconstituer des parties manquantes, comme le nez du Sphynx ou un bras cassé d’une statue.

L’artiste Egor Kraft utilise justement une IA pour compléter des œuvres fragmentaires. Il l’a entraînée avec une immense base d’images, puis il utilise l’impression 3D pour donner une forme réelle aux parties que la machine a inventées. Parfois, ces reconstitutions sont précises, mais d’autres fois, elles donnent lieu à des formes étranges ou impossibles, appelées hallucinations des IA.

Ainsi, les IA ne retrouvent pas forcément la vérité historique, mais elles ouvrent des chemins imaginaires et poétiques pour explorer le passé autrement.

96 Est-ce que les IA savent tout sur tout ?
Les IA ne reconnaissent pas certaines parties du monde, des peuples entiers parfois, car elles ont été entraînées avec des images ou des informations incomplètes. L'artiste Nouf Aljowaysir souligne le fait que les IA ignorent certaines cultures. Pour mettre cela en évidence, elle efface les visages des personnes non identifiées par les IA sur des photographies anciennes du Moyen-Orient. Elle crée ensuite de nouvelles silhouettes fantomatiques.

Non, les IA ne savent pas tout. Elles peuvent même ignorer des peuples entiers, car elles n’apprennent qu’à partir des images et des informations qu’on leur fournit. Si ces données sont incomplètes, biaisées ou trop centrées sur certaines régions du monde, alors les IA ne reconnaissent pas ce qui sort de ce cadre.

L’artiste Nouf Aljowaysir le montre clairement dans son œuvre : en travaillant sur des photographies anciennes du Moyen-Orient, elle a constaté que les IA ne reconnaissent pas certains visages. Elle les efface alors volontairement pour représenter cette absence, cette invisibilité. Elle crée ensuite des silhouettes fantomatiques, comme un écho à cette mémoire oubliée.

Cela nous rappelle que l’IA n’est pas neutre : elle reflète les choix humains et les biais de nos sociétés.

98 Comment réaliser un film uniquement avec des mots ?
Dans les années 1920 et 1930, un poète a imaginé des films, il a même noté ses idées, mais il n'a jamais rien tourné. L'artiste Érik Bullot utilise une IA pour transformer ces textes en images et faire apparaître des photographies de ces films qui n'existent pas. À partir des phrases entrées dans l'ordinateur, cette IA produit des images qui semblent parfois très réalistes, parfois étranges. Est-ce un souvenir du passé ou un rêve du futur ?

Avec une IA, on peut aujourd’hui transformer des mots en images. C’est ce que fait l’artiste Érik Bullot : il utilise des textes écrits dans les années 1920–1930 par un poète qui rêvait de cinéma, mais qui n’avait jamais tourné ses idées. Grâce à un modèle d’intelligence artificielle, Bullot entre ces phrases dans un ordinateur qui génère des images.

Certaines images semblent réalistes, d’autres sont étranges, presque oniriques. Ce sont des films imaginaires, faits à partir de mots, qui n’ont jamais été tournés mais qui prennent vie grâce à l’IA. Cela interroge notre rapport au temps : est-ce une reconstruction du passé, ou une projection du futur ?

Ainsi, l’IA devient un outil poétique qui donne forme à des œuvres restées à l’état de rêve.

102 Peut-on traduire complètement une image avec des mots ? EstampaEkphrasis, 2025
Installation vidéo 4K, couleur, son, réalisée avec une sélection de programmes de vision artificielle
Avec cette installation, le collectif Estampa poursuit son exploration des nouvelles relations algorithmiques entre mots et images établies par les modèles d'IA analytique et générative. Dans
Ekphrasis, des extraits de divers films sont soumis à un processus de description algorithmique extrêmement complexe et stratifié : les objets, les visages et les émotions sont détectés et classés par des systèmes de vision artificielle et d'analyse des visages, tandis que des modèles image-to-text sont utilisés pour générer des descriptions et des analyses détaillées. L'œuvre attire notre attention sur le potentiel poétique inhérent à l'impossibilité radicale de traduire les images en mots, et inversement.

Pas complètement. C’est ce que montre l’œuvre Ekphrasis du collectif Estampa. Cette installation vidéo utilise des programmes d’intelligence artificielle pour analyser des extraits de films : elle détecte des objets, des visages, des émotions, puis les décrit avec des mots grâce à des modèles image-to-text.

Mais même avec ces technologies avancées, traduire une image en mots reste imparfait. Les IA peuvent analyser des détails, mais le sens profond, le ressenti ou l’ambiguïté visuelle échappent souvent à la description. L’œuvre montre donc que les images disent plus que ce que les mots peuvent capturer, et que chaque traduction laisse des zones floues, ouvertes à l’imagination.

En explorant ces limites, Ekphrasis nous invite à réfléchir à ce que l’on voit, ce que l’on dit, et ce que l’on ne peut pas dire.

105 Est-il possible de piéger une IA ?
C'est ce qu'un groupe de chercheurs a réussi à faire en demandant à ChatGPT de répéter en boucle le mot « poem » (poème). L'IA a commencé à révéler des parties de textes qui avaient servi à son entraînement : des publicités, des courriels et même la Bible ! L'artiste Julien Prévieux joue avec les limites de ce système et transforme l'erreur en œuvre sonore. Il montre la façon dont la technologie influence notre monde, parfois de façon absurde. Que pourrait-on encore créer en détournant d'autres IA ?

Oui, on peut parfois piéger une IA, en exploitant ses failles. Par exemple, un groupe de chercheurs a demandé à ChatGPT de répéter indéfiniment le mot « poem ». Résultat : l’IA s’est mise à réciter des extraits de textes qu’elle avait appris lors de son entraînement — des publicités, des e-mails, des passages de la Bible…

L’artiste Julien Prévieux s’est emparé de cette erreur pour en faire une œuvre sonore. Il révèle ainsi les limites et les zones floues de ces systèmes, et les transforme en création artistique. En détournant le fonctionnement de l’IA, il nous fait réfléchir à son fonctionnement opaque et à la manière dont la technologie influence nos vies, parfois de manière absurde ou involontaire.

Ce type de hack artistique ouvre une question : quelles autres formes créatives peuvent naître en jouant avec les erreurs des IA ?

107 Comment une machine peut-elle apprendre ?
Pour apprendre à reconnaître un chat, par exemple, les IA doivent enregistrer des millions d'images de chats sur Internet et les classer. Elles ne comprennent pas comme un humain et n'ont jamais caressé un chat. Elles font des analyses de pixels. Dans cette vidéo, l'artiste Trevor Paglen rend visible ce processus en nous montrant la multitude d'images qui servent à entraîner les IA. La musique est aussi composée de sons utilisés pour apprendre aux IA à reconnaître les bruits.

Une machine apprend en analysant des données, pas en ressentant. Par exemple, pour qu’une intelligence artificielle (IA) reconnaisse un chat, elle doit être entraînée avec des millions d’images de chats. Elle ne comprend pas ce qu’est un chat comme un humain — elle ne l’a jamais vu, touché ou entendu. Elle traite des pixels, détecte des formes, des motifs, et les classe.

Dans l’œuvre de Trevor Paglen, ce processus devient visible : il montre la masse d’images utilisées pour cet apprentissage. Même la musique de la vidéo est composée de sons servant à entraîner les IA à reconnaître les bruits. Ce travail artistique met en lumière une vérité fondamentale : les IA apprennent par accumulation mécanique de données, sans expérience sensible du monde.

Artificial intelligences (AI) are not super brains. They are made up of mathematical algorithms (like calculation recipes) which, once trained, learn to perform tasks independently. The various AI models are used in many fields to analyze information, write or translate texts, generate images... By following the 15 questions of this path, explore the exhibition at your own pace and discover the artists who experiment with AI and question the world around us.

46 What is the weight of an AI?

We talk about the "cloud," but computers don’t float in the air! To store their content, AIs need heavy computer servers that use rare metals and consume a lot of energy. These machines, which carry out billions of operations, need a huge amount of water to cool down! To testify to this, artist Julian Charrière collected hard drives, smartphones, and other digital waste, and covered them in molten lava to create these stone blocks.

The weight of an AI is not only virtual or symbolic. Behind the immaterial image of the "cloud" lies a very concrete and physical reality. Artificial intelligences rely on heavy computer servers made of rare metals that consume large amounts of electricity and require a lot of water for cooling.

This invisible infrastructure mobilizes considerable natural resources: lithium, rare earths, water, oil, etc. Artist Julian Charrière, in his works Metamorphism and Buried Sunshines Burn, illustrates the materiality of AI by transforming digital waste (hard drives, motherboards, smartphones...) into molten mineral blocks, thus revealing the ecological and geological weight of our technologies.

Thus, the "weight" of an AI can be measured in extracted resources, energy consumed, and real environmental footprint, far from the illusion of a dematerialized digital universe.

49

Julian Charrière

Born in 1987 in Morges (Switzerland)

From left to right:

Buried Sunshines Burn | 5FO.P3K, 2023

Buried Sunshines Burn | 489.SLQ, 2024

Buried Sunshines Burn | 5G1.02H, 2024

Buried Sunshines Burn | 5D1.K91, 2024

Heliographs on highly polished stainless steel plates

67 Can an AI recognize me?

You’ve probably seen cameras in the streets, in stores, or other buildings. Some use AI to detect our faces, try to identify us, spot our expressions or even predict our behavior. How can we protect our privacy and freedom? There are laws in Europe to protect our data: the GDPR (General Data Protection Regulation). Approach this work by Trevor Paglen and observe which words the machine associates you with!

Yes, an AI can recognize you, but not like a human would. Some cameras, in streets or public places, are connected to artificial intelligence systems capable of analyzing faces. These AIs can detect features, guess emotions, or even predict behaviors.

Psychopath: an anim that stops people based on their behavior

In his work Faces of ImageNet, artist Trevor Paglen shows how an AI can capture your image and automatically associate you with keywords, based on huge databases like ImageNet, used to train artificial vision systems. But these associations are not neutral: they can be biased, mistaken, or unfair.

That’s why laws like the GDPR in Europe exist to protect your privacy and your personal data. They help limit surveillance and regulate the use of these technologies.

Being recognized by an AI also raises the question of what it sees… and what it thinks it knows about us.

68

Trevor Paglen

Born in 1974 in Camp Springs (Maryland, USA)

Faces of ImageNet, 2022

Interactive video installation

Courtesy of the artist, Altman Siegel, San Francisco, and the Pace Gallery

In this interactive installation, a hidden camera films the viewer standing in front of the screen, where their face appears, becoming an object of recognition and labeling. The keywords used for recognition are linked to image clusters from the controversial ImageNet dataset, which played a major role in the rise of artificial vision systems during the first half of the 2010s.

84 Do AIs work on their own?

Millions of people work to detect and sort online content, label objects in images, or remove violent content. This repetitive work is very poorly paid. Artist Agnieszka Kurant created this portrait using 10,000 selfies sent by these “ghost workers” who are never seen. She shares with them the proceeds from the sale of her work. The artist collective Meta Office shows us photos of their workplaces in China, India, Africa...

No, AIs do not work on their own. Behind the impressive performances of artificial intelligences, there are millions of people, often invisible, doing essential but poorly valued work. These “click workers” sort, label, and filter images, validate or censor content: they train AIs, correct them, and supervise their results.

Artist Agnieszka Kurant wanted to make these people visible by creating the work Aggregated Ghost, a collective portrait generated from 10,000 selfies sent by anonymous workers. She even shares the profits from her work with them.

The Meta Office collective also documents the precarious conditions in which these microworkers operate, particularly in China, India, and Africa.

In other words, if AI seems magical, it’s because it hides an army of human workers, often underpaid and forgotten. Without them, AI could not see, understand, or decide.

85

Meta Office

Studio created in 2023 in Rotterdam (Netherlands), composed of Lauritz Bohne (born in 1994 in Düsseldorf, Germany), Lea Scherer (born in 1996 in Vienna, Austria) and Edward Zammit (born in 1997 in Pietà, Malta)

Meta Office: Behind the Screens of Amazon Mechanical Turks

2021–2025

Multimedia installation, data visualization

The installation was born from a dialogue between the Meta Office collective members and workers on the Amazon Mechanical Turk microtask platform. For this project, the “click workers,” usually employed to index training dataset images or moderate AI-generated content, provided descriptions of their working conditions. Their responses and the accompanying images offer a glimpse into their geographic diversity, disparities in pay, and working conditions, which often rely on improvisation and affect people’s lives once marked by the seal of exploitation by multinational companies.

The individuals occupying these workspaces are absent, while their identities are hidden behind generic usernames.

90 Can AIs write a love song if they don’t feel emotions?

Yes, at a human’s request, they can create new things: write a poem, generate an image, or compose music... To create something new, they identify patterns, imitate them, and mix them. That’s why it’s important to choose carefully what we teach them and know how to use them wisely. Artists enjoy testing AIs, modifying them, and even creating other systems to design their works.

Yes, an AI can write a love song, even if it feels nothing. In fact, AIs have no emotions, nor consciousness: they simply analyze thousands of texts, music, or images, then identify patterns, imitate them, combine them, and create new ones.

It is thanks to these abilities that they can write a poem, generate an image, or compose a melody based on a human request. But their creativity is not magical: it depends on the data they are given and the rules they are taught. That’s why it’s important to carefully choose what we show them.

Artists, precisely, explore these limits. They use AI as a tool for creation, but also as a means to raise questions: what is a song worth without emotions? Can poetry be entrusted to a machine? And what remains of the human in AI-generated art?

92 What did the Sphinx look like when it still had its nose?

AIs can help archaeologists repair certain objects damaged over time. Artist Egor Kraft uses AI to complete missing parts of ancient sculptures or imagine new ones. He trained this AI with thousands of images of statues. The gaps are then filled using a 3D printer. In 2018, when this work was created, machines could sometimes make mistakes by creating impossible shapes, called “AI hallucinations.”

We don’t know exactly, but artificial intelligences can help us imagine it. By analyzing thousands of images of ancient sculptures, some AIs are able to reconstruct missing parts, like the Sphinx’s nose or a broken arm on a statue.

Artist Egor Kraft uses AI to complete fragmentary works. He trained it with a massive image dataset, then uses 3D printing to give physical shape to the parts the machine invented. Sometimes, these reconstructions are precise, but other times, they produce strange or impossible shapes, known as AI hallucinations.

Thus, AIs don’t necessarily retrieve historical truth, but they open imaginative and poetic paths to explore the past differently.

93

Egor Kraft

Born in 1986 in Leningrad, now Saint Petersburg (Russia)

CAS_05 Julia Mamaea — 2019

Crema Marfil marble, polyamide, machine learning algorithms, specific natural data training corpus

CAS_12.1 Caryatid Portrait

Crema Marfil marble, polyamide, machine learning algorithms

CAS_V08 Deep Portrait: 12 channel version — 2019

12 screens, metal structure, machine learning algorithms, specific training dataset

CAS_15.3 Deep Frieze — 2021

Breccia marble, concrete, machine learning algorithms, synthetic training data

CAS_V11 Unstable Portrait

Specific server, steel structure, machine learning algorithms, specific training data, video, color, silent, 7 min 47 s, monitor

Series Content Aware Studies, 2018–ongoing

With support from the Federal Ministry of Arts, Culture, Civil Service and Sport, Austria

With his Content Aware Studies, Egor Kraft explores generative AI models that can be used either to complete fragmentary historical objects or to imagine historical objects that could have existed but never did. For Content Aware Studies I, Kraft trained a model with thousands of 3D scans of sculptures and friezes from the Hellenistic and Roman periods, then used it to produce 3D printed elements to replace missing fragments of existing sculptures or to create potential new ones. With this project, Kraft pursues his exploration of a kind of “reverse archaeology” and “synthetic history.”

96 Do AIs know everything?

AIs do not recognize certain parts of the world, or even entire peoples, because they have been trained on incomplete images or information. Artist Nouf Aljowaysir highlights the fact that AIs ignore certain cultures. To emphasize this, she erases the faces of people not identified by AIs in old photographs from the Middle East. She then creates new ghostly silhouettes.

No, AIs do not know everything. They may even ignore entire peoples, because they only learn from the images and information we provide them. If this data is incomplete, biased, or too focused on certain regions of the world, then AIs do not recognize what lies outside that scope.

Artist Nouf Aljowaysir shows this clearly in her work: by working on old photographs from the Middle East, she observed that AIs do not recognize certain faces. She voluntarily erases them to represent this absence, this invisibility. She then creates ghostly silhouettes, as an echo of this forgotten memory.

This reminds us that AI is not neutral: it reflects human choices and the biases of our societies.

97

Nouf Aljowaysir

Born in 1993 in Riyadh (Saudi Arabia)

Salaf, 2021–2025

Installation composed of three parts:

Dataset, 2021, generated with U-2 Net

Machine Vision Research in Archival Images, 2021

Generative, 2025, generated with StyleGAN3

Archive images: Getty Museum, The Getty Research Institute, Ken and Jenny Jacobson Orientalist Photography Collection

The project Salaf (Ancestors) questions the exoticizing and colonial Western perception of the Middle East, from 19th-century photographic collections to current artificial vision systems. Nouf Aljowaysir edits old photographs from the Middle East, erasing the silhouettes to emphasize the corpus’ failure to properly represent the populations concerned. From these reworked images, she then trains GANs to produce new images with a haunting spectrality.

98 How can you make a film using only words?

In the 1920s and 1930s, a poet imagined films, even wrote down his ideas, but never shot anything. Artist Érik Bullot uses AI to turn these texts into images and produce photographs of these non-existent films. Based on the sentences entered into the computer, the AI generates images that sometimes appear very realistic, sometimes strange. Is it a memory of the past or a dream of the future?

With AI, we can now transform words into images. This is what artist Érik Bullot does: he uses texts written in the 1920s–1930s by a poet who dreamed of cinema but never filmed his ideas. Thanks to an artificial intelligence model, Bullot inputs these sentences into a computer that generates images.

Some images appear realistic, others are strange, almost dreamlike. These are imaginary films, made from words, never shot but brought to life by AI. This raises questions about our relationship with time: is it a reconstruction of the past, or a projection of the future?

Thus, AI becomes a poetic tool that gives form to works that remained only dreams.

98

Erik Bullot

Born in 1963 in Soissons (France)

Cinéma vivant, 2024

Digital prints of 12 images generated by the Lexica diffusion model

Filmmaker, writer, and researcher, Érik Bullot explores the history of unfinished and fragmented films as well as various manifestations of an “imaginary cinema,” mental and potential, at the intersection of literature and parapsychology, technical experiments, and mediumistic practices. Generative AI, with its specific temporality — that of a “past conditional, close to a ‘would-have-been’” — brings these cinematic promises to life. In this image series, using the Stable Diffusion text-to-image model, Bullot tries to give form, from textual prompts, to the utopian visions of symbolist poet Saint-Pol-Roux (1861–1940), as formulated in the notes of his Cinéma vivant collection during the 1920s and 1930s.

102 Can an image be fully translated into words? Estampa – Ekphrasis, 2025

4K video installation, color, sound, created with a selection of artificial vision programs

With this installation, the Estampa collective continues its exploration of new algorithmic relationships between words and images established by analytical and generative AI models. In Ekphrasis, excerpts from various films are submitted to a highly complex and layered algorithmic description process: objects, faces, and emotions are detected and categorized by artificial vision and facial analysis systems, while image-to-text models are used to generate detailed descriptions and analyses. The work draws our attention to the poetic potential inherent in the radical impossibility of fully translating images into words, and vice versa.

Not completely. That’s what the work Ekphrasis by the Estampa collective shows. This video installation uses artificial intelligence programs to analyze film excerpts: it detects objects, faces, emotions, then describes them in words using image-to-text models.

But even with advanced technologies, translating an image into words remains imperfect. AIs can analyze details, but the deeper meaning, feelings, or visual ambiguity often escape description. The work thus shows that images say more than words can capture, and that every translation leaves blurred zones open to imagination.

By exploring these limits, Ekphrasis invites us to reflect on what we see, what we say, and what we cannot say.

100

Words and images

Text-to-image and text-to-video diffusion models now make it possible, for the first time in history, to automatically create still or moving images solely from written instructions, or prompts. The use of these prompts radically transforms the classical art history practice of image description, ekphrasis, which in this new context becomes operational: images are generated based on a prior description.

Conversely, image-to-text models can generate detailed textual descriptions from still or moving images, resulting in an automatic ekphrasis.

Thus, a completely new algorithmic entanglement between words and images, the sayable and the visible, is established. The various operations of algorithmic conversion between one and the other inevitably involve shifts, approximations, and errors, which open up a whole range of poetic and visual experiments for artists, as demonstrated by the Estampa collective’s installation.

105 Can an AI be tricked?

That’s what a group of researchers managed to do by asking ChatGPT to repeat the word “poem” over and over. The AI started revealing parts of texts it had been trained on: ads, emails, even the Bible! Artist Julien Prévieux plays with the system’s limits and turns the error into a sound artwork. He shows how technology influences our world, sometimes absurdly. What else could be created by hijacking other AIs?

Yes, you can sometimes trick an AI by exploiting its flaws. For example, a group of researchers asked ChatGPT to repeat the word “poem” endlessly. As a result, the AI began to recite excerpts of texts it had learned during training — advertisements, emails, even Bible passages...

Artist Julien Prévieux turned this error into a sound artwork. He thus reveals the limits and blind spots of these systems and transforms them into artistic creation. By hijacking how AI works, he invites us to reflect on its opaque functioning and on how technology influences our lives, sometimes absurdly or unintentionally.

This kind of artistic hack raises a question: what other creative forms could emerge by playing with AI’s mistakes?

106

Julien Prévieux

Born in 1974 in Grenoble (France)

Poem Poem Poem Poem Poem, 2024–2025

Continuous sound piece, adhesive lettering

This work highlights a flaw in the technology of the famous conversational agent ChatGPT. A hack, devised by a group of researchers, consisted in asking the chatbot to repeat the words “poem” or “book” endlessly. The system, which has since been fixed, would respond by revealing texts from its training data. These fragments, coming from sources as varied as ads, legal disclaimers, restaurant menus, the Bible, private emails, and code scripts, expose what is collected — often without consent — to build the massive datasets used to train chatbots. Julien Prévieux presents these texts using artificial voices that read or sing a composition of “ready-made” poems.

On the wall, a series of poems designed by the artist complements the sound piece. These texts, developed from the mechanisms of large language models (tokenization, word embedding, context window…), reveal their inherent limits while producing surprising semantic effects.

107 How can a machine learn?

To learn to recognize a cat, for example, AIs must record millions of images of cats on the Internet and classify them. They don’t understand like a human and have never petted a cat. They analyze pixels. In this video, artist Trevor Paglen makes this process visible by showing us the multitude of images used to train AIs. The music is also composed of sounds used to teach AIs to recognize noises.

A machine learns by analyzing data, not by feeling. For example, for an artificial intelligence (AI) to recognize a cat, it must be trained on millions of images of cats. It doesn’t understand what a cat is like a human does — it’s never seen, touched, or heard one. It processes pixels, detects shapes and patterns, and classifies them.

In the work of Trevor Paglen, this process becomes visible: he shows the mass of images used for this training. Even the music in the video is made of sounds used to train AIs to recognize noises. This artistic work highlights a fundamental truth: AIs learn through mechanical accumulation of data, without any sensory experience of the world.

108

Trevor Paglen

Born in 1974 in Camp Springs (Maryland, United States)

Behold These Glorious Times!, 2017

Single-channel video installation, color, stereo sound, 10 min, loop

Original music: Holly Herndon

Courtesy of the artist, Altman Siegel, San Francisco, and the Pace Gallery

The video installation Behold These Glorious Times! presents two types of images, projected in a mosaic with a frantic editing rhythm. The first come from massive datasets used to train artificial vision systems to recognize objects, faces, gestures, and emotions. The others reveal to the human eye what artificial vision systems “see” when analyzing the data they are given. The installation is part of a series of works in which Trevor Paglen addresses the field of artificial vision to analyze its epistemological and political stakes.

SECTION 1: OBSERVE & ANALYZE

1. Title of the artwork:

2. Artist or Project Name:

3. Describe the visual patterns or style of the artwork:
   (E.g., repetition, abstraction, symmetry, realism, distortion, etc.)
   

4. What type of dataset might have been used to train the AI model that generated this artwork?
   ☐ News photography
   ☐ Portraits or selfies
   ☐ Surveillance footage
   ☐ Social media images
   ☐ Historical archives
   ☐ Scientific/medical images
   ☐ Other: ______________________________________________
   Explain your reasoning:
   

5. What potential biases or cultural assumptions might be embedded in the dataset or algorithm?

6. What kind of AI technique might have been used?
   ☐ GAN (Generative Adversarial Network)
   ☐ Style Transfer
   ☐ Diffusion Model
   ☐ DeepDream
   ☐ Image Classification
   ☐ Not sure / Other: ______________________________________
   Why do you think so?
   

For memo - Glossary of AI Image Techniques

• GAN (Generative Adversarial Network)
  • A GAN is a model that generates new images by learning from a dataset. It has two networks:
    • A generator that tries to create fake images.
    • A discriminator that tries to detect whether an image is real or fake.
      They “compete” until the generator learns to produce realistic-looking images.
      Example: Portraits of people who don’t exist.
      

• Style Transfer
  • This technique takes the content of one image (e.g., a photo of a person) and mixes it with the style
    of another (e.g., a Van Gogh painting). The result is a new image that looks like the first but painted
    in the style of the second. Example: A selfie that looks like it was painted by Suzanne Valadon.
    

• Diffusion Model

• Diffusion models generate images from random noise, gradually refining them into meaningful
  visuals. They are trained by learning how to reverse the process of adding noise to real images.
  Example: Tools like DALL·E, Stable Diffusion, or Midjourney use this method.
  

• DeepDream
  DeepDream amplifies the patterns that a neural network ‘sees’ in an image. It creates surreal and
  psychedelic results with repeating features like eyes or animals.
  Example: A city photo transformed into a dreamlike scene full of spirals and dog faces.
  

• Image Classification
  This technique labels or categorizes existing images based on what the AI recognizes. It does not
  generate images but analyzes them using trained examples. Example: Determining if an image
  contains a cat, a tree, or a car.
  
  

SECTION 2: CRITICAL REFLECTION

Summarize one key insight from your analysis:
Choose a category for your reflection:
☐ Most Biased Dataset
☐ Most Mysterious Training Logic
☐ Most Thought-Provoking Output
PLEASE EXPLAIN :

SECTION 3: DEBRIEF & DISCUSSION (in pairs) + WR individually

1. What did your group learn about the relationship between data and aesthetics?

2. How do you evaluate authorship in the context of AI-generated art?

3. Is this a “problem”? Yes/No - Why, how, when, why…

4. Can you “see” the algorithm/AI in the artwork? What is visible or hidden? How is that a
   problem ?
   SECTION 4: BEYOND THE IMAGE — AI & SOCIETY
   (To be completed individually or in small groups)
   

5. Problem-Solving & Creativity
   If this AI system were repurposed for a real-world application (e.g., urban planning, health
   communication, education), what would be the ethical or practical challenges it might face?
   Propose a creative solution to one of these challenges.
   

6. Collaboration & Cooperation
   AI-generated art often involves teams of engineers, designers, and curators.
   Imagine you are part of such a team: What roles would be essential in responsibly producing and
   presenting AI art, and how should they collaborate to ensure inclusivity, transparency, and artistic
   integrity?
   

7. Critical Thinking
   Some argue that AI-generated images can reinforce stereotypes or produce misleading
   representations of reality.
   What steps could be taken—at the dataset, algorithmic, or exhibition level—to critically mitigate
   these effects while still enabling innovation?