Apprendre à interdire : gouvernance par le prompt et la censure des IA génératives

La démocratisation d’accès aux outils de génération d’images comme Dall-E, Midjourney ou Stable Diffusion, a suscité le besoin de régulation et d’encadrement des usages de ces IAs. Nous appelons cela “gouvernance par le prompt” qui consiste à interdire les usages de certains mots-clés dans les prompts textuels. Ces prompts interdits évoquent le plus souvent des registres lexicaux qui renvoient à la violence, nudité, sexualité, sexisme, racisme. Or, dans d’autres cas, les interdictions peuvent également concerner des personnalités politiques, des noms de pays ou de régions, des évènements historiques ou même des identités sexuelles.

Cette intervention est basée sur une enquête de terrain comparative autour des trois IA génératives à destination du grand public : le projet chinois ERNIE-ViLG, le projet russe Kandinsky XXL et le projet américain DALL-E. Elle explore les impacts de facteurs culturels et politiques ainsi que des modes de production de ces IA et leurs licences sur les formes de censure et de « gouvernance par le prompt ». L’enquête explore également la propagation de pratiques de ruse et bricolage collectives développées par les utilisateurs face à la censure. Tout d’abord, pour mettre la lumière sur l’existence même des listes noires de prompts, mener des enquêtes collectives de “reverse engineering” afin de rétablir ces listes et les partager avec les autres. Ensuite, pour trouver des façons de contourner ces interdictions, surtout par les artistes visuels.

Ce cours est donné par Olivier Voirol, Olivier Glassey et Valentine Girardier.

La conférence est publique