Aujourd'hui, encore un post sur les IA car c'est un sujet passionnant. Par ailleurs, le travail sur ce texte m'a permis d'avoir la recommandation de deux oeuvres qui peuvent parler de sujets similaires: We de Zamiatine et « colonialisme de la donnée » (Cory Doctorow, entre autres). Je ne les ai pas encore lu, mais je pense que ça me donnera encore des idées.
--- mode fiction on---
Un impôt "intelligent"
Ce matin, la notification était arrivée par courrier. Une jolie enveloppe avec un logo du Parti et sa devise: "L'intelligence collective au service de notre nation". J’étais cordialement invitée à rejoindre l’atelier de clairvoyance pour un acte, un devoir citoyen. Une jolie formule pour dire qu’on allait nous demander de produire du contenu ou alimenter des modèles en contenus pour les entraîner. Il y avait différentes options. En général, nous avions le choix entre scanner des entrepôts entiers de livres/CD/anciens disques durs achetés au kilo et remplir des questionnaires afin de récolter des informations sur nos comportements ou passer en revue ces questionnaires avec des ingénieurs lors d’entretiens en petites cellules bien feutrées avec une ambiance cosy et pas mal de nourritures et de boisson (souvent de l'alcool) afin de favoriser l'envie de parler.
GargantIA, un agent IA de gestion de tâches qui programmait les ateliers de clairvoyance, dirigeait maintenant l’ensemble des investissements de contenus humains. L'allégorie du géant qui dévore convenait tellement à la vision de la tâche. Il s’assurerait que les données humaines dépassent 10% des nouveaux contenus créés pour alimenter les modèles d’IA. Ils ont appelé ça: la Dîme Intelligente.
Depuis l'arrivée des IA et leurs développement, le Parti avait inscrit l'obligation d'État de maintenir une compétitivité intrinsèque avec la réalité humaine: nourrir les IA de façon régulière, principalement des apports totalement humains. Les modèles avaient besoin de données et nous avions besoin de leurs traitements. À première vue, c’était du donnant-donnant. Mais très rapidement elles consommaient tout ce que nous avions pu produire en ligne. Et même ce que nous arrivions à produire quotidiennement ne suffisait plus. Surtout, les IA s’auto-polluaient. Même s’il était possible de filtrer les réseaux d’informations sociales, les informations avaient quand même tendance à être redondantes ou être contaminées par des illusions, parfois produits par les IA elles-mêmes. GargantIA était un géant qui avait faim ! Une faim particulièrement dévorante de nos vies à travers les contenus qu'on lui envoyait. Il avait même une forme de goût et des préférences en matière de contenus.
Depuis l'arrivée des IA et leurs développement, le Parti avait inscrit l'obligation d'État de maintenir une compétitivité intrinsèque avec la réalité humaine: nourrir les IA de façon régulière, principalement des apports totalement humains. Les modèles avaient besoin de données et nous avions besoin de leurs traitements. À première vue, c’était du donnant-donnant. Mais très rapidement elles consommaient tout ce que nous avions pu produire en ligne. Et même ce que nous arrivions à produire quotidiennement ne suffisait plus. Surtout, les IA s’auto-polluaient. Même s’il était possible de filtrer les réseaux d’informations sociales, les informations avaient quand même tendance à être redondantes ou être contaminées par des illusions, parfois produits par les IA elles-mêmes. GargantIA était un géant qui avait faim ! Une faim particulièrement dévorante de nos vies à travers les contenus qu'on lui envoyait. Il avait même une forme de goût et des préférences en matière de contenus.
Ses friandises préférées restaient les interactions humaines qui permettaient aux modèles de comprendre davantage les données qu’ils essayaient de digérer. Par exemple, l’analyse d’un silence devenait plus précise au fur et à mesure du temps. Elle arrivait aujourd’hui à concorder avec les signes physiologiques visibles, les moindres petites phrases de réflexion qu’on pouvait avoir quotidiennement comparées à l’analyse de la réflexion que les auteurs pouvaient écrire ou exprimer, parfois murmurer d’eux-mêmes. Cela donnait une information importante afin de pouvoir avoir des données plus cohérentes avec le couple comportement/contexte que l’IA comprenait des humains. Certains avaient opté pour l’observation-question-réponse. Ils alimentaient également avec leurs vies entières de tous les jours grâce à des lunettes AutoBio avec lesquelles ils se filmaient à la première personne. Les heures de films quotidiennes alimentaient insatiablement les modèles d'IA. Lors d'une session, j'avais reçu des compliments agrémentés d'une note importante sur mon crédit social sur mes dernières vacances en famille pour tout ceux qui avait participé. Je les avais documenté entièrement en données brutes.
Il y avait aussi un second niveau où une équipe de retraitement de données après que les modèles aient analysées les films, extrayaient des scènes et les faisaient diffuser à des humains et leur posaient des questions afin de vérifier s’ils avaient compris les interactions qu’ils avaient analyser en première instance. Les humains qui faisaient cette tâche étaient souvent rémunérés suivant la qualité de leurs réponses. Les réseaux montraient souvent des équipes d'influenceurs qui partaient en vacances avec des prix gagnés lors des ateliers. D'autres montraient des séjours en SPA pour des traitements de bien-être en échange des réponses "clairvoyantes". Enfin le troisième niveau comparait les données et extrayait des données comportementales qui guidaient les prochaines tendances ou les changements de saisons. Cette phase était surtout travaillée par les data-scientists ainsi que les statisticiens comportementaux qui pouvaient analyser des données d’une qualité inégalable, là où certains pays devaient financer des programmes universitaires avec des budgets totalement ridicules et avec des rétributions dérisoires de ceux qui alimentaient ces données. Souvent, on nous parlait de totalitarisme de la donnée privée mais nous analysions tout simplement nos propres vies pour pouvoir vivre ensemble !
Il n’y avait que ceux qui avaient quelque chose à cacher pour refuser ce devoir de citoyen. Ceux-là on leur obligeait à remettre toute leur vie pré-écrite. Même les dessins de leurs enfants étaient envoyés pour alimenter les modèles. Leurs vies alors devenaient un spectacle obligatoire pour GargantIA. Des caméras fixes chez eux couplés à des drônes de surveillance en extérieur, et si celles-ci étaient abîmé, une enquête de la Gentillesse voisine mènerait, en général, à un séjour conséquent dans les ateliers de civisme.
Enfin le gouvernement avait aussi des demandes spéciales pour influer sur les modèles en jouant des pièces à répétition dans différents décors afin de l’influer sur le traitement des comportement “normaux”. L’impact était pratiquement inexistant sur l’échelle et la structure culturelle de notre pays. Mais ça pouvait avoir des conséquences sur les pays de taille plus réduite ou moins peuplés et surtout qui avait des cultures plus permissives qui utilisaient nos modèles. Le gouvernement fixait les règles d’éthique en matière de pureté analytique. Mais c’était compliqué car ces modèles avaient aussi accès aux données extérieures au pays. Même si les ingénieurs maintenaient cette barrière, les IA avaient, à terme, la possibilité d’analyser ces données et de les traiter quand même. Le gouvernement espérait avoir suffisamment entraîné leurs outils pour influer sur les autres modèles et non se faire influencer. Il fallait défendre chèrement notre place sur l'échiquier du monde des IA.
--- mode fiction off---
J'espère que ça vous a plu. Comme d'habitude, n'hésitez pas à me faire des retours. Je vous répondrai volontiers. Le dessin est une génération Canva.
