La doxa de l'IA

Changer prend un peu de service, car il y a une nouvelle Doxa. Après celle du Covid, vient celle de l'IA. Contrairement au Covid, il n'a pas été nécessaire aux institutions de nous matraquer le cerveau avec des mensonges. L'IA s'est imposée d'elle-même.

Oui car l'IA permet des merveilles dont nous rêvons tous :

• aller plus vite pour faire ce qu'on doit faire
• ne plus attendre les autres, ne plus subir les autres
• savoir tout, tout de suite
• ne plus travailler
• ne plus chercher
• obtenir facilement ce dont on rêve

Bref l'IA c'est le Graal. Donc la nouvelle doxa. Doxa dans le Larousse : "Ensemble des opinions communes aux membres d'une société et qui sont relatives à un comportement social." Tout le monde dit que l'IA c'est merveilleux, ça doit certainement l'être.

Comme vous le savez je ne fais rien comme tout le monde. Aussi voici ce que je pense de l'IA :

• L'IA nous rend paresseux car elle fait tout à notre place, elle nous traite comme des "enfants rois"
• L'IA nous rend dépendants car on n'arrive plus à s'en passer, c'est comme une drogue
• L'IA nous rend conformes car elle n'a ni intuition ni créativité, ni émotion, elle reproduit ce que d'autres ont déjà fait
• L'IA calcule, cherche et trouve, compose et construit, à notre place, alors nos facultés se réduisent petit à petit
• L'IA transforme la société en un monde sous contrôle des industriels qui ne souhaitent pas notre bonheur
• L'IA produit du contenu plus réel que la réalité, alors nous perdons contact avec la réalité
• L'IA peut être incontrôlable et dangereuse, l'IA est au-dessus des lois et personne n'est responsable
• L'IA nous prive de liberté alors que nous croyons qu'elle nous en donne
• L'IA détruit tous les métiers que l'informatique n'avait pas encore supprimé
• L'IA nous transforme en machine, c'est un appauvrissement du genre humain.

Emmanuelle Darles en parle mieux que moi

Je vous propose ici un résumé avec mes propres mots (il peut y avoir des écarts avec le texte original) du livre : IA Illusion d'Avenir écrit par Emmanuelle Darles (tome 1).

IA Illusion d'Avenir

Emmanuelle Darles - Ed Marco Pietteur

1 Histoire du développement de l'IA

• 19° siècle : Charles Babbage - machine analytique
  • Encyclopédie Universalis : Celui-ci entreprend d'éliminer la source d'erreurs – l'intervention humaine –, en mécanisant toute la chaîne de calculs.
• 1936 : Alan Turing invente la "machine de turing" puis aide les alliés à déchiffrer les messages allemands pendant la seconde guerre mondiale
  • Nexa.fr : la machine de Turing est un concept mathématique qui permet d'exécuter tout calcul qui pourrait être exécuté par un système physique. Elle a servi de pilier pour créer les ordinateurs, la sécurité et l'IA.
• 1956 : conférence de Darmouth Collège qui lance l'expression "intelligence artificielle", émergence des systèmes experts
• 1960-1970 : éclosion de systèmes experts de plus en plus sophistiqués
• 1970-1990 : déception sur les résultats
• 1997 : Deep Bue bat Kasparov aux échecs
• 2010 : avancées majeures des nouvelles techniques d'IA favorisées par la puissance croissante des ordinateurs

2 L'IA c'est quoi ?

C'est un système d'apprentissage:

• L'apprentissage supervisé : chaque échantillon donné à la machine est marqué d'une étiquette (par exemple pour des photos d'animaux : l'étiquette sera "chien", "chat", "oiseau"...). La machine apprend la relation entre l'échantillon et l'étiquette. Puis on donne à la machine de nouveaux échantillons qu'elle n'a jamais vus, et elle peut donner l'étiquette (par exemple : "c'est un chien").
• L'apprentissage non supervisé : chaque échantillon est donné à la machine sans étiquette. Ils sont comparés par la machine afin de déterminer des similitudes (exemple : les habitudes d'achat des clients). Cela permet de déterminer des groupes ainsi que les critères de regroupement, qu'on n'avait peut-être pas imaginé au départ, et qui sont donnés par la machine (par exemple on va regrouper les clients en priorité par leur localisation géographique et le nombre d'enfants etc.)
• L'apprentissage par renforcement : une machine fait le travail d'analyse des échantillons, et une autre machine lui dit si la réponse est correcte, la première se corrige toute seule pour réduire les erreurs.
• L'apprentissage par réseau de neurones (dit "profond") : méthode dominante aujourd'hui qui s'inspire du fonctionnement des neurones humains sans en être vraiment. Cette technique donnera naissance aux IA génératives qui créent du contenu image, vidéo, texte, musique etc.
• L'IA Forte : rêve des transhumanistes : machine capable de raisonner, apprendre en autonomie, avec conscience, intuition et la compétence de sortir de son cadre initial.

Toute les IA, plus ou moins :

• sont coûteuses en énergie
• sont opaques sur leur fonctionnement
• ont un risque de sur-apprentissage (inefficaces sur les nouvelles données)
• sont dépendantes de la qualité des données de départ
• sont difficiles à mettre au point (choix des paramètres de fonctionnement)

L'IA ne pense pas, elle ne comprend pas, elle calcule, classe, prédit, sans conscience.

3 L'IA comme outil de pouvoir

• Pas de concurrence, qui fixe les règles ? Seuls les géants du numérique ont les moyens financiers et matériels pour créer ces IA, par la quantité de données qu'ils détiennent, par les budgets qu'il peuvent allouer, par la puissance des calculs dont ils disposent. Autrement dit pas de concurrent ! Quand il y en a un on l'achète pour l'intégrer ou on le supprime. Donc les règles ne sont pas fixées par les institutions d'Etat mais par les industriels de la data, il n'y a pas de contre-pouvoir.
• Une arme sans conscience. Les militaires se saisissent également de l'IA par exemple pour piloter des drone tueurs. Qui est responsable s'ils se trompent de cible ? La course à l'armement pousse les armées à renforcer leur arsenal d'IA.
• Le contrôle des populations. Le contrôle social en Chine est un exemple d'utilisation de l'IA où l'Etat sait tout de chaque citoyen, et peut le punir en définissant des règles de conduite. Aucun recours, aucune explications, vous n'avez plus de maison ou plus de compte bancaire si vous n'obéissez pas.

4 L'IA comme outil de manipulation sociétale

• Manipuler l'opinion. L'IA filtre l'information sur les réseaux sociaux, les algorithmes opaques ne le font pas par hasard. Elle met en avant l'émotionnel avant la vérité et influence le comportement des usagers.
• Un récit dominant. La censure c'était de supprimer des contenus, maintenant plus besoin de supprimer, on submerge d'informations arrangées pour manipuler l'opinion publique qui ne voit plus que ce qu'on veut bien lui montrer.
• Une société anxiogène. La reconnaissance faciale contribue au contrôle des populations et crée un climat de soupçons permanents. Et maintenant avec l'IA générative qui crée du faux contenu on ne sait plus que croire. On asservit facilement un peuple appeuré.
• Mise en conformité. Le système impose un mode de vie unique et ne laisse pas la place à la différence car l'IA prend en compte la donnée existante et s'enferme dans une réponse majoritaire en négligeant les cas particuliers.
• Effondrement de la preuve. L'IA fabrique tous les alibis, on peut lui faire dire ce qu'on veut et obtenir une preuve réaliste. Le système judiciaire est loin pouvoir suivre ces avancées technologiques. On peut mettre en prison n'importe qui en inventant un motif sur IA.

5 L'IA comme outil de discrimination sociétale

• Pas de nuance. L'IA en justice fonctionne mal, elle n'a ni conscience, ni moralité, et ne prend en compte ni les singularités, ni les subtiles nuances sociales.
• Biaisé. L'IA utilise des données biaisées, elle ne peut arriver qu'à une conclusion biaisée.
• Sans explication. L'IA fonctionne de manière opaque et bien souvent ne peut justifier les décisions qu'elle prend.
• Reproduire les drames. Ainsi la machine fabrique l'exclusion tout simplement par statistique, parce qu'il y a eu exclusion auparavant.
• Pas de discussion. Et il n'y a ni recours ni contrôle.

6 L'IA comme fossoyeur de l'éducation

• Education standardisée. La promesse d'une éducation sur mesure ne se réalise pas, la réalité c'est une éducation standardisée génératrice d'exclusion ou d'inégalité.
• L'humain réduit. L'élève devient une variable mathématique, et la complexité de l'humain se réduit à un comportement typé.
• Ne pas pose de question. L'apprenant ne peut pas discuter avec la machine pour comprendre ses décisions.
• Outil financier. Les systèmes d'IA pour éducation sont des outils marchands qui analysent les comportement des étudiants pour utiliser ces données à des fins commerciales.
• La machine s'embale. L'opacité des fonctionnements ne permet plus le contrôle.
• Anxiété. L'élève se trouve dans un climat de contrôle et de soupçons permanents.
• Désapprendre. Au final au lieu de développer l'intelligence de l'élève l'IA restreint les possibilités cognitives.

7 Réglementation et responsabilités de l'IA

• Pas de loi. La législation est très en retard sur la réalité technologique.
• Les institutions larguées. l'IA Act européen comporte de nombreuses failles.
• Personne n'est responsable. Il y a une impasse d'imputabilité dans l'usage de l'IA.

8 Vers la désacralisation de l'humain

• L'humain réduit à un algorithme. L'IA représente une gestion algorithmique du vivant. Le citoyen est un ensemble de données.
• Tout le monde pareil. L'écart à la norme devient une anomalie.
• Sans conscience. Des décisions graves sont prises sans conscience.
• L'humain deviens une machine. L'individu est incité à se conformer à la logique de l'IA, il va même anticiper ses attentes, il va penser comme une machine.
• L'humain est emprisonné. A force de déléguer la réflexion à l'IA nous désapprenons, nous perdons notre liberté.