Éloge de l(i)a lenteur
L'IA est le sujet clivant du moment (à juste titre) et comme souvent depuis ces dernières années, les discussions sont très polarisées.
Un peu de recul sur le phénomène
Avant de partager mon avis, je vous partage ici 2 resources très intéressantes pour s'imprégner du sujet.
D'abord l'excellent site web de Framasoft qui donne une très bonne vue d'ensemble de "l'IA". Je mets des guillemets parce que "l'IA" est un terme très large qui englobe un tas de spécialités scientifiques. Mais je ne m'étends pas sur le sujet et vous laisse plutôt parcourir la très belle page ci-dessous (et pensez à faire un don à l'association 😉 ) :
Framasoft
Ensuite je vous invite à écouter le podcast en 6 épisodes de @mathildesaliou réalisé pour Next :
Next.ink - Podcast Addict
L'ambivalence
De façon moins visible pour le grand public, la recherche médicale s'appuie aussi sur des technologies similaires pour aider à la détection des maladies.
Les premiers biais de l'IA trahissaient le manque de maturité de la technologie, mais cela apparaissait encore comme un simple bug. Effectivement, le système ne marchait pas encore correctement mais on en prenait acte et on allait continuer d'itérer pour corriger.
La vraie nature de la Silicon Valley
Une dernière ressource avant de continuer, une mini série documentaire d'Arte sur la Silicon Valley
La Silicon Valley n'est pas seulement un gros campus où les cerveaux les plus brillants côtoient les grandes entreprises pour améliorer l'humanité (sic). C'est un avant-tout un microcosme, contaminé par la mentalité des Venture Capitalists.
Ce que l'on retrouve dans toutes les dernières startup qui percent, c'est cette course au monopole. Le seul moyen pour survivre dans l'écosystème de la silicon valley est de grossir le plus rapidement pour s'accaparer le marché.
Le meilleur exemple à cela est sans doute Netflix qui a cherché la croissance rapide à tout prix, s'endettant pendant des années dans le seul espoir d'atteindre la position du "too big to fail" qui lui permettrait ensuite d'augmenter ses abonnements pour espérer devenir rentable.
In fine, je ne sais pas si Netflix a atteint la rentabilité mais force est de constater que :
- Les prix des abonnements ont augmenté
- La publicité est arrivée
- La qualité des séries a baissé
Open AI : la startup de trop
OpenAI n'est donc que le dernier monstre qui émerge de San Francisco. Comme les autres startup avant elle, on va vite et on casse tout ("move fast, break things" comme ils disent). Cette fois, on ne se contente pas de casser disrupter les professions du divertissement (netflix), du tourisme (airbnb) ou des taxis (uber) mais on pille tout ce qui existe :
On pille tous les contenus disponibles sur internet, peu importe qu'ils soient protégés par droit d'auteur ou par des licenses.
On s'accapare toutes les ressources nécessaires. En souhaitant lever 7000 milliards de dollars, Sam Altman veut assécher la disponibilité en processeurs nécessaire à l'IA.
"Data is the new gold" disait-on, mais l'IA est définitivement le nouvel Eldorado et tous les investisseurs du monde entier contribuent à créer ce monstre, uniquement dans l'espoir d'en être. La survie des 0.01% plus riches nécessite de financer ce qui s'apprête à détruire tout le reste (voir les ressources partagées plus haut pour les impacts écologies et sociaux de cette course) .
FOMO : La peur qui nous précipite
Ce qui est le plus intéressant avec le cas OpenAI, c'est qu'il n'y a même pas de produit !
ChatGPT est au mieux une preuve de concept, mais un simple écran pour discuter avec un robot, ça n'est pas un produit. Ça ne répond à aucun besoin, ça ne résout aucun problème.
L'IA dans sa forme actuelle est juste une solution en recherche d'un problème. Et ce fameux FOMO (fear of missing out) pousse tout le monde à chercher quoi faire avec. Les entreprises essaient de mettre de l'IA partout sans savoir pourquoi, l'Éducation Nationale s'angoisse à l'idée de former les élèves à ce nouvel outil alors que personne ne sait à quoi il sert.
Les arnaques sur internet fonctionnent toujours de la même manière : On vous fait des promesses trop belles pour être vraies, et vous devez agir vite pour ne pas rater l'occasion.
Les VCs et les entreprises tombent toutes dans le panneau et s'empressent d'investir dans cette nouvelle technologie de peur de rater cette occasion de s'enrichir.
Les utilisateurs tombent dans le panneau et s'empressent de vouloir utiliser cette technologie de peur d'être dépassés.
Avant de continuer notre course folle, je pense qu'il est nécessaire de faire une pause.
Chaque technologie que l'on choisit nous engage
On ne revient jamais sur une technologie après qu'elle ait été adoptée. C'est pour cela qu'il est important de considérer tous ses impacts au plus tôt.
Récemment Notion a publié un blog prônant que l'IA est le nouveau plastique. C'est une comparaison intéressante : Savait-on les impacts qu'auraient le plastique sur nos océans quand on a adopté ce nouveau matériau dans tous les domaines ?
Un autre exemple intéressant à regarder est celui de la voiture. Pas pour accuser bêtement les automobilistes (dont je fais partie) mais pour observer comment le choix de la technologie a complètement remodelé l'organisation de nos villes. S'il est si difficile aujourd'hui de revenir sur le choix de la voiture, c'est parce que l'on s'est organisé autour d'elle. Les villes se sont étendues, les centres commerciaux se sont externalisés, ... rendant un retour en arrière très compliqué. (le hashtag #BlackFridayParking offre une illustration intéressante de la place prise par les infrastructures automobiles).
Enfin, sur un exemple plus récent et plus proche de l'IA, on peut regarder ce qui se passe avec le numérique. En se convaincant que le numérique est la solution à toutes les situations, on reproduit le même biais qu'avec la voiture ou le plastique. On centre toutes nos décisions autour du numérique. Se faisant, on oblige tout le monde à vivre avec le numérique : avoir un smartphone, un accès internet, etc.
"Quand on a un marteau, on ne voit que des clous" pour résumer la loi de l'instrument. Cette approche a pourtant 2 impacts. D'abord, comme on le voit avec les exemples précédents, on se créé une dépendance à une technologie dont il devient impossible de se défaire.
Ensuite, on se focalise sur la solution plutôt que le problème. On va s'efforcer de faire rentrer un rond dans un carré plutôt que de réfléchir à la source du problème. Est-ce que numériser les dossiers médicaux et la prise de rendez-vous solutionne le manque de médecins ? Est-ce que rendre accessible les démarches administratives sur internet simplifie la saisie des formulaires et le traitement des dossiers ?
Ralentir et réfléchir
Pour conclure, la question n'est pas aussi binaire que "pour ou contre l'IA ?". Il s'agit de réfléchir aux effets négatifs déjà identifiés de l'IA (que je n'ai pas re-cité ici car ils sont très bien documentés ailleurs), du contexte (américain) dans lequel se développe l'IA (et de l'absence de l'implication de l'Europe), de la précipitation dans laquelle cette nouvelle technologie est poussée partout.
Il y a déjà de l'IA autour de nous, et il continuera d'y en avoir. La question qui subsiste est : saura-t-on résister à la pression que l'on s'impose nous même pour penser à son usage responsable ? En somme, saurons-nous prendre le temps ?