Technodépendance
On lit un peu de tout et pas mal de n’importe quoi au sujet de l’IA ces derniers temps. J’ai donc décidé d’apporter ma modeste pierre à l’édifice et de publier quelques textes à ce sujet. Docteur en IA, ayant fait de la recherche dans ce domaine de 1998 à 2003, et ayant enseigné cette matière en école d’ingénieurs de 2004 à 2010, je suis outillé pour comprendre de quoi on parle. Actuellement, je suis toujours avec intérêt ce qui se passe dans le domaine, mais de plus loin. Cela me donne un recul que n’ont pas certains spécialistes actuels de la branche, alors qu’eux sont imbattables sur les détails des développements récents. J’espère donc que mon éclairage atypique pourra aider quelques personnes à y voir plus clair dans ce sujet actuellement très chaud.
Après des textes sur la définition de l’IA, sur sa consommation énergétique, et sur les risques (ou non) que l’humain soit rattrapé par la machine, voici quelques considérations sur la dépendance à la technique.
Je me souviens de ma grand-mère qui préparait ses paiements. Après avoir fait le total à la machine à calculer, pour savoir combien d’argent prendre avec elle à la poste, elle recalculait la somme de tête, pour être sûre…
Trente ans plus tard, je vais rendre visite à mon neveu en études à Berlin. Il y habite depuis trois mois, mais quand je lui demande dans quel quartier il loge, il ne peut pas me répondre. Plutôt au sud? au nord? à l’est? à l’ouest? Aucune idée. Se reposant systématiquement sur le GPS de son smartphone pour se déplacer, il n’a aucune représentation géographique de la ville.
Les outils que nous propose la technologie sont extraordinairement pratiques. Mais en quelques décennies nous leur avons accordé une confiance énorme, au point de ne même plus garder, dans un coin de notre esprit, l’idée qu’ils pourraient nous induire en erreur.
Calculette? plus besoin de savoir compter. GPS? à la poubelle le sens de l’orientation. Véhicule autonome? plus besoin de savoir conduire - ni peut-être même marcher.
La grande promesse de l’IA est d’avoir des machines qui pensent pour nous. Avant de s’y lancer corps et âme, cela ne mérite-t-il pas une petite réflexion?
J’exagère? J’aimerais que ce soit vrai. Aux États-Unis, un avocat a présenté au tribunal un mémoire défendant son client en s’appuyant sur plusieurs cas de jurisprudence, avec citation d’extraits de jugement et force détails. Le seul problème: le mémoire avait été rédigé par ChatGPT et aucun des précédents cités n’existait en dehors de ses neurones artificiels. Il semble néanmoins que le brillant avocat ait soumis ce mémoire en toute bonne foi, convaincu de son bien-fondé.
L’affaire n’est pas isolée. En fait, depuis la sortie en grande pompe de ChatGPT, ce genre d’histoire se multiplie, dans tous les domaines.
OpenAI, clame en substance: “Nous vous vendons une machine qui pensera pour vous”. Conquis, les clients mettent leur cerveau sur off. Je n’ose pas imaginer l’odeur des appartements quand OpenWC vous vendra l’app qui prétend pisser pour vous…