Avec ou sans Chat GPT ?
Le débat fait rage.
« A.I. systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research[1] and acknowledged by top AI labs. »
Signataires collectifs, Future Of Life Institute, mars 2023 (1)
Mon instinct de louve et d’artiste m’a toujours induit d’être prudente, distante et critique de l’invasion des écrans dans nos vies et avec de la dernière trouvaille d’une bonne fange des créateurs de l’intelligence artificielle (IA). Voilà qu’on nous offre sur un plateau d’or… gratuit non seulement de construire le monde à notre place et maintenant de l’écrire, en posant des questions à la nouvelle application ‘’Chat GPT’’. OH !!!
Une question technique qui a peu ou pas été posée : si cette nouvelle application est gratuite, qu’est-ce qu’elle nous prend en retour pour se payer ? Cela doit être éclairci publiquement sous forme d’avertissement, avant l’utilisation de l’appli. Les utilisateurs doivent savoir ce que Chat GPT leur prend à leur insu.
Mais bien plus important encore, au-delà de ces »détails » techniques est la question de fond philosophique et éthique que ce nouveau développement pose. Jusqu’à maintenant, tous les concepteurs semblaient tous obnubilés et aveuglés par la course à spéculation et à la vitesse propre au système économique qui les ont engendrés, le capitalisme.
Tous les concepteurs IA ? Non, j’apprends par la plume de l’écologue Laure Waridel que d’éminents chercheurs en IA comme Yoshua Bengio (prix Turing, équivalent du Nobel en informatique), des écrivains comme Yuval Noah Harari ou des entrepreneurs comme Elon Musk ou le cofondateur d’Apple, Steve Wozniak sonnent l’alarme en signant une lettre ouverte en demandant ni plus ni moins un moratoire sur le développement de ce genre de technologie, afin de réfléchir en profondeur sur leurs tenants et aboutissants.
Ils posent entre autres les graves questions suivantes :
- Devrions-nous laisser des machines inonder nos canaux d’information de propagande et de mensonges ?
- Devrions-nous risquer de perdre le contrôle de notre civilisation ?
Voir les détails de cet article de Waridel ci-dessous (2)
*/*
Un peu de perspective
Dans un article publié dans le journal Le Devoir du 21-09-2008, Carl Bergeron explore notamment la pensée de l’écrivain Georges Bernanos dans son essai « La France contre les robots » (1947), une violente critique contre la société industrielle et met en garde les citoyens contre les dérives antidémocratiques, voire totalitaires que ces nouvelles techniques, qu’il appelle « machinisme » ou « robotisation », vont amener. *
Bergeron a écrit que : « L’originalité de Bernanos est d’avoir immédiatement perçu, dans le conflit entre les alliés démocratiques et les fascismes, le miroir d’une fascination commune: celle de la technique absolue. Pour Bernanos, déjà au lendemain de la Seconde Guerre mondiale, il était évident que le problème essentiel posé par la démocratie, la liberté, n’existait plus au regard des impératifs techniciens du monde moderne. »
Bernanos a écrit dans son livre que « Les États totalitaires, écrit-il, enfants terribles et trop précoces de la Civilisation des Machines, ont tenté de résoudre ce problème brutalement, d’un seul coup. Les autres nations brûlaient de les imiter, mais leur évolution vers la dictature s’est trouvée un peu ralentie du fait que, contraintes après Munich d’entrer en guerre contre l’hitlérisme et le fascisme, elles ont dû, bon gré mal gré, faire de l’idéal démocratique le principal, ou plus exactement l’unique élément de leur propagande. »
La critique des sciences et techniques n’est pas nouvelle. De tout temps, on a posé de bonnes et de moins questions à ce sujet. Depuis la bombe atomique de la 2e guerre mondiale et l’orientation technologique qu’elle a provoquée, de nombreux écrivains et artistes ont critiqué vertement la direction de la robotisation du monde et mis en garde leurs pairs contre le danger de l’éblouissement, de la mode du gadget et surtout de l’attrait pour les nouveaux objets que le système capitaliste a bien su mettre en branle et vendre avec le plus de « coolitude » possible….
Wikipédia résume : « Bernanos y estime que le machinisme limite la liberté des hommes, et perturbe jusqu’à leur mode de pensée1. Pour lui, la civilisation française est incompatible avec une certaine idolâtrie anglo-saxonne pour le monde de la technique. »
Plus tard, l’écrivain canadien et philosophe des médias Marshall McLuhan écrira « le médium est le message » (1964). Selon Wiki, cette phrase signifie que « la nature d’un média (du canal de transmission d’un message) compte plus que le sens ou le contenu du message. » Effectivement !
On a vu comment Internet, puis les réseaux sociaux ont profondément modifié les relations et les communications humaines, les relations de travail, et même notre quotidien dans les 20 dernières années.
Ne tombons pas dans le piège de la nouveauté pour la nouveauté, car elles remettent encore plus profondément en question l’identité de l’humanité. Soyons éclairé.e.s et vigilant.e.s !
SUITES
13 AVRIL 2023 – NOUVELLE
| »European privacy watchdog creates ChatGPT task force |
| The body that unites Europe’s national privacy watchdogs said on April 13, 2023 that it had set up a task force on ChatGPT, a potentially important first step toward a common policy on setting privacy rules on artificial intelligence. » |
| SOURCE : reuters.com |
| DÉTAILS: https://www.reuters.com/technology/european-data-protection-board-discussing-ai-policy-thursday-meeting-2023-04-13/ #Artificial Intelligence #Privacy #ChatGPT #AI Chatbots |
C’est un début, mais c’est totalement insuffisant, parce qu’un tel organisme participe à ce type de développement, et donc susceptible de conflit d’intérêt. De plus, ses experts ne comprennent pas ou même ne peuvent pas comprendre la question de fond de l’humanité posée par les signataires, et bien avant eux, par des auteurs comme Bernanos et d’autres artistes, écrivains ou philosophes des sciences.
______________________________
(1) https://futureoflife.org/open-letter/pause-giant-ai-experiments/
(2) https://www.journaldemontreal.com/2023/04/01/lintelligence-artificielle-une-menace-existentielle
Le blogue de quelqu'une 