this post was submitted on 22 Feb 2024
3 points (80.0% liked)
Technologie - 🤖
553 readers
19 users here now
Ici concerne le champs de domaine large de la technologie : actualités sur l'informatique, partage de programme informatique et de code, montrer vos projets Arduino, ect.
founded 1 year ago
MODERATORS
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
Y a la très bonne vidéo de Mr Phi sur le chatbot de Bing qui aborde un peu ce sujet. Il fait remarquer que quand on met un prompt qui dit : "tu es une IA qui réponds aux questions de l'utilisateur", et bien on va souvent vite retrouver des réponses d'IA "défaillantes" parce qu'elles se comportent quasiment toujours comme ça dans les fictions écrites par les humains qui alimentent les LLM. Ça serait amusant si l'IA exterminait les humains précisément parce que dans l'imaginaire des humains les IA exterminent les humains.
Sinon personellement j'y crois absolument pas. Peut être que dans 5 ans on verra émerger des nouvelles formes de vie intelligente. Mais pourquoi cela devrait automatiquement mener à une guerre ?
Pascal Robert et moi étions revenus sur la fameuse "lettre pour une pause" signée par des milliers d'experts autoproclamés de l'IA :
https://theconversation.com/presenter-lia-comme-une-evidence-cest-empecher-de-reflechir-le-numerique-211766
Le fait de jouer à se faire peur est un marqueur ancien des discours autour de l'informatique (l'article en présente 6 autres). Consciemment ou non, ceux qui agitent ces peurs fantasmées cherchent à nous persuader de la puissance de la technique. Comme ils se présentent en experts, c'est une manière pour eux d'asseoir leur pouvoir. Derrière ce discours trompeur, le "progrès" peut se poursuivre sans s’embarrasser de débat public sur les choix techniques et sur leur mise en œuvre.
Je parle sciemment de "technique" et pas de "technologie". Car la technologie recouvre l'étude des outils et des techniques, et donc l'ensemble des connaissances à leur sujet. Or les chantres de "l'innovation technologique" se bornent à la connaissance technique pure (c'est ce qu'ils appellent "progrès"), en omettant les contextes sociaux, politiques, écologiques et économiques avec lesquels elle interagit.
L'IA, ce ne sont pas que des machines et des logiciels. C'est aussi toute une infrastructure de datacenters, de câblages, de production d'énergie... Et derrière, ce sont des mâles blancs privilégiés qui développent les techniques, avec d'autres cols blancs qui les font tourner. Mais surtout une armada de travailleurs du clics qui annotent les données pour quelques $ la journée. Et bien sûr toutes celles et ceux qui produisent ces données et qui n'ont pas voix au chapitre quant à l'utilisation qui en est faite.
Ce qui pourrait être un grand projet d'intelligence collective (mettre en commun l'intelligence de chacune et chacun pour réaliser des tâches impossibles à l'échelle individuelle) est une vulgaire entreprise d'enrichissement privé avec des conséquences bien réelles sur l'équilibre de nos sociétés.