JulienFalgas

Apparemment, elle risquait de faire trop "baba cool / punk" compte tenu de la gravité du sujet.

Sans le modèle publicitaire, il n'y aurait pas eu un tel intérêt économique à déployer les interfaces toxiques des grandes plateformes du numérique.

Problème aujourd'hui : Musk a montré que la rentabilité publicitaire directe n'était pas la seule voie. Twitter n'a jamais été rentable, surtout depuis son rachat... Mais Musk en a fait un instrument pour démultiplier sa mise. Alors qu'il a donné comme personne avant lui dans une campagne américaine, alors qu'il a racheté Twitter à perte, il sort gagnant de l'opération.

Ceci étant, taxer la publicité serait déjà un moyen simple et rapide d'établir une situation concurrentielle plus loyale pour de nouveaux entrants désireux d'explorer d'autres possibles.

Jusque là, il fallait s'inquiéter de la puissance exponentielle de quelques grandes firmes du numérique, acquise grâce à leur réussit économique sur le marché de la publicité.

Désormais éclate au grand jour l'influence des géants du numérique sur notre espace public. Là où les milliardaires français s'offrent des journaux, les américains s'offrent des médias sociaux numériques.

Face à cela, la réponse ne peut pas venir du capitalisme, elle ne peut pas venir de startup européennes qui seraient gouvernées par l'argent. Les invités reconnaissent l'importance d'une régulation, mais insistent sur la nécessité de penser en termes de "communs" soutenus par les services publics.

Si vous ne possédez pas le réseau social, c'est lui qui vous possède.

Pendant que les multi-milliardaires américains du numérique assument sans complexe leur soutien aux projets politiques les plus réactionnaires. Pendant que d'aucun‧e‧s recommandent doctement de créer un "Airbus" du numérique. ( /sarcasme Car c'est bien connu les avions Airbus émettent moins de GES que les Boing, donc nos géants du numérique seront moins toxiques, c'est sûr.)

Le créateur de Mastodon, lui, entérine la session de son bébé à une organisation européenne à but non lucratif.

Le fact-checking n'est pas un sujet à mes yeux. J'écrivais ce matin sur Mastodon :

Face à la surcharge informationnelle, les fact-checker eux-mêmes doutent de la pertinence de la tâche. On ne peut pas exercer son esprit critique face à un tel flot d'informations.

On ne peut pas vérifier chaque info affichée sur un flux de réseau social qui les décontextualise toutes et y mêle blagues, militantisme, approximations et interprétations personnelles.

Dans cet écosystème informationnel, expliquer le modèle des plateformes devient central pour l'éducation aux médias et à l'information.

Une fois compris que tout est fait pour capter notre attention, il me semble que le seul choix raisonnable serait d'en sortir et de faire autrement.

Je te rejoins complètement pour estimer que le fruit est pourri à la racine par son design toxique. Ce qui m'inquiète c'est que, lorsqu'on parle de quitter Facebook ou X, on cherche tout de même des "alternatives à" qui leur ressemblent.

Je vois surtout passer des réactions outrées face à l'abandon du fact-checking. C'est bien dommage, car ce n'est pas le plus inquiétant dans les déclarations de Zuckerberg. Mais le fait que les grandes plateformes tombent le masque est peut être un bien. Peut-être va-t-on cesser de croire que les réguler et éduquer les "jeunes" suffira à s'en protéger ?

Une chose me gêne dans tous ces article sur l'exode de X : lorsqu'on parle de quitter X, c'est toujours avec l'idée implicite d'investir une autre plateforme de micro-blogging.

C'est l'éléphant au milieu de la pièce, le grand impensé : le Twitter d'avant Musk était déjà très critiquable depuis plusieurs années. C'est pourtant le modèle que reproduisent les alternatives sur lesquelles on s'enthousiasme de retrouver l'esprit du Twitter des débuts.

J'ai relu ce qu'écrivait Romain Badouard à propos de Twitter dès 2017 (Le désenchantement de l’internet. Rumeur, propagande et désinformation, FYP éditions) :

Les géants de la Silicon Valley ont acquis un pouvoir énorme a travers les technologies qu’ils développent, celui de produire de nouvelles normes sociales. Twitter par exemple a créé son propre format de discussion avec sa limite des 140 caractères, ses hashtags et ses arobases. Les contraintes d’utilisation ont engendré de nouvelles habitudes qui se sont peu à peu transformées en coutumes. Sur le réseau social, on cherche avant tout la petite phrase, on souhaite se faire valoir devant un public, on interpelle violemment des personnalités. La forme l'emporte définitivement sur le fond et les spécificités techniques de la plateforme ont fait naitre un environnement d’échange 2 la fois simpliste, conflictuel et moralisateur^1^.

Le pouvoir des géants du web tient ainsi 2 la manière dont ils peuvent influencer et contraindre les comportements de mil- lions, voire de milliards d’individus. A cette domination technologique s’ajoute une position oligopolistique sur le marché

^1^. Au-delà de la simplification et de la radicalisation des propos engendrées par la limite des 140 caractères, les twittos seraient plus à même de produire de messages s'apparentant à des maximes d'un haut niveau de généralité pour parler de l'actualité. Sur la manière dont Twitter a créé un nouveau style d'échange à travers ses contraintes techniques, voir Arnaud Mercier, op. cit., etJulien Longhi, « Essai de caractérisation du tweet politique», L'information grammaticale, n° 136, 2013, p. 25-32.

La nuance est bienvenue et j'abonde dans ton sens. Face à des États qui sont gangrénés par les intérêts privés, l'intérêt public et collectif dépend de plus en plus des organisations non gouvernementales ou des coopératives. Malheureusement, ces rustines-là (qui ont notamment amorti la crise sanitaire) on ne les soutient guère et on les pousse à rentrer dans le moule : financements par appels à projets, marchés publics taillés pour les plus grosses structures...

Cf. dans La Revue Dessinée n°42 (novembre 2023), l'enquête sur le groupe SOS :

Ne dites plus «associations» mais «entrepreneurs sociaux». Des foyers d’hébergement aux Ehpad, de plus en plus d’acteurs de la solidarité s’inspirent ouvertement du secteur marchand. «Efficience», «lucrativité», «gestion des collaborateurs» ne sont plus des gros mots pour les adeptes du «social business». En France, le Groupe SOS et son influent fondateur, Jean-Marc Borello, incarnent à eux seuls cette révolution. À la tête de 750 établissements, ce petit poisson devenu trop grand dévore tout sur son passage, dans une quête effrénée de rentabilité. Au risque de malmener ses salariés et ses usagers.

Musk a démontré qu'une plateforme de microblogging était un média à part entière. Il a au moins le mérite de l'assumer alors que les démocrates américains, les progressistes et notre gauche-écologiste-et-sociale à la française auraient pu l'anticiper de longue date s'ils n'étaient pas addict aux tweets. C'est effarant de constater que notre personnel politique prétendument de gauche commente encore tout "sur X" comme si les journalistes ne pouvaient pas suivre et sourcer leurs déclarations ailleurs que sur ce réseau.

On peut envisager un avenir dans lequel le parti Républicain américain et autres droites populistes privilégieront X, tandis que les démocrates US et autres partis "progressistes" plus centraux dans le monde passeront par Bluesky ou par Threads... Quant à la "vraie" gauche transformatrice, elle devrait en toute logique investir Mastodon (un peu de cohérence que diable !).

On gagnerait en pluralisme dans la recommandation de contenus et on en terminerait enfin avec ce mythe qui avait fait de Twitter l'alpha et l'omega du débat public. Comme s'il était sain que l’ensemble des sensibilités politiques s'affrontent dans une arène unique dont les règles valorisent les saillies acerbes face à l'argumentation, au débat de fond, à la construction d'une opinion éclairée. Un paysage du microblogging pluriel est préférable : dans l'ancien monde, le fait que des politiques s'expriment de préférence dans Le Monde, Libération ou Le Figaro (et pas sur un média hégémonique) garantissait le débat public. Les politiques peuvent tout aussi bien s'exprimer sur des plateformes numériques différentes sur lesquelles ils et elles débattent avec les personnes qui se sentent plus proches de leurs idées sous l’œil des journalistes à même de témoigner, d'analyser et de mettre les idées en débat.

Évidemment, dans un monde idéal, cette activité s'organiserait sur des instances interopérables du Fediverse plutôt qu'entre des plateformes plus ou moins centralisées et dépendantes de leurs actionnaires. Mais je doute que les droites populistes, les conservateurs ou mêmes les progressistes y soient prêts. C'est la raison pour laquelle je distingue les forces transformatrices qui ne rêvent pas de révolution (=extrême gauche), mais cherchent à impulser des transformations radicales mais nécessaires, compatibles avec les limites planétaires.

C'est exactement la stratégie de ces dirigeants de pacotille depuis des décennies : détricoter le secteur public pour mieux justifier des rustines issues du secteur privé qui acquiert au passage un pouvoir croissant sur des décisions qui devraient relever de nos institutions démocratiques. Je ne me résigne pas à accepter qu'on laisse faire.

Quant aux benchmark, effectivement on parle de taux d’erreur entre 1% et 3% dans le cas des RAG.

Source?

La dernières newsletter de Benoit Raphael citait ce chiffre sans le sourcer. Mais peut être l'avait il obtenu par une IA qui l'aura trouvé plausible :-p

Ce qu’on demande en l’occurrence, c’est d’avoir un taux d’erreur inférieur au taux humain. Ce qui me semble extrêmement atteignable vu le niveau des policiers.

Il ne s'agit pas d'avoir une police parfaite, mais d'agir pour relever le niveau plutôt que dilapider l'argent public en surveillance vidéo algorithmique et équipements et formation de répression ultra-violente. L'état de la police française, tout comme celui de l'hôpital ou de l'école, on le doit aux politiques qui décennie après décennies ont discrédité les services publics pour justifier de leur retirer les moyens de travailler et l'autonomie d'action nécessaire.

Même pour éclairer les décisions, on glorifie (et on arrose) les cabinets de conseils plutôt que de s'appuyer sur l'expertise de nos chercheurs. Il faut dire qu'à l'Université, on est aujourd'hui trop occupés à répondre à des appels à projet afin de trouver l'argent nécessaire pour faire notre métier... Donc comme ailleurs, au final, des IA feraient sans doute aussi bien.

Il n'est écrit nulle part que cette voie soit la seule possible. Comment peut-on penser qu'il s'agirait aujourd'hui de choisir entre IA et notre police actuelle, comme s'il n'y avait pas d'autres possibilités ? Comme je l'écrivais il y a quelques mois, Présenter l’IA comme une évidence, c’est empêcher de réfléchir le numérique. Il est urgent de réaliser que la technique doit être débattue sur un plan politique, qu'elle ne va pas de soi et que nous n'avons pas à accepter benoitement les prophéties auto-réalisatrices des milliardaires technophiles qui fournissent les éléments de langages à nos dirigeants.

A rapprocher de cette info la veille : https://lemmy.world/post/21935054

Ce proche de Gabriel Attal ambitionne notamment de développer un outil, un chat GPT à la française, à destination des services de l’État pour accélérer les procédures et décharger les agents des tâches les plus rébarbatives, les moins valorisantes, leur débloquer du temps “pour être encore plus au contact du public”, défend son entourage.

Parmi les pistes, ses équipes imaginent très concrètement de faciliter le partage des dossiers médicaux entre plusieurs hôpitaux. Aujourd’hui des établissements utilisent encore le fax ! Autre idée : faciliter le dépôt de plainte auprès des forces de l’ordre, qui ne dépendent pas directement du ministère de la Fonction publique. Cette intelligence artificielle pourrait enregistrer notre témoignage pour le retranscrire bien plus rapidement que quand un policier est obligé de tout taper à la main. Dans la justice aussi, l’outil pourrait résumer en quelques minutes un dossier long comme le bras.

Sachant que l'idée des transcriptions automatiques des plaintes était déjà brandie par Xavier Niel un mois plus tôt au micro de France Inter : https://youtu.be/H8x-pIGbhOQ?feature=shared&t=817

Nous aussi, nous avons nos milliardaires avec des lignes directes vers les dirigeants politiques.

Et pendant que le ministre de la Fonction Publique lèche les bottes de Elon Musk, l'opposition réagit... Sur X.

Le désastre total dont on parle est le résultat de décennies de détricotage des services publics. Dans la bouche du ministre de la Fonction Publique, la technique n'est qu'un cache-misère qui sert à justifier davantage encore de désengagement de l’État. Il entretient l'idée mensongère d'un solutionnisme technologique qui prétend résoudre tous nos maux à coups de techniques immatures et promues par des gens sans scrupules qui raisonnent en termes de ROI sur leurs investissements financiers.

On pouvait déjà permettre le dépôt de plainte sans passer par le commissariat avec les techniques existantes. Les LLM n'y changent rien et ce n'est pas ce dont parlent le ministre ou Xavier Niel. Leur propos est d'imaginer un gain de temps (et de productivité) si l'on transcrit automatiquement ce que disent les plaignants, au lieu de rédiger soi-même. Or les IA ne peuvent pas remplacer la nécessité d'accueillir les victimes, de les écouter, de les aider à exprimer et formuler ce qu'elles ont vécu et de les orienter dans la recherche d'une réparation. C'est d'ailleurs la promesse : être plus au contact du public. Ces gens qui se croient géniaux n'ont sans doute jamais conduits, transcrits ou analysés d'entretiens de leur vie : d'abord un entretien ne fonctionne pas sans un interlocuteur compétent ; ensuite les IA de transcription font beaucoup de coquilles, il faut repasser derrière ; enfin la parole orale est bien plus difficile à analyser et interpréter qu'une déclaration rédigée pour formaliser un témoignage.

Tant mieux si l'on équipe les fonctionnaires d'outils éprouvés pour comprendre une victime dans sa langue maternelle. On pourrait tout de même regretter que cela prenne la place des interprètes qui savent traduire bien au-delà des mots. Quoiqu'il en soit, cela ne dispensera pas de former à l'écoute et à la législation. Pour le reste, si le propos est d'accepter que les fonctionnaires de police puissent être analphabètes, ce n'est pas un progrès. Comme le développait récemment Morozov pour Le Monde Diplomatique, tant qu'on concevra l'IA comme un moyen d'augmenter des individus diminués, on passera complètement à côté. Ces techniques pourraient sans doute être conçues et mises en œuvre pour nous améliorer, mais ce n'est pas ce dont on nous parle ici.

Quant aux benchmark, effectivement on parle de taux d'erreur entre 1% et 3% dans le cas des RAG. Dans bien des applications, un tel taux reste trop important. Par ailleurs, tant que les utilisateurs ne comprendront pas le fonctionnement de ces outils et croiront dialoguer avec une entité intelligente, ils seront incapables d'évaluer la pertinence de la réponse à un prompt. Savoir que le LLM ne traite que le texte, ne sait pas forcément traiter des données tabulaires et encore moins des données présentées sous forme de graphique (format image) est indispensable. Quand bien même, sans expertise sur ce qu'on lui demande de produire, on se contente d'un rapport magique à la technique, on ne peut pas discerner les réponses correctes de celles qui ne sont que plausibles. Or avec l'expertise nécessaire, l'IA n'apporte pas forcément de gros gains de productivité... A supposer qu'être plus productif soit souhaitable si cela signifie s'épuiser en multipliant encore les tâches et la quantité d'information à traiter au quotidien.