Merci pour cette réponse détaillée que je prendrai le temps de lire (les liens que tu donnes surtout) dès que j’aurais du temps ! 
" Bob Iger déclarait alors que Disney+ allait bientôt recevoir “les plus grands changements, tant du point de vue de l’offre que de la technologie, depuis le lancement du service en 2019” en proposant notamment aux utilisateurs de “c réer leur propre contenu généré par IA et de consommer ce contenu généré par les utilisateurs, principalement au format court”.
yep, ça promet du ragout disney à n’en plus pouvoir les voir
je pense qu’ils scient la branche qui les nourrit… mais l’avenir le dira
quand tout le net sera noyé d’IronMan enculant Daisy.
Ils n’ont pas attendu l’IA…
Depuis le début de la déferlante des systèmes d’IA générative, ma bouée de sauvetage a été le concept d’impensé numérique. Raison pour laquelle j’ai sollicité son auteur, Pascal Robert, pour signer un article de vulgarisation sur ce sujet : Comment le discours médiatique sur l’IA empêche d’envisager d’autres possibles
Pour avoir beaucoup lu sur le sujet, mais aussi avoir soulevé le capot, je dois dire que je partage l’ensemble des arguments d’un récent manifeste pour l’objection de conscience face au déploiement des IA génératives dans l’éducation et l’enseignement supérieur : Face à l’IA générative, l’objection de conscience – ATelier d'ÉCOlogie POLitique
Les auteurs ont pondu un document qui démonte les principales idées reçues souvent avancées pour défendre le caractère inéluctable (voire désirable) de l’utilisation de ces techniques : “Oui, mais l’IAg….” Réponses à quelques arguments courants en faveur de l’intelligence artificielle générative – ATelier d'ÉCOlogie POLitique
Si les questions de créativité avec l’IA vous taraudent, le bouquin du philosophe Alban Leveau-Vallier devrait vous passionner : ALBAN LEVEAU-VALLIER IA - Champ Vallon
Je ne l’ai pas lu, mais la thèse de doctorat dont il est tiré est passionnante (Thèse – Alban Leveau-Vallier). C’est une mine d’information pour comprendre le fonctionnement de ces techniques autant que les enjeux philosophiques qu’elles soulèvent.
3 « J'aime »
Intéressant, merci ! Je suis allé voir ton lien sur les réponses à quelques arguments courants…
Je suis allé voir la réponse à :
« Oui, mais avoir peur de l’IAg, c’est comme avoir peur de l’écriture [ou au choix : de l’imprimerie, de la calculatrice, etc.] »
Argumentation de l'article
Comparer l’écriture (ou la calculatrice) aux IAg et en déduire que celles et ceux qui critiquent aujourd’hui les IAg auraient pareillement critiqué l’écriture (ou la calculatrice) lors de son invention a pour objectif de décrédibiliser les critiques. L’argument, souvent accompagné d’une référence au dialogue entre Thamous et Theuth dans le Phèdre de Platon, est le suivant : le refus de l’écriture, au motif qu’elle nuirait à l’exercice des capacités mémorielles et par là même à la capacité de penser par soi-même, aurait été une lourde erreur. L’histoire permettant de juger des bienfaits apportés par l’écriture pour l’humanité, le refus des IAg serait du même ordre que le refus de l’écriture, pareillement ridicule. Il pourrait même avoir des conséquences tout aussi graves que ne l’aurait été le refus de l’écriture, qui aurait privé le monde de chefs-d’œuvre littéraires et de la transmission sur plusieurs millénaires des connaissances et des pensées de nos ancêtres.
Le problème est que, comme le dit l’adage, « comparaison n’est pas raison ». Chaque technique (si l’on considère l’écriture comme une technique) est unique et nécessite une réflexion spécifique et circonstanciée. On a montré l’ampleur du système socio-technique sur lequel reposent les IAg, qui constitue un prolongement de la numérisation de nos sociétés. Les IAg sont indissociables de cette organisation du monde.
Ainsi, ce qui différencie l’écriture ou la calculatrice des IAg est à bien des égards plus déterminant que ce qui les rassemble. Citons par exemple la légèreté matérielle de l’écriture, dont les artefacts techniques, contrairement à l’IAg, peuvent être facilement produits localement à petite échelle : elle est ainsi facilement appropriable par les individus et peut être utilisée de manière autonome. L’exact opposé des IAg, dont les utilisateurs sont dépendants d’immenses infrastructures possédées par des entités non-démocratiques, voire bien souvent par des milliardaires dotés d’un projet politique représentant un danger pour nos sociétés.
Remarquons également qu’une calculatrice produit un résultat dont la véracité et l’exactitude ne sont pas sujettes au doute. C’est tout l’inverse avec les IAg, dont les productions fourmillent d’erreurs, de soi-disant « hallucinations », de biais d’opinions, etc.
Si le déploiement de nouvelles technologies entraîne le développement de nouvelles compétences liées à leur utilisation (et parfois la perte d’autres compétences) cette considération générale doit être précisée selon les technologies en question. La machinisation et l’industrialisation se sont par exemple historiquement accompagnées pour une partie de la population d’une perte de savoir-faire propres à une économie de subsistance (agriculture vivrière, production artisanale). Au sens philosophique, la « prolétarisation » des ouvriers désigne justement cette dépossession de savoir-faire fondamentaux. L’IAg participe d’une « prolétarisation » bien particulière en ce qu’elle contribue à déposséder les individus de compétences et de savoir-faire qui constituent la condition même de leur émancipation intellectuelle. Déléguer des activités telles que la synthèse d’idées ou d’arguments et plus généralement le processus cognitif consistant à passer de la pensée à l’écrit, conduit indubitablement à un affaiblissement de la capacité à exprimer ses idées et des facultés nécessaires à l’exercice de l’esprit critique. Et ce ne sont pas les différentes chartes éthiques de l’IA et les injonctions à un usage raisonné qu’elles contiennent qui vont permettre d’enrayer ce phénomène. En visant à l’encadrer, elles contribuent à l’ancrer dans les pratiques.
La réponse ne me satisfait absolument pas. Déjà, le texte est sensé répondre à la peur de l’écriture, ou au choix de l’imprimerie, de la calculatrice, etc. Donc si je comprends bien : du progrès.
Hors, la réponse est très premier degré centrée en grande partie autour de l’écriture, avec des arguments qui ne valent… Que pour l’écriture. Et un peu pour la calculatrice. Et qui parallélise les jugements sans aller dans le fond de la remarque à laquelle ce texte réponds. En gros, réponse premier degré sur le choix des mots et absolument pas sur l’idée derrière. C’est dommage, surtout que cette limite est pointée dans la réponse, mais pas appliquée.
Par exemple, il est opposé que l’écriture, contrairement à l’IAg, peut être facilement appropriable et utilisable par les individus et utilisés de manière autonome. La belle affaire. Cet argument est vrai pour les technologie prémédiévales, si je schématise un peu.
Pour la majorité des technologies actuelles, c’est aussi le cas. Le savoir de l’humanité est global, pas individuel. Qui sait construire une centrale nucléaire? Un ordinateur? Une calculatrice? Une imprimante? Une voiture? Un IRM? Un satellite? Un réfrégirateur? Une climatisation?
Pour revenir à l’écriture : l’idée n’est pas de comparer l’écriture à l’IAg mais la peur générée par l’écriture à la peur générée par l’IAg. L’écriture a été interdite à bien des endroits et à certaines époques. C’est la peur qui est comparée, par la réalité de celle-ci. Et l’écriture est en ça un bon exemple qu’il montre que la “menace” qu’elle a généré n’avait RIEN à voir avec ce qui lui était reproché.
Pour la calculatrice, le résultat est précis, contrairement à l’IA. Ha, ok. Et l’écriture, le résultat est précis? Ton médecin, t’es capable de le lire? Et ce qu’on lit, parce que c’est écrit c’est vrai ?
On ne compare pas les mêmes choses, la calculatrice traite des opérations formelles, là où l’IA, non. Ce sont des tâches non formalisées, en ça elle tente d’imiter notre cerveau sur le terrain où il est le meilleur. Et bien que le résultat ne soit pas probant, les progrès sont spectaculaires et la courbe de ces derniers peut laisser penser que, si, l’IAg dans quelques moment sera bien plus fiable.
D’ailleurs, notre super cerveau, est-il vraiment fiable? Qu’en est-il des biais cognitifs, des hallucinations, de connaissances incorrectes apprises? Si on se plait à se rappeler de toutes les “erreurs” de l’IA, il serait présomptueux de trop continuer sur ce terrain.
N’importe quelle IA actuelle bat je pense à plate couture n’importe lequel d’entre nous sur n’importe quel quizz, malgré ses erreurs et approximations. Nous rappeler à quel point l’IA dit des conneries sachant qu’elle en dit moins que nous, je trouve ça savoureux.
Ensuite, la “prolétarisation des ouvriers”, dixit l’article, et l’argument sur les pertes de savoir faire et de capacités. En soit, pourquoi pas. Mais la réponse se vautre dans ce qui était originellement critiqué : on nous ressort dans la tronche l’argument massue qui a été, peut-être le plus souvent, utilisé contre justement l’apparition de la majorité des technologies. Et s’il est techniquement vrai, à moins de revenir à l’âge de pierre, ou les gens savaient marcher toute la jounée, chasser, cueillir, tout ce qui est arrivé après nous a dépossédé de certains savoirs pour nous en offrir d’autres. Donc bon…
Voilà, j’avais envie d’échanger et de contre argumenter sur cette argumentation là qui me semble vraiment loupée, je suis moins en opposition avec les autres, que j’ai lues en diagonale. Le but n’étant pas de défendre l’IA à tout prix mais justement d’essayer de ne pas se perdre dans des critiques à mon sens peu légitimes pour essayer de garder les problèmes et questions principales. Pas de chasser des ombres ou de charger des moulins à vent.
1 « J'aime »
Sur l’externalisation du travail intellectuel vers des travailleurs du clic sous-payés dans nos anciennes colonies, voir le documentaire “Les Sacrifiés de l’IA”. Si bon nombre des techniques que l’on connait procèdent de la même logique (faire faire à d’autres tout en les invisibilisant), ce n’est pas une raison pour ne pas s’opposer à ce dernier avatar. D’autant qu’il prétend cette fois effectuer des tâches intellectuelles à notre place.
À propos de tâches intellectuelles, Arthur Perret démontre fort bien que nous sommes face à des systèmes destinés à produire du vraisemblable : L’intelligence artificielle générative dans l’impasse informationnelle
Les systèmes d’IA générative sont structurellement indifférents à la vérité. Cela signifie qu’ils racontent n’importe quoi, même lorsqu’ils tombent à peu près juste. Or, à moins d’avoir déjà la connaissance soi-même, on ne peut pas démêler le vrai du faux. Le pire étant leur prétendue capacité de synthèse : sauf à effectuer soi-même le travail, impossible d’affirmer qu’ils n’ont rien omit de crucial ou nécessaire… Voire qu’ils n’ont pas commis de contresens.
Sur les conséquences calamiteuses de systématiser des tâches et des prises de décision avec de telles techniques, la lecture régulière de “Dans les algorithmes” est édifiante : danslesalgorithmes.net
Ces éléments attestent bien du fait qu’il est absurde de prétendre que les IA géneratives soient promises à offrir des bénéfices comparables à telle ou telle technique antérieure. En présumer, c’est perpétuer l’impensé qui consiste à toujours envisager le numérique comme inéluctable en croyant sur parole le discours de ses promoteurs au point de s’interdire d’en débattre.
1 « J'aime »
Je trouve aussi très éclairante la position de Evgeny Morozov : Une autre intelligence artificielle est possible, par Evgeny Morozov (Le Monde diplomatique, août 2024)
Il distingue l’IA que l’on nous vend et qui est conçue pour nous augmenter ; et celle que nous devrions rechercher et qui serait conçue pour nous améliorer. Lorsqu’on est augmenté par la technique, sans elle n se retrouve diminué. Alors qu’une technique émancipatrice nous permet de devenir meilleur avec ou sans elle.
Il y a de rares exemples de gens qui parviennent à utiliser les IAg pour s’améliorer. Benoit Raphael de flint.media en est un bon exemple. Mais on est davantage dans un détournement de techniques qui sont produites et promues pour des gens qui ont un poil dans la main et accepteront de déléguer tout ce qui pourra leur éviter de penser par eux-même. Lorsque cela concerne les étudiants, c’est catastrophique.
Tu ne réponds absolument pas à mon message et ce que je développe comme contre arguments, qui sont des contre arguments en réponse à ce que je cite, pas au global, encore une fois.
Sans ça je suis à peu près d’accord avec ce que tu racontes, sauf sur la fiabilité : ce que tu dis était vrai il y a quelques temps, ça l’est moins aujourd’hui et le sera de moins en moins. Mais c’est je pense accessoire dans le raisonnement global sur l’IA générative, les autres points que tu soulignes me paraissent bien plus essentiels.
Relis l’argumentaire initial. Le propos n’est pas de traiter de la peur du progrès en général, mais bien de l’amalgame facile entre “avoir peur de l’IA” et “avoir peur du progrès”. Comme si IA=progrès. Un peu comme tu le fais, cet argumentaire conduit facilement à la caricature : refuser l’IA ce serait comme vouloir revenir à l’âge de pierre. Pour démonter ce raisonnement, il faut bien prendre quelques exemples et montrer qu’ils ne sont pas comparables aux systèmes d’IA générative.
Ce que dit moins l’argumentaire des auteurs du manifeste, c’est que critiquer l’IA comme il se doit implique justement de refuser de jouer à faire peur. Ceux qui jouent à nous faire peur en agitant des prophécies apocalyptiques ne font que renforcer le pouvoir des leaders de l’IA : si ces techniques étaient si dangereuses qu’ils l’affirment, alors c’est bien qu’elles seraient performantes. Or ce n’est pas tout à fait le cas. Il y a beaucoup d’esbrouffe et d’extrapolation, car il y a d’énormes enjeux pour capter les investissements. Cela commence par les parer de caractères antropomorphes en passant par des interfaces conversationnelles (chatbots). Les benchmarks mis en avant pour affirmer leurs performances sont aussi trompeurs.
Pour les plus curieux (et qui ont le temps), je vous invite à regarder la série Pluribus, dont la première saison vient de se terminer (9 épisodes).
Un virus atteint l’humanité (à 12 personnes prêt). Mais c’est spécial comme virus.
Je vous laisse découvrir, mais à faire un parallèle avec le présent (ou le passé proche) IRL, ce ne serait pas le Covid mais bien l’IA et lafaçon dont c’est traité est intelligente en tous cas.
Voilà, si vous avez du temps à passer devant lesécrans pendant les fêtes…
1 « J'aime »
Je partage ici cet article très intéressant…
https://korben.info/gemini-vue-dynamique-fin-web.html
…et assez flippant de mon point de vue mais qui laisse aussi de l’espoir pour l’avenir de sites comme Tric Trac face aux IA.
2 « J'aime »
je pose ça là : https://www.youtube.com/watch?v=mqEnhLnGffQ
“Le Slop, ce poison du web” par Arte
le sujet aborde principalement les videos, mais il aurait pu (aurait du) parler des images qui polluent les reseaux (tour eiffel en cheveux, elephant en massif de fleurs) dont le but est de saborder notre discernement et tromper plus facilement notre cerveau pour des scams et arnaques futures
voila, c’est pas rejouissant tout ça
d’autant plus que je suis malade comme un chien depuis dimanche…
L’échographiste-maïeuticien a expliqué à mon neveu que les échographies (de grossesses) seraient dans un futur assez proche, réalisées et interprétées par des IA. Basée sur quelques points « sérieux » et facilement vérifiables. Exit tout ce qu’il y a autour, notamment tout ce qui concernerait les mal-formations et autres pathologies nécessitant l’interprétation d’un humain.
Pourquoi ? Parce que ça coûterait moins cher à la sécurité sociale, quitte à découvrir à la naissance de son enfant qu’il a 6 doigts au lieu de 5.
L’IA reste un outil. La question est de savoir, qui est derrière l’outil, comment il s’en sert et dans quel but…
Source?
Je n’y crois pas une seule seconde. J’ai la certitude absolue que c’est une peur chimère comme il y en a tant sur l’IA. Teintée de complotisme avec le concept de la sécurité sociale qui préfère laisser passer des malformations pour payer moins cher, ce qui en plus est absolument faux. (je développerai si on me contredit sur cet élement)
C’est le praticien qui dit ça. Je chercherai. En tout cas, je ne trouve pas ça délirant que par souci d’économie la sécurité sociale ne se penche que sur des points essentiels sur les échographies. (Qui ne pose pas de souci majeur) et qui puisse être identifié par une IA. Ce que semblait dire le praticien c’est que lui regarde plus de chose que ce qu’on lui demande. Par exemple en ce qui concerne la sphère ORL. Cela lui est arrivé de prévenir un défaut aux oreilles pouvant générer de la surdité. Ce n’était pas à lui de le faire mais il l’a quand même fait. Les parents étaient bien contents de pouvoir anticiper cette difficulté. Ce qu’une IA n’aurait pas fait car « cantonné » à des éléments précis par la sécurité sociale. Alors que l’humain peut décider d’aller plus loin. Ou pas…
J’utilise ce que dit le praticien pour dire que la question est de savoir, qui est derrière l’outil, comment il s’en sert et dans quel but… (mon propos est vraiment celui la).
Je n’ai pas dit ça, c’est un raccourcis que tu fais toi.
Dire qu’utiliser l’IA pour réduire les coûts de la sécurité sociale ne me semble pas délirant. Que les conclusions soient que l’IA puisse passer à côté de certaines interprétation reste à prouver mais ne me parait pas délirant non plus. Le questionnement ne relève pas du complotisme mais d’une réflexion réelle sur l’usage de l’IA.
Un début de réponse mais qui reste très évasif
https://www.assurance-maladie.ameli.fr/sites/default/files/Politique_usage_IA_Assurance-Maladie.pdf
je lis ça :
amélioration des diagnostics, personnalisation des soins et gestion optimisée des ressources, par exemple.
Et ici (autre débat) je lis, pour un modèle économique durable (la grosse blague)
Je me demande bien pourquoi ce maieuticien raconte cela. Enfin non, pas vraiment, il a du se renseigner auprès du fil tik tok d’un coach en musculation ou d’une bimbo spécialiste en tuto maquillage ! (Je fatigue d’entendre des professionnels, qui ont pourtant accès à l’info, colporter des propos à moitié complotistes à moitié catastrophiste).
L’utilisation de l’IA en milieu médicale a des buts assez variés. La lecture des doc mis à disposition par le ministère de la santé le montre
Et si on fait un peu de recherche sur les papiers scientifiques (et ça date de 2019, mais on savait déjà où on allait).
https://www.sciencedirect.com/science/article/pii/S0001407919350745
.l’ia c’est au contraire du discours du maieuticien, être capable de « ratisser large » avec une diminution des faux négatifs sans faire exploser les faux positif.
Mais… c’est pas la même technologie que les LLM. Nous regroupons sous le terme d’ia des systèmes bien différents.
L’ia c’est aujourd’hui le LLM qui font de plus en plus d’erreurs et des systèmes plus spécialisés qui en font moins que l’humain.
Le maïeuticien dont je parle est reconnu dans le milieu et il est très très compétent dans l’interprétation des échographies.(bien au-delà de ce que peux faire une IA) Il voit ce que certains gynécologues ne voient pas, et ça les emmerde. C’est peut etre l’exception qui peut remettre en question des outils « limités ». Mais l’exception n’est pas la règle.
L’IA doit être capable d’interpréter des images avec un protocole reposant sur des observations faciles. Quand on parle d’interprétation plus poussée, sur des aspects qui peuvent sembler accessoire, l’IA peut ne pas atteindre la compétence du praticien. En soi, cela n’est pas si grave car ce sont des détails. Mais parfois, les détails du fœtus peuvent revêtir de réelles problématiques comme le praticien le soulignait par exemple avec la sphère ORL. Mais finalement ça concerne aussi certains praticiens n’ayant pas cette compétence aussi poussée.
Ben justement…
Si.
Elle est bien plus efficace aux stades précoces.
Alors, pour des tas de raisons, on va toujours avoir des gens pour contrôler ce que fait l’IA, mais ça peut évoluer.
Pour mon premier job, dans une banque, j’ai croisé lors d’un stage, une femme dont le boulot de la matinée consistait à contrôler la justesse des calculs fait par l’ordinateur sur un programme bien précis dans la nuit.
En une dizaine d’années elle n’avait pas trouvé d’erreur de calcul, on s’en doute.
C’était il y a plus de 40 ans.
Je pense que ce poste a été supprimé !