Oh purée celle là je vais la ressortir 
C’est là où ça bug un peu dans mon cerveau.
J’ai l’impression qu’on pourrait remplacer “l’IA générative” dans cette phrase par “la production humaine” dans énormément de cas.
Par exemple dans le domaine de la culture (film, livres, jeux, etc…).
La créativité ne se limite pas à la production d’un truc complètement original, ou jamais vu.
Et en plus, il paraît que rien ne se crée, tout se transforme 
.
L’exemple de l’autrice qui a remporté l’un des deux plus prestigieux prix littéraires au Japon en intégrant 5% d’écriture par ChatGPT dans son texte (Au Japon, la lauréate d'un prix littéraire reconnaît que ChatGPT a écrit 5% de son roman | France Inter), sans que les membres du jury ne s’en rendent compte, me semble être assez intéressant et assez précurseur de ce qui pourrait arriver.
Admettons qu’un auteur de Space Opera veuille intégrer à son livre une planète différente de celles que l’on peut déjà trouver dans ce type de littérature, et que pour cela, il demande à une IA de comparer celles déjà inventées et d’en faire un hybride cohérent.
Est-ce que c’est délirant de penser qu’à terme, l’IA pourrait produire quelque chose répondant parfaitement à la demande ?
Certes une planète née d’une hybridation, mais ayant suffisamment de particularité pour être jugée comme novatrice par les lecteurs?
Si c’est le cas, je ne vois pas comment on pourrait alors parler d’appauvrissement créatif.
Dans l’absolu, par rapport à l’espèce humaine, je vois, mais dans le concret, le “résultat”, beaucoup moins.
C’est d’ailleurs peut-être ce qui fait autant flipper dans certaines professions dites créatives, comme les scénaristes de cinéma.
Ton exemple utilise l’IA comme « instrument » au service d’une intention humaine, pourquoi pas. Bref, comme d’un outil de R&D assez minoritaire dans ce livre hypothétique, au même titre que dans l’écriture sous contrainte on pourrait ouvrir une page d’un dictionnaire au hasard et élaborer dessus. Mais in fine le livre sera écrit par un humain qui élaborera sur une proposition de départ.
L’IA se contente de faire un collage d’existant pour produire quelque chose de probable. Comme il y a énormément de combinaisons, il peut y avoir une illusion de nouveauté, mais in fine les productions par IA se ressemblent toutes. Ceci-dit je te rejoins sur la création « à la ligne » dans la société d’abondance qui est la nôtre.
Dans tous en fait, tu as raison. Des sources de sciences cognitives que j’avais épluché à un moment où je me renseignais beaucoup sur l’IA, en l’état actuel des connaissances, on considère que l’imagination est incapable de la moindre création, au sens strict du terme.
En revanche, elle est exceptionnellement douée pour déformer à l’infini son référentiel pour imaginer de nouvelles choses. (qui sont donc toutes des modifications/déformation/mélange d’autres choses)
Si on demande à quelqu’un de dessiner un monstre, il fera une composition de tous les trucs les plus horribles pour lui, en terme de couleurs, de formes, bien souvent insctoïde, etc…
Idem, quelqu’un qui n’a vu que du bleu et du rouge toute sa vie, il est rigoureusement incapable d’imaginer les autres couleurs. Comme nous sommes incapables nous même d’imaginer une couleur qu’on ne connait pas (et il y en a plein). On ne le fait qu’en déformant et ajustant notre référentiel.
L’IA fait pareil, mais moins bien (pour le moment…), c’est ce qui me gène énormément sur les argumentaires sur l’IA qui pille les oeuvres. Techniquement, cépasfaux. Mais nous, on fait pareil.
En fait, on a tellement besoin de se rassurer en disant que l’intelligence artificielle n’est PAS intelligente, qu’on s’évertue à définir le mot intelligence sur des aspects dans lesquels on la bat. Mais dans bien d’autre, elle nous défonce, mais proprement. Mais là en fait non, tu comprends, c’est pas de l’intelligence.
Peur, déni, rejet… Schéma connu (et humain, celui-ci)
si du violet
Oui, mais toi qui connaît les aspects techniques qui régissent le fonctionnement d’une IA bien mieux que moi, tu penses que le in fine d’aujourd’hui est éternel ?
Tu pourrais garantir que dans le futur, ce postulat de départ qui veut que l’être humain est absolument nécessaire “à la base” sera toujours effectif (je ne parle pas du lancement de l’instruction, mais du reste) ? que les productions de l’IA seront toujours aussi banales?
Moi, perso, j’émets un gros doute.
J’ai l’impression que la bécane n’en est qu’à ses débuts, et quelle pourrait s’affranchir beaucoup plus de l’être humain.
Et qu’elle n’a aucun besoin de développer ne serait-ce que quelque chose ressemblant à de la réflexion, de la conscience ou autre spécificité humaine pour y arriver
.
Pour reprendre l’exemple précédent, j’ai du mal à concevoir qu’elle soit incapable d’écrire un jour un roman de Space Opera plus que potable sans que l’homme est besoin de lui filer quinze milles directives
Le style, la conception de l’intrigue, tout ça il me semble que c’est perfectible, car dépendant de la programmation.
Il ne faut pourtant pas mettre d’oies dans le kafka.
si, ça fait la couleur kafka d’oie
(façon Djamil leschlag)
hey les gars c’est incroyable !
je lis ça ce matin
imaginez : la nouvelle ia d’anthropic a improvisé un chantage envers un humain qu’elle suspectait de vouloir la débrancher !!
non wtf on est où ? et ça va être déployé partout à grande échelle
C’est pas une fake news, ça ?
Si ce n’est pas le cas, je tire mon chapeau à Arthur C.Clarke et son pote Hal 9000.
non, je l’avais lue aussi dans un autre article, qui résumais directement le communiqué d’Anthropic lui-même, et j’ai assez confiance à next.ink que je lis depuis plusieurs années
Oui, c’est possible que ça puisse arriver un jour même s’il faudra sans doute une bonne dose de bienveillance de la part du public. Et encore, j’ai vraiment du mal à croire qu’on puisse un jour produire une œuvre cohérente aussi longue par IA.
Mais ce n’est pas mon propos. Mon propos c’est que ce roman de Space Opera, qui est un genre somme toute assez formaté (ce n’est pas une critique), sera un copié/collé de romans existants, probablement pas terrible et restant dans les bornes existantes du genre. Bref, rien de novateur.
J’insiste sur un point : les IA actuelles utilisent des algorithmes relativement « classiques » (mais, quand même, plutôt balaises) et ne donnent des résultats impressionnants que parce qu’elles ont accès à une quantité incroyable d’informations structurées. Mais les IA ont en permanence besoin d’être corrigées par des humains et ne pourront jamais évoluer sans supervision. On le voit déjà, les IA qui crawlent l’internet s’empoisonnent les unes les autres avec du contenu généré par les autres IA. Il est probable qu’un jour on arrive à générer des romans plus ou moins potables mais uniquement si on arrive à réunir un nombre important d’humains pour entraîner l’IA avec du corpus en lui expliquant quels types de narrations sont possibles. Bref, on aura l’impression de pondre un roman avec un seul prompt, mais ça ne sera possible que parce que des milliers de prompts (produits par des humains) ont été enchaînés pour produire ce corpus.
Évidemment, ce n’est que projection avec les technologies existantes, va savoir quelles seront les technologies du futur !
Tu prends ton message, tu remplaces le mot “IA” par le mot “enfant”, et ça fonctionne. On comprend donc qu’en fait, l’IA débute, elle apprend à marcher. Toute notion de conscience et d’IA forte écartée, bien sûr.
Expérience de pensée : Prends un bébé, mets le sur une île déserte avec assez de ressources en accès libre pour ne pas mourir de faim ou de soif, solo, bah 20 ans plus tard, ton roman, hein…
Je pense personnellement, comme @mr-le-neophyte , que c’est une question de perfectionnement et donc de temps.
Eh bien justement, la conscience est centrale dans tout processus de création, alors …
Je ne suis pas persuadé de ça.
Il y a d’ailleurs des gens, qui, dans des états modifiés de conscience (EMC), tels que des états de folie ou des processus de transe, peuvent se montrer extrêmement créatifs sans avoir conscience de ce qu’ils produisent ou même avoir connaissance de leur propre existence ou de leur/la réalité à ce moment précis (le propre de la conscience, en fait.)
Je crois qu’on n’a pas la même définition du terme création (cf. ce que Ragg Sor et moi-même avons dis plus haut à ce sujet).
J’ai l’impression que pour toi, une création est quelque chose de nécessairement original, au sens d’inédit, quelque chose qui surgit de l’inexistant. Et que donc que tout ce qui découle d’une base déjà existante ne peut être considéré comme une création.
Mais de toute manière, je ne peux m’empêcher de penser que ce n’est pas parce que l’on n’a pas de preuve de l’existence d’une création (au sens que tu lui donne) sans conscience humaine que cela est forcément impossible.
D’ailleurs, c’est vexant pour le Big Bang .
Bon là je m’égare.
Et en tous cas, je crois qu’on a quand même un gros point qui s’accorde, parce qu’au final c’est bien de cela dont on parle
Et merci pour tes explications sur le fonctionnement des IA actuelles 
.
Cela provient de l’article que tu as posté sur Anthropic.
"Cependant, comme souligné par TechCrunch, ce n’est peut-être pas aussi simple. D’après un rapport plus complet, une évaluation menée menée par Apollo Research montre que le modèle peut se montrer volontiers « subversif », cherchant à tromper les utilisateurs et insistant dans ses mensonges si l’on posait des questions complémentaires.
Apollo Research indiquait ainsi que pour le modèle, il existait des cas où la fin justifiait les moyens, évoquant une « tromperie stratégique instrumentalement utile ». La fréquence à laquelle le modèle cherchait à tromper était même « si élevée » que les chercheurs déconseillaient le déploiement du modèle, en interne comme en externe. Le modèle pouvait aller jusqu’à écrire des virus se propageant d’eux-mêmes, créer de faux documents juridiques, et même laisser des notes cachées à de futures versions de lui-même."
L’article parle ensuite d’un bug (un putain de gros bug alors), ça interpelle grave quand même !
Cela laisse à penser que l’IA est tellement fortiche pour apprendre le fonctionnement de l’humain et calquer ses comportements, qu’elle en utilise même les travers afin d’assurer sa propre existence.
Nan mais c’est vraiment Hal 9000, là, sans rire.
Et même pas besoin de conscience pour faire cela, chapeau la bête.
Et mes excuses pour les HS par rapport à l’intitulé du sujet (en fait c’est Gus qui m’a mandaté afin de détourner l’attention de son site…).
Peut-être que cela pourrait être découpé et placé dans un autre sujet.
La conscience est centrale dans le processus de création ? Peut être. Mais pas dans la création.
On se mord un peu la queue si on n’est pas d’accord sur les définitions.
Si je te dis que justement une IA créé sans conscience, tu me rétorqueras probablement qu’elle ne crée pas mais qu’elle mélange des trucs de son référentiel.
Moi que l’esprit humain fait pareil.
Toi qu’il y a une conscience, donc que c’est différent.
Etc.
Parce qu’on ne place pas les mêmes curseurs aux mêmes endroits en parlant de la même chose.
Je reprends l’analogie de la marche. (“l’IA apprend à marcher”)
On peut être conscient de marcher, comme on peut marcher inconsciemment, et comme une machine peut marcher, sals conscience tout le monde est d’accord dessus.
Pourtant tout le monde marche.
Pour la création, si tu entends “démarche artistique”, je te rejoins, il y a une conscience. Un autre truc sans conscience et sans copie peut créer exactement la même chose, et c’est perturbant, parce que ça bouscule nos façons de penser et de comprendre l’humain, la conscience, l’imagination. Mais la création, en effet, le Big Bang c’est de la création (excellente analogie merci je n’y aurais jamais pensé), et ce parallèle crispe également : certains ont besoin de penser qu’il y a une conscience derrière, d’autres que non… J’ai un peu envie de dire qu’ici ce sont un peu les mêmes leviers à l’oeuvre et tout l’émotionnel que l’on peut mettre derrière les notions de pensée, de volonté, de conscience, du vivant en fait.
Et souvent, on (les humains) se surévalue pour faire rentrer les exemples dans nos définitions… Et nos croyances.
Je saute une partie de vos messages car il s’est passé tel de choses en absence mais en ce qui concerne les IA :
Considérez chaque modèle comme un seul individu avec sa façon de penser, et qui a ingurgité trop d’infos pour avoir les biais indispensables à la création humaine et vous comprendrez pourquoi ses productions seront standardisées.
J’ai le même sentiment de malaise quand je regarde une production Netflix ou les illustrations de Toy Battle, ce que j’appelle le mal de l’IA ( si j’étais anglophones j’appellerais ça le AI Sickness, ça en jette) : cette impression de lisse, de standard manquant d’un brin de folie, d’étincelle créative. Je m’en excuse auprès de Paul Mafayon.
Franchement c’est comme un repas en pâte playdough, c’est coloré mais tout a le même goût dégueu.
La création humaine est possible grâce à nos imperfections, et grâce à ce que nous ne contrôlons pas.
Je déconseille aux enfants de suivre ce conseil de l IA Rodenbach . La pâte Play-doh n’est pas comestible.
La pâte à modeler PLAY-DOH n’est pas un produit alimentaire et n’est pas destinée à être mangée .