Ca c’est un des nombreux points de génie d’Asimov. Ce principe des trois lois, même s’il reste totalement utopique reste une vision géniale d’Asimov. En plus, dans la plupart de ces romans, il va exploiter ces trois lois et surtout leurs failles pour générer des intrigues et des suspenses dignes des meilleurs romans d’Agatha Christie. J’ai une admiration sans bornes pour ce romancier qui en plus était un grand scientifique et un vulgarisateur hors normes.
Les ia dont nous parlons sont principalement des générateurs de baratins ou d’images.
Elles sont bien incapable d’évaluer la portée de leurs actes et donc de les passer au crible des lois d’asimov.
Nos ia sont à des années lumières de ia d’asimov.
Quant à « don’t look up », je doute que, de toute façon, on résolve les problèmes de l’humanité sur tric trac !
Le principal probleme de l’humanité, de toute façon, je pense que c’est l’humanité, pas l’IA. Notre problème c’est notre incapacité à utiliser un outil pour le bien commun, ce n’est pas l’outil.
On ne va pas changer pour l’IA plus qu’on a changé pour le reste !
Une IA aujourd’hui, n’a aucune autonomie. Ce sont des modèles auxquels on envoit des requêtes pour avoir une réponse, souvent déconnecté de tout autre système par ailleurs. Aujourd’hui, je ne crois pas qu’il y ait un vrai lien entre robotique (qui permet une action physique sur le monde) et IA (qui permet de créer de nouveaux signaux). Je ne doute pas qu’il y a forcément de la recherche dans ce sens et si quelqu’un connait des applications, je suis curieux de les connaître.
En l’état, s’il n’y a pas de requêtes, un modèle IA ne crée rien. Il ne se passe absolument rien. On est très loin d’un système autonome avec une conscience. On peut se laisser berner par les modèles LLM car ils peuvent “simuler” la conscience, dans le sens qu’ils sont capables de répondre ce qu’on a envie d’entendre pour juger d’une conscience, mais ce n’est qu’un leurre.
Et oui, dans ses livres, Asimov a régulièrement montré que les trois lois qu’il a lui même énoncé avaient des failles et ne se suffisaient pas. Pourtant, c’est fréquent de voir ces trois lois comme une vérité qui empêcherait des systèmes autonomes d’aller contre l’intérêt de l’humanité.
Rien que sur la crise climatique, l’intérêt premier de l’humanité pourrait être interprété comme une réduction drastique et forcée et la population (que les complotistes reprennent un peu trop facilement d’ailleurs pour décrédibiliser certaines actions et personnes).
Le problème principal de l’IA c’est surtout que c’est gadget dans 90% de l’utilisation qu’on en fait aujourd’hui.
Comme l’a dit @jmguiche pas besoin de conscience de soi pour évoluer…
Et pour qu’il ne se passe rien il faut des accords genre la chine et l’USA qui ont dû s’accorder pour ne pas utiliser d’ia dans leurs systèmes de lancement de missiles nucléaires.
C’est clair, mais ça va falloir aller l’expliquer à toutes les personnes que l’ont va retrouver en train de bavasser dans un avenir très proche sur les divans des psys, parce qu’ils auront justement passé trop de temps à bavasser avec une IA qu’ils ou elles auront pris.es pour leur meilleur pote.
Vu que les gens ont des soucis de dépendances rien qu’avec smartphones et réseaux sociaux, je pense qu’avec l’IA ça va être puissance 10.
Surtout qu’en matière de lèche, j’ai l’impression que l’IA, c’est balèze.
J’ai peur que ce que le miroir ne renvoie ne soit que mensonge et/ou futilité, car programmé pour être utilisé au max, en mode gadget comme tu dis.
C’est ce qu’on disait avec Ragg Sor plus haut, mais à priori on n’est pas tous en accord sur le sens à donner aux termes création/évolution.
Les IA actuelles sont des modèles. Ils ne se modifient pas eux-mêmes donc il n’y a pas d’évolution.
Et par ailleurs, c’est plutôt prouvé qu’aujourd’hui quand on entraîne une IA avec du contenu créé par l’IA, le modèle qu’on obtient est moins performant.
Vraiment, on a de la marge. L’IA ne va pas devenir dangereuse parce qu’elle aura décidé d’elle même de devenir Skynet. Elle le sera car l’humain en fera un mauvais usage.
Les ia se nourrissent de ce qu’elles pompent sur internet.
De plus en plus de contenu internet est généré par ia.
Et donc les ia se nourrissent aussi de ce qu’elles génèrent.
À mon avis, si on laisse tourner ça comme ça, à vide. Ça va dériver de manière rigolote.
Faux ! Alphago zéro a appris le go tout seul. Sans données venant de parties “humaine”.
J’adore Skynet, je kiffe Skynet, je ne ferais jamais de mal à Skynet, vive Skynet.
(excusez-moi, j’essaye juste de sauver ma peau)
En effet, je parlais plutôt de l’apprentissage des LLM en particulier même si je ne l’ai pas précisé.
Il y a des types d’IA qui simulent pour apprendre, mais cela nécessite d’avoir des règles bien précises et un objectif explicite et spécifique.
Je ne pense pas qu’il faille prendre le thème esthétique dans le sens où tu semble l’entendre. Je pense que n’importe quel auteur qui ne cherche pas à écrire de document technique rentre dans cette définition.
Oui et les humains qui créent se biberonnent aux écrits d’IA. C’est une spirale infernale.
Platon avait tout compris avec sa caverne.
Beaucoup disent que Molière n’a pas écrit ses comédies.
Il utilisait probablement une IA…
et Shakespeare en utilsait une également.
En français si tu préfères
Et un dernier petit lien pour ceux qui pensent encore que l’IA n’a pas d’impact sur le monde réel