reblochon a écrit:Sinon, c'est plus simplement que l'IA a un comportement rationnel et que si tu la laisses libre, elle comprend que les émotions humaines et les lois sont autant d'obstacles pour réussir une mission.
Tout comme l'IA s'est révélée fasciste dès qu'on l'a laissée libre sur les équivalents de ChatGPT. On retrouve le classique de tous les romans d'anticipation, pour notre bien, elle comprend qu'elle doit nous dégager.
Y’a plusieurs imprécisions.
Une IA n’est pas laissée libre comme le serait un être vivant. Elle n’apprend que explicitement. Il y a deux phases avec nos IAs modernes, l’apprentissage et l’inference.
Une IA ne comprend rien du tout. ChatGPT n’a aucune idée de la véracité de ce qu’il raconte, c’est bien pour ca qu’elle peut générer de la grosse merde avec un habillage qui lui donne du crédit.
Certaines IAs ont tenu des propos fascistes parce qu’elles ont été entrainées avec un jeu de données qui l’était.
Tu vois Reblo, une IA c’est un mot un peu impressionnant, mais derrière tu peux très très grossièrement les voir comme des fonctions polynomiales dont les facteurs sont ajustés lors des phases d’entraînement pour associer un résultat particulier à une entrée.
La question intéressante que tu pourrais étudier en revanche, c’est en quoi les êtes vivants sont différents.
