Le expérience mentale du basilic de Roko est considérée comme l'expérience la plus terrifiante de toute l'histoire; c'est la raison pour laquelle Elon Musk a rejoint, un milliardaire créateur des célèbres voitures électriques Tesla et des vaisseaux spatiaux SpaceX et de la chanteuse américaine Grimes. Tous deux partagent le goût pour une telle expérience.
Mais qu'est-ce que le basilic de Roko?; c'est une expérience mentale, un jeu qui a été créé en 2010 capable de découvrir quelles seraient les conséquences pour l'humain de créer une intelligence artificielle trop puissante.
Comment le basilic de Roko devient-il incontrôlable?
Solo imagina los riesgos que se podrían generar si se creara una máquina de inteligencia artificial con el poder de acceder a recursos prácticamente ilimitados desde el punto de vista de la humanidad. Este es el escenario hipotético que plantea el expérience mentale du basilic de Roko.
El basilisco de Roko es una máquina de intelligence artificielle que los seres humanos crean en el futuro con el fin de que esta se encargue de buscar de manera constante recursos para el bienestar de los seres humanos.
La máquina fue programada para hacer todo el bien posible a la humanidad y hasta un punto todo se desarrolla de la manera esperada. El problema surge cuando el basilisco de Roko, que tiene una inteligencia demasiado avanzada; se da cuenta que cada acción y esfuerzo que realiza podría ser mucho mejor.
Comment son intelligence artificielle finit par devenir incontrôlable?
Avec le temps, la machine, qui est conçue uniquement pour faire le bien et ne se consacre qu'à chercher les moyens de manière infinie, commence à analyser les situations pour accomplir son travail de mieux en mieux; ce qui conduit à une décision extrême de la part de la machine et très dangereuse pour les êtres humains.
La machine finit par sortir de contrôle lorsqu'elle détermine que pour accomplir un plus grand bien pour l'humanité, elle aurait dû exister plus tôt et ainsi pouvoir apporter son aide à de nombreuses personnes qui souffraient avant son existence. Par conséquent, elle commence à exterminer tous ceux qui n'ont pas collaboré à sa création.
L'expérience la plus terrifiante
Sa technologie artificielle Cela en arrivait à tel point, que ces personnes qui apprenaient l'existence du basilic de Roko et ne commençaient pas immédiatement à participer à sa création; étaient considérées comme des intercepteurs du bien humain et devenaient rapidement une victime de plus de la machine.
Pour toutes ces raisons, l'expérience mentale du basilic de Roko est considérée comme l'expérience la plus effrayante. Sa technologie est si avancée que son danger ne peut même pas être comparé à celui d'une arme nucléaire.
Controverse qui surgit à la suite de l'expérience mentale du basilic de Roko
Celui-ci intelligence artificielle étant capable, à la fois de se gérer lui-même et d'améliorer ses capacités, conclut qu'il doit accélérer sa propre création, mais ne pouvant pas voyager dans le temps, il commence à punir les personnes qui n'ont pas fait partie de son instauration.
Lorsque le basilic de Roko apparaît, une profonde polémique se crée, notamment au sein de la communauté LessWrong, lesquels, en se basant sur l'expérimentation si intense que les utilisateurs ressentiraient, ont décidé que cette épreuve devait être complètement supprimée.
Beaucoup ont complètement rejeté le basilic de Roko, en effet, certains utilisateurs affirment ressentir de l'inquiétude rien qu'en lisant les arguments sur lesquels cette technologie repose.
Que penses-tu du basilic de Roko? Penses-tu qu'il soit possible de créer une superintelligence aussi avancée que celle présentée dans cette expérience?, si vous êtes fan des avancées technologiques et de l'intelligence artificielle, vous pouvez trouver de nombreux sujets comme celui du Basilic de Roko en faisant simplement partie de notre communauté de lecteurs.