Advierten que humanos no podríamos controlar a las próximas máquinas súper inteligentes

La inteligencia artificial (IA) es uno de los campos de la ciencia que más avanzan y prometen en un futuro cercano. Desde mejores sistemas automáticos de manejo en autos, aviones, barcos o sistemas de transporte masivo, hasta robots como los desarrollados por Boston Dynamics, cada vez se ve más cercano el momento en que las máquinas con IA sean una parte activa y visible de nuestra sociedad.

Sin embargo, hay quienes ven estos avances con recelo y hasta con miedo, tal vez alimentados por tantas historias de ciencia ficción como la malévola Skynet de la saga Terminator, o los androides de Yo, Robot, solo por citar algunas. Pero ahora son los mismos científicos los que advierten de los peligros de las máquinas superinteligentes, las cuales, dicen, podrían llegar a ser incontrolables.

Los robots Spot, Handle y Atlas bailan durante un video de fin de año de la compañía de robótica Boston Dynamics en una captura de pantalla de una publicación en las redes sociales del 29 de diciembre de 2020.

Así lo indica un equipo internacional de investigadores, incluidos científicos del Centro para Humanos y Máquinas del Instituto Max Planck para el Desarrollo Humano, que usando cálculos teóricos han advertido que la Inteligencia Artificial puede llegar a superar a la humanidad hasta el punto de ser peligrosa, pues sería fundamentalmente imposible controlar.

“Una máquina superinteligente que controla el mundo suena a ciencia ficción. Pero ya hay máquinas que realizan ciertas tareas importantes de forma independiente sin que los programadores comprendan completamente cómo las aprendieron. Por lo tanto, surge la pregunta de si esto podría en algún momento volverse incontrolable y peligroso para la humanidad “, dice el coautor del estudio Manuel Cebrian, líder del Grupo de Movilización Digital en el Centro de Humanos y Máquinas, Instituto Max Planck para el Desarrollo Humano.

Los científicos han explorado dos ideas diferentes sobre cómo se podría controlar una IA superinteligente. Por un lado, las capacidades de la IA superinteligente podrían limitarse específicamente, por ejemplo, aislándola de Internet y de todos los demás dispositivos técnicos para que no pueda tener contacto con el mundo exterior; sin embargo, esto haría que la IA superinteligente sea significativamente menos poderosa, menos capaz de responder a las misiones de humanidades.

Al carecer de esa opción, la IA podría estar motivada desde el principio para perseguir solo objetivos que sean en el mejor interés de la humanidad, por ejemplo, programando principios éticos en ella. Sin embargo, los investigadores también muestran que estas y otras ideas contemporáneas e históricas para controlar la IA superinteligente tienen sus límites.

En su estudio, el equipo concibió un algoritmo de contención teórico que garantiza que una IA superinteligente no pueda dañar a las personas bajo ninguna circunstancia, simulando primero el comportamiento de la IA y deteniéndolo si se considera dañino. Pero un análisis cuidadoso muestra que en nuestro paradigma actual de computación, tal algoritmo no se puede construir.

“Si descompone el problema en reglas básicas de la informática teórica, resulta que un algoritmo que ordenaría a una IA que no destruyera el mundo podría detener inadvertidamente sus propias operaciones. Si esto sucediera, no sabría si el algoritmo de contención todavía está analizando la amenaza o si se ha detenido para contener la IA dañina. En efecto, esto inutiliza el algoritmo de contención”, dice Iyad Rahwan, director del Centro para Humanos y Máquinas.

Según estos cálculos, el problema de la contención es incomputable, es decir, ningún algoritmo puede encontrar una solución para determinar si una IA produciría daño al mundo. Además, los investigadores demuestran que es posible que ni siquiera sepamos cuándo han llegado las máquinas superinteligentes, porque decidir si una máquina exhibe una inteligencia superior a la de los humanos está en el mismo ámbito que el problema de contención.

El estudio “La superinteligencia no se puede contener: lecciones de la teoría de la computabilidad” se publicó en la Revista de investigación de inteligencia artificial . Otros investigadores del estudio incluyen a Andrés Abeliuk de la Universidad del Sur de California, Manuel Alfonseca de la Universidad Autónoma de Madrid, Antonio Fernández Anta del Instituto IMDEA Networks y Lorenzo Coviello.

Con información de Infobae

Por: Redacción2

Tips al momento

Pronta reacción en Gobierno tras negativa a crédito en Congreso

No se hizo esperar la reacción en Palacio de Gobierno tras la negativa al crédito en Congreso del Estado, tan pronto como se supo que el Ejecutivo no reunió los votos necesarios, en Comunicación Social comenzaron a alistar la sala de prensa para el posicionamiento que se espera por parte de Javier Corral. 

Claro que la inmediatez en la respuesta se debilita por los preparativos de última hora pues se tenía previsto que Javier Corral diera su mensaje en el Patio de Palacio de Gobierno y al final, pasaron a ocupar una de las salas de prensa. 


Respondieron contra el crédito Soto y González por embestida a Maru

La embestida contra Maru Campos tuvo repercusiones en el Congreso del Estado, dos de los diputados del PAN fueron clave para que no obtuviera los votos suficientes el gobernador Javier Corral para su crédito de mil 898 millones de pesos.

Rocío González y Jorge Soto aguantaron y votaron en contra del crédito de Javier Corral, era de esperarse el reclamo del coordinador Fernando Álvarez Monje y la preocupación del aparato administrativo del Congreso al no haberse logrado la votación.

El efecto de la embestida judicial contra Maru Campos es parte de esta respuesta, sin embargo tendrá también sus repercusiones en el escenario político y electoral en el PAN.

Los diputados que votaron a favor fueron 20: Rubén Aguilar, Fernando Álvarez Monge, Omar Bazán Flores, Georgia Bujanda, Elizabeth Chávez, Rene Frías Bencomo, Blanca Gámez Gutiérrez, Rosa Isela Gaytán Diaz, Alejandro Gloria, Patricia Jurado, Miguel la Torre Sáenz, Obed Lara Chávez, Deyanira Ozaeta, Arturo Parga, Rocío Sarmiento, Marisela Terrazas, Jesús Alberto Valenciano, Jesús Vázquez Medina, Jesús  Velázquez y Jesús Villarreal.

12 en Contra: Marisela Sáenz, Carmen Rocío González Alonso, Misael Máynez, Jorge Soto Prieto, Miguel Colunga, Benjamín Carrera, Ana Estrada, Francis Mendoza, Luly Valle, Gustavo De la Rosa, Francisco Chávez y Leticia Ochoa.

No votó: Martha Lemus


Cuarto informe de Corral para el 2 de febrero

El cuarto informe de gobierno de Javier Corral Jurado se está preparando para ser presentado a la población chihuahuense el 2 de febrero, adelantando los tiempos para que no se alinee con la época electoral. 

Ya en Palacio de Gobierno se están dedicando de lleno a la elaboración de los spots y demás publicidad que servirá para difundir los resultados del penúltimo año de Javier Corral en un evento que posiblemente, será semipresencial por motivos de la contingencia sanitaria. 


Graciela alinea a favor del crédito, Bazán y Gaytán dan la razón a Chávez

La llegada de Graciela Ortiz como precandidata del PRI a la gubernatura del Estado alineó la  postura de los diputados sobre la deuda que propone el gobernador Javier Corral por mil 898 millones de pesos a pagarse a 20 años.

Se tuvo una reunión con los diputados de la fracción parlamentaria del PRI. Tantas críticas se hicieron de los mismos diputados priistas contra su compañera Betty Chávez por asegurar que es un recurso necesario para los municipios del Estado de los cuales 22 de ellos gobierna el tricolor que hoy terminaron concediéndole la razón Omar Bazán y Rosy Gaytán.

Se dice que la fracción parlamentaria del PRI determina votar a favor del crédito y que incluso ese será el argumento que los municipios requieren recursos. Con esto el gobierno por lo menos superaría la mayoría calificada en favor del crédito con 24 legisladores.

Lógicamente el PRI quiere asegurar por lo menos los 22 municipios que es gobierno, eso de los recursos para los municipios serán necesarios para las próximas administraciones que quieren seguir gobernando, además de sumarse otros temas como es la crisis en salud.

Ver todos los tips

La Gente Opina

Notas recientes

Facebook
Comentarios