Advierten que humanos no podríamos controlar a las próximas máquinas súper inteligentes
La inteligencia artificial (IA) es uno de los campos de la ciencia que más avanzan y prometen en un futuro cercano. Desde mejores sistemas automáticos de manejo en autos, aviones, barcos o sistemas de transporte masivo, hasta robots como los desarrollados por Boston Dynamics, cada vez se ve más cercano el momento en que las máquinas con IA sean una parte activa y visible de nuestra sociedad.
Sin embargo, hay quienes ven estos avances con recelo y hasta con miedo, tal vez alimentados por tantas historias de ciencia ficción como la malévola Skynet de la saga Terminator, o los androides de Yo, Robot, solo por citar algunas. Pero ahora son los mismos científicos los que advierten de los peligros de las máquinas superinteligentes, las cuales, dicen, podrían llegar a ser incontrolables.
Los robots Spot, Handle y Atlas bailan durante un video de fin de año de la compañía de robótica Boston Dynamics en una captura de pantalla de una publicación en las redes sociales del 29 de diciembre de 2020.
Así lo indica un equipo internacional de investigadores, incluidos científicos del Centro para Humanos y Máquinas del Instituto Max Planck para el Desarrollo Humano, que usando cálculos teóricos han advertido que la Inteligencia Artificial puede llegar a superar a la humanidad hasta el punto de ser peligrosa, pues sería fundamentalmente imposible controlar.
“Una máquina superinteligente que controla el mundo suena a ciencia ficción. Pero ya hay máquinas que realizan ciertas tareas importantes de forma independiente sin que los programadores comprendan completamente cómo las aprendieron. Por lo tanto, surge la pregunta de si esto podría en algún momento volverse incontrolable y peligroso para la humanidad “, dice el coautor del estudio Manuel Cebrian, líder del Grupo de Movilización Digital en el Centro de Humanos y Máquinas, Instituto Max Planck para el Desarrollo Humano.
Los científicos han explorado dos ideas diferentes sobre cómo se podría controlar una IA superinteligente. Por un lado, las capacidades de la IA superinteligente podrían limitarse específicamente, por ejemplo, aislándola de Internet y de todos los demás dispositivos técnicos para que no pueda tener contacto con el mundo exterior; sin embargo, esto haría que la IA superinteligente sea significativamente menos poderosa, menos capaz de responder a las misiones de humanidades.
Al carecer de esa opción, la IA podría estar motivada desde el principio para perseguir solo objetivos que sean en el mejor interés de la humanidad, por ejemplo, programando principios éticos en ella. Sin embargo, los investigadores también muestran que estas y otras ideas contemporáneas e históricas para controlar la IA superinteligente tienen sus límites.
En su estudio, el equipo concibió un algoritmo de contención teórico que garantiza que una IA superinteligente no pueda dañar a las personas bajo ninguna circunstancia, simulando primero el comportamiento de la IA y deteniéndolo si se considera dañino. Pero un análisis cuidadoso muestra que en nuestro paradigma actual de computación, tal algoritmo no se puede construir.
“Si descompone el problema en reglas básicas de la informática teórica, resulta que un algoritmo que ordenaría a una IA que no destruyera el mundo podría detener inadvertidamente sus propias operaciones. Si esto sucediera, no sabría si el algoritmo de contención todavía está analizando la amenaza o si se ha detenido para contener la IA dañina. En efecto, esto inutiliza el algoritmo de contención”, dice Iyad Rahwan, director del Centro para Humanos y Máquinas.
Según estos cálculos, el problema de la contención es incomputable, es decir, ningún algoritmo puede encontrar una solución para determinar si una IA produciría daño al mundo. Además, los investigadores demuestran que es posible que ni siquiera sepamos cuándo han llegado las máquinas superinteligentes, porque decidir si una máquina exhibe una inteligencia superior a la de los humanos está en el mismo ámbito que el problema de contención.
El estudio “La superinteligencia no se puede contener: lecciones de la teoría de la computabilidad” se publicó en la Revista de investigación de inteligencia artificial . Otros investigadores del estudio incluyen a Andrés Abeliuk de la Universidad del Sur de California, Manuel Alfonseca de la Universidad Autónoma de Madrid, Antonio Fernández Anta del Instituto IMDEA Networks y Lorenzo Coviello.
Con información de Infobae
Tips al momento
Fracturas internas en el SNTE
Los dirigentes sindicales en Chihuahua de las secciones Octava y 42, cada vez pierden mayor control interno. Primero fue por la irresponsable imposición de los aberrantes y mal llamados libros de texto, donde la queja de miles de maestros fue más que evidente pero donde el SNTE se doblegó servilmente a Morena. Y ahora, con la línea convenenciera a favor de la candidata oficialista Claudia Sheinbaum, que es seguida localmente con la incondicionalidad borreguista. Ya se evidencian fracturas gremiales. Ayer se dio un evento del candidato del PAN al Senado, Mario Vázquez, con líderes disidentes.
En el caso de la 42, la suma de los votos es superior a lo que tiene el morenista Manuel Quiroz. Edgar Ramos fue el primer lugar en votos de maestros activos en la elección pasada a Secretario General de Seccion 42. Quiroz gana con los votos de jubilados movidos por morena.
Y aparecen también Fernando Pacheco, el propio Edgar Ramos y Gabriel Faudoa. Los tres compitieron por la dirigencia del SNTE y Ramos quedó en segundo lugar.
Así que el SNTE y sus encargados sindicales, no las traen todas consigo...
Aeropuerto de Creel aún no despega
A nivel a nivel nacional trascendió que el aeropuerto de Creel, no ha tenido mayor afluencia de visitantes, incluso, durante la pasada Semana Santa, temporada en la que se supone ese destino turístico registra un buen número de visitantes.
De acuerdo, con información publicada a nivel nacional, se dijo, que tan solo de febrero a marzo la estación aeroportuaria, disminuyó el número de usuarios un 62. 26 por ciento, pues de 363 bajó a 137 usuarios, en ese periodo.
De acuerdo con la información publicada el aeropuerto serrano recientemente puesto en marcha, casi se posicionó, en el último lugar de las terminales aéreas a nivel nacional y eso que en febrero se anunció que despegaba la actividad en esa terminal.
Se comentó, que ya no es utilizado ni por taxis aéreos o por servicios privados, sin atribuirse las causas a que sea uno de los menos demandados en el país, solo superado en este renglón, según se dijo, por el Tajín. en Poza Rica, allá en Veracruz.
Así que habrá averiguar qué es lo dicen las autoridades locales con respecto al uso de este aeropuerto que duró décadas en construcción y del que se tenían grandes expectativas de atracción de visitantes. ¿Faltarán todavía los permisos federales para su plena operación?
Las expectativas del sector manufacturero disminuyeron 1.33 puntos
De acuerdo al Indicador Agregado de Tendencia, el sector manufacturero descendió 1.33 puntos, esto le colocó en abril con 52.24 puntos.
Dicha disminución fue producto de la caída en producción, menor personal ocupado y la demanda nacional, así como las exportaciones.
En contraste la capacidad de planta utilizada incrementó, los inventarios de mercancías y las ventas netas.
Tips al momento
Fracturas internas en el SNTE
Los dirigentes sindicales en Chihuahua de las secciones Octava y 42, cada vez pierden mayor control interno. Primero fue por la irresponsable imposición de los aberrantes y mal llamados libros de texto, donde la queja de miles de maestros fue más que evidente pero donde el SNTE se doblegó servilmente a Morena. Y ahora, con la línea convenenciera a favor de la candidata oficialista Claudia Sheinbaum, que es seguida localmente con la incondicionalidad borreguista. Ya se evidencian fracturas gremiales. Ayer se dio un evento del candidato del PAN al Senado, Mario Vázquez, con líderes disidentes.
En el caso de la 42, la suma de los votos es superior a lo que tiene el morenista Manuel Quiroz. Edgar Ramos fue el primer lugar en votos de maestros activos en la elección pasada a Secretario General de Seccion 42. Quiroz gana con los votos de jubilados movidos por morena.
Y aparecen también Fernando Pacheco, el propio Edgar Ramos y Gabriel Faudoa. Los tres compitieron por la dirigencia del SNTE y Ramos quedó en segundo lugar.
Así que el SNTE y sus encargados sindicales, no las traen todas consigo...
Aeropuerto de Creel aún no despega
A nivel a nivel nacional trascendió que el aeropuerto de Creel, no ha tenido mayor afluencia de visitantes, incluso, durante la pasada Semana Santa, temporada en la que se supone ese destino turístico registra un buen número de visitantes.
De acuerdo, con información publicada a nivel nacional, se dijo, que tan solo de febrero a marzo la estación aeroportuaria, disminuyó el número de usuarios un 62. 26 por ciento, pues de 363 bajó a 137 usuarios, en ese periodo.
De acuerdo con la información publicada el aeropuerto serrano recientemente puesto en marcha, casi se posicionó, en el último lugar de las terminales aéreas a nivel nacional y eso que en febrero se anunció que despegaba la actividad en esa terminal.
Se comentó, que ya no es utilizado ni por taxis aéreos o por servicios privados, sin atribuirse las causas a que sea uno de los menos demandados en el país, solo superado en este renglón, según se dijo, por el Tajín. en Poza Rica, allá en Veracruz.
Así que habrá averiguar qué es lo dicen las autoridades locales con respecto al uso de este aeropuerto que duró décadas en construcción y del que se tenían grandes expectativas de atracción de visitantes. ¿Faltarán todavía los permisos federales para su plena operación?
Las expectativas del sector manufacturero disminuyeron 1.33 puntos
De acuerdo al Indicador Agregado de Tendencia, el sector manufacturero descendió 1.33 puntos, esto le colocó en abril con 52.24 puntos.
Dicha disminución fue producto de la caída en producción, menor personal ocupado y la demanda nacional, así como las exportaciones.
En contraste la capacidad de planta utilizada incrementó, los inventarios de mercancías y las ventas netas.
