Meta establece un marco para identificar y mitigar "posibles resultados catastróficos" derivados de sistemas de IA
Meta persenta Frontier AI Framework . Foto: europa press
martes, 4 de febrero de 2025 · 08:15
MADRID, (Portaltic/EP) - Meta explicó cómo trabaja para construir herramientas y sistemas de Inteligencia Artificial (IA) avanzadas, en un marco en el que se establece de qué forma evalúa y mitiga los riesgos y cómo establece umbrales catastróficos y modela amenazas para neutralizar a tiempo los "posibles riesgos catastróficos" derivados del uso y desarrollo de esta tecnología.
En un documento, llamado Frontier AI Framework, describió cómo trabaja para construir IA avanzada y de qué forma establece umbrales catastróficos; un enfoque que espera que "evolucione y madure con el tiempo", conforme avanzan los usos de esta tecnología.
Con ello, la compañía resaltó su compromiso por "avanzar en lo último en IA, en los modelos y en los sistemas para implementarlos de manera responsable"; y reconoció que, aunque "no es posible eliminar por completo el riesgo" intrínseco que tiene la IA, sí busca que ésta sea "positiva para la sociedad".
De este modo, indicó que su marco de trabajo de IA diferencia sistemas de 'riesgo alto' y de 'riesgo crítico', siendo estos últimos los relacionados con las áreas de amenazas a la ciberseguridad, así como los de armas químicas y biológicas "de alto impacto".
Frontier AI Framework, por tanto, se ha establecido para identificar posibles resultados catastróficos y evaluar si esos resultados "son posibles gracias a los avances tecnológicos". "De ser así, identificaremos formas de paliar esos riesgos", ha apuntado.
Meta también adelantó que realiza ejercicios de modelado de amenazas para anticipar cómo diferentes actores podrían intentar hacer un uso indebido de la IA para producir los comentados resultados catastróficos, trabajando con expertos externos según sea necesario.
Asimismo dijo que define los umbrales de riesgo en función del grado en que sus modelos de IA facilitan los escenarios de amenaza. Para ello, dispone de procesos establecidos para mantener los riesgos dentro de niveles aceptables, incluida la aplicación de medidas de mitigación.
En caso de identificar que un sistema de IA es de riesgo alto, limitará su acceso internamente hasta que haya completado el despliegue de mitigaciones pertinente para "reducir el riesgo a niveles moderados". Ante un riesgo crítico, y si se considera que una IA ha alcanzado el umbral establecido y no se puede mitigar, Meta ha subrayado que detendrá su desarrollo e implementará otras protecciones, aunque no ha especificado cuáles.
La tecnológica señaló finalmente que si bien el objetivo de este marco es reducir al máximo riesgos graves, la razón principal por la que están desarrollando estas tecnologías "es porque tienen el potencial de beneficiar enormemente a la sociedad".
Conviene apuntar que el anuncio de este marco va en la línea de la Ley de Inteligencia Artificial de la Unión Europea, la legislación pionera en regular esta tecnología a nivel mundial, que entró en vigor el pasado 1 de agosto y tiene por objetivo garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE.
Esta normativa busca regular su uso bajo un marco jurídico uniforme, facilitando la comercialización y circulación de los productos y sistemas basados en IA, sin olvidar la ciberseguridad y el desarrollo tecnológico bajo un enfoque ético por parte de las empresas que la desarrollan.
Asimismo, tiene un enfoque basado en los niveles de riesgo de presenta la IA, que se recogen en cuatro categorías: los sistemas que suponen un riesgo inaceptable -que están directamente prohibidos-, los sistemas de alto riesgo, los sistemas de riesgo limitado y los sistemas de riesgo mínimo. En esta categoría se encuentran la mayoría de los sistemas de IA.
Si bien la aplicación obligatoria de esta normativa comenzará en agosto de 2026, ha sido este domingo cuando se han aplicado las prohibiciones de los sistemas de inteligencia artificial que se consideren que presentan un "riesgo inaceptable", momento en que Meta ha aprovechado para explicar cuál es su enfoque actual para el trabajo responsable de sistemas avanzados de IA.
Con información de proceso.com.mx
Tips al momento
Le gana Corral a Godoy en la versión oficial de la vinculación de César "D"
El senador de Morena, Javier Corral se le adelantó a la titular de la FGR, Ernestina Godoy en difundir el comunicado oficial de la vinculación a proceso del ex gobernador César "D".
Cuando fue la captura de César "D", la primera en darlo a conocer fue Ernestina Godoy, pero ya en el proceso la publicación adelantada de Javier Corral evidenció que la funcionaria no difunde nada desde el 11 de diciembre.
Dicen que Javier Corral le ganó a Ernestina Godoy titular de a FGR en publicar la versión oficial en sus redes sociales la vinculación del exmandatario César "D" por presunto lavado de dinero por 73.9 millones de pesos.
Esta acción ha generado reacciones en el ámbito político ya que Godoy Ramos, no ha publicada nada desde el pasado 11 de diciembre. Que de la detención de César "D", fue Corral quien compartió lo publicado por Godoy, y a lo mejor ella, comparte la publicación del senador.
México en el Top 5 de los países más peligrosos del mundo
Según el Índice de Conflictos y Violencia Política elaborado por ACLED, coloca a México como el cuarto país más peligroso del mundo.
Por otro año, México conserva el cuarto lugar en el ranking, lo que indica que los niveles de violencia y conflicto político se mantienen sin mejoría significativa respecto al periodo anterior.
Ranking de Peligrosidad (2025): Palestina, Birmania, Siria, México, Nigeria, Ecuador, Brasil, Haití, Sudán y Pakistán.
El reporte del Índice de Conflictos y Violencia Política, destaca en México los niveles de riesgo asociados principalmente a el Crimen Organizado y Carteles, ataques a figuras políticas, periodistas, defensores de derechos humanos y la población civil; además que los enfrentamientos entre las fuerzas del Estado y los grupos criminales contribuyen a la inestabilidad general.
Andrea Chávez, pocas iniciativas y mucho asesor; avanzan Julieta Ramírez y Celeste Asencio
Trascendió que la senadora de Morena, Andrea Chávez, contó con al menos diez asesores en la Cámara Alta durante los últimos dos años, dos de ellos reportaron como labor atender dos casas de enlace en Chihuahua, una de sus asesoras hizo un curso como estilista, una más encargada de proveedores, a pesar de tener experiencia en medicina veterinaria.
En 14 meses Andrea Chávez solo registró cinco iniciativas como única promovente, sólo aprobada la que se declara el 1 de diciembre de cada año como el Día Nacional de las y los alfareros.
Comparativo:
Andrea Chávez 10 asesores, 5 iniciativas propias y 1 aprobada
Julieta Ramírez 6 asesores, 31 iniciativas propias, 0 aprobadas
Reina Celeste Asencio con 11 asesores, 52 iniciativas propias y sin datos de aprobación
Andrea Chávez, en su informe presumió haber presentado ocho puntos de acuerdo, uno de ellos para exigir al gobierno de Maru Campos suscriba el convenio de colaboración del IMSSBienestar.
Se centró en dar a conocer en sus redes sociales la entrega de apoyos como lentes, sillas de ruedas, material de construcción, sin un informe detallado sobre el gasto de esta promoción.
La senadora ha presumido contar con cuatro casas de enlace en Chihuahua, aunque el Senado solo tiene registradas dos. No se ha aclarado quién cubre los gastos de operación o renta de estas oficinas.
Tips al momento
Le gana Corral a Godoy en la versión oficial de la vinculación de César "D"
El senador de Morena, Javier Corral se le adelantó a la titular de la FGR, Ernestina Godoy en difundir el comunicado oficial de la vinculación a proceso del ex gobernador César "D".
Cuando fue la captura de César "D", la primera en darlo a conocer fue Ernestina Godoy, pero ya en el proceso la publicación adelantada de Javier Corral evidenció que la funcionaria no difunde nada desde el 11 de diciembre.
Dicen que Javier Corral le ganó a Ernestina Godoy titular de a FGR en publicar la versión oficial en sus redes sociales la vinculación del exmandatario César "D" por presunto lavado de dinero por 73.9 millones de pesos.
Esta acción ha generado reacciones en el ámbito político ya que Godoy Ramos, no ha publicada nada desde el pasado 11 de diciembre. Que de la detención de César "D", fue Corral quien compartió lo publicado por Godoy, y a lo mejor ella, comparte la publicación del senador.
México en el Top 5 de los países más peligrosos del mundo
Según el Índice de Conflictos y Violencia Política elaborado por ACLED, coloca a México como el cuarto país más peligroso del mundo.
Por otro año, México conserva el cuarto lugar en el ranking, lo que indica que los niveles de violencia y conflicto político se mantienen sin mejoría significativa respecto al periodo anterior.
Ranking de Peligrosidad (2025): Palestina, Birmania, Siria, México, Nigeria, Ecuador, Brasil, Haití, Sudán y Pakistán.
El reporte del Índice de Conflictos y Violencia Política, destaca en México los niveles de riesgo asociados principalmente a el Crimen Organizado y Carteles, ataques a figuras políticas, periodistas, defensores de derechos humanos y la población civil; además que los enfrentamientos entre las fuerzas del Estado y los grupos criminales contribuyen a la inestabilidad general.
Andrea Chávez, pocas iniciativas y mucho asesor; avanzan Julieta Ramírez y Celeste Asencio
Trascendió que la senadora de Morena, Andrea Chávez, contó con al menos diez asesores en la Cámara Alta durante los últimos dos años, dos de ellos reportaron como labor atender dos casas de enlace en Chihuahua, una de sus asesoras hizo un curso como estilista, una más encargada de proveedores, a pesar de tener experiencia en medicina veterinaria.
En 14 meses Andrea Chávez solo registró cinco iniciativas como única promovente, sólo aprobada la que se declara el 1 de diciembre de cada año como el Día Nacional de las y los alfareros.
Comparativo:
Andrea Chávez 10 asesores, 5 iniciativas propias y 1 aprobada
Julieta Ramírez 6 asesores, 31 iniciativas propias, 0 aprobadas
Reina Celeste Asencio con 11 asesores, 52 iniciativas propias y sin datos de aprobación
Andrea Chávez, en su informe presumió haber presentado ocho puntos de acuerdo, uno de ellos para exigir al gobierno de Maru Campos suscriba el convenio de colaboración del IMSSBienestar.
Se centró en dar a conocer en sus redes sociales la entrega de apoyos como lentes, sillas de ruedas, material de construcción, sin un informe detallado sobre el gasto de esta promoción.
La senadora ha presumido contar con cuatro casas de enlace en Chihuahua, aunque el Senado solo tiene registradas dos. No se ha aclarado quién cubre los gastos de operación o renta de estas oficinas.
Notas recientes
El líder del PAN felicita al pinochetista José Antonio Kast por su triunfo en Chile
Trasladan a 25 reos de alta peligrosidad de Michoacán a penales federales: Harfuch
