Meta establece un marco para identificar y mitigar "posibles resultados catastróficos" derivados de sistemas de IA
Meta persenta Frontier AI Framework . Foto: europa press
martes, 4 de febrero de 2025 · 08:15
MADRID, (Portaltic/EP) - Meta explicó cómo trabaja para construir herramientas y sistemas de Inteligencia Artificial (IA) avanzadas, en un marco en el que se establece de qué forma evalúa y mitiga los riesgos y cómo establece umbrales catastróficos y modela amenazas para neutralizar a tiempo los "posibles riesgos catastróficos" derivados del uso y desarrollo de esta tecnología.
En un documento, llamado Frontier AI Framework, describió cómo trabaja para construir IA avanzada y de qué forma establece umbrales catastróficos; un enfoque que espera que "evolucione y madure con el tiempo", conforme avanzan los usos de esta tecnología.
Con ello, la compañía resaltó su compromiso por "avanzar en lo último en IA, en los modelos y en los sistemas para implementarlos de manera responsable"; y reconoció que, aunque "no es posible eliminar por completo el riesgo" intrínseco que tiene la IA, sí busca que ésta sea "positiva para la sociedad".
De este modo, indicó que su marco de trabajo de IA diferencia sistemas de 'riesgo alto' y de 'riesgo crítico', siendo estos últimos los relacionados con las áreas de amenazas a la ciberseguridad, así como los de armas químicas y biológicas "de alto impacto".
Frontier AI Framework, por tanto, se ha establecido para identificar posibles resultados catastróficos y evaluar si esos resultados "son posibles gracias a los avances tecnológicos". "De ser así, identificaremos formas de paliar esos riesgos", ha apuntado.
Meta también adelantó que realiza ejercicios de modelado de amenazas para anticipar cómo diferentes actores podrían intentar hacer un uso indebido de la IA para producir los comentados resultados catastróficos, trabajando con expertos externos según sea necesario.
Asimismo dijo que define los umbrales de riesgo en función del grado en que sus modelos de IA facilitan los escenarios de amenaza. Para ello, dispone de procesos establecidos para mantener los riesgos dentro de niveles aceptables, incluida la aplicación de medidas de mitigación.
En caso de identificar que un sistema de IA es de riesgo alto, limitará su acceso internamente hasta que haya completado el despliegue de mitigaciones pertinente para "reducir el riesgo a niveles moderados". Ante un riesgo crítico, y si se considera que una IA ha alcanzado el umbral establecido y no se puede mitigar, Meta ha subrayado que detendrá su desarrollo e implementará otras protecciones, aunque no ha especificado cuáles.
La tecnológica señaló finalmente que si bien el objetivo de este marco es reducir al máximo riesgos graves, la razón principal por la que están desarrollando estas tecnologías "es porque tienen el potencial de beneficiar enormemente a la sociedad".
Conviene apuntar que el anuncio de este marco va en la línea de la Ley de Inteligencia Artificial de la Unión Europea, la legislación pionera en regular esta tecnología a nivel mundial, que entró en vigor el pasado 1 de agosto y tiene por objetivo garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE.
Esta normativa busca regular su uso bajo un marco jurídico uniforme, facilitando la comercialización y circulación de los productos y sistemas basados en IA, sin olvidar la ciberseguridad y el desarrollo tecnológico bajo un enfoque ético por parte de las empresas que la desarrollan.
Asimismo, tiene un enfoque basado en los niveles de riesgo de presenta la IA, que se recogen en cuatro categorías: los sistemas que suponen un riesgo inaceptable -que están directamente prohibidos-, los sistemas de alto riesgo, los sistemas de riesgo limitado y los sistemas de riesgo mínimo. En esta categoría se encuentran la mayoría de los sistemas de IA.
Si bien la aplicación obligatoria de esta normativa comenzará en agosto de 2026, ha sido este domingo cuando se han aplicado las prohibiciones de los sistemas de inteligencia artificial que se consideren que presentan un "riesgo inaceptable", momento en que Meta ha aprovechado para explicar cuál es su enfoque actual para el trabajo responsable de sistemas avanzados de IA.
Con información de proceso.com.mx
Tips al momento
Anuncian protección a diputada sinaloense, pero solo incluye traslados
Mientras la gobernadora interina de Sinaloa, Yeraldine Bonilla, asegura que la diputada priista Paola Gárate cuenta con protección federal tras haber aparecido una corona fúnebre en su domicilio, la misma legisladora acusa que solo se trata de traslados y situaciones que se consideren "de alto riesgo".
Ella misma aclaró en redes sociales que la Guardia Nacional será quien le ofrezca seguridad, pero solo en el traslado de su casa al Congreso y viceversa, no incluye cuando ella esté en su hogar con sus hijos o en algún otro lugar, como si el riesgo solo existiera en las calles...
"Entonces yo me pregunto: ¿cómo funciona eso?
¿La amenaza existe solamente cuando voy camino al Congreso?
¿Cuando llego a mi casa deja de existir?
¿Cuando estoy con mi familia ya no hay riesgo?
Porque quienes dejaron esa corona no fueron a buscar a una diputada en una oficina. Fueron a un domicilio particular. Fueron A MI HOGAR. DONDE SABEN QUE VIVO", compartió en redes.
Hasta este momento, no se ha pronunciado la gobernadora Bonilla sobre esta declaración, y la diputada priista sigue corriendo riesgo de ser víctima de un ataque, así las cosas en México...
Exhibe Riggs a Bonilla por privilegiar infraestructura vial y no peatonal en zona del Periférico
El regidor Miguel Riggs critica al alcalde, Marco Bonilla por privilegiar infraestructura vial y no peatonal. Menciona que el edil capitalino no incluye a peatones, personas con discapacidad y usuarios de transporte.
El regidor mencionó en redes sociales a un año y medio de haber entrado en vigor la Ley de Movilidad y Seguridad Vial para el estado el alcalde se lava las manos y afirma que la cultura vial no se corrige con nuevas reglas.
Detalló qué en puntos como el Periférico de la Juventud hacia Distrito Uno ya se han caído dos carros, además en el punto de Vía Sicilia y Periférico de la Juventud se han sumado 367 choques.
Amanece otro espectacular contra "narco políticos" de Morena
Los mensajes contra los llamados “narco políticos” de Morena, siguen apareciendo en distintos puntos de la ciudad y, lejos de desaparecer, parecen formar parte de una estrategia que busca mantener el tema en la conversación pública…
Uno de los espectaculares que más comentarios ha generado en los últimos días es el dirigido a Ariadna Montiel, dirigente nacional morenista, con una frase que no pasó desapercibida: “Ariadna, busca en casa, en tu partido están los criminales”, acompañada del lema “Mexicanos al grito de paz”…
Está ubicado en el trébol, de avenida Universidad y Canal...
Lo que llamó aún más la atención fue que junto a la imagen de Montiel aparecen también las fotografías de Andrea Chávez y Adán Augusto López Hernández, personajes que actualmente forman parte de los principales cuadros políticos de la llamada Cuarta Transformación y que este último ha sido señalado por Estados Unidos por vínculos con el crimen organizado, a quien incluso y por reportes periodísticos, el gobierno de Trump ya le quitó la visa...
La aparición de estos mensajes ocurre en un momento complejo para Morena, donde las acusaciones, señalamientos y debates sobre presuntos vínculos de actores políticos con grupos criminales han ocupado espacios en la agenda nacional…y no se diga en el caso de Chihuahua con el tema de la CIA, que detonó una guerra política, hoy en pausa porque no le fue bien a Sheinbaum queriendo empatar el tema con el caso de Rubén Rocha Moya y, más, con la intervención de Washington...
Tips al momento
Anuncian protección a diputada sinaloense, pero solo incluye traslados
Mientras la gobernadora interina de Sinaloa, Yeraldine Bonilla, asegura que la diputada priista Paola Gárate cuenta con protección federal tras haber aparecido una corona fúnebre en su domicilio, la misma legisladora acusa que solo se trata de traslados y situaciones que se consideren "de alto riesgo".
Ella misma aclaró en redes sociales que la Guardia Nacional será quien le ofrezca seguridad, pero solo en el traslado de su casa al Congreso y viceversa, no incluye cuando ella esté en su hogar con sus hijos o en algún otro lugar, como si el riesgo solo existiera en las calles...
"Entonces yo me pregunto: ¿cómo funciona eso?
¿La amenaza existe solamente cuando voy camino al Congreso?
¿Cuando llego a mi casa deja de existir?
¿Cuando estoy con mi familia ya no hay riesgo?
Porque quienes dejaron esa corona no fueron a buscar a una diputada en una oficina. Fueron a un domicilio particular. Fueron A MI HOGAR. DONDE SABEN QUE VIVO", compartió en redes.
Hasta este momento, no se ha pronunciado la gobernadora Bonilla sobre esta declaración, y la diputada priista sigue corriendo riesgo de ser víctima de un ataque, así las cosas en México...
Exhibe Riggs a Bonilla por privilegiar infraestructura vial y no peatonal en zona del Periférico
El regidor Miguel Riggs critica al alcalde, Marco Bonilla por privilegiar infraestructura vial y no peatonal. Menciona que el edil capitalino no incluye a peatones, personas con discapacidad y usuarios de transporte.
El regidor mencionó en redes sociales a un año y medio de haber entrado en vigor la Ley de Movilidad y Seguridad Vial para el estado el alcalde se lava las manos y afirma que la cultura vial no se corrige con nuevas reglas.
Detalló qué en puntos como el Periférico de la Juventud hacia Distrito Uno ya se han caído dos carros, además en el punto de Vía Sicilia y Periférico de la Juventud se han sumado 367 choques.
Amanece otro espectacular contra "narco políticos" de Morena
Los mensajes contra los llamados “narco políticos” de Morena, siguen apareciendo en distintos puntos de la ciudad y, lejos de desaparecer, parecen formar parte de una estrategia que busca mantener el tema en la conversación pública…
Uno de los espectaculares que más comentarios ha generado en los últimos días es el dirigido a Ariadna Montiel, dirigente nacional morenista, con una frase que no pasó desapercibida: “Ariadna, busca en casa, en tu partido están los criminales”, acompañada del lema “Mexicanos al grito de paz”…
Está ubicado en el trébol, de avenida Universidad y Canal...
Lo que llamó aún más la atención fue que junto a la imagen de Montiel aparecen también las fotografías de Andrea Chávez y Adán Augusto López Hernández, personajes que actualmente forman parte de los principales cuadros políticos de la llamada Cuarta Transformación y que este último ha sido señalado por Estados Unidos por vínculos con el crimen organizado, a quien incluso y por reportes periodísticos, el gobierno de Trump ya le quitó la visa...
La aparición de estos mensajes ocurre en un momento complejo para Morena, donde las acusaciones, señalamientos y debates sobre presuntos vínculos de actores políticos con grupos criminales han ocupado espacios en la agenda nacional…y no se diga en el caso de Chihuahua con el tema de la CIA, que detonó una guerra política, hoy en pausa porque no le fue bien a Sheinbaum queriendo empatar el tema con el caso de Rubén Rocha Moya y, más, con la intervención de Washington...
