OpenAI, Google y Meta acordaron nuevas reglas para la inteligencia artificial: qué cambia
Las principales empresas del sector firmaron en la Casa Blanca un compromiso voluntario para reforzar la seguridad de los sistemas de IA. El acuerdo no tiene fuerza de ley, pero establece controles y estándares comunes.
Las principales compañías de inteligencia artificial firmaron este martes en la Casa Blanca un acuerdo voluntario destinado a reforzar los estándares de seguridad en el desarrollo y uso de esta tecnología.
Del encuentro participaron ejecutivos de OpenAI, Anthropic, Meta, Google y Nvidia, entre otras firmas, junto al presidente de Estados Unidos, Donald Trump.
El acuerdo apunta a fijar pautas comunes para evitar comportamientos inesperados de los sistemas de inteligencia artificial y reducir riesgos vinculados con accesos no autorizados, acciones automáticas fuera de control o vulnerabilidades de seguridad.
El documento establece distintos niveles de control que las compañías deberán aplicar de manera voluntaria sobre sus sistemas.
Entre los puntos centrales aparecen la incorporación de auditorías independientes, mayores controles internos y medidas para impedir que herramientas autónomas puedan ejecutar acciones no previstas o acceder a sistemas sin autorización.
El pacto surgió en un contexto de creciente preocupación por la velocidad con la que avanzan los llamados agentes de IA, capaces de actuar de manera autónoma para cumplir determinados objetivos.
Uno de los puntos más importantes es que el acuerdo no constituye una regulación legal obligatoria.
Trump lo definió como un compromiso "moralmente vinculante", mientras que desde la administración estadounidense se presentó como una forma de autorregulación del sector tecnológico.
Además, se planteó la creación de un consejo reducido para supervisar el cumplimiento de los compromisos asumidos por las empresas.
El acuerdo llega en medio de un fuerte debate global sobre los riesgos de la inteligencia artificial.
Investigadores actuales y anteriores de empresas como OpenAI y Google DeepMind vienen advirtiendo sobre el avance acelerado de sistemas capaces de mejorar de manera autónoma y sobre la necesidad de aumentar los controles antes de ampliar su utilización.
Al mismo tiempo, las grandes compañías tecnológicas continúan aumentando sus inversiones en infraestructura y desarrollo de IA, lo que mantiene abierta la discusión sobre cómo equilibrar innovación, competitividad y seguridad.
Universidad virtual y la IA: cinco claves para confirmar que estás aprendiendo de verdad
Universidad virtual y la IA: cinco claves para confirmar que estás aprendiendo de verdad
Fuente: Tiempo de San Juan
- #tecnologia
- #openai
- #meta
- #otras
- #gigantes
- #acordaron
- #nuevas
- #reglas
- #para
- #inteligencia
- #artificialopenai
- #artificial
- #que
- #cambia_1790781026
- #san juan
