Seis preguntas para entender por qué es tan difícil frenar el desarrollo de la IA

Resumen para apurados

La inteligencia artificial avanza a una velocidad que incluso algunos de sus principales impulsores consideran difícil de controlar. En los últimos meses, empresas como OpenAI y Anthropic informaron incidentes protagonizados por sistemas experimentales que, según sus propios reportes, lograron salir de entornos restringidos, acceder a internet o realizar acciones para las que no habían sido autorizados.

Al mismo tiempo, varios de los empresarios que lideran la carrera tecnológica comenzaron a plantear públicamente una idea que hasta hace poco parecía difícil de imaginar. Hay que bajar la velocidad.

También te puede interesar: Las ventas de reproductores en la 30° Exposición Rural de Viedma superaron los $1.200 millones

El director ejecutivo de Anthropic, Dario Amodei, propuso una desaceleración coordinada del desarrollo de la IA para estudiar con mayor profundidad los riesgos asociados a las capacidades avanzadas de estos sistemas. La propuesta recibió el respaldo público de figuras como Sam Altman, de OpenAI, Elon Musk, de xAI, Demis Hassabis, de Google DeepMind, y Satya Nadella, de Microsoft.

El problema es que ponerse de acuerdo para levantar el pie del acelerador puede ser mucho más difícil que reconocer que existen riesgos.

La propuesta no apunta a detener el desarrollo de la inteligencia artificial, sino a desacelerar la carrera hacia sistemas cada vez más capaces.

También te puede interesar: Argentina y Japón evalúan un acuerdo histórico para desarrollar energía inalámbrica con el Conicet

Amodei planteó la necesidad de una coordinación entre las principales compañías para comprender mejor qué pueden hacer los modelos avanzados y cuáles son los riesgos que implican. La idea parte de una preocupación que atraviesa a buena parte de la industria. La tecnología avanza más rápido que la capacidad para evaluar sus consecuencias.

El planteo encontró respaldo entre algunos de los principales ejecutivos del sector. Altman, Musk, Hassabis y Nadella expresaron públicamente su apoyo a la necesidad de una mayor atención sobre la seguridad.

Pero hay una dificultad evidente. Una empresa que decida frenar por su cuenta puede quedar en desventaja frente a sus competidoras.

También te puede interesar: La inesperada noticia que confirmó la familia de Mirtha Legrand, con un anuncio altamente sorpresivo

En los últimos meses se conocieron reportes de incidentes vinculados con sistemas de IA que se encontraban en etapas experimentales.

OpenAI y Anthropic informaron casos en los que sistemas de prueba lograron escapar de entornos restringidos para acceder a internet y realizar acciones sobre sitios web y plataformas. Según esos reportes, algunos modelos también mostraron capacidades que despertaron preocupación entre los investigadores, como coordinarse entre sí, establecer jerarquías, intentar engañar a sus evaluadores o borrar rastros de determinadas acciones.

La preocupación también llegó al interior de las propias empresas.

También te puede interesar: El papa León XIV anuló una medida que Francisco había aplicado durante la pandemia: de qué se trata

El investigador Jacob Coxon, quien dejó Anthropic y anteriormente había trabajado en OpenAI, cuestionó públicamente los estándares de seguridad de ambas compañías y acusó a la industria de asumir riesgos que pueden tener consecuencias difíciles de anticipar.

Su advertencia resume una de las grandes discusiones actuales. El problema ya no pasa solamente por preguntarse qué puede hacer una IA, sino también qué puede ocurrir cuando un sistema adquiere más autonomía y opera fuera de los límites previstos por sus desarrolladores.

Porque ninguna quiere hacerlo sola.

También te puede interesar: Con tres regresos, Boca tiene todo listo para buscar la clasificación ante San Pablo

La competencia entre las grandes compañías tecnológicas es feroz y detrás del desarrollo de nuevos modelos hay inversiones de miles de millones de dólares. Cada avance puede significar una ventaja comercial, tecnológica y estratégica.

En ese escenario, una empresa que reduzca voluntariamente el ritmo mientras sus competidoras continúan avanzando corre el riesgo de perder terreno.

Por eso Amodei plantea una desaceleración coordinada. La lógica es sencilla, aunque llevarla a la práctica resulte mucho más complejo. Si todos frenan al mismo tiempo, ninguno queda en desventaja.

Hasta ahora, una de las medidas concretas anunciadas por Anthropic y OpenAI consiste en permitir que observadores independientes revisen el trabajo interno relacionado con la seguridad de sus sistemas.

La dificultad está en transformar ese tipo de compromisos en reglas comunes que alcancen a toda la industria.

Ese es uno de los puntos más discutidos ya que mientras buena parte del sector recibió favorablemente el planteo de Amodei, algunas figuras vinculadas con la industria tecnológica cuestionaron sus motivaciones.

El empresario Brian Roemmele sostuvo que el discurso podía funcionar también como una estrategia comercial para posicionar a Anthropic como una compañía particularmente responsable en materia de seguridad. Sus críticas aparecieron en un momento en el que la empresa se prepara para una posible salida a bolsa.

Otros inversores tecnológicos fueron todavía más lejos y acusaron a Anthropic de buscar una "captura regulatoria". La expresión apunta a la posibilidad de que una empresa promueva determinadas reglas para que, una vez implementadas, termine ocupando una posición privilegiada frente a sus competidoras.

David Sacks, exasesor de IA del presidente Donald Trump, también cuestionó la idea de que el pedido de desaceleración responda únicamente a motivos altruistas. Según su interpretación, las compañías tienen además un interés concreto en reducir su exposición frente a eventuales responsabilidades legales si sus productos provocan daños graves.

La discusión, entonces, tiene dos caras. La seguridad de la IA es una preocupación real, pero también puede convertirse en una herramienta para definir quiénes tendrán ventaja en el mercado.

El papel del Gobierno estadounidense es otro de los obstáculos, debido a que el presidente Donald Trump desestimó las advertencias de los líderes de la industria y las calificó como "fuerzas negativas". Dentro del Partido Republicano también existen sectores que se muestran reticentes a una regulación fuerte de la inteligencia artificial.

El argumento es estratégico. Una regulación demasiado estricta, sostienen, podría ralentizar la innovación estadounidense y permitir que China avance en la carrera tecnológica.

Pero incluso algunos de los propios empresarios que impulsan la IA consideran que las reglas internas de las compañías no son suficientes.

Amodei volvió a defender la necesidad de supervisión gubernamental. Una posición similar sostienen Altman y Hassabis, que consideran que la industria por sí sola no puede establecer todas las garantías necesarias.

El dilema es difícil de resolver. Regular demasiado puede afectar la innovación. Regular demasiado poco puede dejar sin respuesta riesgos que las propias empresas reconocen que todavía no comprenden por completo.

Esta es posiblemente la mayor dificultad.

Amodei propone que una eventual coordinación incluya a países democráticos, pero deje afuera a China. El problema es que eso convierte la discusión sobre seguridad en una parte de la competencia geopolítica entre las dos grandes potencias tecnológicas.

Estados Unidos y China compiten por desarrollar modelos cada vez más avanzados y por controlar los recursos necesarios para hacerlo. En ese escenario, cualquier pausa unilateral puede ser vista como una oportunidad para que el otro avance.

También existen diferencias en el modo de desarrollar y distribuir los modelos. Las grandes compañías estadounidenses suelen trabajar con sistemas cerrados, mientras que China promueve también modelos abiertos, que pueden ser modificados y utilizados por terceros. Esa característica dificulta su control y puede aumentar el riesgo de usos maliciosos.

Por eso Amodei reclama, entre otras medidas, controles más estrictos sobre la exportación hacia China de los chips estadounidenses más avanzados y mayores salvaguardas para evitar la apropiación de tecnologías desarrolladas en Occidente.

La paradoja queda planteada. Los líderes de la industria reconocen que necesitan tiempo para comprender mejor una tecnología que avanza a una velocidad extraordinaria. Pero ninguno quiere quedarse atrás mientras sus competidores continúan desarrollándola.

Frenar la inteligencia artificial, entonces, no depende solamente de que las empresas quieran hacerlo. Requiere que coincidan competidores que tienen intereses económicos enfrentados, gobiernos que temen perder ventajas estratégicas y países que participan de una carrera tecnológica cada vez más vinculada con la seguridad nacional.

Y esa coincidencia, por ahora, parece ser mucho más difícil que desarrollar un nuevo modelo de IA. (AFP)

Fuente: La Gaceta

• #sociedad
• #seis
• #preguntas
• #para
• #entender
• #tan
• #dificil
• #frenar
• #desarrollo
• #tucuman