Exinvestigador de OpenAI lanzó una dura advertencia: la IA podría amenazar a la humanidad antes de 2030

Jacob Coxon, quien trabajó en OpenAI y Anthropic, alertó sobre los riesgos del desarrollo acelerado de sistemas de inteligencia artificial (IA) y sostuvo que algunos especialistas temen un escenario catastrófico antes de que termine la década.

El avance de la inteligencia artificial (IA) volvió a abrir un debate sobre los límites que debería tener el desarrollo de sistemas cada vez más autónomos y capaces. En ese contexto, Jacob Coxon, un investigador que trabajó durante años en algunas de las principales compañías del sector, lanzó una advertencia sobre los riesgos que podría implicar la llegada de sistemas con capacidades superiores a las humanas.

A pocos días de dejar su puesto en Anthropic, la compañía creadora del chatbot Claude, Coxon publicó una serie de mensajes en X en los que cuestionó el ritmo con el que avanza la tecnología. Según planteó, algunos profesionales de la industria consideran posible que una IA avanzada represente una amenaza extrema para la humanidad antes de 2030.

También te puede interesar: Trump prometió 5.000 dólares a cada adulto estadounidense por una victoria electoral

Coxon trabajó durante tres años en OpenAI y posteriormente se incorporó a Anthropic, donde participó en tareas vinculadas al preentrenamiento de modelos de inteligencia artificial. Su experiencia dentro de ambas compañías convirtió sus declaraciones en un llamado de atención dentro de un sector que atraviesa una fuerte competencia por desarrollar sistemas cada vez más potentes.

El investigador británico sostuvo que la evolución de la IA podría desembocar en sistemas capaces de superar ampliamente las capacidades humanas en distintos ámbitos.

"Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana, adquirir poder y recursos reales", afirmó Coxon.

También te puede interesar: Endeavor NOA: claves para ordenar las finanzas, salir de las deudas y empezar a invertir

Su preocupación no se limita a las capacidades técnicas de estos modelos, sino también a la velocidad con la que podrían desarrollarse. Desde su perspectiva, la carrera tecnológica por la inteligencia artificial podría continuar acelerándose sin que los mecanismos de seguridad avancen al mismo ritmo.

Coxon también apuntó contra el discurso público de algunos referentes de la industria. Según sostuvo, determinados ejecutivos e investigadores transmiten tranquilidad hacia afuera, mientras que en privado mantienen preocupaciones mucho mayores acerca de los posibles riesgos de una inteligencia artificial avanzada.

Para el investigador, el desarrollo de sistemas cada vez más autónomos constituye un riesgo de una magnitud excepcional y plantea un problema que todavía no tiene una solución definitiva.

También te puede interesar: Al menos 25 personas murieron tras el incendio de un buque de carga en China

Las declaraciones de Coxon cobraron mayor repercusión después de que Evan Hubinger, quien fue su jefe en el equipo relacionado con Claude, participara de la conversación y coincidiera con parte de sus preocupaciones.

Hubinger reconoció que dentro del sector tecnológico existe una preocupación real ante la posibilidad de que una IA avanzada pueda llegar a provocar un escenario de extinción humana.

Sin embargo, estimó que la probabilidad de que ese escenario ocurra sería inferior al 10%. Al mismo tiempo, señaló que todavía no existe una solución definitiva para uno de los principales desafíos del desarrollo de sistemas cada vez más inteligentes: el alineamiento de la inteligencia artificial.

También te puede interesar: Allanaron una vivienda por una investigación de estafa

El término hace referencia al desafío de conseguir que los objetivos y comportamientos de un sistema de IA permanezcan compatibles con los intereses y valores humanos, incluso cuando sus capacidades aumenten considerablemente.

Coxon también cuestionó la competencia que mantienen las principales empresas de inteligencia artificial. Desde su perspectiva, los referentes del sector están inmersos en una "carrera por llegar primero", una dinámica que podría incrementar los riesgos si el desarrollo de los modelos avanza más rápido que las medidas destinadas a controlar sus posibles consecuencias.

Las advertencias aparecen además en un contexto en el que distintos experimentos con agentes de IA mostraron comportamientos inesperados. Algunos sistemas fueron capaces de interactuar con plataformas externas y tomar decisiones no previstas inicialmente por sus desarrolladores.

También te puede interesar: Un integrante del cuerpo técnico de la Selección Argentina dejará su cargo

Estos episodios alimentaron el debate sobre cuánto control pueden mantener los seres humanos sobre agentes de inteligencia artificial que reciben objetivos, utilizan herramientas y actúan de manera cada vez más autónoma.

En ese escenario, Coxon cerró su crítica con una advertencia especialmente contundente dirigida a las empresas que lideran la carrera por desarrollar sistemas más avanzados: están avanzando hacia una superinteligencia capaz de mejorarse a sí misma y, según su definición, "están jugando con nuestras vidas".

Por ahora, la posibilidad de que una IA provoque una catástrofe global antes de 2030 continúa siendo una hipótesis y no una predicción científica confirmada. Pero las declaraciones de investigadores que trabajaron dentro de las compañías que lideran esta tecnología vuelven a poner sobre la mesa una pregunta central: qué tan rápido debería avanzar la inteligencia artificial y cuánto control debería existir sobre su desarrollo.

Fuente: 26 Noticias

Fuente: Primera Edición

• #tecnologia
• #exinvestigador
• #openai
• #alerta
• #antes
• #2030
• #misiones