Renunció a Anthropic y admitió que la IA "podría matarnos a todos a fines de la década"

Jacob Coxon hizo un duro posteo en redes sociales sobre el peligro de la inteligencia artificial y quienes la desarrollan "jugando con nuestras vidas".

Renunció a Anthropic y admitió que la IA "que podría matarnos a todos a fines de la década"

Foto:

También te puede interesar: 3 prompts de IA para organizar tus finanzas y ahorrar en solo 10 minutos

Un investigador de inteligencia artificial que trabajó durante años en OpenAI y que recientemente se incorporó a Anthropic (Claude) decidió renunciar y lanzó una dura advertencia sobre el rumbo que están tomando las principales compañías del sector.

Jacob Coxon, de 27 años, dijo que ambas empresas avanzan de manera irresponsable hacia una inteligencia artificial capaz de superar ampliamente las capacidades humanas y de mejorarse a sí misma.

"Creo que ambas empresas están jugando con nuestras vidas", escribió Coxon al comunicar su salida en un posteo de X que se hizo viral.

También te puede interesar: El Caburé: Cuello revocó el apartamiento y mantuvo a las querellas en la investigación

The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear…

Según su visión, tanto OpenAI como Anthropic "corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas".

Coxon trabajó durante tres años en el área de preentrenamiento, la etapa en la que los modelos de inteligencia artificial aprenden a partir de enormes cantidades de datos. De acuerdo con Business Insider, formó parte del equipo técnico de OpenAI desde 2023 hasta julio de 2026 y participó en trabajos vinculados con GPT-4o. Luego se incorporó a Anthropic, en parte atraído por la reputación de la compañía en materia de seguridad de la inteligencia artificial.

También te puede interesar: De qué murió Chiche Gelblung: la causa fatal que acabó con su vida

Sin embargo, su paso por ambas empresas terminó llevándolo a cuestionar el ritmo de desarrollo de esta tecnología.

En una publicación en X, Coxon advirtió que el mundo no debería subestimar la velocidad con la que avanza la inteligencia artificial.

"Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales", escribió. Y agregó que la sociedad ya fue testigo de avances en cada uno de esos ámbitos y que, según su percepción, "este progreso no se está ralentizando".

También te puede interesar: Rabia bovina en Los Varela: advierten que es mortal y reclaman vacunas antirrábicas

Claude

Su principal preocupación está relacionada con el desarrollo de una eventual superinteligencia artificial. Se trata de un escenario hipotético en el que los sistemas de IA superarían ampliamente las capacidades intelectuales humanas y podrían, además, desarrollar versiones más avanzadas de sí mismos.

Coxon sostuvo que tanto Anthropic como OpenAI avanzan "a toda velocidad hacia la superinteligencia automejorable". El concepto plantea la posibilidad de que un sistema sea capaz de contribuir al desarrollo de un sucesor más potente, generando un ciclo de mejora cada vez más acelerado.

También te puede interesar: Chile celebra una inversión multimillonaria de Coca-Cola por más de $720 mil millones hasta 2030

Una de las respuestas más llamativas a las declaraciones de Coxon llegó desde la propia Anthropic.

Evan Hubinger, responsable de investigación relacionada con la alineación de la inteligencia artificial con los objetivos y valores humanos, respaldó públicamente parte de sus advertencias.

Hubinger no renunció a la compañía, pero coincidió con Coxon en la gravedad del riesgo.

"Jacob tiene razón: creemos sinceramente que la IA podría acabar con todos los humanos", afirmó.

Además, estimó que existe una probabilidad superior al 10% de que un escenario de ese tipo ocurra durante la próxima década. Según Hubinger, todavía no existe un plan que permita garantizar que una eventual superinteligencia permanezca alineada con los objetivos humanos.

La cifra no representa una predicción científica de que la humanidad vaya a desaparecer, sino una estimación sobre un riesgo hipotético que algunos investigadores consideran necesario tomar en cuenta a medida que aumentan las capacidades de los modelos.

Coxon fue incluso más directo en una publicación posterior: "Quienes desarrollan la IA creen firmemente que podría matarnos a todos para finales de la década".

Fuente: Los Andes

• #tecnologia
• #renuncio
• #anthropic
• #admitio
• #que
• #podria
• #matarnos
• #todos
• #fines
• #decada
• #n6005489
• #mendoza