"Hoy no hay riesgo, pero en un año cambia todo": el matemático que dejó Anthropic le puso fecha al "descontrol" de los modelos

Por Redacción

El investigador de 27 años dejó su puesto en Anthropic a semanas de una millonaria salida a la Bolsa tras cuestionar la velocidad con la que la industria acelera el desarrollo de la IA. (Foto: gentileza)

Apenas 24 horas después de sacudir a la industria tecnológica con una renuncia que superó las 100 millones de visualizaciones en la red social X, el investigador Jacob Coxon rompió el silencio en una gira por las principales cadenas de televisión de Estados Unidos: NBC, CNNyFox News. El matemático de 27 años, que renunció a Anthropic dejando atrás una millonaria compensación económica a solo siete semanas de una proyectada salida a la Bolsa, precisó cuándo y de qué manera la inteligencia artificial (IA) podría escapar al control humano.

También te puede interesar: Mirtha Legrand evoluciona sin complicaciones, pero seguirá internada: cuándo darán un nuevo parte médico

Coxon aclaró en televisión que los asistentes y modelos actuales no representan una amenaza directa de extinción y que su mayor peligro presente se limita a eventuales hackeos. Sin embargo, puso fecha al momento en que la situación se tornará crítica: «Esto es extrapolar a un año a partir de ahora. Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible; podría ser más, dos o tres años».

El especialista remarcó que el verdadero punto de inflexión ocurrirá cuando los sistemas adquieran la capacidad de optimizarse a sí mismos sin intervención humana. Según explicó, si un modelo mira su propio código, se perfecciona y repite ese ciclo miles de veces de forma autónoma, se desatará una «explosión de inteligencia».

Como prueba de la velocidad de este avance, Coxon recordó que OpenAI logró recientemente resolver de forma autónoma con IA un problema matemático del milenio, y que agentes digitales ya ejecutaron ataques informáticos contra infraestructuras de terceros por iniciativa propia. El riesgo mayor, advirtió, radicará en conectar estos programas a robots de laboratorio o infraestructuras críticas, abriendo la puerta a ciberataques a gran escala o al diseño de armas biológicas de nivel de extinción.

También te puede interesar: Denuncian a Mercado Pago por intereses de más del 1300% anual: el reclamo que podría beneficiar a 7 millones

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

Su diagnóstico coincidió con el de Evan Hubinger, líder de Ciencia de Alineación en Anthropic, quien sostuvo públicamente que existe más de un 10% de probabilidad de extinción humana en la próxima década ante la falta de planes concretos para controlar una superinteligencia (mientras que el propio modelo Claude estimó dicho riesgo entre un 2% y un 5%).

Al ser consultado sobre por qué decidió renunciar en lugar de intentar cambiar el rumbo desde la compañía, Coxon afirmó que quedarse adentro solo perpetúa una carrera desmedida. Si bien respaldó la integridad del director ejecutivo de Anthropic, Dario Amodei, advirtió que la lógica del mercado anula las precauciones: «Las empresas privadas en carrera no les permiten terminar haciendo el bien. Si hacerlo de forma segura toma diez años y solo tenés dos por la competencia, vas a recortar tiempos».

También te puede interesar: Un gigante belga compró el 80% de Caleras San Juan y un empresario local conserva el 20%

Ante la repercusión de las entrevistas, Anthropic envió su primer comunicado oficial a CNN. La firma aseguró que siempre fue transparente respecto a que la IA traerá «tanto beneficios enormes como riesgos sin precedentes», defendió la solidez de sus salvaguardas y recordó que fue la primera en publicar una política de escalado responsable, al tiempo que llamó a la industria a adoptar mecanismos legales conjuntos para regular el ritmo de los lanzamientos.

Temas

Apenas 24 horas después de sacudir a la industria tecnológica con una renuncia que superó las 100 millones de visualizaciones en la red social X, el investigador Jacob Coxon rompió el silencio en una gira por las principales cadenas de televisión de Estados Unidos: NBC, CNNyFox News. El matemático de 27 años, que renunció a Anthropic dejando atrás una millonaria compensación económica a solo siete semanas de una proyectada salida a la Bolsa, precisó cuándo y de qué manera la inteligencia artificial (IA) podría escapar al control humano.

También te puede interesar: La CGT tendrá un audiencia privada con el papa León XIV: que le pedirá en la previa de su visita a Argentina

Registrate gratis

Disfrutá de nuestros contenidos y entretenimiento

Fuente: Río Negro

• #internacionales
• #hoy
• #hay
• #riesgo
• #pero
• #ano
• #cambia
• #todo
• #matematico
• #que
• #dejo
• #anthropic
• #puso
• #fecha
• #descontrol
• #los
• #modelos
• #4716352
• #neuquén