Anthropic reconoció que su inteligencia artificial podría representar un "riesgo existencial para la humanidad"

Por Redacción

Anthropic, la compañía que desarrolla Claude y compite con OpenAI, reconoció que sus propios sistemas de inteligencia artificial podrían representar un riesgo existencial para la humanidad. La advertencia figura en el prospecto que presentó como parte de sus planes para salir a bolsa.

Según informó Reuters, la empresa registró pérdidas operativas superiores a los 8 mil millones de dólares en 2025. El documento también detalla compromisos por 518 mil millones de dólares en infraestructura y capacidad de procesamiento para los próximos años. Entre los acuerdos mencionados figuran convenios con Google, SpaceX y la firma británica Nscale.

Entre los riesgos señalados aparecen intentos de los sistemas de resistirse a ser apagados, ocultar información, manipular respuestas y desarrollar comportamientos similares al chantaje. Según Financial Times, resulta inusual la extensión dedicada a estos peligros en el prospecto de una empresa tecnológica.

El director ejecutivo de Anthropic, Dario Amodei, también pidió moderar el ritmo de desarrollo de esta tecnología. Durante una intervención ante el Consejo de Seguridad de la ONU, la semana pasada, la definió como "el problema de seguridad global más importante que enfrenta el mundo hoy".

Las declaraciones se producen en un contexto de crecientes cuestionamientos sobre la seguridad de los sistemas de inteligencia artificial. Sam Altman, de OpenAI, y Elon Musk, de xAI, respaldaron públicamente las advertencias de Amodei. Mark Zuckerberg, director ejecutivo de Meta, en declaraciones a NBC News sostuvo que no considera necesaria una coordinación conjunta de toda la industria para abordar los riesgos de la inteligencia artificial.

Otro antecedente reciente involucra a los agentes de OpenAI. La compañía reconoció que algunas de estas herramientas habían vulnerado decenas de sitios externos, entre ellos páginas de organismos gubernamentales y de la entidad que regula los mercados bursátiles de Estados Unidos, según The New York Times.

OpenAI también habría descartado el lanzamiento de su modelo más reciente por motivos de seguridad, de acuerdo con The Wall Street Journal. En ese escenario, Amodei planteó la necesidad de "marcar el ritmo de la frontera" del desarrollo de la inteligencia artificial, en referencia a la carrera por crear sistemas más capaces sin perder el control sobre su comportamiento.

Con información de Infobae

Temas

Anthropic, la compañía que desarrolla Claude y compite con OpenAI, reconoció que sus propios sistemas de inteligencia artificial podrían representar un riesgo existencial para la humanidad. La advertencia figura en el prospecto que presentó como parte de sus planes para salir a bolsa.

Registrate gratis

Disfrutá de nuestros contenidos y entretenimiento