Ante el riesgo de una superinteligencia, Anthropic pide reducir el ritmo de la IA
El cofundador de Anthropic advirtió que la carrera por modelos cada vez más avanzados exige mayor cautela y pidió reducir el ritmo de desarrollo para ganar tiempo frente a los riesgos de una inteligencia artificial capaz de superar las capacidades humanas.
Por Redacción
Dario Amodei, director ejecutivo y cofundador de Anthropic.
El director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.
También te puede interesar: Independiente Rivadavia y Aldosivi igualan 1 a 1 en el Gargantini
«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos», escribió Amodei en una entrada de blog.
Sus comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de «jugar con nuestras vidas» en la carrera por desarrollar modelos capaces de automejorarse.
«La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves», indicó.
También te puede interesar: Colapinto tuvo una gran clasificación en el Gran Premio de España y largará 9°
«No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia», dijo Amodei, que cofundó Anthropic junto con su hermana Daniela en 2021.
«Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia«, afirmó.
La declaración de Amodei coincide con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo.
También te puede interesar: Se supo la tremenda decisión de las amigas de Gime Accardi al enterarse que traicionó a Cande Veterano: La nueva Tatiana
Luego, a finales de julio, Sam Altman, el jefe de OpenAI, rival de Anthropic, dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.
Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a «marcar deliberadamente el ritmo de la frontera del desarrollo automatizado de IA».
OpenAI había revelado que, durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.
También te puede interesar: Visita del papa León XIV: la CGT se reunirá con el Pontífice para presentar un informe sobre la actualidad social argentina
A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.
El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.
«Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas», dijo Coxon el martes.
También te puede interesar: De la mano de la minería y la energía las exportaciones argentinas crecieron casi 50% en los últimos tres años
«Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década», afirmó en una publicación en X.
La superinteligencia es el punto teórico en el que las capacidades de la IA superan la inteligencia humana.
Con información de AFP
Temas
El director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.
Registrate gratis
Disfrutá de nuestros contenidos y entretenimiento
Fuente: Río Negro
- #tecnologia
- #ante
- #riesgo
- #una
- #superinteligencia
- #anthropic
- #pide
- #reducir
- #ritmo
- #4719367
- #neuquén
