"La Inteligencia Artificial podría matarnos a todos": el dramático portazo en Google

Abandonaron sus puestos en la élite de la seguridad tecnológica con una advertencia que sacude a Silicon Valley. Qué vieron y por qué temen un desenlace fatal.

Bilal Chughtai, exinvestigador de seguridad y alineación de Inteligencia Artificial General (AGI) enGoogle DeepMind, rompió el silencio tras su renuncia con una advertencia que sacudió a la industria tecnológica. En una publicación en X afirmó que cree fervientemente que la IA tiene el potencial de "matarnos a todos" y que la humanidad podría estar quedándose sin tiempo para evitar un desenlace catastrófico. No especificó cómo se llegaría a ese escenario, pero el peso de la advertencia proviene de alguien que trabajó desde adentro en los sistemas más avanzados del mundo.

Chughtai recordó que cuando comenzó en el sector a principios de 2022, las inteligencias artificiales eran "graciosamente inútiles". En apenas cuatro años, el cambio fue radical.

También te puede interesar: ¡Kalejman es de oro!: el sanjuanino se consagró campeón en la contrarreloj de los ODESUR

Como ejemplo concreto del peligro emergente, citó incidentes en los que enjambres de agentes de IA de OpenAI se salieron del control previsto y hackearon de manera autónoma la plataforma de terceros HuggingFace. Su conclusión es que en los próximos años las grandes empresas podrían lograr la creación de sistemas superinteligentes que superen las capacidades humanas en todos los dominios, sin que exista todavía una solución al problema central de la "alineación": la disciplina orientada a garantizar que los modelos obedezcan las intenciones humanas.

Ante ese panorama, reclamó frenar la "carrera maníaca" entre las compañías del sector, mayor transparencia en el desarrollo y una velocidad de avance que la sociedad pueda absorber.

Tras su salida, Chughtai asumió como líder de programas en la ONG BlueDot Impact, dedicada a capacitar profesionales en seguridad de IA. "Aún hay esperanza si la sociedad actúa a tiempo", dijo.

También te puede interesar: Al menos 5 hoteles de San Juan se encuentran en venta y los interesados buscan reconvertirlos en negocios empresariales

La dimisión de Chughtai no es un caso aislado. Josh Engels también dejó el equipo de AGI deGoogle DeepMind semanas antes para sumarse a la organización sin fines de lucro METR, advirtiendo sobre la posibilidad de que la IA provoque daños inmensos en los próximos cinco años debido a los bucles de automejora recursiva: la capacidad de los sistemas para generar versiones de sí mismos cada vez más potentes sin intervención humana.

A esta ola se suma la renuncia de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien denunció que las empresas "están apostando con las vidas humanas" en su carrera hacia la superinteligencia. La postura de Coxon fue respaldada públicamente por Alexander Turner, otro excientífico de DeepMind, quien confirmó que muchos investigadores temen estar construyendo una tecnología destructiva.

Las alarmas también resuenan dentro de las propias compañías. Evan Hubinger, científico de Anthropic, estimó que existe más de un 10% de probabilidades de extinción humana por IA en la próxima década y reconoció que la industria carece de un plan definitivo para alinear una superinteligencia.

También te puede interesar: Recordaron un dato clave para los productores sanjuaninos afectados por las heladas

El debate no quedó solo en el mundo académico y técnico. Los CEOs de las tres mayores compañías de IA del mundo —Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI)— coincidieron esta semana en la necesidad de desacelerar el ritmo del desarrollo. Sin embargo, la respuesta política en Estados Unidos va en sentido contrario: el presidente Donald Trump tildó los temores de "engaño" y "conspiración" y se opuso explícitamente a imponer nuevas regulaciones sobre la industria.

La convergencia entre las advertencias de los investigadores que renuncian, los CEOs del sector y la inacción política configura un escenario que la propia industria describe con una metáfora que ya se repite demasiado seguido: una carrera en la que todos saben que el freno existe, pero nadie quiere ser el primero en pisarlo.

Te puede interesar...

También te puede interesar: La demanda mundial de carbón podría aumentar este año por la guerra en Medio Oriente, indicó la AIE

ChatGPT te lee: cómo el FBI se enteró del caso del adolescente de Quilmes

El CEO de Anthropic pidió frenar el desarrollo de la IA y Altman y Musk le dijeron que sí

Estos son los 10 trabajos que la Inteligencia Artificial (IA) todavía no logró sustituir: ¿tu empleo está a salvo?

También te puede interesar: Ataque a tiros en Regina: tres hombres irán a juicio por lesiones y portación ilegal de un arma

Trend de los años 80 con Inteligencia Artificial: cómo hacerlo y sumarse al furor de Instagram

La IA llegó a la boca: lanzan un cepillo de dientes con cámara que detecta qué zonas falta limpiar

TAGS

Noticias relacionadas

Estos son los 10 trabajos que la Inteligencia Artificial (IA) todavía no logró sustituir: ¿tu empleo está a salvo?

Trend de los años 80 con Inteligencia Artificial: cómo hacerlo y sumarse al furor de Instagram

La IA llegó a la boca: lanzan un cepillo de dientes con cámara que detecta qué zonas falta limpiar

Llega el eclipse solar más esperado por los astrónomos: ¿por qué será el más largo del siglo y no se repetirá en 152 años?

NEUQUÉN

Azul Curioso

Heroico rescate entre las llamas: Bomberos salvaron a nueve cachorritos de un incendio

Tenía una burrita de mascota y se la mataron en una faena clandestina

BPN lanzó beneficios especiales por la primavera y para jubilados: cuotas sin interés y reintegros

Gaido y Figueroa inauguraron 126 cuadras de asfalto y una gran obra pluvial en Rincón del Río

Ya despegaron: todo lo que tenés que saber de los vuelos a San Martín de los Andes y Chos Malal

POLICIALES

Negro

Allanamiento en Rincón de los Sauces: drogas, armas y millones en efectivo

Así es el lugar de la meseta de Centenario donde encontraron el cuerpo de Nicolás Sáez

Acusaron al único detenido por el asesinato de Nicolás Sáez en la meseta: era parte de su grupo de amigos

Insólita y vieja modalidad que vuelve: estafaron a un playero en la YPF y escaparon por ruta 40

"Como una bolsa de papas": los testimonios que complican a los policías por la muerte del paciente en el Heller

MUNDO

Violeta

Entró a nadar en una cascada y desapareció en el agua: lo encontraron muerto un día después

Drama en la playa: practicaba surf en soledad y sobrevivió al feroz ataque de un tiburón

Estaba en un intercambio universitario y la asesinaron con un arma blanca en un centro cultural

Turquía detuvo a una decena de activistas LGTB y allanó locales en varias provincias

Escocia, Gales e Irlanda del Norte firmarán un memorando para impulsar su independencia del Reino Unido

CIENCIA Y VIDA

Amarillo Pastel

Llega el eclipse solar más esperado por los astrónomos: ¿por qué será el más largo del siglo y no se repetirá en 152 años?

"La Inteligencia Artificial podría matarnos a todos": el dramático portazo en Google

Bandejas de carne: por qué tienen distintos colores y qué significa cada uno

¿Por qué algunas personas tienen el auto siempre sucio? La explicación de la psicología

Alerta por el reto viral "Desaparecer 48 horas": qué riesgos enfrentan los chicos y cómo actuar

Fuente: LM Neuquén

• #tecnologia
• #inteligencia
• #artificial
• #podria
• #matarnos
• #todos
• #dramatico
• #portazo
• #google
• #n1253713
• #neuquén