Un extrabajador de Anthropic asegura que la IA “podría matarnos a todos para finales de la década”
La carrera por desarrollar modelos de inteligencia artificial más potentes volvió a quedar en el centro de la discusión luego de las declaraciones de Jacob Coxon, un ex trabajador de Anthropic, una de las principales compañías del sector. El especialista sostuvo que la evolución de esta tecnología podría derivar en escenarios extremos si no se establecen mecanismos efectivos para mantenerla bajo control.
El exinvestigador, que previamente también había trabajado en OpenAI, decidió alejarse de Anthropic debido a sus preocupaciones sobre el rumbo que está tomando la industria. Según explicó, dentro de las empresas que desarrollan inteligencia artificial existe una creciente preocupación por la posibilidad de que los futuros sistemas alcancen capacidades muy superiores a las humanas.
Su advertencia cobró todavía más relevancia porque fue respaldada por Evan Hubinger, quien fue su jefe en Anthropic. El investigador sostuvo que considera que existe más de un 10% de probabilidades de que una inteligencia artificial pueda provocar la extinción de la humanidad en los próximos diez años.
Uno de los principales riesgos señalados está relacionado con la llegada de sistemas capaces de mejorar sus propias capacidades y operar con un grado de autonomía cada vez mayor. En un escenario de este tipo, los seres humanos podrían perder capacidad para anticipar o controlar determinadas decisiones tomadas por una inteligencia artificial.
La preocupación también alcanza a la competencia entre las grandes compañías tecnológicas, que buscan desarrollar sistemas cada vez más sofisticados. Para los especialistas que plantean estos riesgos, la velocidad de esa carrera podría superar el ritmo necesario para desarrollar herramientas de seguridad capaces de garantizar un control adecuado.
El debate sobre los peligros de la inteligencia artificial dejó así de ser exclusivamente una cuestión de ciencia ficción. Mientras las empresas avanzan hacia modelos con mayores capacidades, algunos de sus propios investigadores advierten que será necesario establecer límites y mecanismos de seguridad antes de alcanzar una tecnología que pueda resultar imposible de controlar.
La posibilidad de que la IA llegue a representar una amenaza existencial continúa siendo discutida entre expertos y no constituye una predicción comprobada. Sin embargo, las advertencias provenientes de profesionales que trabajaron dentro de algunas de las principales compañías del sector vuelven a instalar una pregunta clave: ¿la humanidad podrá mantener bajo control una inteligencia artificial que eventualmente sea más inteligente que ella misma?.
FUENTE: EL PAÍS
