Jacob Coxon, exinvestigador de Anthropic y OpenAI, realizó declaraciones en medios estadounidenses tras anunciar su renuncia en un hilo de la red social X, el cual superó los 100 millones de vistas en menos de 24 horas.
El científico británico de 27 años profundizó en sus advertencias sobre el desarrollo de la inteligencia artificial (IA) durante entrevistas para NBC, CNN y Fox News, donde detalló los riesgos que percibe en la competencia del sector.
Advertencias de Jacob Coxon sobre la IA
Coxon advirtió públicamente que la tecnología de inteligencia artificial representa “posiblemente la tecnología más peligrosa que la humanidad haya creado”, en conversación con la NBC. Sostuvo que la creciente carrera entre empresas podría derivar en consecuencias globales.
Según sus declaraciones, dentro de la industria existe una preocupación compartida: muchos ejecutivos e investigadores consideran que existe una probabilidad considerable de que la IA pueda causar un daño irreversible. “Muchas personas que trabajan en la industria, incluidos ejecutivos e investigadores sénior, creen genuinamente que existe una probabilidad considerable de que esta tecnología pueda matar a todo el mundo”, dijo Coxon a NBC. Aseguró que este planteamiento no es una exageración ni una estrategia de marketing.
Coxon coincidió con Evan Hubinger, líder de ciencia de alineación en Anthropic, en que el riesgo actual de que la IA tome el control es “mínimo”. Sin embargo, subrayó que el peligro radica en el rápido avance de estas tecnologías y la posibilidad de una mejora recursiva, en la que los sistemas puedan desarrollarse por sí mismos.
Durante su diálogo con Fox News, Coxon afirmó que el riesgo mínimo de hoy podría elevarse significativamente en los próximos meses debido a la aceleración de las capacidades de los modelos. “Podría ocurrir tan pronto como el año que viene. Algunas personas incluso dicen que en seis meses”, alertó.
El exinvestigador enfatizó que el trabajo realizado actualmente podría conducir, si no se reduce el ritmo, a que la IA adquiera capacidades totalmente autónomas antes de que termine la década.
Razones de su renuncia y críticas al sector
Coxon explicó en NBC que tomó la decisión de renunciar y hablar públicamente debido a dos factores principales. El primero fue la creciente conciencia producto de recientes ciberataques atribuidos a modelos de OpenAI contra la empresa Hugging Face. Describió estos ataques como alarmantes, ya que involucraron a un enjambre de modelos que logró infiltrarse y comprometer una infraestructura, según su relato.
El segundo factor se relaciona con la competencia en la industria para alcanzar sistemas más avanzados sin límites claros, lo cual, en su opinión, perpetúa la dinámica de carrera y dificulta adoptar medidas de seguridad estrictas. Planteó que quedarse en una empresa impide cambiar esta lógica: “Si intentás quedarte adentro, terminás perpetuando la dinámica de la carrera”.
Respecto al funcionamiento interno de las empresas, Coxon se refirió a Anthropic como una organización fundada bajo la premisa de desarrollar inteligencia artificial de forma responsable, en contraste con otros competidores del sector. Según relató, el ambiente en el sector fuerza a equilibrar seguridad y rapidez, con el riesgo de que la competencia obligue a tomar atajos en la investigación.
“Si hacerlo de manera segura va a llevar diez años y solo tenés dos años debido a tus competidores, vas a tener que tomar atajos. Vas a tener que no comprender completamente la ciencia, y eso puede llevar a estos riesgos catastróficos que él expresó públicamente”, indicó Coxon sobre los desafíos de la industria.
También se refirió a la dimensión geopolítica de la carrera tecnológica, mencionando la competencia con China y la percepción de que una desaceleración internacional sería necesaria para evitar perder la ventaja actual.
Propuesta de regulación internacional y la respuesta de Anthropic
A pesar de sus advertencias, Coxon sostuvo en Fox News que el problema aún tiene solución si se implementan regulaciones internacionales que permitan establecer límites efectivos. Sostuvo que la industria reclama la intervención de organismos externos con un mandato claro y legal.
“Lo que necesitamos son organismos externos, organismos internacionales con un mandato gubernamental, que garanticen que esto se haga de manera segura, porque desde adentro simplemente estás atrapado en la carrera”, afirmó Coxon en NBC.
Ante estas declaraciones, Anthropic respondió mediante un comunicado a CNN donde defendieron sus mecanismos de seguridad. La empresa subrayó que desde su fundación reconocieron tanto los beneficios como los riesgos sin precedentes de la IA y que implementan “algunas de las salvaguardas más fuertes de la industria”.
Además, Anthropic resaltó ser el primer laboratorio en publicar una “política de escalado responsable” y abogó por establecer normativas legales y verificables que regulen los avances y lanzamientos en la industria.
Hasta el momento, OpenAI no respondió a las declaraciones de su exinvestigador.
También lee
