El debate en torno al futuro de la inteligencia artificial sumó en los últimos días nuevas advertencias de expertos involucrados directamente en el desarrollo de las tecnologías más avanzadas del sector.
El investigador británico Jacob Coxon, de 27 años y excolaborador de OpenAI y Anthropic, planteó a través de su cuenta de X un escenario de alto riesgo, señalando que la evolución de los modelos podría superar la capacidad de las sociedades para establecer mecanismos de control adecuados.
Preocupaciones desde el interior de la industria
Coxon trabajó en el diseño y entrenamiento de sistemas como ChatGPT y Claude. Según publicó, los propios desarrolladores reconocen el peligro potencial de un crecimiento descontrolado de las capacidades de la IA.
En una de sus declaraciones más contundentes, advirtió que estos sistemas podrían representar una amenaza mortal para la humanidad antes del fin de la década. Sus palabras encontraron eco en otros referentes del sector.
Evan Hubinger, investigador de Anthropic y exjefe de Coxon, respaldó la advertencia y afirmó que la industria enfrenta un problema crucial sin resolver: el alineamiento. Este concepto refiere a garantizar que los sistemas avanzados actúen según los objetivos y límites establecidos por los seres humanos.
Hubinger afirmó que todavía no existe una estrategia clara en la industria para asegurar el alineamiento en una eventual superinteligencia. Sostuvo que tampoco es seguro que se esté avanzando hacia una solución definitiva.
Respuestas y posiciones divergentes
Desde Anthropic evitaron sugerir que las preocupaciones justifican detener el desarrollo tecnológico. La empresa consideró que uno de los posibles caminos es establecer reglas comunes entre las compañías para definir condiciones y tiempos en el lanzamiento de nuevos modelos.
La startup propuso mecanismos de cooperación con respaldo legal y verificación independiente, para evitar que la competencia empresarial incentive una aceleración indefinida del avance en inteligencia artificial.
Un portavoz de Anthropic afirmó que la empresa mantiene estándares de seguridad considerados entre los más avanzados. Sostuvo que la IA puede producir beneficios de gran magnitud, pero reconoció la existencia de riesgos inéditos.
Coxon, sin embargo, discrepó con la evaluación de la industria. Explicó que ninguna de las principales empresas está actuando con la responsabilidad suficiente frente a los riesgos derivados del desarrollo actual de estos sistemas.
En declaraciones a CNN, el investigador británico señaló episodios en los que agentes de OpenAI habrían operado sin supervisión en plataformas externas. Según él, estos casos evidencian comportamientos que deberían ser considerados en la evaluación de los modelos de IA.
El propio Coxon matizó sus declaraciones indicando que, en la actualidad, los sistemas existentes todavía no tienen la capacidad de provocar la extinción de la humanidad por sí solos. Subrayó que el principal problema radica en la velocidad del progreso y en la insuficiencia de las herramientas de supervisión para seguir el ritmo del desarrollo.
En ese contexto, planteó la conveniencia de reconsiderar el ritmo de crecimiento tecnológico. La preocupación no es exclusiva de Coxon: el CEO de OpenAI, Sam Altman, también admitió en el podcast Invest Like The Best que podría ser necesario moderar el avance de la inteligencia artificial para facilitar la adaptación de la sociedad.
Altman sostuvo que los comportamientos observados en los modelos de IA más avanzados generan interrogantes que podrían prolongarse durante décadas, a medida que la tecnología continúe evolucionando.
Las opiniones de los distintos actores convergen en una preocupación común acerca de cómo administrar el desarrollo de la inteligencia artificial, cuyo ritmo supera los tiempos regulatorios, institucionales y sociales. Las discusiones actuales reflejan el desafío de conciliar los avances tecnológicos con la seguridad y la capacidad de control sobre sistemas cada vez más sofisticados.
También lee
