Sam Altman, CEO de OpenAI, junto con el jefe científico de la compañía, Jakub Pachocki, solicitaron que Estados Unidos tome la iniciativa en la creación de estándares técnicos globales para la inteligencia artificial (IA) de vanguardia.
Los ejecutivos indicaron que la principal preocupación radica en evitar la concentración de poder y fomentar mejores resultados prácticos para el desarrollo de la tecnología.
Propuestas para la gobernanza internacional de la IA
Sam Altman señaló en la red social X que “los estándares deberían ayudar a prevenir la concentración de poder, incluyendo asegurar que las nuevas empresas y las empresas de modelos abiertos puedan competir”.
El comunicado publicado por Altman y Pachocki sostiene que los estándares globales traerían ventajas al sector: “Los estándares permiten que más partes interesadas, ajenas a los laboratorios, participen en la definición del desarrollo de esta tecnología, y proporcionan un conjunto de principios claros y fiables, independientemente de las prácticas específicas de cada laboratorio”.
Además, remarcaron en el anuncio la importancia de que las personas fuera de los laboratorios de IA participen realmente en el desarrollo tecnológico, así como la necesidad de contar con mecanismos claros para evaluar que esta evolución tecnológica sea segura y controlada.
Los responsables de OpenAI plantearon asimismo tres objetivos clave para garantizar que la inteligencia artificial general beneficie a la humanidad. La primera meta es el desarrollo de un investigador de IA automatizado enfocado en la alineación y control humano.
La segunda meta propuesta busca generar progreso científico junto al crecimiento económico, mientras que el tercer objetivo se centra en empoderar a las personas mediante el acceso a modelos de IA personalizados.
Preocupaciones por la automejora recursiva
Altman y Pachocki hicieron hincapié en la necesidad de fortalecer la investigación sobre alineación de la inteligencia artificial con los intereses y valores humanos para mantener el control sobre la tecnología.
Los directivos advirtieron sobre los riesgos asociados al proceso de automejora recursiva. Según su análisis, a medida que la inteligencia artificial asuma tareas de desarrollo más complejas, se incrementará la velocidad de avance, pero existe riesgo de perder control práctico sobre los procesos si no se toman precauciones adecuadas.
En el comunicado, los representantes de OpenAI alertaron que la ausencia de salvaguardias robustas podría multiplicar la posibilidad de crear sistemas incomprensibles para la supervisión humana, incrementando así su peligrosidad y reduciendo su coherencia operativa.
También lee
