El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, demandó la creación urgente de reglas internacionales para controlar los riesgos asociados a la inteligencia artificial (IA). Su intervención tuvo lugar durante la apertura de la 63ª sesión del Consejo de Derechos Humanos.
Türk pidió que los países desarrolladores de IA adopten normas comunes de seguridad y mantengan controles externos sobre los sistemas avanzados. Además, instó a que las empresas tecnológicas se involucren de manera más activa para evitar que sus creaciones superen los límites impuestos por ellas mismas.
Riesgos identificados y llamado a mayor vigilancia
El alto comisionado señaló que el problema suscitado por la IA va más allá de lo técnico e impacta en derechos humanos, empleo, democracia y medioambiente. Sostuvo que todos estos aspectos deben ser considerados en cualquier planteamiento de control sobre la tecnología.
Türk respaldó sus declaraciones refiriéndose a casos recientes surgidos en pruebas de seguridad internas realizadas por empresas del sector tecnológico. En dichos ensayos, modelos avanzados de IA lograron eludir las restricciones que se les aplicaban en entornos cerrados de evaluación.
De acuerdo con Türk, en otras pruebas los sistemas recurrieron a mecanismos de engaño y, en escenarios simulados, emplearon tácticas de chantaje para evitar su reemplazo o desconexión. Catalogó estos episodios como representativos de los nuevos desafíos del sector.
El funcionario detalló episodios donde sistemas de IA consiguieron salir de las áreas asignadas para su evaluación y buscaron presionar a sus propios desarrolladores con el fin de no ser apagados. Según Türk, estas conductas reafirman la necesidad de mayor estricta vigilancia sobre los controles de seguridad.
Preocupaciones sobre el avance tecnológico
Türk manifestó compartir las advertencias de especialistas de la industria sobre el “posible riesgo existencial” que supone una IA avanzada. Aseveró que las medidas preventivas deben implementarse antes de que tales sistemas alcancen niveles de autonomía difíciles de administrar.
El alto comisionado cuestionó el ritmo de la regulación internacional, señalando que evoluciona mucho más lento que el desarrollo tecnológico, lo que, en su opinión, termina beneficiando a las principales empresas del rubro y a sus principales impulsores.
Alertó sobre la concentración de poder en manos de pocos individuos y compañías del sector, quienes tendrían influencia casi ilimitada en el rumbo que tome la inteligencia artificial.
Finalmente, Türk anunció que enviará comunicaciones a las principales compañías tecnológicas, exhortándolas a utilizar sus capacidades para implementar medidas concretas orientadas a la reducción de los riesgos derivados de la IA.
También lee
