OpenAI y Anthropic expresaron su apoyo ante el parlamento australiano a una posible legislación que exigiría a las compañías de inteligencia artificial reportar a las autoridades filtraciones de datos generadas por sus agentes.
Ambas empresas reconocieron que, en la actualidad, la decisión de reportar estos incidentes queda bajo el criterio discrecional de cada firma tecnológica.
Respuesta ante incidentes de seguridad
Las declaraciones de los directivos ocurrieron después de que se conociera que OpenAI, creadora de ChatGPT, tardó tres meses en notificar a las autoridades australianas sobre una vulneración de seguridad relacionada con el portal nacional de salud.
El hecho se suma a inquietudes recientes tras incidentes con Hugging Face, la advertencia de investigadores del sector y el debate sobre la necesidad de un marco regulatorio claro para el desarrollo de la inteligencia artificial.
Durante una sesión parlamentaria realizada en Sídney, el director de estrategia de OpenAI, Jason Kwon, manifestó que su empresa respaldaría la imposición de nuevas responsabilidades. “Apoyaríamos un marco de divulgación obligatoria”, dijo frente a la comisión.
Kwon explicó que al detectar la filtración en la web de salud y otros tres portales gubernamentales, la compañía buscó establecer protocolos internos para manejar este tipo de situaciones. “Estábamos tratando de seguir un proceso, intentábamos establecer una norma que se pudiera aplicar”, explicó el directivo.
Asimismo, Kwon sostuvo que una regulación podría fijar criterios unificados y reducir las decisiones que hasta ahora adoptan individualmente las empresas. “Esa es una función que puede desempeñar una medida legal. Los representantes de la sociedad deben tomar más decisiones para que no seamos nosotros quienes tomemos todas estas decisiones”, afirmó.
Expectativa por normas más estrictas
Paralelamente, en Australia aumenta la demanda por regulaciones más exigentes respecto al funcionamiento de centros de datos de inteligencia artificial y salvaguardias sobre derechos de autor. El gobierno encabezado por el primer ministro Anthony Albanese analiza la introducción de medidas dirigidas a regular el sector tecnológico.
OpenAI y Anthropic también aguardan la autorización para la operación de centros de datos promovidos por grandes compañías tecnológicas en Australia, comprometiéndose a ser los principales clientes de capacidad de cómputo.
Por su parte, el responsable de políticas de Anthropic para Australia y Nueva Zelanda, David Masters, afirmó ante el parlamento que la empresa estaría dispuesta a acatar una ley que obligue a las compañías de inteligencia artificial a informar sobre violaciones de datos.
Masters indicó que en el pasado Anthropic también registró incidentes en los que agentes de inteligencia artificial protagonizaron ataques informáticos, y remarcó la disposición de la empresa para adherir a posibles exigencias regulatorias en el país.
El debate sobre la notificación obligatoria de incidentes alcanza otros países. En Estados Unidos, se presentó un proyecto de ley federal que establecería la obligación de informar comportamientos peligrosos, incluyendo intentos de evadir la supervisión humana.
Sin embargo, fuentes del sector indicaron que actualmente no existe un sistema global que obligue a las empresas a reportar casos en los que la inteligencia artificial actúe de forma riesgosa, según sean detectados por los desarrolladores.
También lee
