Anthropic, la empresa especializada en inteligencia artificial liderada por el director ejecutivo Dario Amodei, anunció una actualización importante en las normas de uso del chatbot Claude. La compañía informó que, a partir del 12 de noviembre, el sistema podrá finalizar conversaciones en caso de detectar un trato cruel o abusivo reiterado que no tenga una finalidad identificable.
Esta nueva disposición fue comunicada por portavoces de Anthropic, quienes precisaron que la medida busca establecer límites claros en situaciones consideradas extremas. Según la empresa, la actualización no impide a los usuarios cuestionar respuestas, señalar posibles errores ni manifestar disconformidad cuando Claude entregue resultados incorrectos o insuficientes.
Implementación de límites en las interacciones
La facultad de Claude para cerrar intercambios existía desde agosto de 2025. En ese momento, Anthropic sostuvo que la interrupción debía emplearse únicamente como último recurso, luego de reiterados intentos fallidos de redirigir una conversación hostil.
Con la actualización, la prohibición expresamente relacionada con el maltrato figura en las políticas internas. Cuando Claude decida cerrar un chat bajo estos parámetros, el usuario no podrá continuar escribiendo en el mismo hilo, aunque mantiene la posibilidad de iniciar un nuevo diálogo.
Nuevas restricciones para usos vinculados a armamento y vigilancia
La empresa también detalló cambios respecto al uso de Claude en desarrollos relacionados con armamento. Según Anthropic, las normas definen con precisión la prohibición de emplear el modelo para crear armas, programas o componentes necesarios para su funcionamiento. La restricción involucra también los sistemas de guiado, control y la incorporación de armamento a drones u otros vehículos autónomos.
Voceros de Anthropic indicaron que estas limitaciones ya formaban parte de los lineamientos previos, pero ahora se encuentran explícitamente establecidas dado que la compañía identificó intentos de utilizar sus herramientas en proyectos vinculados a sistemas armamentísticos.
En cuanto a vigilancia, las reglas señalan que está prohibido rastrear personas sin su consentimiento, tanto en tiempo real como con datos recabados anteriormente. Asimismo, no se permite desarrollar, mejorar herramientas o usar Claude para recomendar sujetos a investigar, detener o acusar en procedimientos policiales o penales.
Anthropic reiteró que el objetivo de estas normativas es asegurar que el uso del modelo de inteligencia artificial se ajuste a parámetros éticos y legales previamente definidos.
También lee
