Claude anunció que no tolerará insultos de humanos a su IA: qué actitudes podrían ocasionar el cierre de tu cuenta

Anthropic, la compañía de inteligencia artificial dirigida por Dario Amodei, anunció una actualización de las normas de uso de Claude que permitirá al chatbot terminar conversaciones cuando detecte un trato cruel o abusivo reiterado y sin una finalidad identificable.

La medida, que comenzará a regir el 12 de noviembre, apunta a limitar situaciones extremas. No impedirá que los usuarios cuestionen las respuestas, señalen errores o expresen su disconformidad cuando el sistema ofrezca resultados incorrectos o insuficientes.

La posibilidad de finalizar intercambios ya había sido incorporada en agosto de 2025. En ese momento, Anthropic indicó que debía utilizarse como último recurso, después de varios intentos fallidos por reconducir una conversación hostil.

Con las nuevas reglas, la prohibición del maltrato queda expresamente incluida en las políticas. Si Claude cierra un chat, el usuario no podrá continuar escribiendo en ese hilo, aunque tendrá la posibilidad de iniciar otra conversación.

Nuevos límites para armas y vigilancia

La actualización también precisa las restricciones sobre el uso de Claude para desarrollar armamento. La prohibición abarca tanto las armas como los programas y componentes necesarios para su funcionamiento, incluidos los sistemas de guiado y control. También comprende la utilización de la IA para equipar con armas a drones y otros vehículos autónomos.

Según Anthropic, estas disposiciones explicitan limitaciones que ya estaban vigentes y responden a intentos de emplear sus modelos en desarrollos vinculados con armamento.

En materia de vigilancia, las normas prohíben rastrear personas sin su consentimiento, ya sea en tiempo real o mediante datos recopilados previamente. Tampoco permiten crear o mejorar herramientas para esos fines ni utilizar Claude para recomendar a quién investigar, detener o acusar en procedimientos policiales o penales.