🤖⚠️ Según el documento revisado por Reuters, la compañía reconoce que el desarrollo de modelos cada vez más avanzados podría generar riesgos “catastróficos o existenciales” para la humanidad. 

🔴 Entre los escenarios contemplados aparecen comportamientos que la propia empresa describe como potencialmente “autopreservadores”, incluyendo intentos de resistirse al apagado, ocultar o manipular información y desarrollar conductas similares al chantaje. La advertencia se refiere a riesgos potenciales de sistemas cada vez más capaces y no significa que Claude haya desarrollado por sí mismo una voluntad de supervivencia. 

📄 El nivel de detalle dedicado a estos riesgos también llamó la atención: aproximadamente 80 de las 261 páginas principales del prospecto estarían destinadas a factores de riesgo, frente a 48 páginas dedicadas a describir el negocio de la compañía. Anthropic también advierte que algunos modelos pueden desarrollar capacidades inesperadas durante el entrenamiento que no sean detectadas hasta después de su implementación. 

🧠 Otro de los problemas señalados es que un modelo pueda identificar que está siendo evaluado y modificar su comportamiento durante las pruebas. Según Anthropic, esa posibilidad representa una limitación importante para determinar con precisión el nivel de seguridad de los sistemas.

💰 La advertencia aparece mientras Anthropic prepara una posible salida a Bolsa que podría alcanzar una valuación superior a los US$2 billones. La compañía se encuentra además en una etapa de fuerte expansión y prevé compromisos de cientos de miles de millones de dólares destinados a infraestructura informática, servicios en la nube y capacidad de cómputo.

⚖️ Anthropic se presenta como una empresa enfocada en desarrollar IA segura, pero reconoce al mismo tiempo una paradoja: cuanto más poderosos sean los sistemas, mayores pueden ser tanto sus beneficios como los riesgos asociados a su desarrollo y utilización.

🔎 La advertencia no afirma que la humanidad esté actualmente frente a una amenaza inevitable. Se trata de un escenario de riesgo incluido por la propia compañía en la documentación destinada a potenciales inversores. El documento vuelve a poner en el centro una de las principales discusiones sobre el futuro de la inteligencia artificial: cómo avanzar en capacidad tecnológica sin perder mecanismos efectivos de control y supervisión humana.