La empresa aseguró que las nuevas condiciones y términos de uso "están destinada a aplicarse solo en casos extremos, donde los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin ningún propósito discernible”. Precisa que esto no incluye las “formas comunes” de frustración o resistencia del usuario. Tampoco aplicarán para “temas creativos oscuros” o en procesos de investigaciones y pruebas alrededor de los modelos.
La actualización refuerza una medida implementada por Anthropic en agosto del año pasado que faculta a Claude para finalizar conversaciones con usuarios "persistentemente dañinas o abusivas". Según la compañía, esta capacidad se mantendrá como “el mecanismo de aplicación principal” para hacer cumplir sus nuevas normas. Sin embargo, no precisó si contempla otras restricciones, sanciones o suspensiones para cumplir el propósito.
al interior de la industria: ¿La IA podría desarrollar un sentido de conciencia similar al humano?La compañía argumenta que esta posibilidad plantea diversas implicaciones filosóficas y científicas que obligarían a contemplar el bienestar de los sistemas de IA para garantizar, en última instancia, el desarrollo seguro y responsable de esta tecnología.
Anthropic reconoce que por ahora no existe un consenso científico sobre si los sistemas de IA actuales o futuros podrían ser conscientes o tener experiencias que merezcan ser consideradas. No obstante, reitera que es una cuestión que debe ser abordada desde ahora.
“Seguimos teniendo muchas dudas sobre el posible estatus moral de Claude y otros modelos de aprendizaje de lenguaje, tanto ahora como en el futuro. Sin embargo, nos tomamos el asunto en serio y, paralelamente a nuestro programa de investigación, trabajamos para identificar e implementar intervenciones de bajo coste que mitiguen los riesgos para el bienestar de los modelos, en caso de que dicho bienestar sea posible”, señaló la compañía en meses pasados.
entrevista con The New York Times, el ejecutivo aseguró: “Desconocemos si los modelos son conscientes. Ni siquiera estamos seguros de qué significaría que un modelo fuera consciente o si un modelo puede serlo. Pero estamos abiertos a la posibilidad. Así que hemos tomado ciertas medidas para asegurarnos de que, si planteamos la hipótesis de que los modelos tuvieron alguna experiencia moralmente relevante, esa experiencia sea positiva”.Agréganos a tus Fuentes Preferidas en Google para seguir nuestro contenidoArrow