“A medida que el contenido generado por IA se vuelve más común, una mayor transparencia e información sobre su origen pueden brindar a los usuarios un contexto útil sobre la información que consumen. Para fomentar la transparencia y cumplir con nuestras obligaciones legales, Anthropic está trabajando para incluir marcas legibles por máquina en el contenido que genera Claude”, explicó la compañía en una página de soporte.
El sistema de etiquetado anunciado por Anthropic se incluirá por defecto en sus próximos modelos de IA. No obstante, la compañía todavía trabaja en la compatibilidad con sus algoritmos y productos preexistentes, en virtud del periodo de gracia de cuatro meses que ofrece la ley para cumplir con los requisitos.
“La marca de agua se aplicará a nivel de modelo, lo que significa que estará presente independientemente del producto Claude o de la superficie de origen del texto. No la verás y no altera el significado, la calidad ni la legibilidad de la respuesta de Claude”, precisa la empresa.
Anthropic adelantó que trabaja en un mecanismo para que usuarios y terceros puedan detectar las marcas de agua y los metadatos de procedencia que servirán para identificar los contenidos creados por Claude. La compañía afirmó que dará a conocer próximamente los detalles sobre este mecanismo.
Las marcas legibles por máquina se aplicarán globalmente a los modelos Claude compatibles, incluidos Claude Platform (API), Claude, Claude Code, Claude Cowork y Claude Tag. También estarán presentes cuando se acceda a los modelos Claude a través de AWS, Google Cloud o Microsoft Foundry.
Un sistema aún lejos de ser perfecto
El equipo de Anthropic reconoce que su sistema de etiquetado tiene ciertas limitaciones. Explica, por ejemplo, que si un sistema encuentra una marca de Claude, esto indica que el contenido pudo haber sido procesado por el modelo, pero no demuestra necesariamente que la IA haya creado originalmente las ideas, la información o el texto.
La empresa añade que también puede ocurrir que el sistema no incluya una marca detectable en contenido generado o procesado por Claude de forma automática en algunos casos concretos. Según lo publicado en la página de soporte, esto podría suceder si el material fue generado por un modelo lanzado antes del 2 de agosto; si el texto fue editado, parafraseado, traducido o mezclado considerablemente con otros contenidos; si el fragmento es demasiado corto para identificar una señal confiable, o si los metadatos de un archivo fueron eliminados al convertirlo, guardarlo nuevamente o tomar una captura de pantalla.
Agréganos a tus Fuentes Preferidas en Google para seguir nuestro contenidoArrow