La compañía presentó su sistema de etiquetado como parte de sus compromisos para cumplir con los requisitos establecidos en el artículo 50 (2) de la Ley de IA de la Unión Europea, que desde el 2 de agosto obliga a las empresas tecnológicas a etiquetar de forma clara los contenidos sobre asuntos de interés público creados o manipulados con esta tecnología.
Anthropic informó que, a partir de ahora, la marcación de los contenidos generados o alterados por sus productos se incluirá por defecto en sus próximos modelos de IA. La compañía todavía trabaja en la compatibilidad con sus algoritmos y productos preexistentes, en virtud del periodo de gracia de cuatro meses que ofrece la legislación para cumplir con estos requisitos.
precisó la empresa.¿Por qué el etiquetado de texto de IA no funciona?
Anthropic aceptó que, ante el uso generalizado de la IA, es necesario ofrecer mayor información y transparencia sobre la utilización de esta tecnología en la generación de materiales, con el propósito de brindar a las audiencias un contexto útil sobre los contenidos que consumen.
No obstante, el cumplimiento de este objetivo está en duda debido al funcionamiento de los sistemas de marcación que, hasta ahora, y en muchos casos, se basan en las características naturales de los modelos de lenguaje.
La generación de texto en herramientas como Claude, Gemini o ChatGPT se basa en un principio de probabilidad. El algoritmo de IA elige, entre una gran cantidad de fragmentos de palabras, signos o vocablos, cuáles tienen mayores probabilidades de ser utilizados para entregar una respuesta en lenguaje natural, funcional y adaptada a las necesidades del usuario.
Los sistemas de etiquetado conocidos hasta ahora integran a este procedimiento un mecanismo predeterminado, diseñado para modificar las probabilidades de elección con el objetivo de generar un patrón de escritura que difícilmente aparecería por casualidad.
Dicho patrón constituye la marca o etiquetado invisible del texto y solo puede ser identificado mediante herramientas diseñadas para detectar esa distribución estadística específica, incorporada al funcionamiento del modelo desde el inicio.
ser imprecisa, errónea o incluso imposible.Bajo esta lógica, el etiquetado de texto generado por IA es vulnerable ante ediciones extensas del contenido entregado por los modelos, el reprocesamiento mediante otro sistema de IA o cuando los usuarios solo utilizan pequeños fragmentos del material original.
Además, este mecanismo no puede considerarse una prueba absoluta de autoría. Es decir, la presencia de una marca invisible y su posterior identificación por un sistema de detección no demuestra necesariamente que la información, las ideas o la redacción sean producto íntegro de la IA.
Esto puede ejemplificarse con un usuario que crea un borrador sobre sus últimas vacaciones, basado en su propia experiencia, y lo introduce en un sistema de IA para corregir o mejorar la redacción. El sistema podría conservar gran parte del significado, las ideas y los conceptos del texto original. Sin embargo, durante el proceso de corrección podría incorporar los patrones de identificación que permitirían a un detector marcarlo erróneamente como contenido generado con IA.
Estas brechas técnicas no son nuevas. Se conocen desde hace tres años al menos, cuando Google lanzó SynthID, su sistema de identificación de contenidos generados o manipulados con IA. Aunque Anthropic no ha revelado públicamente los detalles técnicos de su mecanismo, su publicación sugiere que podría funcionar de manera similar al empleado por Gemini.
La creadora de Claude también precisó que su sistema de etiquetado tiene otras limitaciones. Puede ocurrir que el sistema no incluya una marca detectable en contenido generado o procesado por Claude en algunos casos. Según lo publicado en su página de soporte, esto podría suceder si el texto fue editado, parafraseado, traducido o mezclado considerablemente con otros contenidos, o si el fragmento es demasiado corto para identificar una señal confiable.
¿El etiquetado de los contenidos gráficos es más confiable?
Hasta el momento, no existe ningún mecanismo de etiquetado o detección de texto invisible capaz de identificar con total certeza que un texto fue generado o alterado con IA. La carencia, aunque con ciertos matices, también se extiende a los contenidos multimedia producidos con esta tecnología.
En los últimos años, el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) ha sido adoptado ampliamente por la industria como un mecanismo para identificar imágenes, videos, audios y gráficos generados o alterados con IA. El protocolo funciona como una especie de “etiqueta nutricional” que, por medio de la integración de metadatos criptográficos de origen, proporciona información sobre cómo y cuándo fueron creados determinados materiales. Estas firmas digitales son invisibles al ojo humano y solo pueden ser detectadas por sistemas especializados.
El C2PA ya es utilizado por compañías como OpenAI, Meta y Google, mientras que Anthropic aseguró que su sistema de etiquetado también lo adoptará para identificar gráficos e imágenes.
Agréganos a tus Fuentes Preferidas en Google para seguir nuestro contenidoArrow