La inteligencia artificial empieza a dejar huella. Anthropic, la empresa detrás del asistente Claude, anunció que incorporará marcas de agua invisibles en todos los textos generados por su modelo, con el objetivo de facilitar la identificación de contenido producido por IA y frenar la desinformación, aunque con importantes limitaciones.
La medida, que comenzará a implementarse en las próximas semanas en la versión web y en la API, consiste en una señal imperceptible para el ojo humano, insertada mediante un patrón estadístico en la elección de palabras y signos de puntuación. Esta marca podrá ser detectada por una herramienta de verificación que Anthropic pondrá a disposición de universidades, medios y plataformas tecnológicas.
Sin embargo, la propia compañía advirtió que el sistema no es infalible. La marca no permite determinar qué porcentaje del texto fue escrito por la IA, ni quién es su autor, ni si el contenido fue editado posteriormente por una persona. Tampoco funciona si el texto es parafraseado de forma agresiva, traducido a otro idioma o recortado en exceso.
«Nuestro objetivo no es vigilar a los usuarios, sino dar a la sociedad una capa extra de trazabilidad en un ecosistema informativo cada vez más saturado», explicó la empresa en un comunicado.
La decisión ocurre en medio de la presión de gobiernos y reguladores de Estados Unidos y Europa para que los desarrolladores de IA generativa adopten mecanismos de transparencia, especialmente ante el uso de estos modelos en escuelas, elecciones y medios.
Expertos señalan que, aunque la marca de agua es un avance, no resolverá el problema de fondo: la atribución y la autoría en la era de la IA seguirán dependiendo de la ética y del uso responsable por parte de los usuarios.
