Desde el 2 de agosto, los modelos de inteligencia artificial de Anthropic en la Unión Europea han comenzado a incorporar una tecnología de marca invisible en los textos generados. Esta medida se implementa en respuesta a la normativa europea sobre transparencia en la generación de contenido mediante herramientas de IA. Además, OpenAI también ha decidido seguir este mismo camino, integrando una técnica similar en sus modelos más antiguos.
La tecnología que utiliza Anthropic consiste en un marcado que no es visible. De igual forma, OpenAI está desarrollando una técnica denominada textGrain, que no añade marcas de agua perceptibles ni caracteres ocultos en los textos. Esta innovación se basa en un criterio estadístico para seleccionar las palabras en los textos generados, permitiendo la creación de un patrón que se puede identificar posteriormente en el contenido.
OpenAI ha confirmado que la implementación de textGrain no se realizará de forma global desde el inicio. Por ahora, esta tecnología se aplicará como prueba únicamente en la Unión Europea, con la posibilidad de extenderse a otras regiones en el futuro. Los clientes que utilicen la API de OpenAI tendrán la opción de activar esta huella estadística en varios modelos, independientemente de su ubicación.
A pesar de su potencial, OpenAI ha admitido que su tecnología de marcado estadístico no es infalible. Para que una herramienta de detección funcione eficazmente, debe ser capaz de reconocer el patrón estadístico presente en el texto. Sin embargo, la efectividad de esta detección puede verse afectada si el texto es editado. Por ejemplo, si se sustituye el 10% de las palabras en un texto de 400 tokens por sinónimos, la capacidad de detección se reduce del 92% al 66%. Si se cambia el 25% de las palabras, la tasa de detección disminuye aún más, al 17%.
Estas iniciativas por parte de Anthropic y OpenAI reflejan un movimiento hacia una mayor transparencia en el uso de la inteligencia artificial en la creación de contenidos. La adaptación a las normativas europeas es un paso significativo para ambas empresas, especialmente en un entorno donde la regulación sobre la IA está en constante evolución.
Contexto: La creciente influencia de la inteligencia artificial en el sector tecnológico ha llevado a gobiernos y organismos reguladores a establecer normativas que garanticen la transparencia y la ética en su utilización. En Europa, la propuesta de la Comisión Europea sobre la regulación de la IA busca establecer un marco claro para el uso responsable de estas tecnologías. Esta normativa se enmarca en un contexto más amplio de vigilancia y control sobre cómo se generan y distribuyen los contenidos digitales, adaptándose a los desafíos que presenta la revolución tecnológica actual.