Marca de agua para texto generado por LLM – Schneier on Security

Marca de agua para texto generado por LLM

Investigadores de Google tener desarrollado una marca de agua para el texto generado por LLM. Los conceptos básicos son bastante obvios: el LLM elige entre tokens basándose en parte en una clave criptográfica, y una persona que conoce la clave puede detectar estas opciones. Lo que dificulta esto es (1) la cantidad de texto necesaria para que funcione la marca de agua y (2) la solidez de la marca de agua para la edición posterior a la generación. La versión de Google se ve bastante bien: es detectable en textos tan pequeños como 200 tokens.

Etiquetas: artículos académicos, inteligencia artificial, criptografía, Google, identificación, LLM

Publicado el 25 de octubre de 2024 a las 09:56 • 0 comentarios