Anthropic presenta FlashProve, un sistema que verifica si una respuesta procede de un modelo de IA determinado

Anthropic está trabajando en un sistema de código abierto que es capaz de verificar el modelo de Inteligencia Artificial (IA) que fue usado para generar una respuesta con el objetivo de ayudar a evaluadores independientes y clientes a asegurarse de que los 'tokens' usados provienen del modelo por el que pagaron o que están evaluando.

El laboratorio de IA ha compartido los detalles del nuevo sistema, al que ha llamado FlashProve, y que se basa en lo que denomina 'inferencia demostrable', como la prueba criptográfica que indica que una respuesta ha sido generada por un determinado modelo de IA.

"Cuando un usuario envía una consulta a un modelo de IA, hoy no tiene forma de saber a ciencia cierta que el modelo que ha seleccionado es el que generó la respuesta", indica Anthropic, para señalar a continuación que para la mayoría de los casos "no es preocupante", aunque en algunos sí que es de gran ayuda.

"Por ejemplo, evaluadores independientes que prueban los modelos de IA antes y después de su despliegue necesitan saber que el modelo que están probando es el modelo que se ha servido. Los clientes que usan un modelo a través de un servicio de enrutamiento de terceros quieren asegurarse de que los 'tokens' provienen del modelo por el que pagaron", subraya la tecnológica.

"El objetivo de la 'inferencia demostrable' es permitir que un usuario con recursos computacionales limitados y sin información sobre los pesos pueda verificar que una respuesta provino del modelo solicitado", añade Anthropic puntualizando que, al ser la mayoría de modelos frontera de pesos privados, es complicado que un usuario o empresa pueda acceder a los mismos para verificar su procedencia.

Sobre FlashProve, explica que es la implementación de inferencia demostrable a través de un objeto criptográfico llamado 'zero-knowdledge succinct argument' (argumento sucinto de conocimiento cero), que se basa en el envío por parte del proveedor del modelo, además de la respuesta a la consulta, de una prueba corta que el usuario puede verificar rápidamente y que no revela los pesos del modelo.

La nueva herramienta del laboratorio de IA es un prototipo de código abierto de investigación que genera pruebas criptográficas con una sola tarjeta gráfica (GPU H100) a un ritmo de 110 'tokens' por segundo. La prueba digital o criptográfica ocupa 19 MB por cada paquete de 1.024 'tokens', lo que, además de facilitar su envío por internet, hace que sea fácil verificar en un ordenador convencional en segundos, incluso de forma local.

Por último, Anthropic cree "que este progreso tiene implicaciones significativas para la seguridad, el ritmo de desarrollo de la IA, la garantía de integridad para los clientes de IA, la facilitación de herramientas para auditores y reguladores, entre otros aspectos".