Anthropic présente FlashProve, un prototype pour vérifier l’inférence des modèles

Ce qui change

Dans son rapport du 2 novembre, Anthropic présente FlashProve et publie du code, une documentation du protocole et des preuves Lean. Son exemple utilise une version quantifiée de Llama 4 Maverick de Meta.

Source : Anthropic: Progress on provable inference for large language models

Notre analyse

Notre analyse : la provenance du modèle et la qualité de sa réponse sont deux vérifications distinctes. Avant de s’appuyer sur cette approche, les équipes devraient examiner le coût de vérification et les limites de décodage et de contexte du prototype.

À garder en tête

Le prototype de recherche prouve les jetons de sortie vérifiés pour un modèle à calcul entier avec un décodage glouton et accepte actuellement des contextes allant jusqu’à 1 024 jetons. Selon Anthropic, aucune garantie formelle n’établit que le code exécutable rapide correspond au protocole formellement spécifié ; une preuve valide ne démontre ni l’exactitude ni la sûreté d’une réponse.

Source : Anthropic: Progress on provable inference for large language models