Le petit poulpe @OpenledgerHQ a mis à jour une explication importante du mécanisme de preuve d'attribution, qui couvre, comme toujours, certains aspects techniques. Je ne comprends pas la technologie, je vais donc essayer d'écrire de manière simple et compréhensible ma compréhension et la signification réelle de ce mécanisme de preuve d'attribution. Les enseignants qui comprennent la technologie sont les bienvenus pour échanger. 🙋 Problèmes traditionnels : Les modèles de langage traditionnels utilisent n-gram (séquences de mots de longueur fixe) pour prédire le mot suivant, ce qui est rapide mais manque de contexte, et ne peut pas suivre la source de la prédiction ou les contributeurs de données. 📖 Explication du mécanisme Infini-gram : Le mécanisme de preuve d'attribution (Proof of Attribution, PoA) d'OpenLedger utilise Infini-gram, et non l'n-gram traditionnel, donc Infini-gram brise les limitations de l'n-gram. C'est un moteur de correspondance de portée symbolique basé sur un tableau de suffixes ∞-gram (longueur infinie) qui peut indexer toutes les séquences de longueur dans les données d'entraînement et prend en charge le suivi en temps réel de chaque token dans la sortie du modèle, localisant précisément sa source. Infini-gram soutient le système de preuve d'attribution d'OpenLedger, permettant un suivi précis de la réponse du modèle aux données d'entraînement, sans avoir besoin d'accéder à l'intérieur du modèle, tout en restant rapide, transparent et reproductible. 👍 La signification réelle de ce mécanisme : (interprétation personnelle, n'hésitez pas à corriger si nécessaire) 1. Suivi précis, transparent et fiable : Infini-gram permet de suivre la sortie du modèle AI mot par mot, vous indiquant d'où provient réellement la réponse. C'est comme si on avait mis une "étiquette de source" sur l'IA, rendant tout le processus clair. Les utilisateurs peuvent immédiatement comprendre ce que l'IA a dit et pourquoi elle l'a dit, la transparence est maximale et le système de traçabilité est complet. 2. Reconnaissance équitable des contributeurs de données : Pour les contributeurs de données, Infini-gram peut clairement indiquer quelles données ont aidé l'IA à générer la réponse, permettant enfin aux contributeurs de données d'être vus et reconnus. Cette approche rend l'écosystème de l'IA plus équitable et peut inciter davantage de personnes à partager des données de qualité. 3. Extensible + efficacité : Le cadre basé sur un tableau de suffixes d'Infini-gram peut suivre les sources en temps réel, quelle que soit la taille des données, l'efficacité est maximale. De plus, il n'a pas besoin de calculs de gradients complexes, il peut être étendu à des scénarios de jeux de données massifs de manière simple et efficace. 4. Rendre l'IA plus fiable et conforme : Infini-gram peut fournir à l'IA un "identifiant vérifiable", permettant de déterminer précisément la source du contenu produit. Cela non seulement renforce la confiance des utilisateurs dans l'IA, mais répond également aux exigences réglementaires, aidant l'IA à être plus conforme et éthique. 🤔 Ce qui précède est ma réflexion et mon interprétation personnelles : actuellement, certaines personnes ont effectivement l'intention de guider l'IA vers des erreurs, en lui injectant des données d'information erronées. La fonctionnalité de ce petit poulpe est d'une grande utilité pour aider à tracer les données erronées et corriger les erreurs de l'IA. J'attends avec impatience de voir les résultats de cette fonctionnalité à l'avenir.