INCITATION DE L’IA → VÉRIFICATION DE L’IA L’incitation par l’IA s’adapte, car l’incitation ne fait que taper. Mais la vérification par l’IA n’est pas évolutive, car la vérification des résultats de l’IA implique bien plus qu’une simple saisie. Parfois, vous pouvez vérifier à l’œil nu, c’est pourquoi l’IA est idéale pour le frontend, les images et la vidéo. Mais pour tout ce qui est subtil, vous devez lire le code ou le texte en profondeur, ce qui signifie connaître suffisamment bien le sujet pour corriger l’IA. Les chercheurs en sont bien conscients, c’est pourquoi il y a tant de travaux sur les évaluations et les hallucinations. Cependant, le concept de vérification en tant que goulot d’étranglement pour les utilisateurs d’IA est sous-discuté. Oui, vous pouvez essayer la vérification formelle, ou des modèles critiques où une IA en vérifie une autre, ou d’autres techniques. Mais être même conscient que le problème est un problème de première classe est la moitié de la bataille. Pour les utilisateurs : la vérification par l’IA est aussi importante que l’incitation par l’IA.