Cette semaine, Complex Systems est avec @philipkiely, qui a récemment écrit le livre (littéralement) sur l'ingénierie d'inférence. Nous avons discuté de ce à quoi ressemble l'adoption de l'IA en tant que question d'ingénierie dans les entreprises.

Je continue de penser que les applications de chat sont a) parmi les applications uniques les plus explosivement populaires jamais mises sur le marché et b) principalement une démonstration technique pour le véritable produit, qui est l'API. C'est un élément transformateur comme les instructions if et les boucles for.

Contrairement aux instructions if et aux boucles for, il existe une couche intermédiaire en développement, en partie à cause du rythme de changement dans le substrat sous-jacent, qui (étrangement pour la technologie) n'est pas strictement positif. Et donc, plutôt que de s'arracher les cheveux quand une mise à jour du modèle est publiée...

... l'équipe chargée de déployer l'intelligence à grande échelle peut, par exemple, effectuer une évaluation automatisée des différents modèles par rapport aux diverses tâches que vous avez, exécuter des demandes antérieures contre le nouveau challenger et les noter automatiquement, puis faire avancer les gagnants automatiquement.

Beaucoup de cela ressemble à une introduction adaptative d'infrastructure à la volée, ce qui est une capacité qui me semble un peu de science-fiction.

Je pense qu'il y a une visibilité asymétrique sur Twitter concernant les cas d'utilisation de l'IA prosumer, y compris les outils de codage modernes (qui sont les développements de LLM les plus économiquement importants... à ce jour). L'introduction dans l'entreprise sera en retard, mais pas d'une décennie, et cela aura un aspect différent.

Moins de "donnons tout aux boîtes de réception et YOLO", plus de pilotes, plus d'applications métier progressivement transformées, et ensuite les choses deviennent vraiment étranges dans la deuxième génération quand vous commencez à penser "À quoi ressemble ce processus métier si nous le concevons autour des LLM existants."