Esta semana Sistemas Complejos está con @philipkiely, que recientemente ha escrito el libro (literalmente) sobre Ingeniería de Inferencia. Hablamos de cómo es la adopción de la IA como cuestión de ingeniería en las empresas.

Sigo pensando que las aplicaciones de chat son a) una de las aplicaciones más explosivamente populares que se han lanzado al mercado y b) en su mayoría una demostración tecnológica para el producto real, que es la API. Es una primitiva transformativa, como las sentencias if y los bucles for.

A diferencia de las sentencias if y los bucles for, se está desarrollando una capa de middleware, en parte debido al ritmo de cambio en el sustrato subyacente, que (curiosamente para la tecnología) no es estrictamente positiva. Así que, en lugar de arrancarte los pelos cuando sale una actualización de modelo...

... El equipo encargado de desplegar la inteligencia a gran escala puede, por ejemplo, automatizar el benchmarking de los distintos modelos con las distintas tareas que tienes, ejecutar solicitudes previas contra el nuevo retador y calificarlas automáticamente, y luego avanzar automáticamente a los ganadores.

Mucho de esto se parece a la introducción adaptativa de infraestructuras sobre la marcha, una capacidad que me parece un poco de ciencia ficción.

Creo que hay una visibilidad asimétrica en Twitter de los casos de uso de la IA prosumer, incluyendo herramientas modernas de programación (que son el desarrollo de LLM más importante económicamente... hasta la fecha). La introducción en el sector empresarial se retrasará, pero no por una década, y tendrá un aspecto diferente.

Menos "vamos a darle todas las bandejas de entrada y YOLO", más pilotos, más aplicaciones de línea de negocio que se transforman gradualmente, y luego las cosas se ponen realmente extrañas en la segunda generación cuando empiezas a pensar "¿Cómo es este proceso de negocio si lo diseñamos en torno a los LLMs existentes?"