На этой неделе в программе "Сложные системы" участвует @philipkiely, который недавно написал книгу (буквально) о инженерии вывода. Мы обсудили, как выглядит внедрение ИИ как инженерная задача в предприятиях.

Я продолжаю считать, что чаты а) являются одними из самых взрывно популярных одиночных приложений, когда-либо выведенных на рынок, и б) в основном представляют собой техническую демонстрацию для настоящего продукта, которым является API. Это трансформирующий примитив, как операторы if и циклы for.

В отличие от операторов if и циклов for, развивается промежуточный слой, отчасти из-за темпов изменений в базовом субстрате, который (странно для технологий) не является строго положительным. И поэтому, вместо того чтобы рвать на себе волосы, когда выходит обновление модели...

... команда, отвечающая за развертывание интеллекта в масштабе, может, например, автоматически проводить бенчмаркинг различных моделей по сравнению с различными задачами, которые у вас есть, запускать предыдущие запросы против нового претендента и автоматически оценивать их, а затем автоматически продвигать победителей.

Многое из этого напоминает адаптивное внедрение инфраструктуры на лету, что кажется мне немного научной фантастикой.

Я думаю, что на Twitter существует асимметричная видимость случаев использования AI от продюсеров, включая современные инструменты программирования (которые являются наиболее экономически важными разработками LLM... на сегодняшний день). Внедрение в корпоративный сектор будет отставать, но не на десятилетие, и будет выглядеть иначе.

Меньше "давайте просто отдадим это всем почтовым ящикам и YOLO", больше пилотов, больше приложений для бизнеса, постепенно трансформируемых, а затем во втором поколении все становится действительно странным, когда вы начинаете думать: "Как выглядит этот бизнес-процесс, если мы спроектируем его вокруг существующих LLM?"