W SaaStr zaprezentowaliśmy 2 nowe narzędzia AI, ale co ciekawe, jedno spala 800 razy więcej tokenów niż drugie: 1/ Nowy kalkulator wyceny startupów AI, zrealizowano ponad 200 000 wycen (dzięki @Replit) i spalił < 50 USD w kredytach OpenAI. 2/ Nowy analityk prezentacji VC AI, ocenia Twoje prezentacje VC z bardzo szczegółową informacją zwrotną, w tym do 5 przejść przez API Anthropic w niektórych przypadkach ... zrealizowano 400+ i już spalił 80 USD. ~50 USD za każde. Więc jeden proces spala być może 800 razy więcej tokenów niż drugi (choć używa różnych API/LLM) To przyszłość, myślę, zgodnie z punktem @amasad. Z jednej strony obniżymy koszty tokenów o rzędy wielkości. Ale potem również znajdziemy sposoby, aby robić coraz więcej z nimi. I używać o rzędy wielkości więcej tokenów.