Wprowadzenie Exa 2.0 Przełomy w naszych badaniach i inżynierii AI pozwoliły nam zbudować zarówno najszybsze API wyszukiwania (<350ms), jak i najwyższej jakości wyszukiwanie na rynku. Szczegóły dotyczące produktu i technologii poniżej:

Jedyną misją Exa jest zbudowanie idealnej wyszukiwarki. Takiej, która zawsze zwraca dokładnie te informacje, których potrzebujesz, tak szybko, jak to fizycznie możliwe, dostępnej przez bezproblemowe API. Exa 2.0 to duży krok w kierunku tego celu.

Aby zbudować Exa 2.0, najpierw musieliśmy rozszerzyć nasz indeks. Teraz obsługujemy dziesiątki miliardów stron internetowych i odświeżamy je co minutę. Następnie wstępnie wytrenowaliśmy i dostosowaliśmy model osadzenia do precyzyjnego wyszukiwania semantycznego w tym indeksie. Exa 2.0 był trenowany przez ponad miesiąc na naszym klastrze 144x H200 i wykorzystuje nowe architektury osadzeń, które odkryliśmy w ciągu ostatnich 6 miesięcy. Aby obsługiwać te osadzenia z najniższą latencją na świecie, wymagało to dużych aktualizacji naszej wewnętrznej bazy danych wektorowych. Niektóre przykłady to nowe algorytmy klastrowania, kompresja leksykalna i optymalizacje montażu. Oczywiście wszystko w Rust :)

Pierwsza aktualizacja to Exa Fast. Exa Fast osiąga teraz <350ms e2e P50 latencji, o 30% mniej niż najszybsze API. Nasi klienci używają go do zasilania szczególnie wrażliwych na latencję zastosowań AI.

Drugim jest Exa Deep. Exa Deep jest zaprojektowany, aby znaleźć możliwie najwyższej jakości informacje. Działa w sposób agentowy, przeszukując, przetwarzając, a następnie ponownie przeszukując, aby to osiągnąć. Exa Deep przewyższa niemal każdy benchmark, który mu rzucamy.

Wyszukiwanie to bardzo zróżnicowana przestrzeń problemowa. Benchmarki takie jak SimpleQA i FRAMES są pomocne, ale pomijają wiele istotnych kwestii dla wyszukiwania AI. Tutaj pokazujemy oceny na innych benchmarkach. Mamy wiele więcej wewnętrznych, które wkrótce udostępnimy jako open source.