Esittelyssä Exa 2.0 Läpimurrot tekoälytutkimuksessamme ja -suunnittelussamme ovat antaneet meille mahdollisuuden rakentaa sekä maailman nopeimman hakurajapinnan (<350 ms) että markkinoiden laadukkaimman haun. Tuote- ja tekninen syväsukellus alla:

Exan ainoa tehtävä on rakentaa täydellinen hakukone. Sellainen, joka palauttaa aina juuri tarvitsemasi tiedot mahdollisimman nopeasti, saatavilla saumattoman API:n kautta. Exa 2.0 on iso askel kohti tätä tavoitetta.

Exa 2.0:n rakentamiseksi meidän piti ensin laajentaa indeksiämme. Palvelemme nyt kymmeniä miljardeja verkkosivuja ja päivitämme niitä joka minuutti. Seuraavaksi esikoulutimme ja hienosäädimme upotusmallin tarkkaa semanttista hakua varten kyseisestä indeksistä. Exa 2.0:aa koulutettiin yli kuukauden ajan 144x H200-klusterissamme, ja se käyttää uusia upotusarkkitehtuureja, jotka olemme löytäneet viimeisen 6 kuukauden aikana. Näiden upotusten palveleminen maailman pienimmällä viiveellä vaati suuria päivityksiä sisäiseen vektoritietokantaamme. Esimerkkejä ovat uudet klusterointialgoritmit, leksikaalinen pakkaus ja kokoonpanon optimoinnit. Kaikki Rustissa tietysti :)

Ensimmäinen päivitys on Exa Fast. Exa Fast saavuttaa nyt <350 ms:n e2e P50 -latenssin, mikä on 30 % alhaisempi kuin seuraavaksi nopein API. Asiakkaamme käyttävät sitä erityisen latenssiherkkien tekoälyn käyttötapausten tehostamiseen.

Toinen on Exa Deep. Exa Deep on suunniteltu löytämään mahdollisimman korkealaatuista tietoa. Se etsii, käsittelee ja etsii sitten uudelleen tehdäkseen niin. Exa Deep ylittää lähes kaikki sille asettamamme vertailuarvot.

Haku on hyvin monipuolinen ongelma-alue. Vertailuarvot, kuten SimpleQA ja FRAMES, ovat hyödyllisiä, mutta niistä puuttuu suuri osa tekoälyhaun kannalta tärkeistä. Tässä näytämme joidenkin muiden vertailuarvojen arvot. Meillä on monia muita sisäisiä, jotka avaamme pian.