Olen rakentanut tässä tilassa jo vuosia, ja olen seurannut Nishkarshia myös vuosia – onnea lanseerauksesta! Koska tämä on samassa tilassa, jossa rakennamme, sukelsin syvälle siihen ja minulla on ajatuksia. Itse lanseeraus on hyvin hypeä ja tarkoitettu laukaisemaan raivoa 1. Se on sijoitettu tietokantaksi, mutta on lähes @supermemory-tyyppinen järjestelmä 2. Heidän esimerkkinsä siitä, että "vektoritietokannat" eivät pysty tähän, on oikeastaan kysymys "mallien upottamisesta". ja upotusmalleissa on superpositioita, ne ovat halpoja ja pystyvät helposti päättelemään eroja niiden välillä. Ei ole vaikea pyytää Claudea tekemään pieni koe tämän todistamiseksi (liitteenä alla). Tärkeintä on: pystyykö se seuraamaan, miten tieto kehittyy? Aika kuluu? Tämä herätti uteliaisuuteni, joten luin heidän artikkelinsa 3. Heidän tutkimuspaperinsa koodaa ja pelaa vertailuarvoa eri aiheilla jokaiselle kategorialle!! (katso alla oleva kuva). Jos heidän benchmarkointinsa korjataan, supermuisti pysyy SOTA:na. 4. he uudistivat Anthropicin vuoden 2024 kontekstuaalisen hakupaperin ja kutsuivat sitä "orvoksi pronominiparadoksiksi" 5. He mainitsevat käyttävänsä mukautettua "in-memory vector store" -järjestelmää = noin 500GB RAM-muistista joudut maksamaan yli 10 000 dollaria. 6. päättelyä ajetaan liian monta kertaa putkessa – mikä tarkoittaa, että jokaisesta LLM-tokenista, jonka syöt, maksat lopulta 5 kertaa enemmän kuin tokenin kustannus graafista + kontekstualisointi + tallennus. 7. Viivettä ja kustannuslukuja ei koskaan raportoitu. Arvaukseni on, että arkkitehtuurin vuoksi viive kamppailee suuressa mittakaavassa. Mutta en osaa sanoa – heidän tuotteensa on demoportin takana. 8. Vertailukoodi ei ole OSS (ainakin mitä olen huomannut). Ei replikoitavassa + kuka tietää, kuinka paljon kontekstia he tuovat malliin? Mikä on se K? 9. epäorgaaniset, paljastamattomat mainokset (lue vain lainaustwiitit). Vaikuttajatilit, joilla on 400 000+ seuraajaa, sanovat kaikki samaa. Ihmiset pääsevät tästä @nikitabier lol Odotan terveellistä kilpailua ja edistystä tällä alalla, nautin siitä, että muut tekevät hyvää työtä. Mutta on helppoa vain sanoa asioita. "Kukaan ei tarkista." Pelin pelaaminen oikealla tavalla on vaikeaa, ja kaikki sanovat mitä tahansa tehdäkseen vaikutuksen ihmisiin. ...