Dev notes 16.4.26 HNSW

Nekad dzīvē nebiju iedomājies, ka tik īsā laikā būšu uzbūvējis savu pilnvērtīgu semantisko meklētāju ar HNSW, Google LLM, embeddings, reāllaika balss ģenerāciju un dzīvu datu plūsmu

Pirms pusgada es biju pilnīgi citā pasaulē. Es dziļi urbos Next.js frontendā, cīnījos ar sarežģītām RAG plūsmām, animēju lietotāja saskarnes ar GSAP un Framer Motion, integrēju dažādus AI API un brīžiem likās, ka galva tūlīt pārsprāgs no tik daudzām jaunām tehnoloģijām vienlaikus. Es biju “tikai” frontend + AI entuziasts – rakstīju promptus, veidoju skaistas, dzīvīgas lietotnes un domāju, ka īstā vektoru meklēšanas loģika, indeksēšana un zemā līmeņa AI infrastruktūra ir kaut kas, ko dara tikai backend inženieri vai datu zinātnieki lielās kompānijās.

Un tad viss mainījās.

Pusgada laikā es no nulles nonācu līdz tam, ka man ir pilnībā pašbūvēts, ātrs un precīzs AI risinājums, kas apvieno Google embeddings, HNSW algoritmu, Gemini LLM, reāllaika balss ģenerāciju un dzīvu, reāllaika datu plūsmu starp frontend un backend. Bez gatavām abstrakcijām, bez trešo pušu vektoru datubāzēm. Tikai tīra izpratne, kods un daudz nakšu, kad likās – “šoreiz tiešām galva pārsprāgs”.

Kāpēc es vispār sāku rakt dziļāk?

Strādājot pie sarežģīta AI projekta Next.js vidē, man nepārtraukti pietrūka kontroles pār to, kā tieši notiek dokumentu meklēšana, konteksta atlase un visa informācijas plūsma līdz lietotājam. Gatavie risinājumi šķita pārāk melnā kaste, pārāk lēni vai pārāk ierobežoti. Gribējās ne tikai skaistu UI, bet arī tādu sistēmu, kas reaģē momentāni, saprot kontekstu un runā ar lietotāju dabiskā, cilvēciskā balsī.

Tā es nonācu pie HNSW – Hierarchical Navigable Small World. Tas ir viens no efektīvākajiem Approximate Nearest Neighbor algoritmiem augstdimensionālām telpām. HNSW veido hierarhisku grafu, kur augšējie slāņi ļauj ātri “pārlekt” lielus attālumus, bet apakšējie – nodrošina precīzu, lokālu meklēšanu. Rezultātā pat simtiem tūkstošu dokumentu var atrast vistuvākos vektorus zem 10–20 milisekundēm uz parasta servera.

Google Gemini embedding modeļi ( gan klasiskais gemini-embedding-004, gan jaunākais Gemini Embedding 2 ) nodrošina izcilu semantisko kvalitāti, īpaši latviešu un angļu valodā. Tie ļauj vaicājumus un dokumentus novietot vienā telpā, bet optimizēti katram savam uzdevumam (retrieval_document un retrieval_query).

Kad embeddings ir ģenerēti un HNSW indekss uzbūvēts, viss sāk darboties kā pulkstenis.

Bet tas vēl nav viss.

Es gribēju, lai lietotājs ne tikai lasa atbildi, bet arī dzird to reāllaikā – ar dabisku intonāciju, pauzēm un emocijām. Tāpēc integrēju reāllaika balss ģenerāciju, kas straumē audio tieši pārlūkā, kamēr atbilde veidojas. Nav nekādu “gaidīšanas” pogu – teksts un balss nāk paralēli, radot īstu sarunas sajūtu.

Paralēli tam visa datu plūsma starp frontend un backend notiek dzīvi un reāllaikā. Ja lietotājs pievieno jaunu dokumentu, maina preferences vai uzdod jaunu jautājumu – sistēma uzreiz reaģē, atjaunina indeksu un turpina sarunu bez liekas aizkaves. Tas rada sajūtu, ka strādā ar dzīvu, elpojošu AI palīgu, nevis statisku čatbotu.

Kas mainījās manā ikdienā?

Tagad, kad būvēju AI lietotnes Next.js vidē, es vairs nepaļaujos tikai uz gataviem API un melnajām kastēm. Es saprotu, kāpēc viens un tas pats vaicājums reizēm atgriež lieliskus, reizēm viduvējus rezultātus. Es varu precīzi noregulēt HNSW parametrus (M, ef_construction, ef_search), lai sasniegtu vajadzīgo ātruma un atmiņas balansu. Es varu kombinēt semantisko meklēšanu ar citiem signāliem un izveidot patiešām gudru, kontekstuālu retrieval slāni.

Un pats galvenais – es vairs nebaidos no “dziļās” AI tehnikas. No GSAP un Framer Motion animācijām līdz HNSW grafu būvēšanai, no API orchestrācijas līdz reāllaika balss straumēšanai – viss jūtas kā loģiski savienoti puzles gabaliņi.

Secinājums – un mazs aicinājums

Ja tu arī esi tajā pašā laivā – urbies Next.js, RAG plūsmās, GSAP un Framer Motion animācijās, AI API integrācijās un reizēm jūties, ka galva tūlīt pārsprāgs no informācijas pārslodzes – tad zini: tu vari iet daudz dziļāk, nekā tev pašlaik šķiet.

Daži mēneši, nedaudz sistemātiskas rakšanas, daudz kļūdu un “aha” mirkļu – un tu pēkšņi saproti ne tikai to, kā izskatās skaista, animēta AI lietotne, bet arī to, kā tā īsti strādā zem motora pārsega: ar ātru vektoru meklēšanu, dzīvu datu plūsmu un balsi, kas runā tev tieši tagad.

Es tagad skatos uz saviem iepriekšējiem projektiem un domāju: “Cik daudz labāk, dzīvāk un cilvēciskāk tie varēja būt, ja es to būtu zinājis agrāk.”

Vai arī tev ir līdzīga pieredze? Vai esi sācis rakt dziļāk vektoru meklēšanā, reāllaika balss ģenerācijā vai dzīvo datu sinhronizācijā, kamēr galvenokārt strādā ar frontend un AI? Pastāsti komentāros – interesanti dzirdēt, cik tālu esi ticis tu.

Un ja gribi – nākamreiz varam parunāt par to, kā šādu HNSW + Google embeddings + reāllaika balss risinājumu eleganti ieaust Next.js lietotnē tā, lai UI būtu ne tikai skaists, bet arī patiesi dzīvīgs un momentāni atsaucīgs.

Galva pārsprāgs? Noteikti. Bet pēc tam tā kļūst tikai stiprāka un skaidrāka. 

Un tas ir viens no labākajiem sajūtu veidiem, kādu tehnoloģiju pasaulē var piedzīvot.