Søgning i egne dokumenter med RAG
En søgetjeneste over mine egne noter og dokumenter, bygget til at køre på den hukommelse, en delt server har.
- Status
- I drift
- Rolle
- Alt
- Periode
- 2026, løbende
- Teknik
- Python, fastembed, sqlite-vec, MCP
- Omfang
- Godt 1.600 dokumenter
Udgangspunktet
Et arkiv af noter er kun nyttigt, hvis man kan finde det, man skrev for et halvt år siden, også når man ikke husker de ord, man brugte.
Valgene
Alt skulle kunne køre ved siden af andre tjenester på én server, uden GPU, uden en stor vektordatabase og uden betaling pr. forespørgsel. Derfor:
- Små embeddings fra fastembed
- Vektorerne gemt i SQLite med sqlite-vec
- Søgningen stillet til rådighed over MCP, så AI-værktøjer kan slå op i noterne
Hvor det står
Tjenesten kører fast på min egen server og indekserer godt 1.600 dokumenter i mere end 20.000 tekststykker. Kvaliteten af svarene afhænger stadig af, hvor godt et dokument er skrevet.
Det vigtigste, jeg lærte
Måden et dokument deles i stykker på betød mere for kvaliteten af søgningen end valget af model.
Skal jeres egne dokumenter kunne søges?
Det er en opgave, SES Group kan tage.