Hoe bouw je een conversationele AI-assistent op je eigen data met LLM Zoomcamp

Vorig jaar probeerde ik een RAG-systeem te bouwen voor het doorzoeken van interne documentatie. Het leek alsof alles wat je nodig had was om bestanden naar de OpenAI API te sturen en antwoorden uit te voeren. In de praktijk bleek het anders: het model hallucineerde regelmatig, tekst paste niet in het contextvenster, en reguliere vector search struikelde over technische termen en afkortingen.

Als je vergelijkbare problemen bent tegengekomen, neem dan een kijkje bij het DataTalksClub-project. Hun llm-zoomcamp repository is een gratis 10 weken durende open-source cursus die je leert hoe je bruikbare AI-applicaties bouwt met zoeken, agents en monitoring.

Stapsgewijze Engineering in Plaats van Droge Theorie

De cursus auteurs verspillen geen tijd met het afleiden van backpropagation formules. Het programma is gericht op ontwikkelaars en data engineers die productiediensten moeten bouwen.

Al het materiaal is opgedeeld in praktische modules:

• Basis RAG en agents. Je eerste pipeline bouwen op basis van tekstzoekopdrachten en functieaanroepen aansluiten.
• Vector search. Embeddings genereren, werken met minsearch, sqlitesearch en de PGVector extensie voor PostgreSQL.
• Orchestration. Dataverwerkingspipelines instellen met Kestra.
• Dataverzameling. De dlt library, DuckDB database en marimo notebooks gebruiken voor het analyseren van LLM traces.
• Kwaliteitsevaluatie. Offline en online zoekevaluatie metrics, evenals het LLM-as-a-Judge patroon.
• Monitoring en optimalisatie. Gebruikersfeedback verzamelen, hybride zoekopdrachten en het herordenen van resultaten om nauwkeurigheid te verbeteren.

Aan het einde werk je aan je eigen eindproject. Je bouwt een service vanaf nul: van data-opschoning en het creëren van een UI met Streamlit of FastAPI tot deployment en metric-configuratie.

Wat Je Nodig Hebt om te Beginnen

Een krachtige server met meerdere GPU's is niet nodig. Alle opdrachten zijn ontworpen om te draaien op een gewone laptop via API's van derden. Een paar dollar op je OpenAI of andere provider-balans is genoeg.

Kennisvereisten zijn minimaal:

• Stevige Python-vaardigheden
• Command-line ervaring
• Basisbegrip van Docker

Als je een functie in Jupyter Notebook kunt schrijven en een container in de terminal kunt draaien, is dat genoeg.

Cursus Formats

Materiaal is open voor iedereen. Je kunt de cursus zelfstandig volgen in je eigen tempo: lees de repository, bekijk video's op YouTube en maak de opdrachten.

De auteurs lanceren ook regelmatig gratis interactieve cohorts. Colleges blijven opgenomen, maar er zijn strikte deadlines, automatische huiswerkcontrole, deelnemersrangschikkingen en peer review van projecten.

Bij succesvolle afronding van de cohort en het beoordelen van het werk van medestudenten ontvang je een certificaat dat je aan LinkedIn kunt toevoegen.

Waarom Deze Repository Bewaren

Zelfs als je niet van plan bent de volledige 10 weken durende cursus te volgen, is de repository het bewaren waard. In de module folders vind je kant-en-klare Jupyter notebooks en scripts met integratievoorbeelden.

Wil je snel hybride zoeken toevoegen aan Postgres? Open de vector search module. Wil je modelrespons-evaluatie instellen? Ga naar het evaluatiegedeelte. De code heeft geen onnodige abstractie—alles is geschreven in pure Python met duidelijke commentaren.

Bekijk de 01-agentic-rag folder—daar kun je in een paar uur je eerste werkende documentzoekprototype bouwen.