Hoe bouw je een persoonlijke AI-werkruimte met lokale modellen

Ik betrapte mezelf erop dat mijn werkdag was veranderd in eindeloos schakelen tussen tabbladen. ChatGPT in het ene tabblad, Notion in een ander, e-mail via een webinterface in een derde, en Ollama die een lokale Llama draait in de terminal. Gegevens verspreid over vijf verschillende diensten, conversatiecontext die verloren gaat, en elke maand betalen voor een dozijn abonnementen was me een doorn in het oog.

Onlangs ben ik de repository Odysseus tegengekomen. Het project biedt aan om al deze tools onder één dak te brengen, op je eigen server of thuiscomputer.

Wat dit all-in-one platform is

Ontwikkelaars noemen Odysseus een zelfgehoste werkruimte. In essentie is het een Python-webplatform dat neurale netwerk-chat, een e-mailclient, een agenda, een teksteditor en een agent-taakuitvoeringssysteem combineert.Het kernidee achter het project is eenvoudig. In plaats van bedrijfsgegevens of persoonlijke notities naar clouds van derden te sturen, implementeer je de applicatie lokaal en verbind je ofwel lokale weights of API-endpoints van je favoriete providers.

Wat erin zit

Ontwikkelaars hebben een indrukwekkende set modules in het systeem gestopt.

Chat, Agents en het MCP Protocol

De basis is een vertrouwde conversatie-interface, maar met tool-ondersteuning. Modellen kunnen shell-commando's uitvoeren, met bestanden werken en context behouden in langetermijngeheugen. Er is ondersteuning voor de MCP (Model Context Protocol) standaard, dus je kunt externe tools en aangepaste scripts aan de chat koppelen.

Deep Research Module

Als je informatie over een complex onderwerp moet verzamelen, doorzoekt de agent zoekmachines, downloadt pagina's, leest bronnen en genereert een gestructureerd rapport. Dit is vergelijkbaar met de overeenkomstige functie in commerciële diensten, maar werkt met welke modellen je zelf ook kiest.

Blind Testen (Compare)

Een interessant detail: de interface bevat een blinde modelvergelijkingsmodus. Je stuurt één prompt naar twee netwerken tegelijk, bekijkt de anonieme antwoorden, kiest de betere en krijgt een geconsolideerd resultaat. Handig wanneer je praktisch wilt verifiëren of een lokaal gekwantiseerd model even goed presteert als een zware cloudversie.

Documenten, E-mail en Taken

Het systeem bevat een teksteditor met Markdown, HTML, CSV-ondersteuning en syntax highlighting. Het model kan bewerkingen voorstellen right in de tekst.

Voor e-mail is er ondersteuning voor IMAP- en SMTP-protocollen. De bot kan inkomende berichten sorteren, lange e-mailthreads samenvatten en antwoordconcepten voorbereiden. De agenda en takenlijst synchroniseren via CalDAV, dus je kunt geplande taken toewijzen aan agents.

Hoe te deployen

Je kunt het systeem lokaal in slechts een paar minuten opstarten via Docker.

Clone de repository en navigeer naar de directory:

Kopieer de standaardconfig en start de containers:

Na opstart is de interface beschikbaar op http://localhost:7000. Het initiële admin-wachtwoord wordt automatisch gegenereerd en je moet het uit de logs halen:

De repository bevat ook instructies voor native installatie op macOS en Linux als je maximale prestaties uit je GPU wilt halen zonder virtualisatie-overhead.

Voor wie dit project is

Als je alleen een eenvoudige OpenAI API wrapper nodig hebt, zal dit project overbodig aanvoelen. Er is hier te veel: e-mail, notities, agenda, shell. Maar als je op zoek bent naar een uniforme interface om lokale hardware, tekstwerk en routine-automatisering te combineren zonder gegevens extern te sturen, is Odysseus zeker het proberen waard.

Houd rekening met beveiliging. De ontwikkelaars waarschuwen eerlijk: tools hebben toegang tot de terminal en het bestandssysteem, dus poorten extern blootstellen zonder geconfigureerde authenticatie en HTTPS wordt sterk afgeraden. Het project is gelicenseerd onder AGPL-3.0.