如何使用本地模型构建个人AI工作空间
我意识到我的工作日已经变成了无尽的标签页切换。ChatGPT在一个标签,Notion在另一个,电子邮件通过网页界面在第三个,Ollama在终端运行本地Llama。数据分散在五个不同的服务中,对话上下文丢失,每月支付十几个订阅费用已经让人厌倦。
我最近发现了Odysseus仓库。这个项目旨在将所有这些工具整合到一个平台上,可以在自己的服务器或家用电脑上运行。
这个一体化平台是什么
开发者称Odysseus为自托管工作空间。本质上,它是一个Python网络平台,结合了神经网络聊天、电子邮件客户端、日历、文本编辑器和智能体任务执行系统。
项目的核心思想很简单。与其将企业数据或个人笔记提供给第三方云服务,不如在本地部署应用程序,并连接本地权重或你首选提供商的API端点。
内部结构
开发者在这个系统中打包了一套令人印象深刻的模块。
聊天、智能体和MCP协议
基础是一个熟悉的对话界面,但带有工具支持。模型可以执行shell命令、处理文件,并在长期记忆中保持上下文。支持MCP(Model Context Protocol)标准,因此你可以将外部工具和自定义脚本连接到聊天中。
深度研究模块
如果你需要收集关于复杂主题的信息,智能体会搜索引擎、下载页面、阅读来源并生成结构化报告。这类似于商业服务中的相应功能,但可以与你选择的任何模型配合使用。
盲测(对比)
一个有趣的细节:界面包含盲模型对比模式。你同时向两个网络发送一个提示,查看匿名回复,选择更好的一个,然后获得综合结果。当你需要实际验证本地量化模型是否与大型云版本性能相同时,这很方便。
文档、电子邮件和任务
系统包括一个支持Markdown、HTML、CSV和语法高亮的文本编辑器。模型可以直接在文本中建议编辑。
对于电子邮件,支持IMAP和SMTP协议。机器人可以对传入消息进行分类、总结冗长的电子邮件线程并准备回复草稿。日历和任务列表通过CalDAV同步,因此你可以将计划任务分配给智能体。
如何部署
你可以通过Docker在几分钟内在本地启动系统。
克隆仓库并进入目录:
复制默认配置并启动容器:
启动后,界面可在找到。初始管理员密码是自动生成的,你需要从日志中检索:
仓库还包括在macOS和Linux上进行原生安装的说明,如果你想在没有虚拟化开销的情况下从GPU中榨取最大性能。
这个项目适合谁
如果你只需要一个简单的OpenAI API包装器,这个项目会显得过于臃肿。这里有太多内容:电子邮件、笔记、日历、shell。但如果你一直在寻找一个统一的界面来结合本地硬件、文本工作和日常自动化,而不需要将数据发送到外部,Odysseus绝对值得一试。
请注意安全性。开发者坦诚地警告:工具可以访问终端和文件系统,因此强烈建议不要在没有配置身份验证和HTTPS的情况下向外暴露端口。该项目采用AGPL-3.0许可证。
相关项目