自从DeepSeek掀起AI浪潮之后,我就一直在思考,如何能更充分地利用起家中7x24H在线的威联通NAS,来配合各种AI大模型提供随时待命的智能服务。
上一期已经为大家分享了使用威联通NAS部署dify来搭建本地教辅知识库的教程,这一期我们就来分享一下,如何使用威联通NAS配合AI大模型,来实现微信AI聊天机器人功能吧。
要实现如上图所示的效果,我们需要AstrBot和GeweChat这两个工具。
AstrBot是一款开源、易上手的多平台 LLM 聊天机器人及开发框架,由国内大佬开发者维护,无论是更新频率还是使用教程都对新手非常友好。
根据GitHub项目介绍,AstrBot的主要特色有以下几点:
- 1.大语言模型对话。支持各种大语言模型,包括 OpenAI API、Google Gemini、Llama、Deepseek、ChatGLM 等,支持接入本地部署的大模型,通过 Ollama、LLMTuner。具有多轮对话、人格情境、多模态能力,支持图片理解、语音转文字(Whisper)。
- 2.多消息平台接入。支持接入 QQ(OneBot)、QQ 频道、微信(GeweChat)、飞书、Telegram。后续将支持钉钉、Discord、WhatsApp、小爱音响。支持速率限制、白名单、关键词过滤、百度内容审核。
- 3.Agent。原生支持部分 Agent 能力,如代码执行器、自然语言待办、网页搜索。对接 Dify 平台,便捷接入 Dify 智能助手、知识库和 Dify 工作流。
- 4.插件扩展。深度优化的插件机制,支持开发插件扩展功能,极简开发。已支持安装多个插件。
- 5.可视化管理面板。支持可视化修改配置、插件管理、日志查看等功能,降低配置难度。集成 WebChat,可在面板上与大模型对话。
- 6.高稳定性、高模块化。基于事件总线和流水线的架构设计,高度模块化,低耦合。