1 下载ollama
ollama官网右上角download
下载后双击安装
命令行安装Deepseek
ollama run deepseek-r1:32b
launchctl setenv OLLAMA_HOST="0.0.0.0"
DeepSeek+Ollama+ChatBox:本地部署
https://datawhaler.feishu.cn/wiki/D8a5w5ttViGRDjk1arMck1lSnOb
2 Docker 下载及安装
https://docs.docker.com/desktop/setup/install/mac-install/
3 下载RAGFlow源码
https://github.com/infiniflow/ragflow
进入ragflow-main\docker文件夹,修改配置文件“.env”
vi .env
-
调大内存。
-
MEM_LIMIT=13073741824
-
修改ragflow镜像下载地址。
-
RAGFLOW_IMAGE=swr.cn-north-4.myhuaweicloud.com/infiniflow/ragflow:v0.17.2
-
mac系统删除优化开关的注释
-
MACOS=1
4 运行RAG镜像
docker compose -f docker/docker-compose.yml up -d
配置docker镜像
https://blog.csdn.net/we22635/article/details/14316193
"registry-mirrors": [
"https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
"https://docker.m.daocloud.io",
"https://hub-mirror.c.163.com",
"https://mirror.baidubce.com",
"https://your_preferred_mirror",
"https://dockerhub.icu",
"https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"
]
5 配置RAGFlow
- 执行环境变量
launchctl setenv OLLAMA_HOST "0.0.0.0"
- 配置模型
http://host.docker.internal:11434/
6 注意
- 不要使用slim版本,不支持embedding,需要自己下载,麻烦
- docker镜像运行,导致使用127.0.0.1和本机ip都无法配置成功,url一定要使用http://host.docker.internal:11434/
- 无法添加模型时,需要添加环境变量
launchctl setenv OLLAMA_HOST "0.0.0.0"
7 docker启动和关闭命令
启动
docker compose -f docker/docker-compose.yml up -d
关闭
docker compose -f docker/docker-compose.yml down
Reference
(macos版)ragflow+deepseek 私域知识库搭建流程分享
RAGFlow Launch service from source