windows10本地部署私有化大模型


1.安装docker

https://www.docker.com/products/docker-desktop/


2.安装maxkb

docker run -d --name-maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

默认账号:admin

默认密码:MaxKB@123..


3.安装ollama

https://www.ollama.com/download


4.maxkb连接ollama域名


http://host.docker.internal:11434


bcdedit /set hypervisorlaunchtype auto



5.测试文档下载:

软考中级(系统集成项目管理工程师)-14采购管理.docx