2024年4月22日 作者 zeroheart

dify搭建与ollama集成

dify执行dokcer-compose命令的时候,一定要拷贝整个docker目录,否则nginx无法启动

dify/README_CN.md at main · langgenius/dify (github.com)

ollama集成:

ollama/ollama:使用 Llama 3、Mistral、Gemma 和其他大型语言模型启动并运行。 — ollama/ollama: Get up and running with Llama 3, Mistral, Gemma, and other large language models. (github.com)

ollama/ollama – Docker 镜像 |Docker 中心 — ollama/ollama – Docker Image | Docker Hub

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

docker exec -it ollama ollama run llama3:8b

google api 获取 https://aistudio.google.com/app/apikey
google 应用管理:https://console.cloud.google.com/

接口测试:https://laf.dev/dashboard