利用ollama本地搭建专属的AI工具

Ollama 是一个专注于本地部署大型语言模型的工具，通过提供便捷的模型管理、丰富的预建模型库、跨平台支持以及灵活的自定义选项，使得开发者和研究人员能够在本地环境中高效利用大型语言模型进行各种自然语言处理任务，而无需依赖云服务或复杂的基础设施设置。

主要是开源，chat gpt要收费，而这个开源就相当于免费了。

本地搭建，对话速度，考验你电脑配置的时候了。。。

第二步：验证是否安装成功

命令：ollama

安装命令，一共三个：

llama3.1-8b，至少需要8G的显存，

ollama run llama3.1:8b

llama3.1-70b，至少需要 70-75 GB 显存，适合企业用户

ollama run llama3.1:78b

llama3.1-405b，至少需要400-450 GB 显存，适合大型企业用户

ollama run llama3.1:405b

最后启动模型

cmd命令：

运行模型：ollama run llama3.1:8b

完成即可开启对话了。。。。

缺点

使用cmd命令进行对话，输入多行容易出错。。多亏我了，写了一下简单的工具，解决了这个问题。

注意：使用工具必须安装，ollama run llama3.1:8b模型

工具下载：

https://wwhy.lanzouq.com/iqYwN27hyv6d
密码:ddbw