原文我就不在贴了, 大家可以看JacenHe的aardio公众号:

原文地址: https://mp.weixin.qq.com/s/jNw_Psr_wG1OQBJBUYl8bw

我这里主要说下具体的使用感受和步骤

1. 更新或下载最新版的aardio

   
   

2. 打开扩展库 , 双击安装AI扩展

   

3. 运行AI窗口示例

   

4. 如果你没有安装过 Ollama , 那么会自动下载并安装好 Ollama必要组件, 如果下载失败或者较慢 , 会弹出123网盘的下载链接, 去网盘里下载下来后安装就可以了. 网盘地址 https://www.123pan.com/s/Jq1jjv-Auh8d.html

5. 再次执行第3步, 运行AI窗口, 这时候可以拷到聊天窗口了

   

6. 安装大模型,  在聊天窗口的下面 [大模型名称] 那里输入 qwen:0.5b 这个通义千问大模型, 然后在上面的聊天窗口内输入任意字符, 大模型会开始自动下载安装, 并实时显示安装进度, 直到你看到 success 提示, 大模型安装成功.

7. 
   

   这时候你就可以愉快的和 通义千问 聊天了.

   
   

   

8. 如果你需要安装其他大模型, 那么可以 点击聊天窗口的底部 的 [搜索大模型] 打开大模型名称和介绍页面, 然后复制你需要的名称 到[模型名称输入框]内, 在聊天窗口内输入任意字符, 自动安装该大模型,  但是注意, 如果是国外的大模型 , 一般需要你 打开代理加速 , 要不然可能会下载失败或者很慢 , 当然你也可以自己手动去下载后, 按照公众号里面的介绍自己解压按照到特定目录即可.

   
   

怎么查找大模型名称?

这里以通义千问为例子来说明:

1. 打开大模型搜索 https://ollama.com/library?sort=popular

2. 找到你需要的大模型, 打开链接

3. 在介绍页里, 查看到 ollama run qwen:0.5b 这类型的字符

4. 复制run 后面的 名称 

5. 输入到聊天窗口下面的模型名称框里面去

6. 在聊天窗口输入任意字符,例如: ok

7. 可以看到开始 pull mainfest 拉取目录

8. 等待进度结束, 并提示success

9. 完成

   
   

   
   

其他模型操作方式一样的,  可以根据自己的需要选择适合的模型和模型的大小版本

本地大模型

使用问题, 可以看Aardio公众号的另外一个帖子:

https://mp.weixin.qq.com/s/OnMn-OF7ZJs607wbN14deQ