(转载)aardio用最少代码写个 AI 聊天软件,还可以一键部署本地大模型离线使用

By admin at 2024-04-18 • 0人收藏 • 216人看过

原文我就不在贴了, 大家可以看JacenHe的aardio公众号:

原文地址: https://mp.weixin.qq.com/s/jNw_Psr_wG1OQBJBUYl8bw


我这里主要说下具体的使用感受和步骤

  1. 更新或下载最新版的aardio

    image.png

  2. 打开扩展库 , 双击安装AI扩展

    image.png

  3. 运行AI窗口示例

    image.png

  4. 如果你没有安装过 Ollama , 那么会自动下载并安装好 Ollama必要组件, 如果下载失败或者较慢 , 会弹出123网盘的下载链接, 去网盘里下载下来后安装就可以了. 网盘地址 https://www.123pan.com/s/Jq1jjv-Auh8d.html

  5. 再次执行第3步, 运行AI窗口, 这时候可以拷到聊天窗口了

    image.png

  6. 安装大模型,  在聊天窗口的下面 [大模型名称] 那里输入 qwen:0.5b 这个通义千问大模型, 然后在上面的聊天窗口内输入任意字符, 大模型会开始自动下载安装, 并实时显示安装进度, 直到你看到 success 提示, 大模型安装成功.


  7. 这时候你就可以愉快的和 通义千问 聊天了.


    image.png

  8. 如果你需要安装其他大模型, 那么可以 点击聊天窗口的底部 的 [搜索大模型] 打开大模型名称和介绍页面, 然后复制你需要的名称 到[模型名称输入框]内, 在聊天窗口内输入任意字符, 自动安装该大模型,  但是注意, 如果是国外的大模型 , 一般需要你 打开代理加速 , 要不然可能会下载失败或者很慢 , 当然你也可以自己手动去下载后, 按照公众号里面的介绍自己解压按照到特定目录即可.



怎么查找大模型名称?


这里以通义千问为例子来说明:

  1. 打开大模型搜索 https://ollama.com/library?sort=popular

  2. 找到你需要的大模型, 打开链接

  3. 在介绍页里, 查看到 ollama run qwen:0.5b 这类型的字符

  4. 复制run 后面的 名称 

  5. 输入到聊天窗口下面的模型名称框里面去

  6. 在聊天窗口输入任意字符,例如: ok

  7. 可以看到开始 pull mainfest 拉取目录

  8. 等待进度结束, 并提示success

  9. 完成




image.png

image.png



其他模型操作方式一样的,  可以根据自己的需要选择适合的模型和模型的大小版本

image.png

image.png

image.png

image.png



image.png



本地大模型

使用问题, 可以看Aardio公众号的另外一个帖子:

https://mp.weixin.qq.com/s/OnMn-OF7ZJs607wbN14deQ




1 个回复 | 最后更新于 2024-04-18
2024-04-18   #1

小电脑跑不起来

登录后方可回帖

登 录
信息栏
 私人小站

本站域名

ChengXu.XYZ

投诉联系:  popdes@126.com



快速上位机开发学习,本站主要记录了学习过程中遇到的问题和解决办法及上位机代码分享

这里主要专注于学习交流和经验分享.
纯私人站,当笔记本用的,学到哪写到哪.
如果侵权,联系 Popdes@126.com

友情链接
Aardio官方
Aardio资源网


才仁机械


网站地图SiteMap

Loading...