开发专题
人工智能AI
机器学习ML
深度学习DL
关于大模型的一些基础内容
一些人工智能的架构图
使用ollama在本地启动运行大语言模型
在本地部署sd使用AI生图功能
AIGC入门教程
队列
RabbitMQ消息队列
redis+mq实现秒杀功能
非结构化存储OSS
使用minio进行数据存储
非结构化文档在线预览
使用kkfileView实现在线文档预览
OnlyOffice实现文档在线编辑
全文搜索
Elasticsearch构建全文搜索系统
windowns下使用Logstash7.6.2同步Mysql数据到ElasticSearch，并使用kibana进行检索
工作流Flowable应用
Flowable基础入门知识
Springboot+mybatisplus+flowable6.5.0 开发房产审批模块
人脸识别
虹软人脸识别应用
人脸识别基础入门知识
WebSocket在线聊天
Springboot+WebSocket+redis实现在线客服系统
WebSocket基础入门
信创产业
领域驱动DDD
定时任务quartz
流媒体
流媒体服务LALMAX的部署安装与使用
使用go2rtc+webrtc-streamer在网页上播放rtsp 的摄像头视频
RPA数字员工
使用盘匠设计器进行RPA项目的开发
RPA开发过程中的一些经验之谈
本文档使用 MrDoc 发布
-
+
首页
使用ollama在本地启动运行大语言模型
## ollama官网 Ollama官网：https://ollama.com/ Ollama Github：https://github.com/ollama/ollama 直接下载相应用的版本，我这里下载了windows版本：  下载完后直接安装 ，和普通的exe程序安装一样，直接下一步下一步 完成。。 ## 搜索通义千问的大模型 在官网右上角的搜索框里搜索通义千问的大模型，也就是qwen  选择大模型，b代码10亿，7b模型 代表 70亿个参数，这个值 越高，对电脑的配置要求越高。 **如果电脑配置不是特别高，建议选择7b及以下的模型。**  将下面的命令粘贴到cmd窗口进行运行，来加载通义 千问的7b模型。 ~~~ ollama run qwen:7b ~~~ 加载完之后通过 ollama list 来查看本地已经下载的大模型 ~~~ ollama list ~~~ 切换运行模型： ~~~ ollama run qwen:7b ~~~ 删除模型： ~~~ ollama rm qwen:7b ~~~
superadmin
2024年7月2日 08:43
转发文档
收藏文档
上一篇
下一篇
手机扫码
复制链接
手机扫一扫转发分享
复制链接
Markdown文件
分享
链接
类型
密码
更新密码