在zola主题博客中,引入搜索功能 html添加搜索按钮,并引入css,js文件 {% if config.build_search_index -%} <li> <span id="search-ico" class="ms-Icon…
小红书笔记
查看全部 →胡思乱想
查看全部 →Blog
在zola博客里面增加搜索功能
Quivr + Ollama 本地部署知识库
部署环境:Windows 安装 supabase向量数据库 安装Windows下的包管理器scoop set-executionpolicy remotesigned -scope currentuse iex (new-object net.webclient).downloadstring(…
调用本地ollama api服务
用程序调用api搭建自己的ollama ollama api /api/tags:罗列本地模型 /api/show:显示模型信息 /api/copy /api/delete /api/pu…
关于大模型的使用成本计算
虽然日常用不了,但是可以简单了解下 预训练成本 $预训练成本 = ( 模型参数量 ✖️ 6 /A100 卡每秒的计算次数) ✖️ 显卡的租用成本 ✖️ 训练数据的 token 量$ 常量 A100 卡每秒的计算次数 = 312 TFLOPS/Watt (官方公布,每秒可以进行 312T 次浮点…
Prompt学习
学习资料:提示工程指南 1、模型设置 Temperature:值越小,结果越准确;反之,更具有想象力。 Top_p:和Temperature一样的效果。 Max Length:大模型生成的Token数。(Token太长,容易冗余且成本高) Stop Sequences:阻止模型生成 token…
windows下open webui+ollama+sd webui
说明:安装使用环境是在Windows下 1、给ollama一个好看的交互界面(open webui) 1.1、ollama安装 安装:在ollama官网下载windows版本进行安装 模型列表:支持的模型列表可以在ollama模型仓库查看 模型下载:使用ollama pull …
ollama+one api+fastgpt+微信,实现微信机器人
之前使用的微秘书对微信接口收费了,没法免费接入大模型。只能换成chatgpt-on-wechat接入了 往期参考文章 1、 FastGPT,ChatGLM2,WeChat本地化部署实战 2、obsidian中使用ollama部署llama3,实现本地对话 1、ollama安装 ollama安装参…
obsidian中使用ollama部署llama3,实现本地对话
1、ollama安装使用 1.1、ollama Get up and running with large language models locally. 1.2、支持的模型列表 1.3、下载安装 1.4、使用(基于终端操作) 1.4.1、下载模型(以llama3为例) ollama p…
Linux中docker使用
安装(Ubuntu) sudo apt install docker.io 使用 sudo docker ps -a //查看所有运行的容器 sudo docker stop {容器ID} //停止{容器ID} sudo docker stop $(dock…
git push报错解决
1、git push报错 remote: Permission to {xxx} denied to {xxx}. 致命错误:无法访问 '{xxx}':The requested URL returned error: 403 2、解决 修改.git -> config…