在zola主题博客中,引入搜索功能 html添加搜索按钮,并引入css,js文件 {% if config.build_search_index -%} <li> <span id="search-ico" class="ms-Icon…
小红书笔记
查看全部 →胡思乱想
查看全部 →Blog
在zola博客里面增加搜索功能
Quivr + Ollama 本地部署知识库
部署环境:Windows 安装 supabase向量数据库 安装Windows下的包管理器scoop set-executionpolicy remotesigned -scope currentuse iex (new-object net.webclient).downloadstring(…
调用本地ollama api服务
用程序调用api搭建自己的ollama ollama api /api/tags:罗列本地模型 /api/show:显示模型信息 /api/copy /api/delete /api/pu…
关于大模型的使用成本计算
虽然日常用不了,但是可以简单了解下 预训练成本 $预训练成本 = ( 模型参数量 ✖️ 6 /A100 卡每秒的计算次数) ✖️ 显卡的租用成本 ✖️ 训练数据的 token 量$ 常量 A100 卡每秒的计算次数 = 312 TFLOPS/Watt (官方公布,每秒可以进行 312T 次浮点…
Prompt学习
学习资料:提示工程指南 1、模型设置 Temperature:值越小,结果越准确;反之,更具有想象力。 Top_p:和Temperature一样的效果。 Max Length:大模型生成的Token数。(Token太长,容易冗余且成本高) Stop Sequences:阻止模型生成 token…