跳至主要内容

GPT4All 一个免费使用、本地运行、具有隐私意识的聊天机器人。无需 GPU 或互联网!

 


相关文章:Llama 3.1 一鍵本地部署! Meta 最強開源大模型,100%保證成功,無需GPU也能運行,可離線使用,支持 Windows、MacOS


GPT4All

一个免费使用、本地运行、具有隐私意识的聊天机器人。无需 GPU 或互联网。

M1 Mac 上的实时推理延迟

 

1.Windows 版:【点击下载

2.MacOS版:【点击下载

3.Ubuntu版:【点击下载

4.Github开源地址:【链接直达

5.本地模型下载:【点击前往

6.模型推荐:Llama3.1 、Mistral OpenOrca 软件内下载,在GPU的加速下,速度非常快!

GPT4All 的功能

探索 GPT4All 的功能。在您自己的硬件上。

GPT4all描述罗马帝国的崩溃

回答有关世界的问题

有任何问题都可以向 GPT4All 询问。

GPT4all 写一首诗。

个人写作助理

撰写电子邮件、文档、创意故事、诗歌、歌曲和戏剧。

GPT4all 的 GIF 总结了维基百科的一段内容。

了解文档

提供您自己的文本文档并接收有关其内容的摘要和答案。

GPT4all 编写Python 代码。

编写代码

获取有关简单编码任务的指导。代码能力正在改进中。

模型下载:

大小:3.83 GB内存:8GB

密斯特拉尔-7b-openorca.Q4_0.gguf

最佳整体快速聊天模型

  • 快速响应
  • 基于聊天的模型
  • 由 Mistral AI 训练
  • 在通过Nomic Atlas管理的 OpenOrca 数据集上进行了微调
  • 已获得商业用途许可
大小:3.83 GB内存:8GB

米斯特拉尔-7b-指令-v0.1.Q4_0.gguf

最佳整体快速指令跟随模型

  • 快速响应
  • 由 Mistral AI 训练
  • 未经审查
  • 已获得商业用途许可
大小:3.92 GB内存:8GB

gpt4all-falcon-q4_0.gguf

模型速度非常快,质量很好

  • 最快的响应
  • 基于指令
  • 由TII培训
  • 由 Nomic AI 微调
  • 已获得商业用途许可
大小:3.56 GB内存:8GB

orca-2-7b.Q4_0.gguf

  • 基于指令
  • 由微软培训
  • 不能用于商业用途
大小:6.86 GB内存:16GB

orca-2-13b.Q4_0.gguf

  • 基于指令
  • 由微软培训
  • 不能用于商业用途
大小:6.86 GB内存:16GB

Wizardlm-13b-v1.2.Q4_0.gguf

最佳整体较大型号

  • 基于指令
  • 给出很长的回复
  • 仅用 1k 高质量数据进行微调
  • 微软和北京大学培训
  • 不能用于商业用途
大小:6.86 GB内存:16GB

努斯-爱马仕-llama2-13b.Q4_0.gguf

非常好的模型

  • 基于指令
  • 给出很长的回应
  • 包含 300,000 条未经审查的说明
  • 由 Nous Research 培训
  • 不能用于商业用途
大小:6.86 GB内存:16GB

gpt4all-13b-snoozy-q4_0.gguf

整体模型非常好

  • 基于指令
  • 基于与 Groovy 相同的数据集
  • 比 Groovy 慢,但响应质量更高
  • 由 Nomic AI 培训
  • 不能用于商业用途
大小:3.54 GB内存:8GB

mpt-7b-聊天-合并-q4_0.gguf

模型不错,架构新颖

  • 快速响应
  • 基于聊天
  • 由 Mosaic ML 训练
  • 不能用于商业用途
大小:1.84 GB内存:4GB

虎鲸-mini-3b-gguf2-q4_0.gguf

具有新颖数据集的新模型的小版本

  • 基于指令
  • 解释调整后的数据集
  • Orca 研究论文数据集构建方法
  • 不能用于商业用途
大小:1.74 GB内存:4GB

重复代码-v1_5-3b-q4_0.gguf

在堆栈的子集上进行训练

  • 基于代码完成
  • 已获得商业用途许可
  • 警告:不适用于聊天 GUI
大小:8.37 GB内存:4GB

starcoder-q4_0.gguf

在堆栈的子集上进行训练

  • 基于代码完成
  • 警告:不适用于聊天 GUI
大小:3.56 GB内存:8GB

裂痕编码器-v0-7b-q4_0.gguf

接受过 Python 和 TypeScript 集合培训

  • 基于代码完成
  • 警告:不适用于聊天 GUI
大小:0.04 GB内存:1 GB

全MiniLM-L6-v2-f16.gguf

LocalDocs 文本嵌入模型

  • LocalDocs 功能所必需的
  • 用于检索增强生成(RAG)
大小:3.83 GB内存:8GB

em_german_mistral_v01.Q4_0.gguf

基于 Mistral 的德语应用模型

  • 快速响应
  • 基于聊天的模型
  • 由埃拉米德培训
  • 对德语指令和聊天数据进行了微调
  • 已获得商业用途许可

评论

此博客中的热门博文

解决 ClouDNS 域名申请 CloudFlare SSL 证书问题

Text.  在上篇文章,我讲解过了如何在 ClouDNS 上申请自己的免费二级域名。但是如果使用这个域名并配合 CloudFlare 的 SSL 证书的话,可能会出现这个问题。在这篇文章中,我们就着手来解决这个问题 准备材料 ClouDNS 域名 CloudFlare 账号 部署步骤 打开 CF 的控制面板,然后进入到自己的域名。转到 SSL 中的 Edge Certificates 页面,找到类似 *.xx.cloudns.biz, xx.cloudns.biz 的选项,点击展开,然后复制里面的 TXT 记录和值备用 打开 ClouDNS 的域名 DNS 的 TXT 解析页面,然后点击 “Add new record” 按钮,创建 TXT 记录 将 CF 的解析值填写进来 等待大概 15-30 分钟,然后 Status 出现 “Active” 即可

解决 ClouDNS 域名无法在 CloudFlare DNS 解析的问题

Text. 在我们将 ClouDNS 域名 CloudFlare 之后,估计大家可能发现了一个问题:如果在 CloudFlare 的 DNS 解析这个域名,那这个域名有可能无法使用。这是因为不知道啥的原因,ClouDNS 的域名 DNS 还未完全转接给 CloudFlare 进行托管。这篇教程中,我就来和大家一起来解决 ClouDNS 域名无法在 CloudFlare DNS 解析的问题。 准备材料 ClouDNS 域名及账号 CloudFlare 账号 解决步骤 打开 CF 的 DNS 控制面板,解析自己的域名,并关闭小云朵 我们这时可以尝试 ping,可以发现是很大概率是 ping 不出来的 这时,我们回到 ClouDNS 的域名解析页面,添加一条和 CF DNS 相同样的记录 等待 ClouDNS 解析好之后,再次尝试 ping,如果 ping 出来的 ip 是解析好的 ip,即可代表成功。

节点客户端推荐:Karing,支持 Win / Mac / 安卓 / iOS,并附使用教程

  相信有些小白肯定和我几年前刚入坑一样热衷于使用 XX VPN 这种软件觉得一键上手挺容易,而不去使用机场、自建节点。但是这种 VPN 来说肯定比自建节点来讲是不安全的。那么我们有没有一款软件可以让小白去使用机场、自建节点呢?这篇文章介绍的 Karing,就是这种软件。下面我来和大家一起了解并使用这款软件 准备材料 Win / Mac / 安卓 / iOS 平台的设备 步骤 如为 Win / 安卓设备,打开他们的项目: https://github.com/KaringX/karing/releases ,然后根据自己的平台下载对应的安装包。如为 Mac / iOS 设备,直接在 App Store 搜索 Karing / Karing VPN 安装即可 打开 Karing,这里我们选择简体中文,点击“下一步” 分流规则这里按照默认即可,点击“下一步” 在这里我们可以通过订阅 / 节点链接、导入配置文件和扫码来添加节点 这里就以添加订阅为例,在配置链接处复制粘贴订阅链接,然后填写备注,最后点击右上角按钮添加即可 点击中间的开关按钮,启用代理。这里程序会挑选出延迟最低的节点供你链接 可以点击最下面的框,然后手动选择某一节点进行链接 可以在设置→我的配置处,管理自己的订阅配置 Text. Text.