本地AI聊天

与完全在您设备的浏览器中运行的AI助手聊天。选择一个模型,您的对话绝不会被上传。

聊天模型在您的浏览器中本地运行,因此您的提示词与回复绝不会被上传,并始终保留在您的设备上。

需要快速生成摘要?试试AI文本摘要工具。

关于 本地 AI 聊天

本地AI聊天会直接在您的浏览器中运行一个真正的语言模型,由您设备的显卡负责繁重的运算,因此您的对话绝不会离开您的设备。为您的设备选择合适的模型——较小的模型下载更快、能在更多硬件上运行,较大的模型回答质量更高——首次选用某个模型时,它的权重会下载一次并被缓存,此后的对话可以立即开始,甚至离线也能使用。界面会显示您已经下载过哪些模型,让您一眼就能看出哪些能立即加载、哪些还需要一次性下载,您也可以随时移除某个模型的文件以释放空间。它适合用来起草和改写文字、进行头脑风暴、解释代码或概念,以及处理那些您不想发送给云端服务的快速提问。由于一切都在您自己的设备上运行,该模型需要一个支持WebGPU且内存充足的浏览器;在不受支持的浏览器上,工具会明确提示您,而不是悄无声息地出错。

功能特性

如何使用 本地 AI 聊天

  1. 选择一个模型——较小的下载更快,较大的回答质量更高。已下载的模型会有标记。
  2. 输入一条消息并按下回车;模型首次使用时会下载一次,此后将在本地运行。
  3. 阅读流式回复,可随时点击“停止”提前结束。
  4. 点击“新对话”重新开始,或移除某个模型的下载以释放空间。

示例

输入

Rewrite this to sound friendlier: 'Your request has been denied.'

输出

Thanks for reaching out! Unfortunately we're not able to approve this one — but I'm happy to help you find another way forward.

模型在您的设备上运行,因此提示词和回复都会保持私密。

常见错误与故障排除

常见问题

我的对话会被发送到服务器吗?
不会。模型直接在您浏览器中、在您自己的设备上运行,因此您的消息和回复都在本地处理,绝不会被上传。
我可以使用哪些模型?
您可以从多个不同大小的紧凑聊天模型中选择。较小的模型下载更快,能在更多设备上运行;较大的模型回答质量更高,但需要下载更多数据,占用更多内存。
我如何知道哪些模型已经下载过?
模型列表会标记出每个已经下载并缓存在您浏览器中的模型,让您能看出哪些可以立即加载、哪些还需要一次性下载。您可以移除任意已下载的模型以释放空间。
为什么需要WebGPU?
运行语言模型需要调用您设备的显卡,并要求其性能足够快。WebGPU是提供这种访问能力的浏览器特性;如果没有它,工具运行起来会太慢,因此会提示您改用受支持的浏览器。
我可以离线聊天吗?
在模型下载完成后可以——因为它完全在您的设备上运行,即使没有网络连接,您也可以继续聊天。
下载体积有多大?
这取决于所选模型,从最小的几百 MB 到最大的几 GB 不等。每个模型只需下载一次并会被缓存,下载前会显示其体积大小。

相关工具

全部 ArrayKit 工具