Tac 赞助

一只会摇尾巴的
聊天伙伴。

Taco 是一只住在你电脑里的马尔济斯。它用 Mint 训练出的中文模型说话,不需要联网,双击就能见面。

36.6 MB · 无需安装 · 全程离线 · CPU 即可

免费下载 Windows 版 先读卷首语 ↓
会摇尾巴的聊天伙伴

卷首语

它先是一只小狗,
然后才是 AI。

Taco 不是聊天机器人,它先是一只小狗。它有六种心情,开心的时候尾巴轻轻摇,兴奋的时候摇个不停,困了会打盹,黏人的时候会撒娇。它记得你们聊过的每一句话,而这些对话只存在你的电脑上,不经过任何服务器。

它的脑子是 Mint 训练出来的:Mint 是一个用 Rust 从零写出来的框架,连 GPU 上的 CUDA 核函数都是手写的。它训练出的模型,Taco 直接就能用。训练在 Mint,生活在 Taco。

章一 · 性格

它有脾气,
也有记性。

同一句话,它开心时和困倦时回答得不一样。尾巴摇多快、眼睛眨不眨、说话什么口气,都由心情决定。你可以随时调节它的"温度",也可以切换人格,让它更黏人,或者更顽皮。

「它记得你们聊过的每一句话。」

对话历史自动保存在程序旁边的 taco_state.json 里。关掉再打开,它还认得你。没有账号,没有云端,记忆只属于你这台电脑。

  • 六种心情:开心 · 兴奋 · 平静 · 困倦 · 亲昵 · 顽皮
  • 尾巴摇速随心情变化,兴奋 2.2×,困倦 0.2×
  • 温度可调 0–1,默认 0.7;多轮对话有记忆

章二 · 心情

六种心情,
一个尾巴。

点一点侧栏里的心情,看看 Taco 会怎么说话。界面颜色与布局取自应用本体(gui.rs)。

Tac 会摇尾巴的聊天伙伴
就绪
与 Taco 聊天
你好呀 Taco!
20:31
汪汪！你来啦，我好开心！
20:31
汪！今天见到你好开心，尾巴停不下来。
20:32
汪！想说点什么……
模型已就绪 离线 · 只存本地 · v1.0.0
图 1 · Taco 主界面示意,颜色、布局与宫崎骏风格插画取自应用本体(gui.rs)

章三 · 试玩

先聊两句,
再决定带它回家。

下面是真的在跑模型——回复由服务器上这个 Taco 的模型实时生成(约 500 万参数)。它脑子还小,偶尔会犯傻,请多包涵。

与 Taco 聊天 真实模型 · 实时生成

由服务器上的 Taco 模型实时生成 · 约 500 万参数 · 体验完整的它请下载

章四 · 与它相处

三件小事。

壹

开箱即聊

37 MB,模型内置在程序里。不用装运行时,不用下载模型,不要求显卡,断网也照样摇尾巴。

贰

你的电脑,你的对话

每一句话都保存在程序旁边的 taco_state.json 里。没有账号,没有服务器,没有上传。

叁

终端里也能撸狗

taco --cli 直接进入终端模式;taco -model=xxx.json 可以换成任意 Mint checkpoint。终端里还能 temp 0.5 调温度、persona 黏人 换人格、clear 清空记忆。

$ taco --cli
汪汪!我准备好啦,你想聊点什么?
你 > 今天心情怎么样?
Taco > 开心!因为你在跟我说话,尾巴摇个不停!

以上为示意输出。

章五 · 它的脑子

我的脑子,是 Mint
一手训练出来的。

Mint 是一个用 Rust 从零写出来的训练框架:Transformer 是手写的,反向传播是手推的,连 GPU 上的 CUDA 核函数都是自己写的,不依赖任何深度学习框架。

两个项目,一条线:训练在 Mint,生活在 Taco。

阅读 Mint 技术解读 下载 Mint,训练自己的小狗 Mint 源码仓库

附 · 获取

把 Taco 带回家。

Taco for Windows

v1.0.0 · 36.6 MB · Windows 10/11 x64 · 无需安装

免费下载

下载后双击 taco.exe 就能聊。程序已用自签名证书签名,Windows 仍会提示「未知发布者」,选「仍要运行」即可。

SHA-256 016B98CC 1D80CF83 484BBF7E 6B11201E 08AE103C F9427CC0 B198C2E8 E97377D9

不需要显卡,不需要联网,对话不会离开你的电脑。进阶:taco --cli 终端聊天 · taco -model=xxx.json 换模型 · Mint v1.0.0 训练端

附 · 命令行

终端里,
也能撸狗。

不想开窗口?taco --cli 直接在终端里跟它聊,启动时还能带参数:

$ taco                  # 图形界面(双击 taco.exe 也一样)
$ taco --cli            # 终端聊天
$ taco -model=x.json    # 换一个 Mint checkpoint
$ taco -h               # 查看帮助

进入终端后,这些命令随手可用:

help
查看命令一览
temp 0.5
设置采样温度,范围 0–2,越高越跳脱
persona 黏人
切换人格:小狗 / 黏人 / 顽皮
model
查看当前模型与温度信息
clear
清空对话记忆,重新开始
quit
退出聊天(exit、q 也行)

答读者问

你可能想问的。

需要联网吗?
不需要。模型内置在程序里,聊天全程离线。
需要显卡吗?
不需要。Taco 在 CPU 上推理,普通笔记本就能跑。
聊天记录存在哪里?
程序旁的 taco_state.json,只有你的电脑能读。
能换模型吗?
能。taco -model=xxx.json 可以加载任何 Mint checkpoint,应用内设置里也能切换。
能停止或重新生成吗?
能。生成中可点「停止」,回复后点「重新生成」,每条消息都能「复制」。
只有 Windows 版吗?
目前发布的是 Windows 版;代码可以在其他平台自行编译。