虚拟“世界”长这样，左下角显示的 CraftGPT 就是这名牛人创造的 GPT 项目，另外他还搭配了虚拟键盘，方便与这个 GPT 进行对话：

那么，在方块世界里运行 AI 模型，他究竟是怎么做到的？我们不妨一起看看！

然后就有了后续的 CraftGPT。

CraftGPT 的内部构造非常复杂，包括各种核心组件：

分词器（Tokenizer）

位置嵌入（Positional embedding）

词元嵌入（Token embedding）

层归一化（LayerNorm）

240×240 矩阵乘法器（4 个）

多头注意力机制（Multi-headed attention）

键值缓存（KV cache）

960×240 矩阵乘法器

修正线性单元（ReLU）

240×960 矩阵乘法器

以及第二层到第六层的循环处理

解嵌入矩阵乘法器（Unembedding matrix multiplier）

下一词元选择（Next token selection）

输出词元（Token output）等等。

那他到底是怎么做到的？

一切的关键就在于《Minecraft》里的红石。

在《我的世界》游戏中，红石电路就像电子元件，可以模拟真实世界的电路和逻辑系统。玩家可以用红石粉、红石火把、活塞、按钮、拉杆等道具搭建开关、计时器、门禁系统，甚至更复杂的计算装置。

简单来说，红石电路让方块世界里的物体能够“动起来”，可以传递信号、触发动作，进行加减运算和逻辑判断，所以它常被玩家用来建造自动化机器、迷宫机关，甚至像这次 CraftGPT 这样复杂的计算模型。

上面提到的分词器、矩阵乘法器等组件，全部都是靠红石搭建出来的。Sammyuri 还特别说明，这套系统完全没有使用命令方块或数据包。

模型本身有 5,087,280 个参数，用 Python 在TinyChat 数据集上训练，内容都是一些基础英语对话。

对于 AI 爱好者来说，CraftGPT 的技术细节也非常有趣：它的 embedding 维度为 240，词汇表大小为1920 个 token，总共由6 层组成。

为了节省计算资源，Sammyuri 补充道，大部分权重被量化为 8 位，不过 embedding 和 LayerNorm 的权重分别保留了18 位和 24 位的精度。

Sammyuri 还把 CraftGPT 核心给开源出来了：https://github.com/sammyuri/craftgpt

视频里的演示效果是模型表现最好的情况，并不代表它平时的平均水平。

它确实可以用，但最大的问题是……你得等上好几个小时，它才能回你一句话。Sammyuri 称，这套系统哪怕只是回答一个很简单的问题，也可能需要两个小时才能完成。而要在合理时间内运行 CraftGPT，MCHPRS（Minecraft 高性能红石服务器）是必不可少的。

毕竟 CraftGPT 是用原版红石机制搭建的，理论上在原版 Minecraft 中也能运行，但如果不提高 tick 速率，生成一次回复可能要 10 年以上！所以，如果你不想等那么久，就必须先按照说明安装 MCHPRS。

即便使用了 MCHPRS，生成一次回复仍可能需要几个小时。因此，Sammyuri 建议玩家先在模拟器里测试自己的输入，也可以尝试不同的随机种子，以便更高效地查看模型的输出。

《我的世界》的创意天花板又被刷新

很多网友在亲眼见证了 CraftGPT 项目之后，虽然觉得太离谱，但也不得不承认，这也颇为有趣了。

《我的世界》里的限制只有人类的创意而已。其实在 CraftGPT 之前，Minecraft 里已经出现过不少让人震惊的红石作品，比如能够独立运行的 16 位 CPU，以及那台能在游戏里运行 1993 年版《毁灭战士（DOOM）》的IRIS 电脑。

此外，还有玩家在 Minecraft 中构建完整的 CNN，这还是去年的事。

更早之前，有人在 Minecraft 里搭建 CPU：

还有一个用红石实现神经网络的项目：

甚至有人提出在游戏里实现互联网的想法——你可以用命令方块传输输入输出，再用脚本处理实际计算。

对于 CraftGPT 的作者 Sammyuri来说，他曾在游戏里用红石搭建过一台“1Hz CPU”。而 CraftGPT，无疑又把“玩家造疯了”的天花板往上抬了一截。

网友们也纷纷表达了惊叹：

@myrmatta1：给好奇的朋友们参考一下，CraftGPT比 GPT-1 小大约 23 倍，甚至比 GPT-3 小175,000 倍！至少在参数数量上是这样的。

@luna1534：光是搭建4 兆字节的内存本身就已经够疯狂了，但他还用这 4 兆字节去创造出一个能运行的 AI，这个 AI 的能力远超 10 年前开发的同类系统。这不仅是《Minecraft》里最令人惊叹的壮举之一，也是在计算机领域真正令人佩服的成就。

来源：

https://www.youtube.com/watch?v=VaeI9YgE1o8

https://www.pcgamer.com/software/ai/the-gamers-have-done-it-again-this-time-building-a-functional-chatgpt-in-minecraft-but-before-you-get-too-excited-it-takes-literally-hours-to-provide-a-response/

https://x.com/tokenbender/status/1972670561689165906