机器之心报道
编辑:杜伟
不得不说,Llama 2 的「二创」项目越来越硬核、有趣了。
自 Meta 发布开源大模型 Llama 2 以来,围绕着该模型的「二创」项目便多了起来。
此前 7 月,特斯拉前 AI 总监、重回 OpenAI 的 Andrej Karpathy 利用周末时间,做了一个关于 Llama 2 的有趣项目 llama2.c,让用户在 PyTorch 中训练一个 baby Llama 2 模型,然后使用近 500 行纯 C、无任何依赖性的文件进行推理。
今天,在 Karpathy llama2.c 项目的基础上,又有开发者创建了一个启动 Llama 2 的演示操作系统,以及一个调用用户模式助手进行 Llama 2 推理的内核模块。该项目名为 Llama 2 Everywhere(简称为 L2E)。
不过,作者也表示,当前的系统要求是 512MB RAM 和 x86_64(64 位)PC,可用性有待提升。
同时,这个项目还藏有一些彩蛋,比如《毁灭战士》游戏,不过必须解答谜题才能找到它。
项目地址:https://github.com/trholding/llama2.c
Andrej Karpathy 也转发了这个新项目,表示它具备了「独立运行、二进制、便携和可启动」等特性。他预计自己的 llama2.c 项目将走向成功,这个新项目扩展了想象力。
L2E 得到了各路网友的认可,有人表示,这真是太棒了。基本上可以在任何旧笔记本上启动,并且可以仅在 CPU 上运行,8G 内存就够了,16G 更好。