Show HN：我做了一个微型 MoE/Engram 可视化工具
事件
一位开发者在机器学习学习小组中构建了一套实验工具，并用它从零训练了多个微型模型：一个稠密模型，其余为 MoE 变体。这些模型的目标是运行在浏览器中提供交互式帮助，以及部署到小型 ARM 和 RISC-V 开发板上，未来可能借助 NPU，并使用 no_std Rust 编写。
这套工具的核心是一套用 Rust 编写的数组编程 DSL，支持 REPL 和 AOT 编译，把机器学习概念作为一等语言元素，并内置可视化原语。它可通过 WASM 在浏览器运行，也能在 Apple 和 Linux 的 CLI 上运行，支持 Apple GPU 与 NVIDIA GPU 库，并借助 Ollama 提供上下文相关的帮助，还能通过动态插件式 Rust 库扩展。
开发者表示，Freetoken 让更大的 MoE 模型得以在较小显存的 GPU 上运行，这启发了他在 12G、16G、24G 显存设备上持续尝试本地大模型，并借此实验不同的智能体优化方向，包括 Engram、递归模型、分层模型和 KV 缓存压缩。这套工具定位为 Python、机器学习库、Jupyter Notebook 和 Google Colab 的替代方案，对想在低资源设备上研究 MoE 与模型压缩的开发者有参考价值。
来源
本条目由采集管线自动抓取并发布，完整内容见下方来源链接。
*采集源：Hacker News*