一龍馬/AI 情報站讀懂消息背後的脈絡
星期三
搜尋

主線 minimind-3 為約 64M 參數,另提供 198M-A64M 的 MoE 版本、資料集、評測工具、OpenAI 相容服務端及簡易 WebUI

Python · ⭐ 56,991 · 🍴 7,411 · 🔥今日 +1,005

中文摘要

MiniMind 是從底層 PyTorch 實作的小型語言模型教學與實驗專案,涵蓋分詞器、預訓練、SFT、LoRA、DPO、PPO/GRPO/CISPO、工具使用、Agentic RL、蒸餾及 MoE,並相容多種常見訓練與推論生態。主線 minimind-3 為約 64M 參數,另提供 198M-A64M 的 MoE 版本、資料集、評測工具、OpenAI 相容服務端及簡易 WebUI。README 標榜的「2 小時、3 塊錢」只是在單張 NVIDIA 3090 上完成一輪 SFT 的實測與對應租用成本,不能解讀成從零完成全部預訓練的時間與費用。

一龍馬判讀

它適合學生與開發者用有限硬體理解完整 LLM 訓練鏈,而不是直接取代大型商用模型;若拿宣傳數字估算完整訓練成本,會嚴重低估資料處理、預訓練與評測資源。

原文節錄

jingyaogong/minimind

![logo](./images/logo.png) ![visitors](https://visitor-badge.laobi.icu/badge?page_id=jingyaogong/minimind) [![GitHub Repo stars](https://img.shields.io/github/s

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

🧠 Train a 64M-parameter LLM from scratch in just 2h!

收錄日期
2026-09-02
來源
github.com/trending
抓取時間
2026/09/02 05:50(台北)
來源資料
Python · ⭐ 56,991 · 🍴 7,411 · 🔥今日 +1,005