nanochat

nanochat

nanochat是一个旨在以极低成本（如100美元）实现“最佳ChatGPT”的全栈大型语言模型（LLM）项目，其核心在于提供一个单一、简洁、可修改且依赖轻量级的代码库，涵盖了LLM从分词、预训练、微调、评估到推理以及通过Web UI提供服务的完整生命周期。该项目的一大特色是其端到端的运行脚本（如speedrun.sh），使得用户可以在单个高性能GPU节点上，通过大约四小时的训练，部署一个可供交互的类ChatGPT模型，并生成包含详细性能指标的评估报告。nanochat的设计理念强调了可访问性和认知简单性，而非复杂的配置框架，旨在成为一个易于fork和研究的强大基线，助力微型模型的发展，并作为LLM101n课程的毕业项目。