LLM Twin Course LLM Twin Course LLM Twin Course

LLM Twin Course

LLM Twin Course 是一个免费课程，向你展示如何设计、训练和部署一个准备就绪的生产标准的 LLM（大型语言模型）。这个过程涵盖了从数据收集到部署的全套流程，同时教授利用 MLOps 最佳实践，例如实验跟踪器、模型注册表、提示监控和版本控制。

为什么这个课程不同？

这个课程带你走出了孤立的脚本或笔记本电脑，学习如何构建和部署一个端到端的生产级 LLM 系统。通过学习，你将能够将自己的风格和个性集成到 LLM 中，创建一个能像你一样写作的 AI 角色，即你的 “LLM 双胞胎”。

课程学习内容：

课程将教你如何搭建一个真实世界的 LLM 系统，包括：

• 使用各种社交媒体平台的爬虫获取你的数字数据。
• 通过一系列ETL管道，清理、标准化并加载数据到 MongoDB。
• 使用 CDC 模式发送数据库更改到 RabbitMQ 队列。
• 使用流处理（Bytewax），实时清理、分块、嵌入消息，并加载到向量数据库 Qdrant。
• 创建自定义数据集，使用 QLoRA 微调 LLM。
• 使用 Comet ML 的实验跟踪器监控实验，并将最佳模型保存到 Comet 的模型注册表中。
• 通过 REST API 部署微调后的 LLM，并使用 RAG 增强提示来生成内容。

课程架构：

课程架构分为四个 Python 微服务：

1. 数据收集管道： 从社交媒体平台爬取数字数据。
2. 特征管道： 实时处理数据并加载到向量数据库。
3. 训练管道： 微调 LLM，并使用实验跟踪器监控。
4. 推断（Inference）管道： 加载和部署微调后的 LLM，生成内容。

适合对象：

对于希望学习如何使用 LLMOps 好的原则来工程化准备生产就绪的 LLM 系统的机器学习工程师（MLE）、数据工程师（DE）、数据科学家（DS）或软件工程师（SWE）而言，这个中级课程非常合适。前提是你需要有 Python、机器学习和云服务的基本知识。

如何学习？

通过 11 个实践课和开源代码，你可以自己的节奏阅读和尝试代码。尽管文章和代码完全免费，但是实际运行代码时，使用的多个云工具可能会产生额外成本。课程尽量保持成本最小，使用的云计算平台（AWS、Qwak）和无服务器工具（Qdrant、Comet）都提供了免费版本。

什么时候会使用 LLM Twin Course？

当你需要学习或提升如何构建实际生产级别的大型语言模型（LLM）时，这个课程提供了一个全面的、实践导向的学习路径。无论是想要探索自动化内容生成、个性化 AI 助手的开发，还是只是出于学术研究的目的，都可以通过学习构建一个 LLM 双胞胎来实现。这个课程帮助你在机器学习的实践应用和 MLops 领域里迈出坚实的一步。