LLM_book

LLM_book

非常详细的大模型LLM的学习教程与笔记

Stars: 51

Visit
 screenshot

LLM_book is a learning record and roadmap for programmers with a certain AI foundation to learn Large Language Models (LLM). It covers topics such as PyTorch basics, Transformer architecture, langchain basics, foundational concepts of large models, fine-tuning methods, RAG (Retrieval-Augmented Generation), and building intelligent agents using LLM. The repository provides learning materials, code implementations, and documentation to help users progress in understanding and implementing LLM technologies.

README:


学习路线笔记:从 PyTorch 到大语言模型

这是一个有一定 AI 基础的程序员学习 LLM(Large Language Models) 的学习记录与路线图。


学习路线

1. PyTorch 基础


2. Transformer 基础

  • 学习重点:

    • 理解 Transformer 架构:位置编码、多头注意力、残差连接、LayerNorm 等
    • 掌握 Encoder-Decoder 整体流程
  • 阶段目标: 能够独立复现 Transformer 架构模型。

  • 成果:


3. langchain基础


4. 大模型之基础


5. 大模型之微调

  • 学习几种常见的微调方法:

    • 全参数微调
    • Adapter/Prefix-Tuning
    • LoRA(Low-Rank Adaptation)
    • PEFT(Parameter-Efficient Fine-Tuning)
  • 目标:在已有大模型上,快速适配特定任务。


6. 大模型之 RAG(Retrieval-Augmented Generation)

  • 学习内容:

    • 向量数据库(如 FAISS, Milvus)
    • 文档检索 + LLM 推理的结合
    • 知识增强型对话与问答系统

7. 大模型之 Agent

  • 学习内容:

    • ReAct 框架(Reason + Act)
    • 工具调用(Tool Use)
    • 多步推理(Chain-of-Thought)
    • 自主任务分解与执行
  • 目标:让 LLM 从单纯对话扩展为 能完成复杂任务的智能体


备注

本学习路线持续更新中,代码与文档将同步在 GitHub 仓库 中。


For Tasks:

Click tags to check more tools for each tasks

For Jobs:

Alternative AI tools for LLM_book

Similar Open Source Tools

For similar tasks

For similar jobs