首页 / 精选 100 讲 / 第 4 讲

AI 与芯片解读陆续推出

第 4 讲 · Karpathy:深入理解 ChatGPT 这类大模型

原片:Deep Dive into LLMs like ChatGPT

11HN 推荐分
10位推荐人
1016.3 万YouTube 播放
3 小时 31 分原片时长
2025年份 · Andrej Karpathy
Karpathy:深入理解 ChatGPT 这类大模型▶ 原片(YouTube)

内容摘要

Karpathy 三个多小时的普通观众向深度讲解:ChatGPT 式大语言模型如何构建,涵盖从预训练到后训练的完整训练栈;还给出理解其怪癖(如幻觉)的心智模型,以及如何用好它们。

原文摘要(HackerTube):Andrej Karpathy's three-hour-plus general-audience deep dive into how ChatGPT-style LLMs are built, covering the full training stack from pretraining to post-training. It also gives mental models for their quirks, like hallucination, and how to use them well.

思维导图

Karpathy:深入理解 ChatGPT 这类大模型
内容要点
漫长但易于跟随的大模型训练概览讲清基础训练与后训练的区别很好的大语言模型工作原理入门给人对大模型的直觉理解,节省时间很好的大模型高层次概览
为何反复推荐
HN 最常推荐的入门之选:清晰易懂地打下大语言模型工作原理的基础,无需高深的数学。
关键概念
llm trainingchatgptpretraininghallucinationtokenizationandrej karpathy

思维导图 · 据 HackerTube 摘要与 HN 推荐理由整理;「关键概念」为原片标签。

硅谷马顺解读核心 · 去视频号看解读

模型在“想”什么,又为什么会一本正经地胡说
硅谷马顺视频号二维码

本讲解读在视频号陆续上线 · 先扫码关注

解读视频都在「硅谷马顺」视频号按序更新,微信扫码关注,上线第一时间看。

HN 读者原话

强烈推荐 Andrej Karpathy 的《深入理解 ChatGPT 这类大模型》。

“I highly recommend Andrej Karpathy's Deep Dive into LLMs like ChatGPT”

—— Hacker News 评论 · 2026

📺 去视频号看本讲解读 · 扫码关注原片在 YouTube(海外网络)返回 100 讲列表

相关推荐

← 第 3 讲 · Karpathy:大模型一小时入门第 5 讲 · 《AlphaGo》纪录片 →