🎙️ Lecture 01.8: 【AGY 深夜科技沙龍】從手寫規則到神奇猜畫:白話解密機器學習、判別式與生成式 AI 的前世今生

NOTE作者資訊 (Author Info)

🎧 Episode 01.8 錄音室開場:別急著拆解 Token!我們先來理清 AI 的家族樹!


🎙️ 第一幕:傳統寫程式 vs 機器學習(Machine Learning)的物理轉折


🎙️ 第二幕:判別式 AI(Discriminative AI)——最嚴格的監考老師與寶可夢圖鑑


🎙️ 第三幕:生成式 AI(Generative AI)——從虛空具現化的藝術系大師


🎙️ 第四幕:從「判別」到「生成」的大躍進——為什麼 AI Agent 會誕生?


🎧 Podcast 聽眾 Q&A 節目收尾與 NVDA 無障礙閱讀筆記

📌 Episode 01.8 核心技術點名總結


👉 下一堂課:Lecture 02 跨越時空的記憶:掌握 agy -c 與 /resume 工作階段管理
👉 下一堂課:Lecture 03 字母湯與百億旋鈕迷宮:大語言模型(LLM)的物理長相、參數與微調密碼
👉 回課程大綱:學習地圖

🔥 專家級深度思考與實戰挑戰 (Expert Challenge)

以下題目專為尋求真正硬核觀念與專家級實戰能力的學員設計。題目無法從講義表面抄寫解答,請嘗試獨立思考後再點擊展開解析。

❓ 挑戰 1:食譜法(Rule-based)vs 考古學法(ML)在邊界條件 (Edge Cases) 處置的死穴 👉 點擊展開專家解析答案

【實戰情境問題】:傳統寫程式(食譜法/if-else)在處理無障礙網頁按鈕辨識時,遇到未曾定義過的動態圖標(Icon Button)會直接失效;而機器學習(考古學法)在面對資料分佈漂移(Data Distribution Shift)時會產生什麼隱蔽的「自信做夢」風險?

【鑑別點說明】:測試學員是否明白機器學習模型的泛化能力(Generalization)與模型外泛化(Out-of-Distribution, OOD)失效。

【專家級解答與深度剖析】: 傳統 if-else 程式具備明確的確定性(Deterministic),沒寫到的條件會直接拋出 `KeyError` 或走 `default` 分支,容易被發現。但機器學習模型即便面對完全沒見過的 OOD 資料,依然會將輸入強制投影到 latent space 中,並以極高的 Softmax 置信度分數(如 99.8%)輸出一個完全錯誤的類別(例如將「關閉」按鈕誤判為「播放」)。這種「隱蔽的高自信錯誤」在無障礙輔助工具中比顯性崩潰更危險。

❓ 挑戰 2:鋼之鍊金術師「等價交換」在生成式 AI 的算力經濟學實質 👉 點擊展開專家解析答案

【實戰情境問題】:生成式 AI 的「虛空具現化」看似神奇,但在電腦科學與資訊理論(Information Theory)中,它付出了什麼物理與算力代價?為什麼生成一個 Token 的能量消耗遠高於檢索一筆 SQL 資料庫紀錄?

【鑑別點說明】:從資訊熵(Entropy)、自迴歸矩陣相乘(GEMM)與硬體能耗角度深入分析生成式 AI 的成本本質。

【專家級解答與深度剖析】: SQL 資料庫檢索是 $O(1)$ 或 $O(\log N)$ 的記憶體定址與 B-Tree 查找,本質是資料的讀取。而生成式 AI 的每一個 Token 生成,都是一次百億級參數矩陣與向量的連續矩陣乘法 (GEMM),且必須經過多層 Self-Attention 的 QKV 運算與 Softmax 歸一化。這意味著 CPU/GPU 需要執行數百億次的浮點數運算 (FLOPs),並在顯存與 Core 之間搬運數十 GB 的數據。這就是生成式 AI 背後的物理等價交換代價。