The Full Stack

The Full Stack

The Full Stack (Full Stack Deep Learning) · AI 學習 · 其他 · 提示詞

The Full Stack 是 UC Berkeley 博士校友組成的團隊推出的免費課程,教你打造 AI 產品,從資料處理、部署到 LLMOps 都有涵蓋。

The Full Stack 的介面預覽

關於 The Full Stack

About

什麼是 The Full Stack

The Full Stack 又稱 Full Stack Deep Learning,是一群 UC Berkeley 博士校友組成的教學團隊,成員在 OpenAI、Weights & Biases 與自家新創把機器學習系統送進正式環境。他們的前提很簡單:把模型訓練起來只是簡單的那一半,周邊的一切才決定產品能不能用。

教材涵蓋 AI 產品的完整生命週期。從挑一個值得做的問題開始,接著是資料與實驗管理、每週都在變的模型該怎麼測試、部署上線,以及上線之後怎麼盯著看。較新的 LLM 系列補上提示詞工程、擴增語言模型,還有聊天介面帶來的那一堆使用者體驗問題。想找 MLOps 課程的人,也能在這裡看到上線之後的營運環節。

最大的限制是時效。課程是錄影,講的是錄影當年的工具與模型能力。團隊自己在網站上寫明了這件事,讀者該把影片裡的套件名稱當成歷史案例,而不是現在的推薦清單。免費版本也沒有班級、沒有批改,更沒有講師回饋。

開始使用

  1. 打開 fullstackdeeplearning.com,選一條路線:2022 年的深度學習課程,或 2023 年的 LLM Bootcamp。
  2. 先看課程表,從「課程願景與什麼時候該用機器學習」那一堂開始,它會把後面整系列的順序講清楚。
  3. 深度學習底子不夠的話,先補 CNN、Transformer 與 PyTorch Lightning 的預備課程。
  4. 挑一個實作單元從頭做到尾,例如實驗管理或網站部署,用你自己的專案,不要用範例資料集。
  5. 訂閱電子報或 YouTube 頻道,有新一輪課程才不會漏掉。

產品資訊

快速了解 The Full Stack 的定價、支援平台與效能。

免費方案是
付費方案$0 (all course materials are free)
平台Web
開發者The Full Stack (Full Stack Deep Learning)
類別AI 學習 · 其他 · 提示詞
發布日期Aug 2018
最近更新Apr 2023
網站訪問量50.5K
網站全球排名592K
API 提供狀態否

適合對象

這項工具最適合的使用者、任務與情境。

使用者

  • 轉做 AI 的軟體工程師:課程預設你會寫 Python,所以可以跳過程式基礎,直接看他最常卡住的地方,也就是 AI 產品開發和一般應用開發的差別。
  • 已經會訓練模型的 ML 工程師:部署、持續學習與測試這幾堂,補上「 notebook 跑得動」到「真的有使用者在用」之間那道缺口。
  • 正在評估 AI 功能的產品經理與創業者:前面幾堂講什麼時候該用機器學習、ML 團隊怎麼帶,能幫你判斷這個專案值不值得投預算。
  • 學生與研究者:整份教材免費且一直掛在線上,當成大學課程的補充材料很合適。

任務

  • 判斷一個問題到底需不需要機器學習:第一堂課會比較 ML 做法與簡單規則在成本與維護上的差距。
  • 把實驗追蹤與測試建起來:實作單元示範具體工具,用來記錄每次執行、比較結果,並在上線前抓到退步。
  • 把模型從 notebook 搬到正式環境:部署與監控單元涵蓋服務化、容器基本概念,以及流量進來之後該看哪些指標。
  • 搞懂 LLM 應用是怎麼做的:LLM Bootcamp 的課程談提示詞工程、文件檢索、工具呼叫,還有讓對話介面真的能用的設計模式。

情境

  • 花幾週自己讀:九堂課加上實作單元,用零碎時間搭配正職工作也排得下。
  • 帶團隊建立正式環境的 ML 做法:主管可以指定幾堂必看,再用實作單元當共同練習。
  • 先試水溫再決定要不要付費上課:免費教材能看到教學風格與深度,再決定錢要花在哪裡。

主要功能

2022 年免費課程影片

九堂錄影課從課程願景一路講到開發基礎設施、除錯與評估、資料管理、部署、持續學習、基礎模型、團隊運作與倫理。每堂都附簡報與書面摘要,想用讀的也可以。整套一直開放,團隊也說會永久免費。

Full Stack LLM Bootcamp 錄影

2023 年 4 月的 LLM Bootcamp 多了八堂課,主題圍繞語言模型應用:提示詞工程、LLMOps、對話介面的使用者體驗、擴增語言模型,還有一堂示範如何在一小時內把 LLM 應用弄上線。這是實體活動的錄影,開放方式和舊教材一樣。

動手做的實作單元

八個實作單元搭配 2022 年課程,內容涵蓋實驗管理、資料標註、除錯、網站部署與模型監控。每個都用真的工具鏈,不是玩具範例,做完手上會有一個能上線的東西。把課程變成工作上能重複使用的能力,靠的就是這一段。

LLMOps 的實務內容

LLMOps 那堂課處理的是語言模型功能上線後的營運面:怎麼評估沒有單一正確答案的輸出、怎麼追成本與延遲,還有模型一更新行為就變掉該怎麼應付。多數團隊在第一版原型碰到真實使用者時,缺的就是這一塊。它停在第一輪選擇與延伸閱讀的層次,不是完整的工程手冊。

提示詞工程與介面設計

兩堂課把提示詞與介面設計當產品問題處理,而不是當小技巧。提示詞那堂講結構化提示、少量範例與常見失敗模式,UX 那堂看聊天介面怎麼藏住或露出系統狀態。兩堂接著看比只看一堂有用,因為好提示配上爛介面,結果還是失敗。

以專案為主線的學習路徑

2022 年課程包含一個小組專案,要交提案、里程碑與期末發表,專案發表的錄影也公開了。你可以一個人照同樣結構走:挑一個小題目,用實作單元跑一遍,再講給朋友或同事聽,順便收點意見。這些專案也讓人知道,幾週的兼職時間大概能做到多大的範圍。

優缺點

優點

  • 全部免費,簡報、實作單元與錄影都算在內,看課不用先註冊。
  • 講師在 OpenAI、Weights & Biases 與 Volition 真的把系統送上線,建議來自實務而不是理論。
  • 範圍涵蓋那些不亮眼卻決定專案成敗的部分:資料管理、測試與監控。
  • 實作單元從頭到尾都用當時最新的工具鏈,流程要搬進自己的儲存庫不難。
  • LLM 系列講到介面設計與評估,這兩塊是大多數提示詞教學直接跳過的。

缺點

  • 錄影老得快。2022 與 2023 年的工具名稱與模型能力都往前走了,任何跟版本有關的細節都得回頭查最新文件。
  • 沒有班級、沒有截止日、沒有回饋,需要外部壓力才動得起來的人很難讀完。
  • 免費版不發證書也不給證明,單靠它無法滿足正式訓練的要求。
  • 許多營運面的主題只停在第一輪選擇與提示,如果某個技術堆疊需要深入的正式環境指引,這裡會留下缺口。

常見問題

不用。網站上的課程、簡報、實作單元與錄影全部免費觀看,團隊也說 2022 年的教材永久免費。沒有付費方案,看影片也不需要註冊帳號。