John Lu
Senior Machine Learning Engineer
John 是一線大廠的 Senior Machine Learning Engineer，實務經驗涵蓋大型語言模型 (LLM) 與視覺語言模型 (VLM) 的訓練，以及 RAG 與 AI Agent 的建構。他喜歡拆解事物的底層邏輯，再重組成可執行的程式，應用到真實問題上。曾在 PyCon APAC 與 COSCUP 擔任講者，分享機器學習應用與 On-Device ML，講題包括「TasteGram：以 TensorFlow 與 Python 進行影像美學評分」與「Kimoji：以 On-Device LLM 打造心情日記的智慧撰稿系統」。
議程：AI 攻防技術擂台：從 Jailbreak 到 AutoDAN，LLM 如何被攻破、又該怎麼防守
你的 AI Agent 上線後，使用者只要一句話，就可能讓它洩漏 system prompt、繞過安全限制，甚至說出不該說的內容。這場演講從資安視角切入 AI Safety，帶你看懂 LLM 是怎麼被攻破的，又該怎麼一層層防守。
內容分為三個部分：
1. 攻擊：從手動 Jailbreak 的角色扮演、情境包裝等，到自動化的 Greedy Coordinate Gradient (GCG) 和 AutoDAN，說明背後的最佳化原理，以及 Jailbreak 與 Prompt Injection 的差異。
2. 防禦：Prompt 層級的自我提醒、Perplexity 過濾、Guard 模型與 Circuit Breakers，並用攻擊成功率（ASR）與過度拒答率評估每道防線的效果與代價。
3. 實務：為什麼沒有單一防線萬無一失，以及如何用多層防禦設計你的 AI 應用。
我們會以原理和實作來說明各種攻防手法，並示範如何在 Gemma 開源模型上重現。本次演講將有助於建立 LLM 攻防的完整脈絡，並讓你帶走一份檢視自家 Agent 的安全檢查清單。
回到首頁