用 Transformer 實作 10 種業界常見 NLU 應用｜大幅提升理解精準度，解決 NLP 無法處理的問題

風迷全球 ChatGPT 背後的技術原理，如何讓你的 AI 講話像「人」？

# 製造真人對話感的關鍵技術

OpenAI 在 2022 年推出的自然語言生成模型 ChatGPT 在問世的第一時間就引起全球關注，無論是撰寫文章、語言翻譯、內容摘要或者回答問題，ChatGPT 都能提供具有組織條理、相當接近人自然對談的回應。ChatGPT 之所以能和過去生硬的 AI 對話區隔的關鍵技術，就是對語感、語意的精確分析理解和文本的推論再生產。

NLU、NLP 比一比，他們究竟有什麼差別？

# 用 NLU 解決 NLP 無法解決的問題

• NLP：讓機器能理解與分析資料，產生近似人類的理解成果，如語音、翻譯等功能。
• NLU：NLU 比 NLP 更進階，且為 NLP 的一部分。它能對處理後的資料進行語義語境情感的判斷，進行語義萃取、情緒分析、摘要、對話機器人等進階分析應用

透過 10 種業界常見應用，大幅提升「理解」精準度

# 現任 Google 機器學習開發專家手把手帶你實作

• Fill-mask 語言模型推論應用
• WikiText 訓練資料欄位&前處理
• 模型設定 & 訓練 & 儲存&載入

• 各式應用的預訓練模型推論流程
• GLUE-CoLA 訓練資料欄位 & 前處理
• 語言模型超參數設定 & 訓練 & 儲存 & 載入

• 各式應用的預訓練模型推論流程
• CONLL 2003 訓練資料前處理
• 語言模型超參數設定 & 訓練 & 儲存 & 載入

• 各式應用的預訓練模型推論流程
• WMT 翻譯訓練資料欄位 & 前處理
• 語言模型超參數設定 & 訓練 & 儲存 & 載入

• 各式應用的文本生成預訓練模型推論流程
• Tweet 推文資料爬文 & 訓練資料前處理
• GPT2 超參數設定 & 訓練 & 儲存 & 載入

• 各式對話任務預訓練模型使用流程
• Tweet 推文資料爬文 & 訓練資料前處理
• GPT2 超參數設定 & 訓練 & 儲存 & 載入

• 各式應用的雙文本分類預訓練模型推論流程
• mnli 語意矛盾識別訓練資料欄位&前處理
• 語言模型載入 & 超參數設定 & 訓練 & 儲存 & 載入

• Sentence Transformer 編碼器載入
• 文本向量 Encoding編碼

• Sentence Transformer 編碼器載入
• 文本向量 Encoding編碼

• 零樣本分類(Zero-Shot Classification)介紹&與Text Classification的區別
• 零樣本分類器載入

市面上第一堂 Transformer x NLU 實戰級課程

# 現任 Google 機器學習開發專家手把手帶你上手實作

市面上大多數的課程都是談輿情，而技術上則著重在爬蟲、資料清洗與自然語言處理，這堂課，老師把重點放在自然語言「理解」，帶你用 NLU 解決那些 NLP 無法處理的問題！