黃仁勳主題演講摘要
「人工智慧時代，如何帶動全球新產業革命」
< 開啟下一個旅程 >
黃仁勳在開場背景秀出台灣地圖及合作供應鏈廠商名稱，表示台灣是輝達珍貴
夥伴的集中地，一切從這裡開始。他說上次來獲頒台大名譽博士學位，當時演
講說了「Run,don't walk」，因此要用跑的。
演講概要提到先是現在所作所為對所有產業的影響，生成式 AI 帶來的衝擊、前
景、機會、未來發展，及生成式 AI 未來藍圖。
黃仁勳說現在令人振奮，因為我們要重新啟動電腦產業，開啟下一個旅程。例
如加速運算跟人工智慧都在輝達 Omniverse 中運行，此會重新打造電腦產業。
------------------
< 新的運算時代正在開始 >
今天運算方式在 1964 年 IBM 電腦問世就出現，2007 年 iPhone 問世後進一步
將電腦裝進口袋。過去 60 年中運算架構僅少數重大轉變，但近期 CPU 性能提
升趨緩，現階段經歷運算膨脹，全世界資料跟用電量不斷增加，成本大增，因
此輝達致力透過平行運算來加速運算，採 CPU+GPU 方式，等同有分離且獨立的
專用處理器去運算資料；包括電腦圖形、影像處理、實體模擬、組合最佳化、
圖形處理、資料庫處理、深度學習等，很多類型的演算法都有助於透過平行運
算來加速運算，就像是將過去需要 100 個時間單位的事情加速到 1 個單位時
間。
-----------------
< 函式庫正在開拓新市場 >
但加速運算不簡單，沒有馬上改好的程式可以跑快一百倍，故輝達重寫 CPU 演
算法，讓軟體可在 GPU 上進行加速運算，也建立了 CUDA 加速運算函式庫及相
關的生態系平台，目前已有 350 個專門領域函式庫。
--------------------
< CUDA 實現良性循環 >
如同蛋生雞，雞生蛋；要有足夠應用，才會有足夠開發人員投入，未來才有更多應用出現；CUDA 全球現已有超過 500 萬名開發人員，在各產業領域。透過
加速運算使開發速度能提高兩三百倍，形成良性循環，讓運算邊際成本下降，
演算法才會被廣泛應用；而輝達的晶片也越來越便宜，驅動更多開發人員，變
成一個新時代。當初若沒有 CUDA，現在便不會有生成式 AI 應用，更沒有現在
的榮景。
過去大家在 PC 產業在做的事，譬如在 1000 美元的 PC 上增加一個 500 美元的
GPU，效能會大幅提升，輝達也將此概念導入資料中心，在 10 億美元的資料中
心，增加 5 億美元的 GPU，就變成一座 AI 工廠，可以減少大量損失，包括金
錢和能源，呼應自己常講「買越多…省越多」(The more you buy, the more you
save)。
----------------
< 數位孿生 >
黃仁勳說，數位孿生是一種反映真實世界的模型，輝達現在可以打造地球的數
位孿生模型，預測地球未來變化，避免天災發生，更了解氣候變遷對人類影
響。Earth-2 是生成式 AI 模型，融合 AI、物理模擬和觀測數據，以更高解析度
生成，速度比傳統物理方法快 1000 倍。台灣中央氣象局已用這些模型預測颱風
登陸地點，精細度可達數十米之內，未來也可隨時提出連續性的天氣預測；接
下來還可模擬建築物周圍氣流如預測「下沖」現象。
----------------
< 全球新產業革命 >
2012 年輝達發現 CUDA 很好用，第一次開始接觸人工智慧，研究深度學習等技
術；過去幾十年前的演算法，現在因為資料跟算力進步可以執行；2012 年後陸
續有 TensorRT GPU、Mellanox 光纖等其他技術整合在系統內。輝達做出的第一
台 DGX 給了 OpenAI，2017 年 Transformer 出現可以做非監督式學習跟自然語言
模型，最終到了 2023 年已有數百萬人在用 OpenAI 的產品 ChatGPT。
ChatGPT 前的 AI 主要是感知跟偵測的能力，而 ChatGPT 是第一個生成式 AI；AI
創造出許多詞元(token)，構成 AI 工廠，一如特斯拉發明交流電發電機(AC
generator)，現在輝達發明「AI 發電機」(AI generator)；詞元(token)可以是氣
候、物理學等，各種東西都可以轉換成詞元，例如車用控制訊號也可以；現在
是生成式 AI 時代，生產的產品就是詞元。原本 IT 產業產值三兆美元，現在將變
成製造業工廠，服務全球 100 兆的各類型產業，就是全球新的產業革命，而我
們創造的新產品就是「詞元」。
< 生成式 AI 推動全棧重塑 >
AI 將成為製造業，掀起新的工業革命，創造新的大宗商品；相較過去電腦不只
能產出資訊，還能產出技能；也就是說人們不只能獲得資訊，還能獲得各種協
同合作者，例如輝達預先訓練的 NIMs(推論微服務)。400 多種 NIMs 推論微服務
整合在一個容器中，有 CUDA 就能執行。未來 NIMs 將成為各種 AI 代理，各自
負責不同任務，包括客服、護士、顧問等。把這些 NIM 連結到大型應用中，可
以拆解、了解任務；過去應用程式要有指令，現在 NIM 組成 AI 團隊，按需求叫
出專家，組成專家團隊，由 NIM 拆解工作交給成員工作完成再將結果交回，如
同一個人類團隊。
黃仁勳表示輝達已從事「數位人類」計畫一段時間，可跟人互動更溫暖跟有同
理心，還有現實感鴻溝要跨越。他以影片展示 AI 能像人類般互動，用 AI 模擬
出外觀的人類數位外型，甚至細緻到毛細孔可見，還會模擬人類語音、說各種
語言，提供例如裝潢、用藥等諸多建議，未來甚至可能還會有 AI「品牌大使」。
他表示「數位人類是我們的願景」，主要的 ACE(Avatar Cloud Engine)引擎已在雲
端跟 PC 上運行，多種使用 RTX GPU 的 AI PC 已在出貨，將有超過 200 款 RTX AI
的筆記型電腦；PC 會是數位人類的重要平台，幫助人們執行多種任務。
-----------------------
< Blackwell 平台 >
黃仁勳說，Transformer 讓我們可使用非監督學習處理大量資料；而 AI 開始需要
了解物理定律，Blackwell 即是為了此時代而發展；兩枚晶圓廠可出貨的最大裸
晶間，以每秒 10TB 傳輸，透過 Grace CPU 來連結，擁有第二代 Transformer 引
擎，發展出第一個 RAS 可靠性偵測引擎，另加入了資料壓縮跟解壓縮引擎；是
有史以來最強的 GPU。而為滿足各應用需求，Blackwell 產品範圍將從單一 GPU
到多 GPU、從 x86 架構到採 Grace 架構的處理器，以及從氣冷技術再到液冷技
術，都有相對應的供應商配合。
黃仁勳也點名相關供應商，包括晶圓代工的台積電，其他關鍵零組件的安費諾
(Amphenol)、奇鋐、訊凱國際(Cooler Master)、Colder Products Company(CPC)、
丹佛斯(Danfoss)、台達電光寶科等業者提供的伺服器機架、電力輸送、冷卻解
決方案。最後舞台也展示至少有 9 家台廠如華擎旗下永擎、華碩、技嘉、鴻海
旗下鴻佰、英業達、和碩、廣達旗下雲達、美超微、緯創及緯穎將利用輝達
GPU 推出雲端、地端、嵌入式和邊緣 AI 系統。
< GB200 NVL 72 運算機櫃 >
黃仁勳說在 8 年內，光靠摩爾定律不足以應付增加的運算需求，而輝達從
Pascal 到 Blackwell 將算力提升 1,000 倍；但耗能也從 Pascal 到 Blackwell 降至僅
有原先的 1/350；但我們需要更大的系統，除了氣冷式 DGX，現在還有 MGX 的
模組化系統可採液冷冷卻。現在也可以將 72 枚 Blackwell GPU 用 NVLink 連在一
起，上一代 Hopper 僅能連 8 片在一起。
黃仁勳同時展示最新的 GB200 NVL 72 運算系統，由鴻海製造將以機櫃(Rack)形
式出貨。NVL 72 採用 NVLink Switch 放置在背板上協助資料彙整，有 5000 條
線，藉由銅線的 transceiver 連結，可節省 20KW 下來做資料處理。另採用
Spectrum X 系統讓乙太網路速度增加 1.6 倍，具端到端架構，有調適性路由
器，塞車時可重新安排工序，亦可隔離雜訊讓各部份訓練分別進行；目前世代
針對幾千個 GPU 合作運行，下一世代將針對幾十萬個 GPU 合作運行。
-----------------
< 一年一個節奏 >
黃仁勳也首度揭露下一代平台名稱「Rubin」，將在 2026 年進入量產，並搭載
HBM4，據了解也將採用台積電 3 奈米製程。此次揭露自家最新產品路線圖
(roadmap)，前兩年推出 Hopper 平台，今年進入 Blackwell 平台，包括 Blackwell
GPU、NVLink 5 Switch、CXB SuperNIC 及對應的乙太網晶片，並在明年將推出
Blackwell Ultra GPU，採用 HBM3e。Rubin GPU 將是首度採用 HBM4，也將釋出
Vera CPU，並預告 2027 年還將推出 Rubin Ultra GPU。
---------------------
< 下一代 AI 浪潮 >
黃仁勳說了解物理法則的機器人時代將來臨：下一代 AI 也必須了解物理定律。
因為機器人需要執行複雜而動態的任務，故輝達推出 Omniverse 作為物理模擬
主要平台，讓機器人在裡面可以學習怎麼當機器人(Robots learn to be robots)；
例如廣運為巨大集團所打造的工廠。而 Omniverse 也成為台灣工廠進行虛實整
合的主要工具，例如鴻海和台達電的新廠建置。關於自駕車，目前 2025 年賓士
車廠會採用輝達的 Drive AV 系統，2026 年則還會有另家大車廠會採用。機器人
可視為「會走路的電腦」，人形機器人也將陸續出現，而未來屬於 AI 跟機器人
的時代。
台灣是我們的夥伴，是無名英雄，一起推動產業的復興，推動新 AI 工廠。
2024/06/02 20:23:00
記者王翊綺／台北報導
輝達（NVIDIA）執行長黃仁勳今（2）日於台大體育館進行keynote主題演講，期間談及「Earth-2 氣候數位孿生雲端平台」，The Weather Company 和台灣交通部中央氣象署率先採用新的 Earth-2 雲端 API，利用人工智慧來加速創建對全球氣候、天氣的高解析度模擬和視覺化，可模擬範圍突破性地達到 2 公里。
黃仁勳演講進行途中，以影片全程以中文介紹「Earth-2 氣候數位孿生雲端平台」，「數位孿生反映真實情況的虛擬模型世界，讓我們看見未來，是反映真實世界的虛擬模型，讓我們能從今天的行為來預測對未來世界的影響，介紹一下NVIDIA Earth-2，一個利用AI、物理模擬和電腦圖形技術來預測全球氣候的數位孿生…」
值得一提的是，影片畫面全聚焦在台灣番薯地形、台北101等，黃仁勳更在結束過後，問台下「我國語標不標準？」原來影片中的語音，並非黃仁勳「本人」所說，而是他先寫好稿，並透過「Jensen AI」替他讀稿。
什麼是 Earth-2 氣候數位孿生雲端平台？這是 NVIDIA CUDA-X™ 微服務的一部分，Earth-2 在 NVIDIA DGX Cloud™上的新雲端API 幾乎可以讓任何使用者創建以人工智慧（AI）驅動的模擬，以加速提供對全球大氣、本地雲層覆蓋到颱風和不穩定氣流等互動式、高解析度的模擬。
若與價值達 200 億美元的氣候科技產業中的公司所擁有的專有資料相結合時，Earth-2 應用程式介面（API）可以幫助使用者在幾秒鐘內提供警告和更新的預報，而傳統 CPU 驅動的建模需要幾分鐘或幾小時。
黃仁勳表示，氣候災難現在已成為常態——歷史性乾旱、災難性颶風和代代相傳的洪水以驚人的頻率出現在新聞中。Earth-2 雲端 API 致力於幫助我們更好地應對極端天氣，並激勵我們採取行動來緩解極端天氣。
【用於氣候科技的突破性生成式 AI】
Earth-2 的 API 提供 AI 模型，並採用名為 CorrDiff 的新型 NVIDIA 生成式 AI 模型，該模型採用最先進的擴散建模，生成的圖像解析度比當前數值模型高出 12.5 倍，速度提高 1,000 倍，能源效率提高 3,000 倍。它修正了粗分辨率預測的不準確性，並綜合了對決策至關重要的指標。 CorrDiff 是首創的生成式 AI 模型，可提供超解析度、綜合利害關係人感興趣的新指標，並從高解析度資料集中學習細尺度當地天氣的物理原理。
台灣交通部中央氣象署計劃利用這些擴散模型來預測颱風登陸的更精確位置。當颱風警報發佈時，首要任務是根據台灣國家災害防救科技中心等相關機構提供的高品質資訊進行早期疏散，讓人員傷亡降至最低。 在過去十年，颱風造成的死亡人數有所下降。
交通部中央氣象署署長程家平表示：「台灣是全球供應鏈的重要組成部分，為淹水風險分析和疏散準備提供所需的氣象決策資訊，是我們的核心任務之一。」
國家災害防救科技中心表示，自 2000 年以來，颱風已襲擊台灣超過 136 次，使用 Earth-2 減輕影響是提高災害資訊學品質和解析度的關鍵。
Earth-2 雲端 API 的另一個關鍵元件是 NVIDIA Omniverse™，此一個運算平台使個人和團隊能夠開發基於通用場景描述（OpenUSD）的 3D 工作流程和應用程式。
The Weather Company 是天氣數據預測和洞察領域的全球領導者，計劃將其氣象資料和 Weatherverse 工具與 Omniverse 整合，使客戶能夠構建數位孿生模型，從而得以更好地了解和首次視覺化實際天氣狀況的影響。 The Weather Company 還計劃探索在其 Weatherverse 服務、用於企業級天氣智慧的 Weather Engine 解決方案以及新的高解析度天氣建模產品中使用 NVIDIA 計分式（score-based）生成式 AI。
The Weather Company 執行長 Sheri Bachstein 表示：「為了幫助有效應對當前和未來與天氣和氣候相關的挑戰，於此刻將可靠的、全球範圍內的真實天氣數據和洞察融入數位孿生環境中比以往任何時候都更加重要，以更好地分析、規劃和模擬天氣的影響。多年來，我們一直與 NVIDIA 合作開發我們專有的天氣建模系統 GRAF 的 GPU 加速，我們計劃採用 Earth-2 API 以更低的成本創建更高解析度、更節能的模擬。」
Earth-2 API 的其他早期採用者包括Spire 和 Meteomatics 等天氣分析平台公司，這些公司可以利用其專有資料來源和資料同化來產生準確的預報，還包括新創公司 Tomorrow.io、north.io 和 ClimaSens ，它們探索氣候科技應用的新解決方案。
黃仁勳擘畫AI願景：數位人類
編譯簡國帆／綜合外電 2024-06-02 09:06 ET
人工智慧（AI）晶片霸主輝達（Nvidia）執行長黃仁勳2日擘畫他的AI願景時，提出「數位人類」（digital humans）的概念。
他表示，AI的重點是感受（perceptions），AI創造出許多詞元（token），構成AI工廠，一如特斯拉發明交流電發電機（AC generator），現在輝達發明了「AI發電機」（AI generator），也象徵規模3兆美元的IT產業，將首度能夠直接服務規模大上許多的各行各業。
黃仁勳說，AI將成為製造業，掀起新的工業革命，創造新的大宗商品，相較於過去，電腦不只能產出資訊，還能產出技能，也就是說，人們不只能獲得資訊，還能獲得各種協同合作者，例如輝達預先訓練的AI模型：Nims（輝達推論微服務）。
VIDEO 影片來源：YouTube Nvidia
他表示，未來Nims將成為各種AI代理（agent），各自負責不同任務，包括客服、護士、顧問等，而最重要的微服務就是客服agent，更進一步，許多nims能組成團隊，幫助人們解決多種問題，人們只要給一個問題，就能由Nims自行分配工作。
接著進入數位人類階段，黃仁勳表示，輝達已從事「數位人類」計畫一段時間，他以影片展示指出，AI能像人類般互動，用AI模擬出外觀的人類數位外型，甚至細緻到毛細孔可見，還會模擬人類語音、說各種語言，提供例如裝潢、用藥等諸多建議，未來甚至可能還會有AI的「品牌大使」。
他表示，「數位人類是我們的願景」，未來所有PC都將變成AI，幫助人們執行多種任務。
No comments:
Post a Comment