股癌ep333_輝達

股癌EP333 | ⚙【NVIDIA 輝達】

by 艾瑪 – 最後更新日期: 2023-03-27

我!復!活了!好久沒寫癌大筆記了,精彩精彩!

身為一個Nvidia股東,本集一定要聽起來的啊!

NVIDIA GTC 2023 Keynote 

⬆️ 設定可以選中文字幕

癌大看到的點

  • 老黃在GPU的佈局長達10~20年以上,在尚未看到相關應用之前,就把基建實力給打好。
    現在OpenAI的崛起帶動GPU的強烈需求,就是最好的證明。
  • 雖然現階段尚在庫存調整中,許多公司的稼動率都往下,有打底,但目前尚未看到復甦現象。
    GPU最常使用的伺服器晶片為最先進的3奈米、5奈米、甚至2奈米,但也有7奈米,而7奈米的庫存可能會因為現在GPU話題正夯,許多公司想切入,而解決了7奈米的稼動率問題

➡️ 一件事引起的蝴蝶效應是我們無法預知的

  • 面板方面,因為中國人愛打網咖,在解封後,網咖業者快速更新設備,而讓庫存開始流動。
    ➡️ 這就是點火的「點」,當找到點以後,就可以去想像可能影響的事物了!

輝達端出的菜

  • 是代工廠+雲服務的概念
  • 可以變成AI to B 的CSP (cloud service provider)
  • 目前會綁在Azure跟Oracle裡面,提供的服務是「DGX Cloud」

由於開發人工智慧技術需要強大又昂貴的超級電腦,因此輝達計畫將這些超級電腦出租給幾乎所有企業,讓更多開發商有機會一次存取上萬顆輝達晶片,這項服務名稱為「DGX Cloud」。

資料來源:Nvidia:AI迎來「iPhone等級革命」,人人可租用 DGX Cloud 生成自家 ChatGPT
  • DGX Cloud 的租金 ➡️ 每月3,7000美元,能使用輝達GPU的運算效能,用 「A100」或「H100」的Tensor core GPU訓練出企業需要所需的模型
  • 輝達的公有雲服務 ➡️ 企業不需要自己蓋機房,只要付月租費,就可以做出自己的東西

語言模型 NeMo

文本類型服務,ex. chat GPT,企業可以用來訓練自己的客服(chat bot)

視覺圖像模型 Picasso

生物模型 BioNeMo

識別病毒架構,用來開發疫苗,透過大量的電腦運算,有效縮短開發時間

有些藥廠已經開始合作,使用AI的服務來協助開發新藥 ➡️ 有效節省大量成本

  • NVIDIA L4 TENSOR CORE GPU ➡️ 用於人工智慧影片
  • NVIDIA L40 GPU ➡️ 用於影像生成
  • NVIDIA H100 NVL GPU ➡️ 用於部署大型語言模型
  • NVIDIA Grace Hopper  ➡️ 用於推薦模型

詳細可以看這邊 ➡️ NVIDIA 推出用於大型語言模型和生成式人工智慧工作負載的推論平台

使用NVIDIA H100 NVL GPU 來協助半導體的製程 ➡️ 微影技術效率會提高40倍,能耗也會大幅下降
目前合作對象為台積電(TSMC)、ASML、Synopsys(新思科技)

原本使用 CPU 需要兩週時間才能生產出一個光罩,若透過 GPU 執行 cuLitho,便只需要 8 小時便可處理完成。

 

短期來看,使用 cuLitho 的晶圓廠可以每天將用電量減少 9 倍,又將光罩生產量增加 3 ~ 5 倍。從長遠來看,cuLitho 將有助於創造出更好的設計規則、更高密度、更高產量及人工智慧驅動的微影技術,同時加快上市時間。

資料來源:NVIDIA cuLitho技術聯手台積電、ASML、Synopsys加速晶圓製程

以前開發光罩:使用大量CPU,花費時間為2週
現在使用GPU ,8小時就完成 ➡️ 省下大量資源、能源

目前是如此宣稱,癌大會再去確認~

  • NVIDIA已經把文字、圖像、生物編程的部分都囊括,企業只要租用DGX Cloud 就可以做出公司要的模型,其他軟體公司根本很難切入,沒肉可吃
  • 現在大部分是看到to C的內容,快速將重點整理、簡報做出來,但癌大相信很快會用在工業生產上 ➡️ 工業自動化

相關新聞

NVIDIA 官網資料

耳朵懷孕一鍵愛上主委

EP333 | ⚙ ➡️ podcast
EP333 | ⚙ ➡️ youtube

很開心用文字與你相遇 ~
艾瑪筆記志在整理出最有效的內容,讓讀者可以一目瞭然
如果您覺得艾瑪的筆記還不錯,歡迎留言給我,也可以來艾瑪新開的粉專按個👍,對我會有很大的幫助,因為您的鼓勵對我來說非!常!重!要! 謝謝你們 😊

FB  ➡️  艾瑪筆記

艾瑪筆記

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *