Re: [新聞] 亞馬遜Alexa改採自家研發晶片 降低對輝

作者: waitrop (嘴砲無雙)   2020-11-16 16:28:16
AI 晶片市場分成兩塊: edge, server/cloud
台灣其實沒有那麼悲觀,
至少聯發科可以吃到edge的市場,
另外,國內外比較小型的新創AI晶片公司也都是瞄準edge的市場,
所謂的edge,就是泛指手機,監視器,家電,Alexa, Nest,天貓精靈,小愛等,
其特色就是便宜,毛利率低,功耗低,
Nvidia沒興趣吃的市場,
這個市場目前是聯發科,寒武紀等公司吃下大部分市場,
但是由於門檻不高,要求效能也不高,
所以很多大廠也開始自製這塊,
像說華為手機就把寒武紀換成自製NPU,
不過聯發科還是相對安全,
有拿到大部分的edge市場,
但是不少新創公司正在搶食這塊市場,
而且背後有大廠支持甚至有大廠訂單,
至於本文中的Alexa edge應該還是用聯發科的,
一台賣你49.99, 自製根本不合成本,
文中提到的Alexa 雲端,
才是用亞馬遜自製的晶片,
也是現在利潤最高競爭最激勵的市場,
目前server/cloud 的AI晶片市場,
主要玩家是Nvidia, Google,
以Nvidia為例, server/cloud最便宜一張卡都要一兩千美金,
一台機器至少都要兩三萬美金,
而且這種等級的機器效能不夠,
無法用在Google, Amamzone, Facebook的AI training/inference,
這些公司用的機器一台要30-50萬美金以上,
這才跑得動search, youtube, facebook等,
所以Nvidia這是暴利,
老實說,Nvidia賣這價碼是真的太不合理,
我待過的所有公司內部都有推算過,
自製TPU/NPU只需要Nvidia 價碼的1/2 - 1/10,
內部使用量越大就省越多,
所以你會看到FAAMG,阿里,華為,百度全都開始自製AI晶片,
甚至自駕車量大之後也開始自製AI晶片,
就效能而言TPU是Nvidia效能的十倍以上,
畢竟Nvidia GPU還是以繪圖為主體,
ML運算只是輔助功能,
也就是說Nvidia晶片裡頭有很多區塊AI運算是根本用不上,
還是回到老話一句,
因為Nvidia太好賺,
他賣你一張顯卡裡頭很多功能你都用不到,
你只是為了跑ML運算還是必須吃下來
但是TPU/NPU也是有很大的應用上缺點,
因為這些晶片是特別對某些功能加速,
比方說有些對search加速,有些對語言處理加速,有些對影像處理加速,
所以這些TPU/NPU只能用在特殊領域,
並不適合給大部分的人使用來跑AI運算,
除非是像FAAMG,阿里,華為,百度這些公司有非常大的特殊需求,
像是需要花好幾B只是為了要search加速,
或是花好幾B只是為了雙十一跟感恩節網拍更有效率,
這就非常需要自製AI晶片
所以回到台廠跟新創公司的問題,
台灣根本就沒有掌握任何大型軟體應用市場(search, 拍賣,影音等),
所以根本沒有這種需求必須自製AI晶片,
想自己做AI晶片賣給FAAMG,阿里,華為,百度?你在做夢嗎?
同樣的道理可以套在新創公司上,
想搶server/cloud AI市場,根本在做夢
※ 引述《CavendishJr (真禮梅西姐姐♡)》之銘言:
: 1.原文連結:
: https://bit.ly/2IF6Eff
: ※過長無法點擊者必須縮網址
: 2.原文內容:
: 亞馬遜Alexa改採自家研發晶片 降低對輝達依賴
: 亞馬遜 (AMZN-US) 周四表示,Alexa 語音助理部分運算將改採自家設計的晶片,希望提升
: 速度、降低成本。此舉也意在降低對輝達 (NVDA-US) 晶片的依賴。
: 亞馬遜 Echo 使用者詢問 Alexa 時,問題得先傳送回亞馬遜的資料中心並經過幾個處理步
: 驟,等亞馬遜電腦得出答案,也要把這些文字轉換成語音資料,再由 Alexa 回答。
: 之前這些運算工作都使用輝達的晶片,但亞馬遜決定未來「絕大多數」的工作將由自家研發
: 的「Inferentia」機器學習推論晶片處理。這款晶片最早在 2018 年推出,用於加快大量機
: 器學習資料的處理速度,例如把文字轉換成語音或人臉辨識。
: 拜亞馬遜、微軟 (MSFT-US)、Alphabet(GOOGL-US) 對運算晶片的暢旺需求之賜,輝達和英
: 特爾 (INTC-US) 等的資料中心業務蓬勃發展。但愈來愈多大型科技公司拋棄傳統晶片供應
: 商,轉而自行設計晶片,例如蘋果周二 (11 日) 正式推出首款搭載自行研發 M1 晶片的 Ma
: cBook,和英特爾分手。
: 亞馬遜表示,部分 Alexa 作業流程改用 Infertia 晶片之後,延遲情況改善 25%,成本降
: 低 30%。
: 亞馬遜曾表示,雲端人臉辨識服務 Rekognition 已經開始採用 Inferentia 晶片,但亞馬
: 遜並未透露先前採用哪一家廠商的晶片,或是改用自家晶片的比率佔多少。
: 亞馬遜的人臉辨識服務因為被用來執法受到人權團體高度關注,全美 6 月因為非裔公民佛
: 洛伊德之死爆發大規模抗議活動之後,亞馬遜暫停授權給警方使用,為期一年。
: 3.心得/評論:
: ※必需填寫滿20字
: 大家都想要用自製晶片
: 這是種趨勢嗎
: 拿翹了呢

Links booklink

Contact Us: admin [ a t ] ucptt.com