產業正在尋找另一種突破生成式AI要太多運算的解決方案
https://bit.ly/3LN4E25
2018年，OpenAI發布的一項分析顯示，自2012年以來，最大規模的AI訓練運行中使用的運
算能力呈指數級成長，每3.4個月翻一倍。根據換算，自2012年以來，這一指標已經成長
了30萬倍以上（如果以摩爾定律，半導體性能每兩年翻一倍之下，只能產生7倍的成長）
。
可是這種發展趨勢不可能無限制發展下去。許多專家不認為建立更大的大型語言模型會推
動生成式AI領域向前發展。即使在現階段，訓練這些模型的運算成本仍然非常昂貴，不僅
要花錢，而且還會對氣候造成更大的碳足跡。IEEE認為，AI研究界還需要一到兩年的時間
才能找到新可行的解決方案。
新創公司也正在尋求取代輝達GPU的方式。例如：Graphcore、Kneron和iDEAL
Semiconductor等美國AI晶片新創公司將自己視為輝達等產業巨頭的替代品。 Graphcore
正在提出一種名為智慧處理單元（IPU）的新型處理器，該公司表示，該處理器是從頭開
始設計的，旨在滿足AI運算需求。Kneron的晶片專為邊緣AI應用而設計，例如電動車或智
慧建築。
至於iDEAL Semiconductor，則於2023年5月推出了一種名為「SuperQ」的新型矽基架構，
聲稱該架構可以在二極體、MOSFET和積體電路等半導體裝置中產生更高的效率和更高的電
壓性能。
此外，許多公司也在投資可以在本地運行小型AI模型的產品，稱為邊緣AI。根據研究，邊
緣AI可協助放射科醫師識別病理、透過物聯網設備控制辦公大樓、並用於控制自動駕駛汽
車。2021年邊緣AI市場估值為120億美元，預計2029年將達到1,074.7億美元。
Gartner表示，GPU晶片的擴展遲早將無法跟上AI模型大小的成長。因此，繼續讓模型變得
越來越大並不是一個可行的選擇。iDEAL Semiconductor表示，現今全球需要開發更有效
率的大型語言模型和AI解決方案，但即使如此，額外GPU的生產仍是這個等式中不可避免
的一部分。
畢竟，在尚未找出新解決方案之前，台積電和輝達就扮演的供應足夠GPU的關鍵角色，台
積電承認預計要到2024年才能獲得紓解。
總之，一般相信生成式AI對於運算的需求只會不斷擴大，除了GPU之外，未來兩年內只要
能夠找到一種新的解決方案，生成式AI才能持續發展下去，也才能進一步帶來更多產業的
成長動力。