未來趨勢 人工智慧與電腦技術如何並肩前行?

編譯/高晟鈞

編譯器(Compilers)是一種電腦程式,它會將某種程式寫成的原始碼,轉換成另一種程式語言。(示意圖/123RF)

協同設計(Co-Design),意指同時設計軟硬體,是嘗試滿足當今人工智慧計算能力需求的其中一種方法;其中,編譯器扮演一個相當重要的角色。

編譯器(Compilers)是一種電腦程式,它會將某種程式寫成的原始碼,轉換成另一種程式語言。來自中科院的一組研究人員,總結了深度學習與協同設計中,現有的編譯器技術,並提出了自己的框架──Buddy Compiler。

目前來說,依然鮮少有人從協同設計和編譯技術的角度探討深度學習系統;然而,研究團隊認為「編譯技術」可以帶來更多協同設計的機會,從而實現滿足深度學習系統的性能和功耗要求。

2020年後,一種稱為Transformer的網路模型取得巨大成功,ChatGPT便是其中最經典的例子。然而,目前像ChatGPT的人工智慧程序正在達到新的性能瓶頸,需要新的協同設計開發。

深度學習的突破,來自大量參數的使用,而這也無疑增加了對訓練和推理的細算性能需求。因此,工業界和學術界都轉向了特定領域的硬體解決方案,希望通過軟硬件的協同設計,來進一步提高性能。

最近,一個綜合系統已經出現,包括深度學習框架、高性能庫、特定領域編譯器、編程模型、硬體工具流程和協同設計技術。這些組件共同有助於提高深度學習系統的效率和有效性。

目前,有兩種主流的系統用於構建深度學習編譯器:張量虛擬機(Tensor Virtual Machine,簡稱TVM)和多級中間表示(Multi-level lntermediate Representation,簡稱MLIR)。最近,一個包括深度學習框架、高性能庫、特定領域編譯器、編程模型、硬件工具流程和協同設計技術的綜合系統已經出現,。這些組件共同有助於提高深度學習系統的效率和有效性。

作者預測,編譯系統的持續發展將有助於統一快速發展,但過於分散的深度學習領域。

資料來源:TechXplore

※更多ChatGPT相關訊息,請參考【生成式AI創新學院】。

瀏覽 710 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button