Meta 正在構建下一代框架機器學習框架 PyTorch 2.0

每日分享最新,最流行的軟體開發知識與最新行業趨勢,希望大家能夠一鍵三連,多多支援,跪求關注,點贊,留言。

Meta 正在構建下一代框架機器學習框架 PyTorch 2.0

Meta 今天宣佈了其開源機器學習框架 PyTorch 的最新更新。據該公司稱,PyTorch 2。0 是邁向下一代 PyTorch 2 系列版本的第一步。

此版本旨在提高效能速度並新增對動態形狀和分散式的支援,同時仍保持相同的急切模式開發和使用者體驗。

Meta 正在構建下一代框架機器學習框架 PyTorch 2.0

PyTorch 2。0 還引入了“torch。compile”,這是一種提高 PyTorch 效能並開始將 PyTorch 的部分從 C++ 移回 Python 的新功能。

此外,更新中還包含多項新技術,包括:

TorchDynamo,它致力於使用 Python Frame Evaluation Hooks 安全地捕獲 PyTorch 程式。

AOTAutograd 過載 PyTorch 的 autograd 引擎作為跟蹤 autodiff 用於提前生成反向跟蹤。

PrimTorch 將約 2000 多個 PyTorch 運算子規範化為約 250 個原始運算子,開發人員可以使用這些運算子構建完整的 PyTorch 後端。

TorchInductor 是一種深度學習編譯器,可為多個加速器和後端生成程式碼。

“PyTorch 2。0 體現了深度學習框架的未來,”grid。ai 的首席技術官兼 PyTorch Lightning 的主要維護者之一 Luca Antiga 說。“在沒有使用者干預的情況下捕獲 PyTorch 程式並獲得大規模的裝置加速和開箱即用的程式操作的可能性為 AI 開發人員開啟了一個全新的維度。”