AgileEdge的主要作用就是將大模型壓縮成小模型然后放到邊緣設(shè)備里。
因為是全自動的AI框架，所以其操作流程非常的傻瓜。
只要將邊緣設(shè)備連接到電腦，程序就會自動檢測其硬件的具體參數(shù)，然后經(jīng)過AgileEdge的壓縮，不斷地優(yōu)化模型，最終形成一個能運行的模型文件。
邊緣設(shè)備周昀暫時就找了一臺老的智能機，內(nèi)存只有32G，將手機插上數(shù)據(jù)線。
運行程序。
一個進度條出現(xiàn)在屏幕下方。
【預(yù)計時間：17h】
“就知道。”
只要涉及到大模型，實驗的時間就不會短，不過十幾個小時也算快了，前世周昀曾經(jīng)一個實驗跑了兩周，主要就是當時的服務(wù)器實在太垃圾了。
第9章第一次組會
內(nèi)容未完，下一頁繼續(xù)閱讀