Manus近期撤出中國(guó)市場(chǎng)、清空國(guó)內(nèi)社交賬號(hào)內(nèi)容，全力轉(zhuǎn)戰(zhàn)海外市場(chǎng)，官方解釋原因主要基于經(jīng)營(yíng)效率的調(diào)整及國(guó)際化布局。北京時(shí)間7月19日，Manus聯(lián)合創(chuàng)始人季逸超發(fā)布技術(shù)博客，首度從技術(shù)角度做出回應(yīng)，總結(jié)創(chuàng)業(yè)以來在Agent研發(fā)與訓(xùn)練方面的經(jīng)驗(yàn)教訓(xùn)。
單從技術(shù)層面來看，季逸超表示Manus會(huì)側(cè)重押注上下文（Context）工程，借助構(gòu)造“記憶”與流程實(shí)現(xiàn)產(chǎn)品快速迭代。主要包括押注上下文、不再訓(xùn)練模型，強(qiáng)調(diào)KV-Cache（Key-Value Cache，一種緩存機(jī)制）命中率意義，不動(dòng)態(tài)添加工具，以及用文件系統(tǒng)承載持久上下文等方面。核心即節(jié)省底層模型訓(xùn)練成本，側(cè)重訓(xùn)練效率的提高。
上下文在大模型中通常指模型在處理任務(wù)或生成輸出內(nèi)容時(shí)所參考的信息集合，能夠幫助模型增強(qiáng)理解能力、提高任務(wù)性能、增強(qiáng)輸出連貫性。此前月之暗面Kimi創(chuàng)始人楊植麟在采訪中強(qiáng)調(diào)過上下文的重要性，他稱，Ai-native（由AI定義產(chǎn)品形態(tài)）產(chǎn)品的終極價(jià)值在于提供個(gè)性化交互，而無損長(zhǎng)上下文（LosslessLongContext）是達(dá)成這一目標(biāo)的關(guān)鍵。他判斷模型的微調(diào)長(zhǎng)期來看不應(yīng)存在，用戶與模型的交互歷史就是最好的個(gè)性化過程，而長(zhǎng)上下文技術(shù)能更好地記錄和利用這些交互歷史。
另外，KV-Cache命中率至關(guān)重要，主要是因?yàn)楦呙新士梢蕴岣咄评硇剩瑑?yōu)化資源利用率，降低計(jì)算成本。也正基于此，KV-Cache常被稱為Transformer模型推理階段的效率核心。
選擇從上述各方面提高訓(xùn)練效率，而非從底層模型開始投入，是季逸超過往多年總結(jié)的教訓(xùn)。他稱，創(chuàng)業(yè)上一家公司（Peak Labs）時(shí)，團(tuán)隊(duì)決定從頭開始為開放信息提取和語(yǔ)義搜索訓(xùn)練模型，但之后不久，OpenAI的GPT-3與Google的Flan-T5模型出現(xiàn)了，團(tuán)隊(duì)從頭研發(fā)的內(nèi)部模型一夜之間變得無關(guān)緊要。“諷刺的是，這些模型標(biāo)志著上下文學(xué)習(xí)的開始，以及一條全新的前進(jìn)道路。”季逸超稱。
基于此前教訓(xùn)，創(chuàng)業(yè)Manus后，團(tuán)隊(duì)不再投入基座模型研發(fā)，而是從使用開源基礎(chǔ)模型訓(xùn)練端到端Agent，與基于前沿模型上下文學(xué)習(xí)能力構(gòu)建Agent兩個(gè)選項(xiàng)中進(jìn)行選擇。雖然Peak Labs的教訓(xùn)令Manus團(tuán)隊(duì)意識(shí)到上下文的重要性，但這并不容易，經(jīng)歷過四次Agent框架調(diào)整才實(shí)現(xiàn)局部最優(yōu)解。
但需注意的是，該策略仍存在局限，尤其在面對(duì)類似OpenAI剛發(fā)布的ChatGPT Agent時(shí)。核心原因在于ChatGPT Agent依托OpenAI專用模型，采用端到端訓(xùn)練，可以更好地處理復(fù)雜任務(wù)，而Manus雖然可以提高效率，但仍依賴外部多模型組合與工程優(yōu)化，在任務(wù)執(zhí)行連貫性與準(zhǔn)確性上稍遜一籌。
另外，在Manus轉(zhuǎn)戰(zhàn)國(guó)際市場(chǎng)的節(jié)點(diǎn)，OpenAI憑借底層模型優(yōu)勢(shì)將Agent行業(yè)帶入拐點(diǎn)，吸引更多開發(fā)者與用戶至大廠平臺(tái)，雖然創(chuàng)業(yè)公司在垂直領(lǐng)域具備生存空間，但仍不可避免地面臨市場(chǎng)份額被爭(zhēng)奪的挑戰(zhàn)。尤其在當(dāng)下Agent類產(chǎn)品存在同質(zhì)化嚴(yán)重、商業(yè)模式不明、成本高企等困境時(shí)，上下文工程等方面的亮點(diǎn)不足以讓創(chuàng)業(yè)公司跳脫出來，團(tuán)隊(duì)仍需持續(xù)優(yōu)化技術(shù)策略，探索差異化發(fā)展路徑。
幫企客致力于為您提供最新最全的財(cái)經(jīng)資訊，想了解更多行業(yè)動(dòng)態(tài)，歡迎關(guān)注本站。鄭重聲明：本文版權(quán)歸原作者所有，轉(zhuǎn)載文章僅為傳播更多信息之目的，如作者信息標(biāo)記有誤，請(qǐng)第一時(shí)間聯(lián)系我們修改或刪除，多謝。
