AI行業正面臨日益高漲的部署成本壓力,企業使用者對Token開支愈發敏感。在此背景下,面向營銷人員的AI工具與智慧體提供商Writer於週四釋出新旗艦模型Palmyra X6,並同步升級其智慧體框架(harness),旨在幫助客戶顯著降低使用成本。據公司介紹,Palmyra X6是基於Z.ai的開源模型GLM-5.2進行後訓練改造的變體,因此能以更低價格提供可直接部署的能力。Writer估計,新模型配合框架最佳化,可將客戶基礎任務的成本削減最多50%。兩項功能均於週四起對Writer客戶開放。
Writer的CEO May Habib在採訪中直言:“企業已經徹底厭倦了追逐下一個基準測試分數,他們想要的是成本下降,而似乎沒人能真正實現這一點。”她認為,當前AI實驗室在幫助企業從AI中獲益方面缺乏深刻理解,而成本飆升正促使資訊長(CIO)們對大型AI實驗室失去信任。
新方案特別強調對複雜、多步驟任務的處理,力求以更少的Token、更快的速度完成。Writer將框架最佳化視為實現這一目標的關鍵槓桿。公司研究人員近期發表的一篇論文支援了這一思路:他們在多個不同模型上測試了框架效率的微小改動,結果發現,在許多情況下,調整框架比更換模型更能可靠地降低成本,測試中成本平均下降了40%。研究人員寫道:“框架是唯一一個效率能放大組織執行所有模型(現在和未來)的元件。”
對於Writer的客戶而言,這種體驗仍是模型無關的:Palmyra X6將與Writer的其他模型或通過Azure、Amazon Bedrock匯入的外部模型並列使用。Habib還指出,降本壓力正在加劇企業對大型AI實驗室的不信任,因為這些實驗室有推高Token使用量的財務動機。她補充說:“對客戶而言,成本爆炸是前所未有的,CIO們對實驗室的放棄程度也是前所未有的。”
這一動向反映了AI產業的一個趨勢:隨著部署規模擴大,企業越來越關注Token成本,開源模型與框架最佳化成為控制開支的重要途徑。Writer的舉措既是應對客戶需求的務實選擇,也折射出AI應用層對底層模型成本結構的敏感。對於投資者而言,這提示了AI產業鏈中“降本增效”環節的價值——無論是模型後訓練、框架調優,還是多雲接入,都可能成為企業AI支出的關鍵考量。