原創
2025/02/19 15:27:31
來源:天潤融通
1208
本文摘要
現如今,應用大模型的企業會有一個問題,開源和閉源會有什么不同?具體到客戶服務場景,開源和閉源應該如何選擇?本篇文章天潤融通為您解析
DeepSeek正在帶動一場開源熱潮。
2月14日,百度宣布6月30日將會開源文心大模型系列。
百度開源之后不久,OpenAI CEO山姆·奧特曼(Sam Altman)也在X平臺上發起投票,詢問網友下一個開源項目做什么比較好。這則消息透露出OpenAI也有意開源某個大模型項目。
在這之前,無論是百度還是OpenAI,都曾是閉源大模型的堅定支持者。只是在DeepSeek的帶動下,開源越來越成為一種趨勢,成為更多大模型企業的選擇。
但這也給應用大模型的企業帶來一個問題,開源和閉源會有什么不同?具體到客戶服務場景,開源和閉源應該如何選擇?
所謂開源大模型,通常指在開放源代碼協議下發布的大模型,它允許軟件的源代碼被公眾自由地使用、研究、修改和分發,比如DeepSeek。
相應地,閉源大模型就是指源代碼和內部工作機制不對外公開的大模型。比如GPT-4,企業想要使用相關能力需要向OpenAI申請,并支付一定費用。
關于開源大模型,大家最大認知可能就是“免費”,這也是開源大模型最有競爭力的地方之一。
我們舉個例子,如果以私有化的方式部署一套客戶服務系統。
采用開源大模型的情況下,企業需要支付大量前期成本,包括購買/租用服務器、建設和維護數據中心,以及雇傭相關人員對模型進行調優和部署等等。
但這些費用只存在于前期,相關建設完成后,企業無需再為之后的模型使用付費。但如果使用閉源大模型,則在前期投入的基礎上,后續還要一直按照Token用量為模型付費。
如果在公有云或第三方平臺上部署客戶服務系統。
使用開源大模型的情況下,企業不需要為模型本身支付費用,因為遵循開源協議,模型是免費的。企業只需要向云廠商支付云服務費用,比如計算資源(如CPU、GPU)、存儲、數據傳輸和可能的額外服務(如負載均衡、自動擴展等)。
使用閉源大模型的情況下,企業還需要為模型支付費用,比如OpenAI-o1模型的輸入價格為15美元/百萬tokens,輸出價格為60美元/百萬tokens。
總結來說,使用開源大模型無需為模型付費,只需要支付算力、存儲等相關成本;而閉源大模型則可能在相關費用的基礎上,加上模型的許可或使用費用。
即在如金融、電商、銀行等客戶服務場景,客戶咨詢量足夠大的情況下,使用開源大模型進行私有化部署后,長期使用成本更低。但如果客戶咨詢量不多,使用公有云會更加劃算。
對于企業應用而言,關鍵在于找到其中的平衡點。
那么僅考慮模型使用效果,開源大模型是不是比閉源大模型更好?答案也不一定。
從應用企業的角度來講,開源大模型除了成本之外,還有這些優勢:
專屬1v1客服
為您提供最全面的咨詢服務
掃碼立即咨詢