百度智能云:千帆大模型平臺接入LLaMA2等33個模型,推理成本可降低50%
2023-08-02 15:33:05 | 來源:云財經(jīng) |
2023-08-02 15:33:05 | 來源:云財經(jīng) |
(資料圖片)
百度智能云AI與大數(shù)據(jù)平臺總經(jīng)理忻舟表示,目前,千帆大模型平臺已經(jīng)全面接入LLaMA2全系列、ChatGLM2、RWKV、MPT等33個大模型,成為國內擁有大模型最多的平臺。接入的模型經(jīng)過千帆平臺二次性能增強,模型推理成本可降低50%。同時,千帆平臺上線了國內最全的預置Prompt模板,模板數(shù)量多達103個,覆蓋對話、游戲、編程、寫作十余個場景。第三,千帆是國內首家提供插件服務的大模型平臺,本次升級再次發(fā)布多款全新插件。