技術局限尚需突破方能釋放更大價值

• 知識更新與自主學習能力，目前大語言模型仍然為靜態數據驅動的學習范式，無法實現新知識的快速學習與迭代，尤其是涉及到時效數據與專有數據的場景下存在 障礙，OpenAI正在通過Plugins生態來突破這一局限

• 垂直領域泛化能力，通用任務的卓越能力已經顯現，但是進入垂直細分領域與知識體系下，大模型的性能與泛化能力仍然需要增強，行業大模型訓練是當前挑戰的 破局之道之一

• 長期記憶能力，目前正在通過增大上下文容量、數據向量化，以及AI agent等多種方式探索突破

巨大的模型訓練與推理算力等成本拉低效益比

• 訓練與微調成本，該訓練成本僅針對企業應用基礎模型結合行業知識與數據集進行訓練與微調的成本，并非基礎大模型訓練成本，與上述“垂直領域泛化能力”相 對應，該成本仍然為行業知識壁壘顯著的企業必須承擔的成本，開源基礎模型在一定程度上可以降低這一階段的訓練成本

• 推理成本，大模型在參數體量巨大的情況下，仍然存在較高的推理成本，這方面可以通過模型壓縮與剪枝等技術的發展進一步降低

• 模型能力與業務場景的適應成本，這部分成本雖然由于人機交互方式的變化顯著降低，但是前期仍然需要考慮提示工程在特定場景的磨合成本

安全合規可信應用底線尚需剛性保障

• 模型安全與可控制性問題，這是人工智能普遍面臨的問題，大模型并不能幸免，包括模型攻防、數據注入等問題；同時，模型能力來自于“涌現”，需要進行模型 能力，尤其是生成結果的可控制，方能進入到生產環境

• 對齊問題，既包括人工智能與人類社會價值觀保持一致，也包括與不同國家價值觀，不同類型企業經營以及商業法則相匹配等，前者最為關鍵，這也是目前最為關 注的AI不受控制的風險之一，目前在通過RLHF與RLAIF不同方式來實現

• 隱私與數據安全問題，無論是大模型的訓練推理，還是對話應用的過程中，都存在過多的隱私暴露與數據安全風險，這有賴于技術突破和監管合規的進一步建立

附件：AI結合電商、廣告應用發展飛速！AI+教育暫處最底位！2023中國人工智能產業應用發展圖譜