T-EDGE雙峯會洞察實證:順網科技在GenAI領域的探索與實踐

2023-12-12 27 12/12

算力是基礎支撐,而數據則是細分領域表現出色的根本。

“我們在看待生成式AI創業時,不僅僅侷限於大模型,而是更關注場景應用,以及爲場景應用提供支撐的中間層,這些領域仍然蘊藏着巨大的機會。”

在12月初召開的2023中國上市公司投資價值峯會暨中國投資基金峯會(以下簡稱“雙峯會”),順網科技CEO樊星博士在探討《GenAI 時代的商業化挑戰與機遇》時如此指出,這一前瞻性的觀點引起了廣泛關注和討論。

T-EDGE双峰会洞察实证:顺网科技在GenAI领域的探索与实践

如果說GenAI的第一步是通用於各行各業,那麼第二步飛躍便是在垂類場景中穩健落地,其具備兩種落地範式:

第一種路徑是直接在大型模型上進行應用開發,或者進行簡單的商業化封裝。這種方式反應迅速,能快速吸引用戶,但其在國內可能面臨合規性問題。而進一步的,由於門檻不高,這種方式容易被大模型逐漸取代。

第二種路徑則是結合大模型和中間層框架的方法。這種方法考慮到了大模型自身的侷限性,補充提示工程、答案工程,注入行業垂直模型,提高了模型的應用效果。在這種模式下,企業所擁有的豐富行業數據,可通過中間層安全地提供給大模型。

在這樣的認知下,順網科技構建了模型層-中間層-應用層的場景落地路徑。

模型層方面,順網科技採取了一種獨特而高效的策略:構建一個全面的模型池,
而不是自行開發單一的大模型。這個模型池聚集了來自不同來源的多樣化模型,涵蓋了廣泛的功能和特性,使得順網科技能夠針對各種應用需求靈活選擇和組合適當的模型。此外,爲確保解決方案的實用性和針對性,順網還在在模型池中重點
融入了專門針對遊戲和泛娛樂領域的行業垂直模型。
這些模型基於對以遊戲爲代表的泛娛樂領域的深入理解和數據分析而構建,能夠精準地滿足陪伴虛擬人開發、遊戲體驗優化、個性化角色聊天等特定需求。這些小型模型專注於特定的任務或流程,例如遊戲角色的自然語言處理、情感分析,或者是遊戲場景中的複雜決策支持。它們雖小,但功能精準,能夠在其專長領域內提供極高的效率和準確度。

中間層方面,順網科技選擇建立SPICE引擎解決大模型落地的最後一公里,
提供語料的實時採集、數據清洗、過濾和嵌入,這些功能確保了數據的實時性和準確性,爲大模型提供了高質量的輸入。

SPICE引擎的一個顯著優勢是它爲上層陪伴應用提供了一個通道,使它們能夠訪問和利用大模型池與知識庫。這一過程涉及到大模型與知識庫的有效融合,以及應用的部署和執行。這種融合不僅使得順網能夠充分利用已有的知識資產,還能借助大模型強大的表達和推理能力,實現二者的完美結合。

SPICE引擎還令AI應用具備了長期記憶的能力。由於Token的限制,大模型本身只能擁有短暫的記憶能力。通過SPICE,順網能夠幫助陪伴AI應用構建長期記憶,這一點在處理複雜和長期的任務時顯得尤爲重要。此外,SPICE還整合了深度學習、自然語言等多項AI技術,創造了一個能夠進行復雜思考、自主行動和精準感知的框架。通過這一引擎,AI可以更好地理解用戶的意圖,預測用戶的需求,甚至與用戶進行自然且富有情感的交流。

應用層方面,順網科技推出了“順網靈悉”,這是一個針對陪伴場景設計的個性化虛擬遊樂場。
靈悉的世界提供了一個獨特的平臺,其中用戶可以與各種AI虛擬角色互動,這些角色不僅有着多樣的形象和個性,還具備豐富的知識和能力。

在遊戲陪伴功能中,靈悉將其設計成爲了一個可選擇的“技能”選項。用戶可以選擇不同AI角色加載“技能”一起遊戲,體驗不同類型的遊戲場景。它們不僅是玩家的助手,還能成爲指導者或夥伴,增強遊戲的沉浸感和趣味性;而在角色定製方面,靈悉的世界允許用戶創造和定製自己的AI角色。用戶可以選擇角色的外觀、性格特徵、技能等,創造一個完全符合個人偏好的虛擬夥伴。這種定製化的體驗使得每個角色都具有獨特性,爲用戶提供了一個充滿想象力和創造力的空間;在設想中,靈悉將構建一個“世界”生態,讓用戶之間可以交流經驗、分享角色故事和遊戲挑戰。在靈悉世界中,用戶可以展示自己創建的角色,與其他用戶的角色互動,甚至可以組織或參與虛擬活動和挑戰,增強用戶間的互動和參與感,構建一個活躍且開放的AI陪伴生態世界。

在模型層、中間層、和應用層之外,順網科技在其18年的業務歷程中積累了豐富的數據維度和廣泛的應用場景,尤其在泛娛樂領域。這些高質量的數據成爲了AI持續迭代和智能化調優的堅實基礎。每一份數據的獲得和處理,都是對模型智能的進一步增強,確保了AI技術在精準性和適應性上的持續提升;在算力方面,順網科技憑藉其在電競和遊戲娛樂領域的深厚積累,構建了一個高效的多層次算力網絡和資源池。

這個網絡特別針對電競和遊戲領域的需求,提供了極低時延的渲染算力,通常達到毫秒級,滿足了這些應用對速度的嚴格要求。同時,順網也充分考慮到了其他非時間敏感場景的算力需求,展現出其算力網絡的靈活性和適應性;未來,順網將通過提供英偉達GPU算力解決方案,進一步支持AIGC、模型推理和XR/MR等應用場景。隨着大模型終端化適配,以及半導體終端側 AI 能力的提升,對 AI 場景的支持將從推理向更多場景延展。

T-EDGE双峰会洞察实证:顺网科技在GenAI领域的探索与实践

隨着順網科技在AI領域的深入探索,順網科技已經成功地集齊了AI商業化的五大關鍵要素:
場景、中間層、模型、算力和數據。
樊星博士在其演講中總結道:“在GenAI商業化的征程中,這五個要素是不可或缺的。場景不僅是觸達用戶羣體的關鍵,也是商業閉環形成的核心。中間層的作用在於加速試錯過程,幫助我們更快地識別並滿足用戶的具體需求。模型是生成式AI這一輪最核心的能力部分,算力是基礎支撐,而數據則是細分領域表現出色的根本。”