2023年,AI大模型的顛覆式創(chuàng)新應用讓消費市場應接不暇,承包了科技圈的大部分熱點,但與之相對的,企業(yè)市場對于生成式AI的落地探索仍然在路上。
3月14日,華為中國合作伙伴大會2024在深圳盛大開幕。大會開幕當天,神州數(shù)碼帶來對生成式AI技術在企業(yè)級業(yè)務場景落地應用的思考,并正式發(fā)布全新智算系列新品——神州鯤泰問學一體機,助力企業(yè)生成式AI落地再進一程。
每一個企業(yè)用戶都意味著一個獨立的差異化細分市場和行業(yè)場景,而通用大模型往往需要大量的訓練才能從“通才”變?yōu)椤皩2拧保谄髽I(yè)實際業(yè)務場景中發(fā)揮價值和優(yōu)勢。而對于那些對數(shù)據(jù)保密性要求較高的企業(yè)而言,如何將自身的核心數(shù)據(jù)資產(chǎn)安全的“訓練”成所需的大模型能力,并在實際業(yè)務場景中真正解決某個問題,則是更為謹慎的思考。
兼顧企業(yè)級客戶對生成式AI敏捷落地和私域部署的安全性需求,神州數(shù)碼充分運用自身在算力+AI領域軟硬件產(chǎn)品的自主創(chuàng)新能力,集神州鯤泰智算服務器與神州問學軟件平臺的優(yōu)勢所長,聯(lián)合打造神州鯤泰問學一體機,為企業(yè)提供私域生成式AI敏捷落地的軟硬一體解決方案,以及豐富的AI模型應用,助力企業(yè)客戶用自己的數(shù)據(jù)定制專屬AI模型,實現(xiàn)業(yè)務創(chuàng)新。
強大算力為敏捷業(yè)務創(chuàng)造廣闊空間
神州鯤泰問學一體機擁有“KunTai WX210-K”推理型一體機和“KunTai WX510-K”訓練型一體機兩種產(chǎn)品型號,搭載“鯤鵬+昇騰”主板,最大支持200B參量的大模型訓練和微調(diào)。在業(yè)界模型參數(shù)大多居于6B~130B的情況下,200B參量為企業(yè)用戶的模型訓練和推理提供了強大的計算能力,讓AI算力模型不再為有限的算力資源“捉襟見肘”。
此外,神州鯤泰問學一體機的強大計算能力,能支持多個大模型的并行訓推,用戶可以根據(jù)自身業(yè)務進展與變化,靈活安排模型訓推任務,通過對算力資源的動態(tài)分配,顯著提高計算資源的利用效率;同時,基于神州鯤泰訓推一體的硬件能力可以實現(xiàn)對模型訓練推理的無縫切換,訓練得出的模型能第一時間運用到推理和應用中,并通過新一輪數(shù)據(jù)對模型進行高效的驗證和迭代,這能有效縮短模型的訓練周期,同時提高模型的適用性和準確度,節(jié)省用戶大量成本。強大的算力為企業(yè)用戶的模型訓推提供更廣闊空間,讓企業(yè)用戶能更從容的安排訓推任務,更高效、更優(yōu)質(zhì)的完成模型訓練,更敏捷應對業(yè)務變化和挑戰(zhàn)。
深度適配實現(xiàn)軟硬一體交付
私域算力開箱即用
神州鯤泰問學一體機實現(xiàn)了神州鯤泰算力服務器與神州問學軟件平臺的一體化設計,底層的深度適配能在客戶端實現(xiàn)軟硬一體交付,省略客戶軟硬件調(diào)試成本和兼容問題,達到開箱即用的效果,滿足客戶私域算力的便捷部署。對于很多企業(yè)用戶而言,自身的關鍵業(yè)務數(shù)據(jù)無疑是核心資產(chǎn),部分行業(yè)(比如金融)甚至出臺相關規(guī)定,嚴格管理相關數(shù)據(jù)的流動。對于神州鯤泰問學一體機而言,所有數(shù)據(jù)資產(chǎn)以及核心算法模型都運行在企業(yè)本地,有效保障客戶數(shù)據(jù)和模型安全。
快速的數(shù)據(jù)積累
個性定制打造企業(yè)的專屬大模型
神州鯤泰問學一體機內(nèi)置神州問學AI PaaS云原生集成平臺,能幫助客戶實現(xiàn)自身私域知識庫的快速構(gòu)建,支持客戶專屬大模型定制,最快5分鐘即可實現(xiàn)AI應用的靈活構(gòu)建與開發(fā)。得益于20+主流大模型的全面覆蓋,通過內(nèi)置多行業(yè)語料數(shù)據(jù)集及多類型向量數(shù)據(jù)庫、內(nèi)置AI應用低代碼開發(fā)平臺和RAG、Agent等多種能力以及內(nèi)置標準化AI應用開發(fā)框架,企業(yè)用戶可以通過神州鯤泰問學一體機針對應用場景、行業(yè)發(fā)展以及內(nèi)部數(shù)字化進行AI應用的定制化開發(fā),并在此過程中快速積累核心數(shù)字資產(chǎn),當積累達到一定程度企業(yè)用戶就能在神州鯤泰問學一體機的幫助下將自身的寶貴數(shù)據(jù)資產(chǎn)打造成專屬大模型,這將更貼合企業(yè)用戶的業(yè)務實際,幫助實現(xiàn)業(yè)務創(chuàng)新與價值飛躍。
在云原生、數(shù)字原生、AI原生技術加速融合、蓬勃發(fā)展的當下,神州鯤泰問學一體機為客戶打造了一個算力更強大、部署更便捷、應用模型定制化、業(yè)務應對更敏捷的企業(yè)級一站式生成式AI平臺,助力企業(yè)用戶在AI智能時代的競爭中贏得優(yōu)勢。