云創(chuang)大(da)數據cVector向(xiang)量(liang)計算一體(ti)(ti)機(ji)自(zi)推出以(yi)來，收獲行業(ye)好(hao)評不斷，多(duo)家企事業(ye)單位向(xiang)云創(chuang)大(da)數據表達(da)了合作意向(xiang)。為(wei)了讓更多(duo)單位體(ti)(ti)驗(yan)并感受cVector向(xiang)量(liang)計算一體(ti)(ti)機(ji)的不俗實力和(he)創(chuang)新(xin)特性，現正(zheng)式將cVector向(xiang)量(liang)計算一體(ti)(ti)機(ji)進行開放。

　　在開放(fang)測試(shi)中，用(yong)戶(hu)可(ke)選擇“隨機(ji)生成(cheng)”和(he)“隨機(ji)選取”兩種方(fang)式，基于5億、1億、5千萬、1千萬數(shu)據量(liang)，即可(ke)體驗(yan)在極短(duan)的(de)時(shi)間內(nei)，cVector向量(liang)計算一體機(ji)如何高(gao)效、快(kuai)速(su)完成(cheng)比對(dui)。歡迎(ying)用(yong)電(dian)腦訪問體驗(yan)！

　　cVector向(xiang)(xiang)量(liang)計(ji)算一體機(ji)是一種面(mian)向(xiang)(xiang)億級以上向(xiang)(xiang)量(liang)計(ji)算場(chang)景的(de)高性能向(xiang)(xiang)量(liang)存儲(chu)、計(ji)算一體化平臺，采用并(bing)行計(ji)算架構，融(rong)合高密度混(hun)合服務硬件，實現(xian)對大規(gui)模向(xiang)(xiang)量(liang)數(shu)據(ju)的(de)計(ji)算和比對，相較(jiao)于(yu)通過(guo)GPU、向(xiang)(xiang)量(liang)數(shu)據(ju)庫進(jin)行向(xiang)(xiang)量(liang)計(ji)算，cVector向(xiang)(xiang)量(liang)計(ji)算一體機(ji)在入庫效率、計(ji)算性能方面(mian)優(you)勢突出，可廣泛應用于(yu)人(ren)工(gong)智(zhi)能大模型、機(ji)器學(xue)習、計(ji)算機(ji)視覺、自然語言(yan)處理等領域。

　　cVector向量計算一體機通過發揮高性能硬件、向量加速算法和并行計算算法的合力，致力于滿足億級乃至百億千億向量規模的大模型推理應用向量計算需求。

cVector向量計算一體機

　　cVector向(xiang)量(liang)(liang)計(ji)(ji)算(suan)一(yi)體機的使用方(fang)式(shi)與向(xiang)量(liang)(liang)數據庫(ku)(ku)基本(ben)一(yi)致，支(zhi)持(chi)批(pi)量(liang)(liang)、追加入庫(ku)(ku)，支(zhi)持(chi)向(xiang)量(liang)(liang)間歐式(shi)距離(li)、余弦距離(li)等向(xiang)量(liang)(liang)計(ji)(ji)算(suan)，支(zhi)持(chi)網頁、命(ming)令調(diao)用、Python庫(ku)(ku)等方(fang)法，但在(zai)向(xiang)量(liang)(liang)的入庫(ku)(ku)和比(bi)對計(ji)(ji)算(suan)上具有驚人的性能。

cVector向量計(ji)算一體機架構圖

　　近期， cVector向量計算一體機接受了工信部直屬的國家一級科研事業單位中國軟件評測中心的鑒定測試。中國軟件評測中心對比測試了cVector向量計算一體機與3款主流向量數據庫在入庫速度、查詢速度、準確性等維度的性能對比。

　　在入庫性能方面，同(tong)樣入(ru)(ru)(ru)庫(ku)3000萬條(tiao)256 維向(xiang)量數(shu)據(ju)(ju)，在(zai)向(xiang)量數(shu)據(ju)(ju)庫(ku)中最快的(de)是(shi)(shi)A，入(ru)(ru)(ru)庫(ku)速(su)(su)(su)度(du)是(shi)(shi)4851.97s，cVector向(xiang)量計(ji)算一體機(ji)是(shi)(shi)1202.91s，入(ru)(ru)(ru)庫(ku)速(su)(su)(su)度(du)約(yue)是(shi)(shi)向(xiang)量數(shu)據(ju)(ju)庫(ku)A的(de)4倍(bei)，向(xiang)量數(shu)據(ju)(ju)庫(ku)C的(de)50倍(bei)，向(xiang)量數(shu)據(ju)(ju)庫(ku)B的(de)113倍(bei)；當入(ru)(ru)(ru)庫(ku)數(shu)據(ju)(ju)達到1億條(tiao)時，向(xiang)量數(shu)據(ju)(ju)庫(ku)A的(de)入(ru)(ru)(ru)庫(ku)速(su)(su)(su)度(du)是(shi)(shi)17295.49s，cVector向(xiang)量計(ji)算一體機(ji)是(shi)(shi)4484.55s，入(ru)(ru)(ru)庫(ku)速(su)(su)(su)度(du)約(yue)是(shi)(shi)前者的(de)3.9倍(bei)。

入庫性能比對

　　在查詢性能方面，同樣查(cha)詢1億條(tiao)256 維(wei)向量(liang)數(shu)(shu)據，向量(liang)數(shu)(shu)據庫A的查(cha)詢速度是512.8s，cVector向量(liang)計算一(yi)體機是0.27s，查(cha)詢速度是前者(zhe)的1899倍，而(er)其他兩家測試(shi)向量(liang)數(shu)(shu)據庫由于數(shu)(shu)據量(liang)太(tai)大無法入庫比較。

查詢性能對比

　　在準確性方面，cVector 向(xiang)量(liang)計算(suan)一體(ti)機、向(xiang)量(liang)數(shu)據庫A、向(xiang)量(liang)數(shu)據庫B和向(xiang)量(liang)數(shu)據庫C的數(shu)據準確度一致，通過(guo)了中國軟(ruan)件評測(ce)中心（工業和信息(xi)化部(bu)軟(ruan)件與集成電路促進中心）單項(xiang)性能測(ce)試。

　　cVector向量計算一(yi)體機在億級乃至百億千億向量規(gui)模的(de)的(de)入庫和(he)查詢等方面具有顯著(zhu)的(de)性能(neng)(neng)優(you)(you)勢，可幫助提高大模型推理的(de)服務性能(neng)(neng)和(he)服務質量，并能(neng)(neng)明顯降低其基礎設施建設成本，助力類ChatGPT等人工智能(neng)(neng)企業以更優(you)(you)的(de)性價比解(jie)決算力不足的(de)問(wen)題(ti)。

　　在具體應用方面，對于生成式AI相關企業，cVector向量計算一體機主要面向大模型推理應用，能夠在下述大模型推理環節發揮顯著作用：

　　①提高生成式AI的輸出準確性。由于(yu)大模(mo)型的(de)(de)輸(shu)(shu)出結(jie)(jie)果(guo)是根據概率推理而成(cheng)，所(suo)以會出現“一(yi)本正經(jing)說(shuo)胡話”的(de)(de)情形。可(ke)以將可(ke)信來源的(de)(de)數據轉化成(cheng)向(xiang)量數據存儲(chu)在向(xiang)量計算(suan)一(yi)體機中，校準大模(mo)型推理輸(shu)(shu)出的(de)(de)結(jie)(jie)果(guo)，從而使大模(mo)型輸(shu)(shu)出的(de)(de)結(jie)(jie)果(guo)更加準確。

　　②提升大模型理解互聯網實時數據的能力。大模(mo)型(xing)基于歷(li)史數據訓練而(er)成(cheng)，所以(yi)“只知(zhi)道(dao)過去，不知(zhi)道(dao)現在(zai)”。如果使用向量計算(suan)一體機存儲海(hai)量實(shi)時數據所轉化成(cheng)的向量數據，可以(yi)幫(bang)助大模(mo)型(xing)理解掌握實(shi)時情(qing)況。

　　③提升大模型對用戶的服務質量。向量計算一體機可以允(yun)許用(yong)戶(hu)(hu)(hu)上(shang)傳更多的(de)數據，讓大模型掌握用(yong)戶(hu)(hu)(hu)個性(xing)化的(de)背(bei)景(jing)資料，更好地學習理解用(yong)戶(hu)(hu)(hu)請求(qiu)，更好地結(jie)合(he)用(yong)戶(hu)(hu)(hu)的(de)實際情況回答問題。

　　④減輕大模型的訪問壓力。用戶(hu)所(suo)提的大部分(fen)問題(ti)都是相似的常見問題(ti)，向量計算一(yi)體機可(ke)以緩存(cun)大量熱點問題(ti)，不需(xu)要經過大模(mo)型推理即可(ke)返回結果，從而大幅減(jian)少算力成本。

　　⑤幫助生成式AI過濾敏感內容。怎么防止生成(cheng)式AI說錯話一直是一個(ge)挑戰性問題，而向(xiang)量(liang)(liang)計(ji)算一體機可(ke)以(yi)存放敏感(gan)內容所對(dui)應(ying)的向(xiang)量(liang)(liang)數據，在用戶提出請求(qiu)時加(jia)以(yi)判斷，盡可(ke)能(neng)防止AI對(dui)敏感(gan)問題做出不恰(qia)當的回應(ying)。

　　cVector向(xiang)量(liang)計算一體機能(neng)(neng)夠廣泛應(ying)用(yong)于人工智能(neng)(neng)領域中生成(cheng)式AI的(de)推理應(ying)用(yong)場景，為各(ge)(ge)類生成(cheng)式AI企業提供高性價比的(de)產品和解決方(fang)案，大幅增加大模型平臺(tai)的(de)競(jing)爭(zheng)力，歡(huan)迎各(ge)(ge)大企事業單位試用(yong)。

　　聯系方式：

　　單先生  13770311887（微信同號）