隨著ChatGPT的風靡全球，以大模(mo)型技術為核心的生(sheng)成式(shi)AI領域(yu)受到(dao)了廣泛(fan)的關注和應用，而生(sheng)成內(nei)容的有(you)理有(you)據、準確可靠和不違反(fan)國家相(xiang)關規定就(jiu)變得十分(fen)重要。

　　在此背景下，南京云創大數據科技股份有限公司自主研發了cGPT大模型訓練推理一體機。該一體(ti)機是一款統一的大模型(xing)訓(xun)(xun)練(lian)和(he)(he)推理平臺，可以實現對(dui)大模型(xing)的全生命周期管(guan)(guan)理，包括數據集(ji)的管(guan)(guan)理，模型(xing)的訓(xun)(xun)練(lian)、評估和(he)(he)推理，平臺性能的監控和(he)(he)管(guan)(guan)理等。

　　cGPT大模型訓練推理一體機特別適合私域大模型訓練和推理場景，支持全國產化的解決方案，通過對接用戶單位內部的數據庫，可為內網信息化提供新支撐；智能水平不俗，具備自主學習、總結加工、查詢信息等能力，猶如“多面手”和“中樞大腦”；知識處理能力強大，面對大量的知識點，也能進行高效處理；通過對接數據庫，可以提供數(shu)據查詢、答疑解惑等個(ge)性化服(fu)務。

　　在對接文檔方面，只需上傳文檔，cGPT大模型訓練推理一體機經過學習，便可結合該文檔，做出用戶所需準確的回答；在對接數據庫方面，cGPT大模型訓練推理一體機通過對已上傳表格、參考文獻等的學習，便可結合這些數據，做出總結性的準確回答，甚至可以展現與參考文獻的關聯度。同時，該一體機也可為用戶單位進行定制化拓展開發，使其具有個性化功能。

　　一般而言，當數(shu)(shu)據量相對(dui)較小的(de)時候，cGPT大(da)模型訓練推理一體機(ji)(ji)可與向量數(shu)(shu)據庫結(jie)合；當數(shu)(shu)據量相對(dui)較大(da)的(de)時候，可與云創(chuang)大(da)數(shu)(shu)據cVector向量計算一體機(ji)(ji)結(jie)合。

　　cVector向量計算一體機是一款面向億級以上向量計算場景的高性能向量存儲、計算一體化平臺。經中國軟件評測中心對比測試，cVector向量計算一體機在入庫性能、查詢性能、準確性方面明顯優于同行產品，（點擊(ji)開放測試！云(yun)創大數據cVector向量計算一體(ti)機了解更多），以此可以保(bao)障cGPT大模型訓(xun)練(lian)推理一體(ti)機發揮突出優勢。

　　值得一提的(de)是，cGPT大模型訓(xun)練(lian)推理一體機(ji)(ji)支持海量數據(ju)(ju)私(si)有化、本地化訓(xun)練(lian)部(bu)署和推理、全面支持國(guo)產化，能更好(hao)地適(shi)應(ying)中國(guo)的(de)語(yu)言環境和文化背(bei)景，滿(man)足中國(guo)用(yong)戶的(de)需(xu)求。在保證用(yong)戶數據(ju)(ju)隱私(si)的(de)前提下，可(ke)廣泛(fan)應(ying)用(yong)于智(zhi)能寫作、智(zhi)能問答、自(zi)然語(yu)言生成、機(ji)(ji)器翻譯等多(duo)個領域。

　　● 高算力配置

　　cGPT大模型訓練(lian)推理一體機(ji)內(nei)置(zhi)最高8塊通用型GPU計算卡，顯(xian)存最高可(ke)達(da)640GB，單卡FP32精(jing)(jing)度算力可(ke)達(da)37TFLOPS，FP16/BF16精(jing)(jing)度算力為147TFLOPS，INT8精(jing)(jing)度算力為295TOPS，支持INT32與INT16計算、支持多精(jing)(jing)度數據類型標(biao)準/混合(he)訓練(lian)。

　　● 國產化適配

　　cGPT大模(mo)(mo)型訓(xun)練(lian)推理一體(ti)機除支(zhi)持(chi)主流NVIDIA計算卡以(yi)外，根據(ju)用(yong)戶生產環(huan)境需要，還(huan)可支(zhi)持(chi)全國(guo)產化方案，采(cai)用(yong)國(guo)產服務器準系統、CPU、GPU與(yu)操作(zuo)系統，適(shi)用(yong)于(yu)有特殊安全需求的客戶。主流大模(mo)(mo)型相(xiang)關(guan)配套(tao)框架均作(zuo)適(shi)配，移植(zhi)便捷，用(yong)戶訓(xun)練(lian)無需進(jin)行(xing)大量修改。

　　● 私有化部署

　　cGPT大(da)模型訓練(lian)推理一體(ti)機可支持數(shu)據(ju)(ju)私有化(hua)，服務(wu)(wu)本地(di)化(hua)部(bu)署(shu)，無需(xu)連接(jie)公共互聯網即可提(ti)供服務(wu)(wu)，杜絕用(yong)(yong)戶(hu)數(shu)據(ju)(ju)泄漏(lou)風險。通過本地(di)文件服務(wu)(wu)器對本地(di)模型進行(xing)管理和版本控制，實現模型部(bu)署(shu)本地(di)化(hua)。通過本地(di)大(da)數(shu)據(ju)(ju)平臺對用(yong)(yong)戶(hu)業(ye)務(wu)(wu)數(shu)據(ju)(ju)進行(xing)采集、處理、分(fen)析、構建，實現用(yong)(yong)戶(hu)業(ye)務(wu)(wu)數(shu)據(ju)(ju)私有化(hua)。利用(yong)(yong)全(quan)面的訪問(wen)控制系統，對需(xu)要進行(xing)外網訪問(wen)的數(shu)據(ju)(ju)信(xin)息進行(xing)脫敏過濾，在確(que)保用(yong)(yong)戶(hu)數(shu)據(ju)(ju)安全(quan)性的前提(ti)下，保障(zhang)本地(di)服務(wu)(wu)功能的完整性。

　　● 一站式方案

　　cGPT大模型訓練推理一(yi)體(ti)機構建了一(yi)站式部署、定(ding)制(zhi)擴展方(fang)案，使得(de)用(yong)戶無(wu)需掌握專(zhuan)業(ye)的(de)人工智(zhi)(zhi)能(neng)知識，即(ji)可(ke)輕松(song)擁有大模型提供的(de)各種能(neng)力。通(tong)過一(yi)套完整的(de)、用(yong)戶友好的(de)可(ke)視化平(ping)臺，可(ke)簡單實(shi)現大模型的(de)訓練、部署和服(fu)務提供；提供豐富(fu)的(de)場景功能(neng)，用(yong)戶可(ke)根據專(zhuan)業(ye)需求(qiu)，利用(yong)提示模板技(ji)術實(shi)現專(zhuan)業(ye)定(ding)制(zhi)的(de)大模型應用(yong)，例如智(zhi)(zhi)能(neng)專(zhuan)業(ye)寫作、智(zhi)(zhi)能(neng)行業(ye)查詢等。

　　cGPT訓練一體機G1000-T（根據需求，可與cVector向量計算一體機搭配使用）

　　硬件規格如下：

　　軟件規格如下：

　　cGPT推理一體機G1000-I（根據需求，可與cVector向量計算一體機搭配使用）

　　硬件規格如下：

　　軟件規格如下：

　　cGPT大(da)模(mo)型訓練推理一體機應用領域廣(guang)泛，可以提(ti)供個性化(hua)服務(wu)。

　　● 面向內網使用

　　cGPT大(da)模(mo)型訓練(lian)推(tui)理一體(ti)機可以消化(hua)內部(bu)資料，為(wei)公檢法等涉密(mi)的(de)(de)系統單(dan)位提(ti)供資料查詢、數(shu)據比對、文檔撰寫等多元服務(wu)，在保障信息安全的(de)(de)前提(ti)下，為(wei)用戶單(dan)位的(de)(de)決(jue)策效率提(ti)供強力支(zhi)持，扮演(yan)單(dan)位內部(bu)員(yuan)工、領導的(de)(de)“個(ge)人個(ge)性化(hua)數(shu)字助手”。

　　● 面向特定領域

　　cGPT大模型訓練(lian)推(tui)理(li)一體機在教育、法律、銀行(xing)等特(te)定領(ling)域(yu)有著廣泛(fan)的(de)(de)應用場景。尤其善于消化前沿的(de)(de)信(xin)息與科技(ji)成果(guo)，提供與之匹配的(de)(de)新信(xin)息。分析數據、編寫代碼、編寫文案、回答疑問(wen)，提供信(xin)息服務(wu)，滿足信(xin)息咨詢，以此(ci)助力高效工作，為(wei)特(te)定領(ling)域(yu)帶來更準確和個性化的(de)(de)服務(wu)。

　　聯系方式：

　　單先生  13770311887（微(wei)信(xin)同號）

　　點擊//ghh.org.cn/article/3602訪問官(guan)網，了解產品信息