以創(chuàng)新創(chuàng)未來(lái) 云天勵(lì)飛-U邊緣AI引領(lǐng)大模型落地

    本報(bào)訊 （記者王鏡茹）近期，云天勵(lì)飛-U推出IPU-X6000加速卡。該產(chǎn)品具備256T算力、128GB顯存容量、486GB/S顯存帶寬；采用C2C Mesh互聯(lián)技術(shù)，可實(shí)現(xiàn)卡間高速互聯(lián)，帶寬達(dá)64GB/s，最大可實(shí)現(xiàn)64張卡的互聯(lián)；可應(yīng)用于語(yǔ)言、視覺(jué)、多模態(tài)等各類大模型的推理加速，目前已適配云天天書(shū)、通義千問(wèn)、百川智能、Llama2/3等近10個(gè)主流大模型。

    事實(shí)上，云天勵(lì)飛-U作為國(guó)內(nèi)邊緣AI領(lǐng)軍企業(yè)，以“算法芯片化”為核心能力，自主研發(fā)多模態(tài)大模型“云天天書(shū)”及面向邊緣AI的大算力芯片。目前，公司不斷推進(jìn)AI在智能硬件、智算服務(wù)、智慧行業(yè)三大領(lǐng)域的應(yīng)用，致力于為個(gè)人、家庭、行業(yè)帶來(lái)安全、智慧、便捷的AI體驗(yàn)。

    據(jù)了解，“算法芯片化”是云天勵(lì)飛-U的核心能力。云天勵(lì)飛-U自2014年成立以來(lái)，經(jīng)過(guò)10年的技術(shù)積淀，將該能力沉淀為基礎(chǔ)技術(shù)研究平臺(tái)，為技術(shù)研發(fā)和產(chǎn)業(yè)賦能提供有力支撐?；谒惴ㄐ酒夹g(shù)平臺(tái)，云天勵(lì)飛-U打造了“云天天書(shū)”大模型以及系列AI芯片。“云天天書(shū)”系列大模型使用自研訓(xùn)練框架，全棧適配國(guó)產(chǎn)算力，在可伸縮訓(xùn)練、斷點(diǎn)續(xù)訓(xùn)等業(yè)界難點(diǎn)問(wèn)題上屢次取得創(chuàng)新突破。

    2023年，“云天天書(shū)”大模型正式通過(guò)中央網(wǎng)信辦備案，并在智慧政務(wù)、城市治理、智慧安防、智慧交通、智慧商業(yè)、智慧教育等多行業(yè)落地。同年底，云天勵(lì)飛-U推出基于全國(guó)產(chǎn)先進(jìn)工藝打造，完全自主可控的14nm AI芯片DeepEdge10，搭載第四代自研神經(jīng)網(wǎng)絡(luò)處理器NNP400T，主要用于大模型在邊緣場(chǎng)景的推理部署。目前，DeepEdge10已在攝像頭、邊緣服務(wù)器、機(jī)器人、智駕汽車等邊緣設(shè)備落地應(yīng)用。

    目前，云天勵(lì)飛-U圍繞智能硬件、智算服務(wù)、智慧行業(yè)三大行業(yè)，不斷推進(jìn)人工智能的產(chǎn)業(yè)化應(yīng)用。在智能硬件方面，公司推出“深目”AI模盒，“天舟”大模型巡推一體機(jī)的硬件設(shè)備，推動(dòng)大模型的便捷應(yīng)用與落地。在智算服務(wù)方面，公司已落地含自研芯片的超大規(guī)模異構(gòu)高性能算力集群，并積累大模型訓(xùn)練所需的能力平臺(tái)與工具，為客戶提供算力及相應(yīng)服務(wù)。

    在智慧行業(yè)方面，云天勵(lì)飛-U打造了一系列標(biāo)桿項(xiàng)目，并積累了優(yōu)質(zhì)的客戶資源和良好的品牌口碑，從而保障未來(lái)業(yè)績(jī)持續(xù)穩(wěn)定的增長(zhǎng)。今年6月份，云天勵(lì)飛-U拿下一筆16億元的算力訂單，提前鎖定未來(lái)三年收入。

（編輯 張明富）