云天勵(lì)飛亮相2023世界人工智能大會(huì) 首次公開“天書”大模型動(dòng)態(tài)

    本報(bào)記者 王鏡茹

    2023世界人工智能大會(huì)于7月6日至8日在上海舉辦。本次大會(huì)上，云天勵(lì)飛展示了自主設(shè)計(jì)開發(fā)的新一代邊緣計(jì)算芯片DeepEdge10系列SoC芯片，并公布了“天書”大模型的最新動(dòng)態(tài)。

    大模型與芯片全面亮相

    本次世界人工智能大會(huì)上，云天勵(lì)飛展示了新一代邊緣計(jì)算芯片DeepEdge10系列SoC芯片。

    該芯片于2022年底成功流片，采用國(guó)內(nèi)先進(jìn)工藝，支持多芯粒擴(kuò)展的Chiplet技術(shù)，可提供12TOPS（INT8）整型計(jì)算和2TFLOPS（FP16）浮點(diǎn)計(jì)算的深度學(xué)習(xí)推理計(jì)算算力，滿足市場(chǎng)對(duì)處理芯片在算法的多樣性、準(zhǔn)確性、算力密度及效能方面的要求，可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。預(yù)計(jì)今年量產(chǎn)投入使用。

圖為云天“天書”基礎(chǔ)大模型架構(gòu) 公司/供圖

    此外，云天勵(lì)飛還在大會(huì)上首次披露大模型“云天天書”的情況。據(jù)介紹，“云天天書”基礎(chǔ)大模型架構(gòu)包含三個(gè)層級(jí)：通用大模型、行業(yè)大模型、場(chǎng)景大模型。云天勵(lì)飛基于算法開發(fā)平臺(tái)和算法芯片化平臺(tái)，并通過海量高質(zhì)量數(shù)據(jù)預(yù)訓(xùn)練生產(chǎn)通用大模型；在通用大模型基礎(chǔ)上，引入高質(zhì)量行業(yè)數(shù)據(jù)，生產(chǎn)行業(yè)大模型；再在行業(yè)大模型的基礎(chǔ)上，通過細(xì)分場(chǎng)景數(shù)據(jù)微調(diào)研發(fā)場(chǎng)景大模型。通過這樣的三級(jí)架構(gòu)，讓大模型為千行百業(yè)賦能。

    據(jù)悉，基于“云天天書”大模型，云天勵(lì)飛與深圳龍崗政數(shù)局共同探索了大模型在政務(wù)咨詢服務(wù)系統(tǒng)的應(yīng)用。通過對(duì)海量的政策、法規(guī)、辦理流程等文本進(jìn)行結(jié)構(gòu)化梳理和分析，形成易于查閱的知識(shí)庫(kù)，幫助服務(wù)人員快速查詢和獲取準(zhǔn)確的信息，減少查閱時(shí)間，提高政務(wù)服務(wù)工作效率。目前該系統(tǒng)在行政服務(wù)大廳探索應(yīng)用，未來計(jì)劃逐步拓展到其他政府機(jī)構(gòu)和公共服務(wù)領(lǐng)域，如法務(wù)、金融、教育、醫(yī)療、交通等。

    云天勵(lì)飛與龍崗政數(shù)局合作探索打造的“大模型政務(wù)咨詢服務(wù)系統(tǒng)”還入選了中國(guó)信通院《通用人工智能創(chuàng)新應(yīng)用案例集》。

    “算法芯片化”能力加速AI落地

    據(jù)現(xiàn)場(chǎng)工作人員介紹，云天勵(lì)飛核心能力是“算法芯片化”。所謂“算法芯片化”，不是“算法+芯片”，而是云天勵(lì)飛基于對(duì)場(chǎng)景的深刻理解，以及對(duì)算法關(guān)鍵計(jì)算任務(wù)在應(yīng)用場(chǎng)景中的量化分析，將芯片設(shè)計(jì)者的理念、思想與算法相融合的AI芯片設(shè)計(jì)流程。

    這一理念同樣在本次展出的DeepEdge10芯片和“云天天書”大模型上有所體現(xiàn)。DeepEdge10可為大模型在邊側(cè)推理場(chǎng)景提供充足算力，可以解決大模型應(yīng)用和部署過程中的各類挑戰(zhàn)，包括新的神經(jīng)網(wǎng)絡(luò)計(jì)算范式、高帶寬傳輸、分布式并行計(jì)算、低精度混合計(jì)算等，能夠?yàn)榇竽Ｐ秃蛯?shí)際應(yīng)用場(chǎng)景嫁接起橋梁，讓大模型技術(shù)能夠高效、低成本地部署到終端，幫助場(chǎng)景探索更多大模型的創(chuàng)新應(yīng)用。

    “應(yīng)用產(chǎn)生數(shù)據(jù)、數(shù)據(jù)訓(xùn)練算法、算法定義芯片、芯片賦能應(yīng)用”——這是云天勵(lì)飛一直以來堅(jiān)持的人工智能發(fā)展之路?；谶@個(gè)思路，云天勵(lì)飛于2020年正式提出“自進(jìn)化城市智能體”的戰(zhàn)略目標(biāo)。在戰(zhàn)略目標(biāo)的指引下，云天勵(lì)飛已經(jīng)在深圳、東莞、青島、成都、杭州、上海、北京等多個(gè)城市實(shí)現(xiàn)項(xiàng)目落地，成功打造了一系列標(biāo)桿式項(xiàng)目。

    值得一提的是，2021年至2023年，深圳市政府工作報(bào)告連續(xù)3年提及要建設(shè)“鵬城自進(jìn)化智能體”。今年6月份發(fā)布的《深圳市數(shù)字孿生先鋒城市建設(shè)行動(dòng)計(jì)劃（2023）》也明確提到，“圍繞分步有序建設(shè)鵬城自進(jìn)化智能體，推進(jìn)以數(shù)字孿生為特點(diǎn)的深圳智慧城市和數(shù)字政府建設(shè)。”

（編輯 汪世軍）