3月31日消息,近日,中國(guó)AI企業(yè)云天勵(lì)飛正式發(fā)布了平民化的大模型產(chǎn)品——“深目”AI模盒。
它的售價(jià)只要千元級(jí),但可以做到“三個(gè)90%”——覆蓋場(chǎng)景超過(guò)90%、算法精度超過(guò)90%,使用成本降低90%,可以讓更多中小企業(yè)用上大模型。
“深目”AI模盒的算力基礎(chǔ),是其去年推出的大模型訓(xùn)推芯片“DeepEdge10 Max”。
該芯片采用了自主可控的14nm國(guó)產(chǎn)工藝、D2D chiplet晶粒架構(gòu),基于同樣國(guó)產(chǎn)的RISC-V內(nèi)核,并采用異構(gòu)多核設(shè)計(jì)。
它支持大模型訓(xùn)練推理部署,已適配并可承載10億級(jí)參數(shù)的SAM、百億級(jí)參數(shù)的Llama2等大模型運(yùn)算,可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。
云天勵(lì)飛還自主研發(fā)了多模態(tài)大模型“云天天書(shū)”,包含語(yǔ)言大模型、多模態(tài)大模型等不同系列,在C-、CMMLU等權(quán)威測(cè)試中多次獲得第一,并于去年正式通過(guò)中央網(wǎng)信辦備案。
云天天書(shū)1.0版本發(fā)布于2023年初,至今已迭代3個(gè)版本。
以云天天書(shū)為底座,云天勵(lì)飛可與合作伙伴首先完成預(yù)訓(xùn)練場(chǎng)景算法,再提供給中小企業(yè)用戶,由其根據(jù)自身場(chǎng)景需求,在邊緣端完成算法微調(diào),并且在線學(xué)習(xí)、優(yōu)化算法,不斷提升算法精度。
“深目”AI模盒首發(fā)標(biāo)準(zhǔn)版搭載云天天書(shū)3.5V版本,INT8整數(shù)算力48TOPS(48萬(wàn)億次)。
今年下半年,“深目”AI模盒將推出輕量版,芯片為DeepEdge10Pro,搭配云天天書(shū)4.0V,算力減半至24TOPS。
明年上半年,“深目”AI模盒將升級(jí)為旗艦版,芯片也升級(jí)為DeepEdge10Ultra,繼續(xù)搭配云天天書(shū)4.0V,算力翻番到96TOPS。
云天勵(lì)飛成立于2014年,并在當(dāng)年推出了基于CV小模型的AI產(chǎn)品“深目”1.0,陸續(xù)在警務(wù)、城市治理、智慧交通、人居生活等領(lǐng)域打造多個(gè)標(biāo)桿項(xiàng)目。