3月14日，清華大學高性能計算研究所翟季冬教授團隊與清華系科創(chuàng)企業(yè)清程極智聯(lián)合宣布，開源大模型推理引擎“赤兔Chitu”，該引擎首次實現(xiàn)在非英偉達Hopper架構(gòu)GPU及各類國產(chǎn)芯片上原生運行FP8精度模型，為國產(chǎn)AI芯片的廣泛應用和生態(tài)建設(shè)帶來了新的突破。清程極智CEO湯雄超表示，當前國內(nèi)在推理引擎這一核心環(huán)節(jié)，仍缺乏生產(chǎn)級開源產(chǎn)品。開源‘赤兔’引擎是助力國內(nèi)AI生態(tài)建設(shè)的重要一步。