近日,重慶電信依托天翼云科研助手,結合DeepSeek-R1模型和KTransformers優(yōu)化框架,大幅降低了AI模型部署的門檻,有效解決了AI大模型落地難的問題,讓大模型的使用變得更加簡單、成本更低。
據介紹,天翼云息壤平臺是一體化智算服務領域的關鍵平臺,致力于打造全國一體化算力網絡,把各種異構算力資源整合起來,為各類計算任務提供算網調度、計算加速、模型訓練與推理等服務。
過去,部署AI大模型對設備性能要求非常高,需要大量資金投入,這讓許多高校、企業(yè)望而卻步。而基于天翼云息壤平臺推出的科研助手,能快速提供充足的算力資源,并搭配合適的科研環(huán)境,幫助用戶更簡單、更經濟地使用AI技術。
在實際應用中,KTransformers優(yōu)化框架表現(xiàn)優(yōu)異,能夠明顯提升AI模型運行速度,最高能達到基準速度的28倍。即使在低成本硬件配置下,也能實現(xiàn)穩(wěn)定、高效運行,大大降低了門檻。而DeepSeek-R1模型則進一步提高了設備資源利用率,有效緩解設備性能不足的問題。用戶只需在天翼云官網找到天翼云科研助手平臺,根據提示創(chuàng)建一臺開發(fā)機并選擇對應的軟件環(huán)境,就能快速使用高性能的AI模型。