SMore LrMo是面向工業場景的大模型開發與應用平臺,覆蓋了應用層面、算法框架、基礎設施服務等開發全場景,涉及算力資源調度管理能力、數據自動標注管理能力、應用開發管理能力、算法服務管理能力等人工智能模型全生命周期。
今年以來,大模型的火熱點燃了新一輪人工智能發展浪潮,也正在引領新一輪工業革命,幫助企業重塑生產及經營各環節以實現提質降本增效。而SMore LrMo平臺的發布,將為大模型在工業領域的應用提供了基礎,進一步降低企業開發及應用工業大模型、AIGC等技術的門檻,推動工業4.0發展,助力提高生產力和經濟效益。
1?
首個工業大模型開發底座問世
這是繼3月底以來ViMo Cloud工業智能云平臺、ViMo Deeplearning桌面級工業視覺深度學習訓練軟件、ViMo Studio低代碼機器視覺軟件等ViMo系列產品發布之后,思謀的再次“上新”。
如果說ViMo系列產品的研發是為了降低制造業對人工智能的使用門檻的話,SMore LrMo便是為了降低制造業企業對人工智能的研發與應用成本,為工業場景的大模型應用提供安全可靠的私有化平臺。不變的是,思謀科技對人工智能通用性、普惠化的追求始終貫徹其中。
據了解,SMore LrMo是市場上首個工業大模型開發底座,專為解決工業場景下大模型的數據采集復雜、數據安全性要求嚴格、設備異構程度高、計算集群分布廣、大模型工程化成本高等痛點而來,具有安全與隱私性高、硬件適配廣泛、多云調度、大模型訓練快等特點。
△思謀SMore LrMo平臺架構圖
SMore LrMo支持云邊端設備聯動、多數據源接入,可對工業級大規模數據集進行高效處理和管理,提供高效的數據操作接口和分布式數據處理能力,以滿足復雜數據處理需求;亦支持非聯邦學習模型到聯邦模型的快速轉換,實現聯邦學習場景下,對卷積、圖、Transformer等神經網絡的適配,可充分滿足制造企業對數據安全與隱私管理嚴格的要求。
SMore LrMo還擁有出眾的通用性、廣泛的硬件適配能力。該平臺支持Intel與ARM架構芯片以及NVDIA、寒武紀、天數智芯等5種國產加速卡,超3種以上國產框架,實現了基于國產加速卡與深度框架的150多種深度學習與強化學習模型的適配;在AI作業跨域自動化感知調度時,可實現萬卡、20個以上集群管理調度,線性加速80%以上。
據SMore LrMo研發負責人透露,在大模型訓練上,平臺可支持超1000億參數規模的大模型分布式訓練,較主流深度學習框架訓練加速超15%;在推理加速上,平臺提供模型自動壓縮工具集,提供異構加速卡加速SDK,提升模型推理效率,通用開源大模型部署效率提升3-5倍,平臺上線部署模型最高可達到單GPU 1000+ 的吞吐速度,處于行業領先水平;支持模型一鍵部署,實現推理服務高吞吐高性能,并彈性擴縮容,并提供完整的運維監控體系,極大助力各式高精度工業AI模型的開發與應用。
2?
千億參數大模型訓練成本降低40%
全球最大的企業增長咨詢公司弗若斯特沙利文指出,人工智能開發平臺的核心競爭力集中在“提高數據處理能力”、“增強平臺易用性”、“提升生態開放性”。
SMore LrMo在上述三方面均有突出表現力。這幾大優勢也讓它成為市場上最先進的大模型開發平臺之一,助力思謀迅速拿下了一批頭部科研院所、科技公司、超算中心的訂單,并快速落地應用。
“目前客戶的反饋顯示SMore LrMo開發應用效果非常不錯。例如某大型算力中心,客戶需要利用15個集群,共計3000+異構計算卡,滿足大模型開發與部署應用的場景,并要對模型持續優化,保持在線服務迭代順暢。我們為該客戶部署SMore LrMo人工智能開發平臺后,客戶可根據不同的訓練任務智能調度訓練資源,模型平均訓練速度從原來的7.5小時/epoch降低到2.3小時/epoch。即使面對超1000億參數的大模型訓練,SMore LrMo依然能高效完成,整體幫助客戶訓練成本降低40%。”上述負責人表示。
作為一家致力于引領科技、服務全球的全場景智能公司,過去,思謀科技以深耕智能制造、輸出標準軟硬一體化產品及解決方案獲得了業內外廣泛關注。少有人知的是,思謀還是最早對大模型在工業領域的 Emergent Ability開展研究和產業化的團隊。
如今,思謀把落地在工業場景中的大模型開發、應用的心得與經驗,融合20余年在人工智能領域的技術沉淀,推出一站式工業大模型開發與應用平臺SMore LrMo,進一步賦能制造業惠及萬企。隨著人工智能大模型逐漸落地應用,對實體經濟的擁抱逐漸加深,以人工智能普惠為特征的全新時代正在拉開帷幕。而不斷自我迭代、不斷拓寬自我邊界的思謀科技也將邁向更加廣闊的未來。
文章來源:思小謀 思謀SmartMore