商汤发布业内首个「云端边」全栈大模型产品矩阵
2024年04月24日 15:05
4月23日，商汤科技举办「商汤技术交流日」，发布行业首个「云丶端丶边」全栈大模型产品矩阵，以满足不同规模场景的应用需求。活动上，商汤同时发布升级的「日日新SenseNova 5.0」大模型体系，其综合能力全面对标GPT-4，加速生成式AI向产业落地的全面跃迁，实现大模型按需所取。
商汤科技推出业内首个「云丶端丶边」全栈大模型产品矩阵，其中包括应用於终端设备的「商汤端侧大模型」，以及面向金融丶代码丶医疗丶政务等多个领域的边缘产品「商汤企业级大模型一体机」。
商汤还推出端云协同解决方案，可以通过智能化判断协同发挥端云各自优势，需要联网搜索或处理复杂场景时分流至云端处理，部分场景端侧处理占比超过80%，从而显着降低推理成本。
商汤日日新·端侧大语言模型的推理速度达到了业内最快，可在中端平台实现每秒18.3字的平均生成速度，旗舰平台更是达到了每秒78.3字。扩散模型同样可在端侧实现业内最快的推理速度，端侧LDM-AI扩图技术在某主流平台上，推理速度快於1.5秒，比友商云端app快10倍，支持输出1200万像素及以上的高清图片，支持在端上快速进行等比扩图丶自由扩图丶旋转扩图等图像编辑功能。商汤亦於今日正式发布端侧业务SDK。
