金山办公与英伟达团队合作 加速WPS AI落地
站长之家(ChinaZ.com)6月30日 消息:金山办公宣布与 NVIDIA 团队合作,通过 NVIDIA Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率;
借助 NVIDIA Triton 推理服务器的部署,成功优化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipleline 耗时共下降84%;采用 NVIDIA Triton 推理服务器部署,其部署成本节省了23% 。
金山办公表示,我们有多个业务后边的 AI 服务已经通过采用该方案提高了速度和资源利用率,不仅给用户端带去了更高的速度响应,提高了用户体验,也为公司节约了大量的服务端 GPU 资源,收获了更高的效益。我们在文档识别与理解领域的应用案例也可以启发到 OCR 和版式识别领域的其他公司和学者,相信随着更多客户通过采用 TensorRT 加速会给行业带来很大的收益。
相关推荐
-
天猫精灵将多一份情感连接 成为更温暖更人性化的智能助手
【Aigcmore.com】4月11日消息,天猫精灵官方宣布,将正式接入阿里巴巴通义千问,更安全、更智能的AliGenie6.0将会在不久之后的未来出现。通义千问是一个专门响应人类…
2023年 4月 25日 -
调查显示人工智能开始夺走人类工作岗位,5 月份美国近 4000 人因此失业
据美国一家人才流动咨询公司 Challenger, Gray &Christmas 的数据显示,人工智能在 5 月份导致了美国近 4000 个工作岗位的消失,这些岗位涉及创…
2023年 6月 5日 -
AI自我意识的到来,AMCS呼吁制定限制措施
【Aigcmore.com】4月27日消息,美国数学意识科学协会(AMCS)最近呼吁大型科技公司和相关机构加速研究意识科学领域,以制定出相应的限制措施。据该公开信指出,生成式AI技…
2023年 4月 28日 -
比标准Attention提速5-9倍,大模型都在用的FlashAttention v2来了
近来,几种长上下文语言模型陆续问世,包括 GPT-4(上下文长度为 32k)、MosaicML 的 MPT(上下文长度为 65k)Anthropic 的 Claude(上下文长度为…
2023年 7月 27日 -
亚马逊推出自家语言模型“Titan” 加强生成式人工智能领域布局
【Aigcmore.com】4月14日消息,亚马逊日前推出了名为“Bedrock”的云服务,该服务可以让开发者使用类似于ChatGPT聊天机器人的人工智能系统,进一步强化他们的软件…
2023年 4月 29日 -
百度CEO李彦宏:大模型将重新定义人工智能应用,不担心工作机会减少
站长之家(ChinaZ.com)5月18日 消息:今日,百度CEO李彦宏在第七届世界智能大会上发表了题为《大模型改变人工智能》的演讲。 他表示,人类最大的威胁不是创新带来的不确定性…
2023年 5月 19日 -
值得关注的四个实用AI工具,你知道吗?
今天给大家分享四个有趣而且实用的AI工具 1、graphy 一个AI图表生成和美化应用Graphy。生成的图表非常漂亮,而且不用自己手动创建,用自然语言输入需求之后他会自动创建对应…
2023年 5月 31日 -
微软警告称若无法为其数据中心获得足够的人工智能芯片 服务可能会中断
站长之家(ChinaZ.com) 7月31日消息:如果微软无法获得足够的人工智能芯片来支持其数据中心,将会面临服务中断的风险。在日前发布的年度报告中,微软强调了图形处理单元(GPU…
2023年 7月 31日 -
中国人工智能公司outseer为香港公开募股选择投资银行
据报道,中国人工智能公司和智能设备制造商outseer已为其香港首次公开募股选择投资银行,筹资额可达2亿至3亿美元。该公司最近推出了自己的人工智能语言模型“sequence mon…
2023年 5月 11日 -
ChatGPT爆红让谷歌抓狂:“退休”创始人布林罕见要求查看代码
北京时间2月13日早间消息,据报道,近日,早已经退出日常管理的谷歌联合创始人谢尔盖·布林几年来第一次要求访问谷歌内部的软件代码。人工智能领域的白热化竞争已经惊动了这位联合创始人。 …
2023年 4月 21日