金山办公与英伟达团队合作 加速WPS AI落地
站长之家(ChinaZ.com)6月30日 消息:金山办公宣布与 NVIDIA 团队合作,通过 NVIDIA Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率;
借助 NVIDIA Triton 推理服务器的部署,成功优化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipleline 耗时共下降84%;采用 NVIDIA Triton 推理服务器部署,其部署成本节省了23% 。
金山办公表示,我们有多个业务后边的 AI 服务已经通过采用该方案提高了速度和资源利用率,不仅给用户端带去了更高的速度响应,提高了用户体验,也为公司节约了大量的服务端 GPU 资源,收获了更高的效益。我们在文档识别与理解领域的应用案例也可以启发到 OCR 和版式识别领域的其他公司和学者,相信随着更多客户通过采用 TensorRT 加速会给行业带来很大的收益。
相关推荐
-
训练提速17%,第四范式开源强化学习研究框架,支持单、多智能体训练
OpenRL 是由第四范式强化学习团队开发的基于 PyTorch 的强化学习研究框架,支持单智能体、多智能体、自然语言等多种任务的训练。OpenRL 基于 PyTorch 进行开发…
2023年 5月 8日 -
人工智能,绑架了我的声音
「AI」是2023年开年来最热门的话题,当人们为人工智能的崛起而感到兴奋之时,一场危机也随之而来。 在过去几个月时间里,我们见识到了「AI问答」、「AI制图」和「AI换脸」,每一项…
2023年 5月 10日 -
技术正在彻底改变房地产行业
房地产经纪人有很多工作要做,从管理和营销到谈判和研究。为了完成这些任务,许多经纪人在团队或更大的企业中工作,不同的人负责不同的角色。 许多行业专业人士认为,仍然有很多不必要的工作减…
2023年 5月 25日 -
北大、西湖大学等开源「裁判大模型」PandaLM:三行代码全自动评估LLM,准确率达ChatGPT的94%
ChatGPT发布后,自然语言处理领域的生态彻底发生了变化,很多之前无法完成的问题都可以利用ChatGPT解决。 不过也带来了一个问题:大模型的性能都太强了,光靠肉眼很难评估各个模…
2023年 5月 15日 -
李开复筹组零一万物 选择自研模型之路
大语言模型为代表的AI2.0迎来大爆发,在创新工场董事长兼CEO李开复博士看来,AI大语言模型是中国不能错过的历史机遇。通过发展AI大模型,能够让中国在人工智能领域保持技术引领地位…
2023年 7月 4日 -
人工智能新突破:研究人员发现纳米线网络能像人脑一样学习和记忆
人类的大脑能够通过神经元和突触的连接网络处理信息,这种网络结构也能被纳米技术所模仿。 纳米线网络(Nanowire network)是一种纳米技术,通常由肉眼不可见的高导电银线制成…
2023年 4月 26日 -
谷歌与Replit合作 意味着人工智能在软件开发中的地位越来越重要
【Aigcmore.com】3月29日消息,谷歌与Replit建立了新的战略合作伙伴关系,这将使开发人员能够使用谷歌的基础设施、服务和生成性人工智能的基础模型。该伙伴关系还将允许谷…
2023年 4月 24日 -
即时设计共建“数字设计 :AIGC创建者大会” 新一代设计工具要与AI融合
5 月 7 日,首届“数字设计:AIGC创建者大会”在上海隆重召开。本届大会由上海市经济和信息化委员会指导,特赞科技 Tezign 主办,即时设计作为共建者参与其中。 即时设计创始…
2023年 5月 12日 -
三星准备在2023年下半年大规模生产面向AI的高带宽存储芯片
【Aigcmore.com】6月27日消息,三星近日计划于2023年下半年开始大规模生产面向人工智能(AI)应用的高带宽存储芯片。根据外媒KoreaTimes的报道,三星的目标是迎…
2023年 6月 28日 -
昆仑万维计划推出中国版 ChatGPT
【Aigcmore.com】5月6日消息,据悉,昆仑万维与奇点智源合作开发的中国版类 ChatGPT预计今年内将会推出。该产品将会开源,但知识产权归奇点智源所有。昆仑万维将享有中国…
2023年 5月 7日