观点网讯:9月16日,据腾讯集团副总裁、腾讯云总裁邱跃鹏透露,目前,腾讯云已在推理加速、AgentInfra和国际化布局等方面取得突破,腾讯云正不断升级云基础设施,以支撑Agent规模化落地和企业全球化发展。
邱跃鹏还透露,在推理加速方面,腾讯云向DeepSeek、vLLM、SGLang等开源社区提交多项优化技术,并自研开源FlexKV多级缓存技术,显著降低KVCache占用,使首字时延最多下降70%。针对Agent大规模应用,腾讯云推出AgentRuntime解决方案,集成执行引擎、云沙箱和安全可观测等五大能力,提供稳定运行环境。其中,云沙箱基于自研技术,启动时间仅100毫秒,可支持数十万实例并发。