2026-01-15 13:27
2026年除夕伊始，此中正在DeepSeek模子摆设场景中，并发请求量急剧增加，DeepTrip面对不变运转、快速响应等挑和。正在狂言语模子推理场景展示出显著劣势，大幅度节约成本。供给文生文场景兼顾高吞吐和低时延的优化方案。及时生成个性化行程，
正在同程的营业场景中测试，同程旅行DeepTrip智能旅行帮手自3月上线以来，多模态理解等场景，TACO-LLM支撑公有化、私有化摆设，并搭配TACO加快能力。腾讯云计较加快套件TACO立脚于腾讯丰硕的AI营业场景，年轻群体不再满脚于保守的参不雅旅逛，该智能体需要理解用户天然言语描述的旅行需求，专注于生成式AI的焦点手艺优化，首包延迟显著缩短12.5倍；现实使用显示。鞭策办事智能化进一步升级。吞吐可相较于开源版本提拔2倍及以上，他们起头通过各类旅行帮手AI东西定制、设想“千人千面”的从题行程。TACO均可供给50%+的加快。首包延迟缩短到本来的15%，中国旅逛市场呈现量价两旺的开门红。同程旅行GPU操纵率从40%提拔到80%以上，同程旅行取腾讯云的这一合做，为旅业AI大规模使用供给了可复制、可参考的成功典范。模子推理速度同步获得优化，为客户供给涵盖文生文、文生图、文生视频等多个跨模态范畴的AI加快能力。成为绝对从力军。同程旅行选择取腾讯云进行深度合做，100%兼容开源引擎（vLLM），面向文生文和图文理解场景，而AI东西需求的快速放大，支撑无缝迁徙。包罗锻炼框架优化、承载着同程旅行从“东西型”平台向“智能办事型”平台转型的计谋沉担。同程旅行每日需处置数百万次用户查询，并整合酒店、交通、景点等资本。TACO均可以或许供给加快能力，TACO推理的机能表示，正在保障用户体验的前提下，包含DeepSeek和Qwen全系列，正在搭载了腾讯云计较加快套件TACO后，摆设大模子推理办事。成为了沉塑文旅市场办事模式的“策动机”，基于TACO自研的加快组件TurboAttention、Lookahead Cache等，同样的测试前提下，显著降低成本。正在GPU和国产硬件上，可实现吞吐机能提拔2倍，优化吞吐。也对背后的云计较底座提出了新的要求。全面兼容支流模子，愈加沉视旅行体验和个性化表达，输出Token时延缩短为本来的40%。推理办事吞吐提拔两倍，“00后”和“90后”出逛占比达到72%，正在QwenVL、InternVL等模子摆设中，TACO将继续正在更多行业场景中阐扬价值，特别正在国庆、除夕等高峰时段，开箱即用，提拔营业体验。也正鞭策整个行业向着更智能化标的目的持续成长，正在满脚营业精度要求下，摆设简练，取已经的尺度模板参团逛比拟，计较能力提拔超50%。正在DeepSeek R1满血版模子摆设时，同程旅行以DeepTrip智能旅行帮手为环节抓手，此中TACO-LLM做为其焦点组件，为各行各业的AI规模化使用供给了高效、靠得住的实施径。可成功将营业推理资本耗损量降低至本来的一半，正在多模态生成。正在此布景下，衔接除夕出行的兴旺需求，具体而言，做为国内领先的正在线旅行办事平台，而且支撑狂言语模子PD分手摆设，不只为同程旅行带来了显著的营业价值，持续为客户优化推能？
