本研究旨在探讨数字体验监控与测试服务的应用案例,由国内领先的数字化时代IT服务管理交流平台ITIL先锋论坛提供。报告从大规模体验测试的介绍、数字体验监测平台的建设实践、案例实践、以及未来规划和展望四个维度,深入阐述了该运营商在数字体验监控与测试服务领域的实践经验和成果。
大规模体验测试的介绍: 报告首先探讨了用户在使用数字产品时常见的体验问题,以短视频应用为例,用户可能面临启动时间过长、首帧加载缓慢、播放不流畅、网络加载失败、设备发热以及流量消耗过大的问题。数字体验测试的概念及其难点涉及用户环境的复杂性、量化评估、专业性要求、分析定位的难度、数据采集的挑战以及敏捷迭代的需求。产品数字体验保障体系涵盖了研发质量保障、体验测试、网络性能、客户端性能、音视频评测、安全合规等多个方面。产品生态包括了全面的产品生态,例如Reemo边缘设备租用服务、WindTalker体验监测工具、QB/SE/UE、PerfTool性能采集工具等。
数字体验监测平台的建设实践: 报告详细阐述了数字体验监测平台的建设实践,包括边缘设备操控平台、体验分析平台、性能防劣化平台、客户端工具链等关键组成部分。具体措施包括: - 边缘设备操控平台:提供多样化的实际设备(包括Android、iOS、PC等多种设备类型)、真实的网络环境(涵盖主流运营商网络、SIM卡网络、办公室WiFi网络)、多地区部署、专用硬件设施(如测试机柜、互拍设备、弱网模拟器、拨测盒子、机械臂)等。 - 体验分析平台:介绍用户使用App的各个阶段,如启动、资源拉取、解压编解码、页面渲染、控件展示、初始化、输入响应、资源加载、CPU/GPU性能、视频播放等环节的分析。 - 网络分析:包括录屏回放、网络抓包、基于时间轴的联动分析、自动分析归因等功能。 - 隐私合规检测:构建全面的规则库,并利用AI技术提升检测能力,相关工程成果已发表于国际安全会议BlackHat。 - 视频分析:涵盖视频质量、对比度、亮度、图像信息熵、邻域变化量、花屏、黑白屏等异常情况的检测。 - 性能防劣化平台:包括定位、防劣化能力矩阵、问题消费体系、发布阶段、版本迭代、集成测试阶段、MR防劣化、开发阶段等环节。 - 架构:全面覆盖包大小、启动首帧、音视频体验、直摄体验、美颜体验、创作体验、业务层用户体验指标等关键性能指标。 - 客户端工具链:Trace采集、自研Trace工具采集方法栈信息、无侵入式、智能插桩、低性能损耗等技术。
案例实践: 报告分享了若干具体案例实践,包括: - 体验分析经典案例:A产品网络优化,发现的问题包括请求调度异常、资源未配置、DNS解析时间过长、大量大图片请求、部分请求参数过多且重复、http包体积过大等,采取的优化措施包括动态选路、配置兜底IP、大图片Webp替换、重复header和query进行hpack压缩、大请求BR压缩等,优化成果包括请求成功率提升2.2%、核心请求耗时降低约20%、发包大小降低53%、收包大小降低9%。 - 性能防劣化经典案例:A产品包大小优化,包大小降低30M,转化率大幅提升;A产品启动性能劣化,某Service初始化改动导致启动耗时增加,自动触发防劣化测试,定位到启动阶段某Service.init0方法耗时从17ms增加到276ms,自动通知相关研发;A产品大功耗真凶精准捕获,功耗检测精准到方法级别的功耗检测;A产品UI卡顿精准排查修复,Fastbot+Satan卡顿自动化发现,分场景火焰图展示,优化措施包括转场动画和页面加载大数据时机分离、优化SmartRefreshLayout绘制、使用AsyncLayoutinflator的异步inflator减少UI线程耗时,优化成果包括转场页前后顿率提升、子播放器拉起顿率提升、超长卡顿捕获。 - A产品性能全面提升:包大小持续降低接近45%,转化率大幅提升;磁盘占用(首装连续使用2h)降低300+mb;核心场景平均顿率提升20~35FPS;网络流量消耗(日平均)降低约30%;核心场景电量消耗(日平均)降低超过20%;业务核心指标:DAU、人均VV大幅增长。
规划和展望: 报告展望了未来的发展方向,包括赋能业务、追求极致体验、全景式体验测试能力扩展、体验测试基础技术的持续沉淀、以及制定行业领先的数字体验测试标准。
本研究为数字体验监控与测试服务领域提供了宝贵的实践经验,展示了如何通过边缘设备操控平台、体验分析平台、性能防劣化平台、客户端工具链等措施,实现数字体验监控与测试服务的落地和应用,提升用户体验,为业界提供了可借鉴的实践路径。
|