A/B版本测试
想了解玩家对游戏更新的反应?可以通过A/B实验来验证。为此,通过开发人员控制台添加新的游戏版本。指定受众百分比和实验持续时间。 测试结束后,比较实验版本与主版本的关键指标,据此决定是否更新应用。
重要
只有游戏已发布后才能启动实验。
如果测试受到其他因素影响,结果将不可靠。为避免这种情况,请勿在实验期间发布新游戏版本,也不要同时进行其他A/B测试。
要研究较小的变化如何影响游戏指标,请进行使用标志的A/B实验。
步骤 1. 准备工作
准备一个新的实验性构建版本。它必须符合平台要求和草稿材料。
通过Yandex Games控制台上传:
-
选择目标游戏。
-
进入 Builds A/B Tests 标签页。
-
点击 Start A/B Test。
-
填写 Experiment name 和 What’s new字段。描述新版本与游戏主版本的区别 — 这些信息将帮助审核人员更快地检查版本。
-
在Audience和Duration字段中选择所需的值。
-
点击 Choose file 上传游戏包。
-
提交申请(Submit request),必要时使用 Edit submission 修改。
-
等待构建检查。大约5分钟后刷新页面:
- 通过检查:显示 Build passed the check 通知。
- 未通过:点击 Back to submission 修正后重新上传。
-
点击 Submit for moderation。
步骤 2. 审核阶段
备注
提交审核后2小时内可撤回申请
3-5个工作日内,审核结果将显示在 Builds A/B Tests 标签页顶部:
实验自动启动:选定百分比的用户开始看到新的实验版本游戏,其余用户继续看到常规版本。
步骤 3. 启动
实验启动后,Builds A/B Tests 标签页将显示测试数据:实验启动日期和自动结束日期。首批测试结果将在几天后出现,并以图表和表格形式显示。
对比版本的核心指标:
|
指标 |
说明 |
|
Timespent per player |
玩家平均每天在游戏中花费的分钟数。 |
|
Conversion To Play |
游戏会话时长超过60秒的比例。 |
|
Interstitial shows per player |
玩家每天观看全屏广告的平均次数。 |
|
Rewarded shows per player |
玩家每天观看激励广告的平均次数。 |
|
Ad revenue delta* |
测试组与对照组的Yandex广告收入差异(以对照组收入为基准的百分比)。 |
|
In-app purchases per player |
玩家每天进行应用内购买的平均次数。 |
|
Ratio of players with in-app purchase* |
付费用户占每日应用活跃用户的比例(百分比显示)。 |
|
In-App revenue per player* |
日均每玩家应用内购买收入(单位为卢布)。 |
* 仅游戏所有者及具有View income权限的开发者可查看该指标。
如果指标着色:
- 绿色 — 结果为正且具有统计显著性;
- 红色 — 结果为负且具有统计显著性。
如果指标没有任何颜色标记,则无法明确判断实验是否对用户产生影响。
重要
要获得关于玩家活动的统计显著结果,实验必须至少持续一周。
计时将在审核检查后开始。实验将在您在 Duration 字段中选择的时间后自动结束。要提前结束,请点击 Stop → Yes, stop it。
步骤 4. 结果处理
实验结束后,点击:
- Publish 将新构建设为主版本。无需重新通过审核。
- Don’t publish 结束实验并停止向用户显示实验构建。
做出决定后,点击 Close。
由于用户行为会受到多个因素的影响,将无法确定最初测试的变化的作用。
新构建必须与草稿中指定的类型、年龄限制、标签和宣传材料相匹配。
可能的选项:
- 10% (5%/5%);
- 20% (10%/10%);
- 50% (25%/25%);
- 100% (50%/50%)。
可能的选项:
- 7 天;
- 14 天;
- 21 天;
- 28 天。
ZIP压缩包必须:
- 不超过100 MB;
- 仅包含一个
index.html文件。
有95%的概率,指标改善与新构建中的变化有关。
有95%的概率,指标下降与新构建中的变化有关。