A/B版本测试
想了解玩家对游戏更新的反应?可以通过A/B实验来验证。为此,通过开发人员控制台添加新的游戏版本。指定受众百分比和实验持续时间。 测试结束后,比较实验版本与主版本的关键指标,据此决定是否更新应用。
重要
只有游戏已发布后才能启动实验。
如果测试受到其他因素影响,结果将不可靠。为避免这种情况,请勿在实验期间发布新游戏版本,也不要同时进行其他A/B测试。
要研究较小的变化如何影响游戏指标,请进行使用标志的A/B实验。
步骤 1. 准备工作
准备一个新的实验性构建版本。它必须符合平台要求和草稿材料。
通过Yandex Games控制台上传:
-
选择目标游戏。
-
进入 Builds A/B Tests 标签页。
-
点击 Start A/B Test。
-
填写 Experiment name 和 What’s new字段。描述新版本与游戏主版本的区别 —— 这些信息将帮助审核人员更快地检查版本。
-
在Audience和Duration字段中选择所需的值。
-
点击 Choose file 上传游戏包。
-
提交申请(Submit request),必要时使用 Edit submission 修改。
-
等待构建检查。大约5分钟后刷新页面:
- 通过检查:显示 Build passed the check 通知。
- 未通过:点击 Back to submission 修正后重新上传。
-
点击 Submit for moderation。
步骤 2. 审核阶段
备注
提交审核后2小时内可撤回申请
3-5个工作日内,审核结果将显示在 Builds A/B Tests 标签页顶部:
实验自动启动:选定百分比的用户开始看到新的实验版本游戏,其余用户继续看到常规版本。
审核拒绝了新构建,因为对游戏所做的更改违反了要求。审核团队将向您在Yandex ID中指定的电子邮箱发送一封邮件,其中将说明拒绝的具体原因,并附上违反的游戏要求项链接。审核团队还将附上包含违规记录或截图的文件。
在重新提交游戏进行审核之前:
- 如果违反的要求有说明或测试方法,请熟悉它们。
- 对游戏进行修改。
- 再次仔细检查游戏是否符合上次违反的要求。
- 如果可能,在与审核使用的设备类似的设备上测试游戏。这些设备的型号将在通知中说明。
如果您对发布评论有疑问,请联系支持。
尝试次数不受限制,但每次被拒绝后,重新提交审核前的等待时间会加倍。最长等待时间为384小时(16天)。
提交审核后的2小时内可以撤回草稿。重新提交审核前的等待时间:
- 第1次被拒后 —— 24小时。
- 第2次被拒后 —— 2天。
- 第3次被拒后 —— 4天。
- 第4次被拒后 —— 8天。
- 第5次被拒后 —— 16天。
步骤 3. 启动
实验启动后,Builds A/B Tests 标签页将显示测试数据:实验启动日期和自动结束日期。首批测试结果将在几天后出现,并以图表和表格形式显示。
对比版本的核心指标:
|
指标 |
说明 |
|
Timespent per player |
玩家平均每天在游戏中花费的分钟数。 |
|
Conversion To Play |
游戏会话时长超过60秒的比例。 |
|
Interstitial shows per player |
玩家每天观看全屏广告的平均次数。 |
|
Rewarded shows per player |
玩家每天观看激励广告的平均次数。 |
|
Ad revenue delta* |
测试组与对照组的Yandex广告收入差异(以对照组收入为基准的百分比)。 |
|
In-app purchases per player |
玩家每天进行应用内购买的平均次数。 |
|
Ratio of players with in-app purchase* |
付费用户占每日应用活跃用户的比例(百分比显示)。 |
|
In-App revenue per player* |
日均每玩家应用内购买收入(单位为卢布)。 |
* 仅游戏所有者及具有View income权限的开发者可查看该指标。
如果指标着色:
- 绿色 —— 结果为正且具有统计显著性;
- 红色 —— 结果为负且具有统计显著性。
如果指标没有任何颜色标记,则无法明确判断实验是否对用户产生影响。
重要
要获得关于玩家活动的统计显著结果,实验必须至少持续一周。
计时将在审核检查后开始。实验将在您在 Duration 字段中选择的时间后自动结束。要提前结束,请点击 Stop → Yes, stop it。
步骤 4. 结果处理
实验结束后,点击:
- Publish 将新构建设为主版本。无需重新通过审核。
- Don’t publish 结束实验并停止向用户显示实验构建。
做出决定后,点击 Close。
由于用户行为会受到多个因素的影响,将无法确定最初测试的变化的作用。
新构建必须与草稿中指定的类型、年龄限制、标签和宣传材料相匹配。
可能的选项:
- 10% (5%/5%);
- 20% (10%/10%);
- 50% (25%/25%);
- 100% (50%/50%)。
可能的选项:
- 7 天;
- 14 天;
- 21 天;
- 28 天。
ZIP压缩包必须:
- 不超过100 MB;
- 仅包含一个
index.html文件。
有95%的概率,指标改善与新构建中的变化有关。
有95%的概率,指标下降与新构建中的变化有关。