A/B版本测试

想了解玩家对游戏更新的反应?可以通过A/B实验来验证。为此,通过开发人员控制台添加新的游戏版本。指定受众百分比和实验持续时间。 测试结束后,比较实验版本与主版本的关键指标,据此决定是否更新应用。

重要

只有游戏已发布后才能启动实验。

如果测试受到其他因素影响,结果将不可靠。为避免这种情况,请勿在实验期间发布新游戏版本,也不要同时进行其他A/B测试。

要研究较小的变化如何影响游戏指标,请进行使用标志的A/B实验

步骤 1. 准备工作

准备一个新的实验性构建版本。它必须符合平台要求草稿材料

通过Yandex Games控制台上传:

  1. 选择目标游戏。

  2. 进入 Builds A/B Tests 标签页。

  3. 点击 Start A/B Test

  4. 填写 Experiment nameWhat’s new字段。描述新版本与游戏主版本的区别 — 这些信息将帮助审核人员更快地检查版本。

  5. AudienceDuration字段中选择所需的值。

  6. 点击 Choose file 上传游戏包

  7. 提交申请(Submit request),必要时使用 Edit submission 修改。

  8. 等待构建检查。大约5分钟后刷新页面:

    • 通过检查:显示 Build passed the check 通知。
    • 未通过:点击 Back to submission 修正后重新上传。
  9. 点击 Submit for moderation

    重要

    同一时间只能进行一项审核:草稿创意A/B测试或版本A/B测试。在A/B测试构建审核期间,其他类型的审核将不可用。

步骤 2. 审核阶段

备注

提交审核后2小时内可撤回申请

3-5个工作日内,审核结果将显示在 Builds A/B Tests 标签页顶部:

实验自动启动:选定百分比的用户开始看到新的实验版本游戏,其余用户继续看到常规版本。

审核拒绝了新构建,因为对游戏所做的更改违反了要求。审核团队将向您在Yandex ID中指定的电子邮箱发送一封邮件,其中将说明拒绝的具体原因,并附上违反的游戏要求项链接。审核团队还将附上包含违规记录或截图的文件。

在重新提交游戏进行审核之前:

  • 如果违反的要求有说明或测试方法,请熟悉它们。
  • 对游戏进行修改。
  • 再次仔细检查游戏是否符合上次违反的要求。
  • 如果可能,在与审核使用的设备类似的设备上测试游戏。这些设备的型号将在通知中说明。

如果您对发布评论有疑问,请联系支持

尝试次数不受限制,但每次被拒绝后,重新提交审核前的等待时间会加倍。最长等待时间为384小时(16天)。

步骤 3. 启动

实验启动后,Builds A/B Tests 标签页将显示测试数据:实验启动日期和自动结束日期。首批测试结果将在几天后出现,并以图表和表格形式显示。

对比版本的核心指标:

指标

说明

Timespent per player

玩家平均每天在游戏中花费的分钟数。

Conversion To Play

游戏会话时长超过60秒的比例。

Interstitial shows per player

玩家每天观看全屏广告的平均次数。

Rewarded shows per player

玩家每天观看激励广告的平均次数。

Ad revenue delta*

测试组与对照组的Yandex广告收入差异(以对照组收入为基准的百分比)。

In-app purchases per player

玩家每天进行应用内购买的平均次数。

Ratio of players with in-app purchase*

付费用户占每日应用活跃用户的比例(百分比显示)。

In-App revenue per player*

日均每玩家应用内购买收入(单位为卢布)。

* 仅游戏所有者及具有View income权限的开发者可查看该指标。

如果指标着色:

  • 绿色 — 结果为正且具有统计显著性
  • 红色 — 结果为负且具有统计显著性

如果指标没有任何颜色标记,则无法明确判断实验是否对用户产生影响。

重要

要获得关于玩家活动的统计显著结果,实验必须至少持续一周。

计时将在审核检查后开始。实验将在您在 Duration 字段中选择的时间后自动结束。要提前结束,请点击 StopYes, stop it

步骤 4. 结果处理

实验结束后,点击:

  • Publish 将新构建设为主版本。无需重新通过审核。
  • Don’t publish 结束实验并停止向用户显示实验构建。

做出决定后,点击 Close

由于用户行为会受到多个因素的影响,将无法确定最初测试的变化的作用。

新构建必须与草稿中指定的类型、年龄限制、标签和宣传材料相匹配。

可能的选项:

  • 10% (5%/5%);
  • 20% (10%/10%);
  • 50% (25%/25%);
  • 100% (50%/50%)。

可能的选项:

  • 7 天;
  • 14 天;
  • 21 天;
  • 28 天。

ZIP压缩包必须:

  • 不超过100 MB;
  • 仅包含一个 index.html 文件。

有95%的概率,指标改善与新构建中的变化有关。

有95%的概率,指标下降与新构建中的变化有关。

上一篇
下一篇