【猎云网（微信号：ilieyun
）】5月23日报道 （编译：Halcyon）
虚拟世界中，开玩笑和骚扰现象之间的差异很难辨别。一起玩游戏的朋友间的称呼通常是一种友情的体现。然而，在陌生人之间，因为前提不同，类似的称呼时常会有不同的含义。对于视频游戏开发者而言，顺利将两者进行区分从而建立大众喜爱社区是至关重要的。
Spirit AI希望帮助开发人员维护社区秩序，并通过名为Ally的辱骂行为检测和干预系统来阻止欺凌行为。软件通过游戏或社交平台中的有效操作来监测玩家之间的互动情况，即玩家之间的语言和行为方式。它能够检测到口头骚扰和非语言挑衅，例如，一个玩家跟踪另一个玩家或是滥用报告工具。
Ally开发人员Ruxandra Dariescu解释说：“我们正在研究一种交互模式，无需依靠个别关键字列表，该模式将内置自然语言分类器。 ”
当识别出潜在的辱骂行为时，Ally将会对潜在的辱骂者和其他玩家的历史互动情况进行检查。Ally与现有的审核软件不同之处在于，它不是简单地向游戏开发者发送警报，而是能够发送一个计算机控制的虚拟角色，以便对玩家进行监测。此外，通过Spirit AI的自然语言工具，虚拟角色还能根据游戏的语言和风格与玩家进行交谈。
Ally会做出提醒：“我注意到你与42号玩家是陌生人，他们可能对你说了不合适的内容，现在我只是想询问一下你的状况？” Dariescu表示，该玩家可以对此作出回应。如果这种互动是出于友好的玩笑，系统会记录信息并更新其规则，避免将来介入类似的玩家互动；但如果用户感觉受到辱骂，系统将会对涉嫌对象实行干预措施。
Ally兼容所有在线游戏，Spirit AI正致力于在虚拟现实游戏中增加警察行为的功能。该工具可以通过多种方式进行配置，与玩家进行互动并采取不同的行动。Spirit AI将Ally视为游戏中增加社区管理团队的一种方式，以此实现对玩家互动的监测。
该公司于2016年正式成立，现有15名员工，目前还不愿透露目前正在合作的游戏开发商，但是不得不说该软件已经在游戏世界引起了广泛关注。一位参与过诸如RuneScape等在线多人游戏开发的资深设计师表示，“在最简单的层面上，AI支持的社区管理工具可以提升团队的影响力。但最让我意想不到的是，AI系统已经不单单限于识别和惩罚违规行为。AI团队成员的最终目标或许是摆脱警务，形成积极的互动行为，从而建立更加健康的社区。”
Spirit AI对此款软件的设想不仅仅是一个可以被召入网络游戏的数字化警察部队。Dariescu表示，“我们已经确定了这种技术的潜力。不仅可以防止不良行为，还将鼓励良好的社会风气。”同时，该软件还可以利用环境窃听来检测更多的问题，例如玩家可能会对这个游戏有一些设想，这样一来便可为开发者提供有关如何改进玩家整体体验的看法和建议。
据Jele所言，AI干预行为在骚扰事件中存在限制。他提到，玩家是开发商的资金来源，应该得到最好的照顾，而这种照顾当前只有人类才能提供。
