jony 发表于 2023-7-15 12:01:29

Unity 内测 Safe Voice 服务,利用 AI 自动识别玩家不当聊天内容

昕搜 7 月 14 日消息,游戏引擎开发商 Unity 近日推出了一项新功能 Safe Voice,该技术旨在通过 AI 检测玩家在游戏聊天中类似“问候父母”的不当内容。
https://img.ithome.com/newsuploadfiles/2023/7/beb485bc-899e-476b-8c3a-bf723a10eaaf.jpeg
▲ 图源 Unity 官网据 Unity 介绍,这项服务能分析玩家语音数据的语气、音量、音调、语调、情绪和交互背景,以帮助系统和玩家更快采取行动。
Unity 强调,该功能“可以帮助打造一个健康的社区以减少用户流失”。在这方面,为了反映不同社区的特征,Safe Voice 引入了对特定单词或表达方式的危害性进行优先排序的功能,以及为不同内容分配危害性分数的功能,从而能更有效地对某类不当发言进行判别,帮助管理员更快惩罚恶意用户。
Unity 表示,Safe Voice 与引擎无关,因此它可以与 Unity、虚幻或者其他游戏引擎一起使用,并适用于 Xbox、PS、PC、Android、iOS 等平台,且还能与 Unity 的语音和文本聊天解决方案 Vivox 连接。
在隐私保护方面,Unity 强调录制和分享对话会事先征得玩家个人同意,且不会验证个人身份以采集潜在的敏感个人信息。
目前该应用正处于内测状态,有内测用户反映,如果玩家将许多“新奇的脏话”用较为友好的语气表达出来,该系统似乎难以准确识别出来。
昕搜此前报道,微软近期也推出了一项游戏语音检测服务,Xbox Series X|S 和 Xbox One 用户将能够在多人游戏中录制语音聊天中的不当内容,并向微软安全团队报告。
页: [1]
查看完整版本: Unity 内测 Safe Voice 服务,利用 AI 自动识别玩家不当聊天内容