Unity Safe Voice를 통한 악성 행위 차단
관련주제
- #AI
- #Community Solutions
- #Product news
- #Unity Gaming Services
- #Voice and Text Chat
2023.08.16
악성 행위는 즐거움을 기대했던 게임 경험을 악몽으로 바꿔 버릴 수 있습니다. 많은 게이머들은 모욕과 트롤링, 비하 발언이 쏟아지는 상황에서 게임을 조용히 그만두는 편을 선택합니다. 이런 식의 게이머 이탈은 게임 커뮤니티와 게임의 수명에 지장을 줄 수 있습니다.
스튜디오들은 게임 내 커뮤니티를 더 안전하게 만들기 위해 막대한 리소스와 인력을 들이고 있지만, 건전하고 재미있고 참여도 높은 플레이어 커뮤니티를 조성하는 데 필요한 툴은 준비되어 있지 않았습니다. 하지만 이제는 아닙니다.
2023 유니티 게임 업계 보고서에서는 건전한 게임 커뮤니티 구축을 지원할 필요성을 심층적으로 파악했으며, 이제 Unity Safe Voice를 클로즈드 베타 버전으로 제공합니다.
Unity Safe Voice
UGS(Unity Gaming Services)의 Safe Voice는 게임에서 플레이어가 게임 경험을 방해하는 악성 행위를 보이면 이를 식별합니다. Safe Voice는 고급 머신러닝, 딥러닝 알고리즘 같은 최첨단 AI 기술로 음성 커뮤니케이션을 분석해서 악성 행위를 효과적, 효율적으로 식별하고 해결하도록 지원합니다. 이를 통해 플레이어 경험에 부정적인 영향을 미치는 행동을 파악할 수 있으며, 본질적으로 안전한 커뮤니티를 만드는 데 필요한 세부 정보를 확보할 수 있습니다.
AI 기반 악성 행위 감지
현존하는 악성 행위 방지 솔루션들은 플레이어 간 상호 작용의 컨텍스트를 충분히 이해하지 못합니다. 음성 인식 또는 표기 기반 분석에 의존하기 때문에 실제 악성 행위와 무해한 사담을 구분하기 어렵고 큰 소음과 같이 특수한 형태로 게임을 방해하는 플레이어를 식별하기 어렵습니다. 단어만으로 악성 행위를 감지하기에는 오해의 소지가 있으며, 이로 인해 플레이어의 의도를 평가하기가 더욱 제한적일 수 있습니다.
또한 많은 솔루션이 플레이어의 신고에만 의존해 악성 행위에 대응합니다. 따라서 위반 행위를 적극적으로 신고해야 하는 부담은 플레이어가 지게 되며, 플레이어가 그냥 게임을 떠나 다시 돌아오지 않는 경우에 대처할 수 없습니다.
Safe Voice는 컨텍스트를 인식하는 AI 기술을 사용해 이러한 어려움을 극복합니다. 너무 큰 음악 소리나 악성 행위와 같은 오디오 폭력을 감지한 다음 외설, 위협, 모욕, 인신공격, 문제성 발언, 언어 공격 등 다양한 카테고리로 분류합니다. 또한 어조, 음량, 높이, 감정과 같은 음성의 고유한 특징을 분석해 세션 및 플레이어 기반 지표 양측에 대해 세밀한 정보를 제공합니다.
모니터링할 상호 작용을 커스터마이즈하고, 플레이어에 의해 시작되거나 선제적으로 적용할 상황 트리거를 활용하고, 커뮤니티에 가장 중요한 사항을 기준으로 신고 처리의 우선순위를 설정할 수도 있습니다.
대규모 문제 해결
플레이어 중재에는 많은 리소스가 필요할 수 있으며, 플레이어 기반이 방대한 게임에서는 특히 더욱 그렇습니다. 리소스가 부족하면 플레이어 신고 처리가 지연되고, 응답 시간이 느려지며, 중재 팀이 계속해서 과도한 업무에 시달릴 수 있습니다.
Safe Voice를 이용하면 AI 기반 감지 및 분류 기능이 이전의 수동 프로세스를 자동화해 거의 실시간으로 결과를 제공하므로 더 빠르게 조치를 취할 수 있습니다. 팀의 구체적인 요구 사항에 맞게 Safe Voice를 커스터마이즈해 중재 팀의 효율성을 높일 수도 있습니다.
플레이어가 악성 행위나 게임을 방해하는 행동을 신고하면 Safe Voice가 작동하기 시작합니다. 플레이어 음소거, 종료 또는 취약한 플레이어가 세션에 있는 경우 등의 게임 내 활동을 선제적으로 모니터링할 수도 있습니다. 이 서비스는 환경 설정을 기준으로 주의가 필요한 세션을 분류하고 우선 처리하므로, 플레이어의 정당한 신고나 심각한 침해 행위를 놓치는 일이 없습니다.
게임별 규칙 적용
경쟁성, 익명성 또는 플레이어 상호 작용의 강도 등 다양한 이유로 특정 게임 장르에서는 악성 행위가 더 쉽게 일어날 수 있습니다. 개인의 경험과 커뮤니티의 문화에 따라 악성 행위에 대한 인식이 매우 달라질 수도 있습니다.
악성 행위 감지 툴은 조성하려는 커뮤니티의 규범과 문화에 부합해야 합니다. Safe Voice에서는 키워드 목록을 만들어서 특정 어구의 우선순위를 높이거나 낮추고, 악성 행위 기준을 커스터마이즈해 게임과 커뮤니티에 따라 고유한 감지 범위를 적용할 수 있습니다. 플레이어에게 안전한 환경을 만들면서 게임의 본질을 지키기 위해서는 이러한 컨텍스트 분석이 매우 중요합니다.
철저한 플레이어 파악
Safe Voice의 상세한 신고 대시보드를 통해 팀은 커뮤니티를 철저하고 세밀하게 이해할 수 있습니다. 시간 경과에 따른 추세 및 게임에 특히 지장을 주는 행위를 개요 대시보드에서 확인할 수 있습니다. 플레이어 속성과 행동의 상세한 분석 결과를 확인하고 플레이어들을 악성 또는 취약 그룹으로 분류할 수도 있습니다. 데이터는 거의 실시간으로 업데이트되며 커스텀 우선순위가 반영됩니다.
Unity 음성 채팅(Vivox)을 위한 맞춤형 설계
발로란트, 레인보우 식스 시즈와 같은 현재 최대 규모의 온라인 커뮤니티에서는 Unity 음성 채팅(Vivox)으로 다양한 플랫폼의 플레이어가 서로 연결해 게임 내 커뮤니케이션을 수행합니다. 이제 Vivox 사용자는 Safe Voice를 통해 게임 경험을 향상하고 보안 수준을 높일 수 있습니다.
▶ Case study | Hi-Rez에서 악성 행위를 대규모로 해결하는 방법
안전과 포용성을 무엇보다 우선하는 미래의 게임 커뮤니티를 함께 구축하세요. 게임에서 악성 행위를 경험하는 플레이어나 처음부터 선제적으로 안전한 환경을 만들고 싶은 개발자 모두에게 Safe Voice는 도움이 될 것입니다.
모두가 GG를 외치는 그날까지
안전과 포용성을 무엇보다 우선하는 미래의 게임 커뮤니티를 함께 구축하세요. 게임에서 악성 행위를 경험하는 플레이어나 처음부터 선제적으로 안전한 환경을 만들고 싶은 개발자 모두에게 Safe Voice는 도움이 될 것입니다.
포럼에서 Safe Voice에 관해, 그리고 여러분이 게임 커뮤니티에서 대처하고 있는 악성 행위에 관해 유니티에서 어떤 도움을 받을 수 있을지 이야기를 나눠 보세요.
