유니티는 왜 유해성 솔루션 ‘세이프 보이스’를 구축했을까?

유니티는 지난 7월 14일, 유해성 차단 솔루션 ‘세이프 보이스’를 출시했다. 유해성은 화학이나 건강 관련 분야에서 자주 쓰이는 단어지만, 최근 해외 게임계에서는 독설이나 욕설, 모욕적인 언사를 비롯해 트롤링과 무단 탈주 등 각종 부정적인 플레이어 상호작용을 일컫고 있다. 이와 관련해서 게임사가 적극 조치할 수 있도록 돕는 솔루션이 ‘세이프 보이스’인 셈이다.

그간 여러 게임사와 협회의 연구를 통해 게임 내 유저간 부정적인 상호작용, 즉 유해성이 유저의 플레이 경험 및 라이브 서비스 유지에 악영향을 미친다는 것이 입증되어 왔다. 이와 관련해서 여러 게임사들이 자체적으로 조치를 취하고 있는 가운데, 유니티가 새롭게 마련한 ‘세이프 보이스’는 어떻게 이들이 효율적으로 이런 부정적인 상호작용을 막도록 도울 수 있을까? 유니티에서는 이러한 솔루션에 언제부터 그리고 왜 관심을 가졌을까? 유니티 게이밍 서비스를 감독하는 유니티의 제프 콜린스 시니어 부사장 겸 제너럴 매니저에게서 이야기를 들어볼 수 있었다.

▲ 유니티 제프 콜린스 시니어 부사장 겸 제너럴 매니저

Q. 소개 부탁한다.

= 유니티 게이밍 서비스(Unity Gaming Services(UGS))를 감독하는 시니어 부사장 겸 제너럴 매니저(SVP & GM)를 맡고 있는 제프 콜린스다. UGS는 세계적인 스튜디오들의 신뢰를 받는 백엔드 및 라이브 옵스(Live Ops) 제품 플랫폼으로, 규모와 엔진에 상관없이 라이브 게임을 지원하고 있다.

유니티에 합류하기 전에는 모기지 소프트웨어 개발사인 앨리 매(Ellie Mae)에서 엔지니어링 부문 SVP, 리튬 테크놀로지스에서는 엔지니어링 부문 VP, 그리고 금융 IT 기업 인튜이트(Intuit)에서 인튜이트 파트너 플랫폼 부문의 수석 아키텍트로 근무했다.

Q. 최근 유해성 방지 솔루션 세이프 보이스(Safe Voice)를 선보였는데, 유니티는 언제부터 이 분야에 처음으로 관심을 갖기 시작했나?

= 유니티는 스튜디오들이 게임 개발의 과제를 해결할 수 있게끔 돕고자 최선을 다하고 있다. 빈번하게 발생하는 문제 중 하나가 바로 유해성, 즉 욕설이나 각종 부정적이고 모욕적인 언어 그리고 그 외에 다른 플레이어를 부당하게 공격하거나 부정적인 감정을 일으키는 일련의 행동들이었다. 이 문제는 플레이어와 개발자 모두에게 중대한 영향을 미친다. 유해한 행동은 부정적인 게임플레이 경험으로 이어질 뿐만 아니라, 최악의 경우에는 플레이어의 정신 건강에도 영향을 끼치기 때문이다. 또한 유해성이 번진 게임은 플레이어의 게임 참여 의욕을 하락시켜 이탈하게 만들고, 결국 개발자에게 매출 손실이 발생하게 된다.

2021년에 실시된 유해성 설문조사 자료를 보면 72%의 플레이어가 멀티플레이어 게임 중 유해한 행동을 목격했다고 답했고, 68%는 직접 경험했다고 답했다. 유해한 행동을 겪은 플레이어 중 67%는 유해성으로 인해 게임을 그만둘 가능성이 있다고 답했다. 그리고 설문조사에 참여한 92%의 플레이어는 게임 내 유해성을 해결하기 위한 솔루션이 필요하다고 피력했다. 이렇듯 변화를 위한 큰 수요가 존재하는 상황이다.

이런 상황에서 세이프 보이스는 개발자들이 플레이어들의 긍정적인 행동을 유도하고, 커뮤니티에 유해성이 번지는 것을 막는 것에 큰 도움이 될 것이다. 유니티 게이밍 서비스의 세이프 보이스는 AI 기술을 기반으로 게임 내 잠재적으로 분란을 유발하는 유해한 행동을 식별하고, 개발사가 플레이어에게 부정적인 영향을 미치는 경험이나 행동을 파악하도록 지원, 이러한 행동에 적절한 조치를 취할 때 필요한 분석 자료를 제공한다.

▲ 유니티는 2021년 유해성 설문 조사를 개시, 게임에 미치는 영향을 다각도로 분석했다(출처: 유니티 리포트)

Q. 단순한 욕설과는 달리 ‘유해성’의 기준은 모호해서 기준을 확립하는 것이 어려울 것 같다. 어떻게 그 기준을 설정했나?

= 유해성의 카테고리는 대부분 스튜디오 내 신뢰 & 안전 팀(Trust & Safety team, 이하 T&S)에서 정하는 행동 규칙/커뮤니티 가이드라인과 이들의 게임 커뮤니티 내에서 인지하는 유해성의 유형에 따라 모델링한다. 즉, 게이밍에서 허용되는 것과 유해한 것을 우리가 단독으로 정의하는 것은 아니다. 기준을 정의하고 이를 유지하는 데 있어서 해당 스튜디오의 중재 팀의 도움을 받아 피드백 루프를 만드는 것인데, 그 기준이 각 스튜디오의 표준에 부합해서 지속적으로 업데이트가 원활하게 되어야 하기 때문이다.

즉 그 기준 마련은 일회로 끝나는 것이 아닌, 고객 T&S 팀과 함께하는 반복적인 협업 프로세스다. 우리가 평가를 실시하고 특정 콘텐츠를 유해한 것으로 식별하면, 고객 T&S 팀에서 사용 사례에 대한 관련성을 조정하고 어떤 데이터가 유해하다고 표시할지 결정한다.

그 뒤에 사용자 입력을 통해 시스템 수준에서 직접 이 작업을 수행하면서 그 품질을 최고 수준으로 끌어올릴 수 있다. 새로운 표현을 매핑해 새로운 사용 사례를 식별하는 기능뿐만 아니라, 중재 팀의 피드백을 통해 모델 정확도를 개선하면서 예측 피드백을 제공할 수도 있다.

또 특정 키워드와 표현이 그 구체적인 의미뿐만 아니라 특정 커뮤니티에서 맥락을 통해 때로는 유해하다고 판단하지 않나. 그러다 보니 고객들이 이전보다 커뮤니티를 좀 더 보기 시작하고, 집중하는 만큼 라이브 서비스 초기 단계부터 학습 프로세스를 통해 좀 더 그 맥락을 파악할 수 있도록 돕고 있다.

Q. 그간 세이프 보이스와 같은 솔루션이 거의 없었기 때문에 사람들이 그 작동 방식이 낯설 것 같다. 솔루션은 어떻게 작동하는지 궁금하다.

= 세이프 보이스는 정교한 머신 러닝 기법을 활용해 인게임 음성 커뮤니케이션의 맥락을 분석한다. 기존의 음성 인식 기술과는 다르게 음향 및 의미론적 분석을 활용, 단순한 표현이 아닌 의도와 상호작용에 집중하고 감정, 만족도 수준, 갑작스레 터져 나오는 소리 등을 비롯해 더 풍부한 데이터 세트를 고객들에게 제공한다. 이를 토대로 플레이어가 유해하거나 분란을 유발하는 행동을 했을 때 세이프 보이스가 활성화되고, 개발자들은 이 데이터 세트를 토대로 해당 플레이어의 분란 조장 및 갑작스런 중도 이탈 등 게임 내 다양한 활동을 선제적으로 모니터링해서 조치할 수 있다.

▲ 머신 러닝으로 인게임 음성의 맥락을 분석, 대시 보드 형태로 관리자에게 전달한다

Q. 특히 언어 표현뿐 아니라 어조, 음량, 감정과 같은 맥락도 중요하지 않나. 이를 어떻게 식별하고 대응할 수 있을까?

= 기존 음성 인식 기술은 낮은 인식 품질, 모호한 표현, 화자 사이의 맥락 부족, 다양한 언어에 대한 제한적인 지원, 높은 비용 등이 문제였다.

세이프 보이스는 AI로 구동되는 맥락 인식 솔루션으로, 플레이어의 인게임 경험에 부정적인 영향을 줄 수 있는 행동을 식별하는 데 도움을 준다. AI를 기반으로 뉘앙스를 살린 분석 자료를 제공하며, 어조, 음량, 음조, 억양, 감정, 맥락을 살린 플레이어 상호작용을 분석한다.

이를 토대로 고객사의 중재 팀은 세이프 보이스를 통해 유해성을 더 효과적으로 관리할 수 있을 것이다. 세이프 보이스는 직관적인 대시보드를 통해 종합적인 분석 자료를 제공하므로 중재자들이 데이터에 기반하여 신속한 의사 결정을 내릴 수 있고, 이를 통해 문제를 즉각적으로 해결하고 더 건전한 게임 환경을 유지하는 역량을 강화할 수 있으리라 본다.

Q. 유해한 표현은 언어 및 문화에 따라 다를 수 있지 않나. 영어권뿐만 아니라 다른 언어권에서도 세이프 보이스가 동일하게 좋은 성능을 발휘할 수 있을까? 또한, 다른 언어 또는 문화의 유해한 표현을 필터링할 수 있는 세이프 보이스와 연관된 유니티의 다른 솔루션 또는 기술이 있나?

= 세이프 보이스의 성능과 효율은 데이터 다양성과 관련이 있다. 제품이 더 많은 데이터를 통해 학습하면서 시간이 경과함에 따라 솔루션이 개선된다. 질문한 것처럼 언어와 문화뿐만 아니라 게이밍 문화에서도 늘 매우 특정한 문화적, 맥락적 뉘앙스가 존재하고 있다. 그래서 우리는 고객들이 스스로 기준을 조정하고 조건을 정의할 수 있도록 했다.

Q. 세이프 보이스를 유니티가 아닌 다른 엔진으로 개발한 게임에 사용할 수 있나? 그리고 Vivox 음성 채팅 솔루션이 아닌 다른 솔루션에 적용할 수 있나?

= 세이프 보이스는 엔진에 구애받지 않는 유니티 보이스 챗, 즉 비복스에 통합되는 만큼 세이프 보이스는 어떤 엔진으로 개발된 어느 게임에서든지 사용할 수 있다. 다만 비복스에 통합되어 있어 다른 음성 채팅 솔루션은 지원하지 않는다.

▲ 유니티의 자체 조사뿐만 아니라

▲ 게임 내 유해성 이슈를 연구해 온 반명예훼손 연맹(ADL)에서도 게임 내 채팅이 더 심각하다 보았다(출처: ADL)

Q. 플레이어들은 인게임 채팅뿐만 아니라 종종 디스코드 같은 외부 프로그램으로 채팅하지 않나. 이럴 때에도 유해성 표현을 필터링할 수 있을까?

= 현재는 외부 서비스를 지원하지 않는다. 우리는 인게임 음성 채팅에서 더 문제가 만연하다고 생각하고, 그러한 환경에서 유해성을 제한하는 솔루션에 집중했다.

물론 플레이어들은 종종 외부 툴을 사용해서 대화하기는 한다. 그러나 그때는 지인 혹은 자신이 참여하기로 한 커뮤니티에서 대화하는 것이고, 낯선 사람과 소통하는 경우가 드물다. 이 환경은 좀 더 예측 가능한 환경이라 유해성, 부정적인 상호작용에 좀 덜 노출되는 경향이 있다.

그래서 우리는 세이프 보이스로 게임 내 음성 채팅 서비스를 개발사들이 좀 더 적극적으로 제공할 수 있게 해서 모든 플레이어에게 비슷한 긍정적인 경험을 조성할 수 있도록 돕고 있다. 유해성을 억제함으로써 인게임 음성 채팅 커뮤니티가 성장할 수 있기를 바라고 있으며, 어떤 상황이든 최고의 경험을 제공할 수 있도록 주력하고 있다.

Q. 특히 머신러닝과 AI에서 종종 일관성 문제가 언급되지 않나. 특히 언어는 여러 면에서 주관적인 영역이다보니 데이터가 축적되고 학습되면서 여러 가지로 문제가 발생할 가능성이 높아 보인다. 이를 어떻게 보완할 수 있을까?

= 우리는 여러 가지 방식을 통해 일관성 문제를 해소하고자 한다. 우선 ‘라벨링’에서는 기계가 아닌 사람, 즉 중재 팀에 의존하고 있다. 이들은 유해성이라는 이슈와, 커뮤니티에서 유해성이 어떻게 나타나게 되는지 잘 인식하고 있는 전문가들이다.

좀 더 자세히 설명하자면 AI를 활용해서 욕설, 인신공격같이 명확하게 정의할 수 있는 정보를 먼저 추출한다. 그리고 스튜디오와 협력해 게임의 맥락에서 유해성을 정의하고, 안전 팀에서 신뢰도 있는 정보를 보유하도록 해서 정보와 데이터에 기반한 의사 결정을 내릴 수 있도록 돕는 것이 ‘세이프 보이스’의 방향성이다.

Q. 공격적이고 유해한 표현은 점점 다양해지고 있는데, 세이프 보이스가 이를 얼마나 빠르게 포착해 낼 수 있을까?

= 게임의 특정한 니즈에 따라 세이프 보이스를 맞춤 설정하면 중재 팀이 유해한 행동에 더욱 효율적으로 대응하는 데 도움이 될 것이다.

세이프 보이스는 선제적 및 플레이어 주도적 모니터링을 모두 제공한다. 플레이어가 유해하거나 분란을 유발하는 행동을 표시했을 때 활성화되며, 플레이어가 갑자기 채팅을 끄거나 혹은 갑작스럽게 게임을 종료하는 등, 어떤 돌발 상황이 있을 때 개발자가 게임 내 활동을 선제적으로 모니터링할 수 있다.

이후 솔루션은 스튜디오가 설정한 것에 따라 우선순위를 설정하고 주의가 필요한 세션을 분류한다. 중재 팀에서 타겟 키워드 목록을 구축하거나 특정 단어, 문구를 후순위로 설정하거나 혹은 유해성 한계치를 맞춤 설정해서 그 게임 서비스만의 고유한 커버리지를 구축하는 것도 가능하다.

▲ 해당 게임의 상황에 맞춰서 유해성 관련 각종 파라미터와 조건을 게임사에서 직접 세팅할 수 있다

Q. 새로운 솔루션은 이전 솔루션 대비 효율성이 얼마나 개선되었나 이 부분이 핵심 아닌가. 세이프 보이스가 기존 솔루션 대비 대략 얼마나 개선되었다고 보나? 또 이 솔루션으로 유저들이 얼마나 원활하게 게임을 즐기게 될까?

= 세이프 보이스를 활용한 사례 중 ‘하이-레즈 스튜디오’의 무료 전략 슈팅 게임 ‘로그 컴퍼니’의 사례를 들고자 한다. 이들은 설치 첫 달에 18,000개의 세션을 분석해 유해성이 의심되는 10,000여 개의 세션을 감지했다. 그리고 중재자들이 1분 이내에 15분 분량의 멀티플레이어 게임을 검토하고, 오디오에서 유해성 요소가 체크된 2,800개의 세션을 식별해서 이전에 알지 못했던 플레이 경험 문제를 찾아냈다.

이렇듯 세이프 보이스의 목표는 개발자들이 더 긍정적인 게임 커뮤니티와 환경을 조성하도록 돕는 것이다. 플레이어들이 게임을 할 때 외부의 공격적인 행동으로부터 보호받는다고 느끼고, 안전한 환경에서 자유롭게 활동해야 비로소 그 게임을 즐길 수 있지 않겠나. 이러한 것이 더 나아가 다양한 의견과 경험이 존중 받는 포괄적이면서 안전한 온라인 게임 공간을 만드는 것에 도움이 된다고 생각한다.

Q. 세이프 보이스가 문제를 식별해도 결국 조치는 관리자들이 하는 것 아닌가. 어떤 정보를 제공해서 관리자가 신속하게 판단해서 적절한 조치를 취할 수 있게 하나 궁금하다.

=세이프 보이스의 세션 보고는 대시보드 형태로 올라오며, 이를 근거로 팀에서 플레이어 간의 상호 작용을 쉽게 파악할 수 있다. 개요 대시보드에서는 시간의 흐름에 따른 추세를 보여주며, 게임 내에서 가장 분란을 유발하는 행동을 체크한다. 모니터링 대시보드는 거의 실시간으로 업데이트되고, 플레이어 특성에 대한 세부 분석 자료도 제공된다. 이를 토대로 플레이어의 현황을 가시적으로 확인하는 한편, 우선순위를 맞춤식으로 반영해서 원하는 포인트에 집중해서 체크할 수 있다.

또 리포트가 올라오게 한 대화를 녹음하고 이에 대한 분석도 제공, 중재 팀에서 바로 사건을 몇 분 내로 검토할 수 있도록 돕는다. 여기에 플레이어 보고 시스템도 통합이 되어있어 공격 유형 식별 및 코멘트도 제공해 맥락도 더 쉽게 파악하게끔 한다. 여기에 채팅 중단, 게임 종료 등 상황에 대한 메타 데이터도 제공해 상호작용 중 발생한 사태가 유해성 관련 반응인지 추가로 식별할 수 있다.

▲ 각종 정보를 세분화해서 제공, 관리자가 맥락을 더 빠르고 정교하게 파악할 수 있도록 돕는다

Q. 아직 CBT 중인 것으로 알고 있는데, 이를 활용하려면 어떻게 해야 하나? 테스터 선정 기준도 따로 있는 건가?

= 현재 클로즈 베타 참여 기준은 다음과 같다.

1) 주로 영어권 플레이어를 기반으로 한 게임.

2) FPS/멀티플레이어/매치 기반 타이틀을 선호.

3) 유니티 보이스 챗(Unity Voice Chat(Vivox))이 활성화되어 있어야 함.

4) 스튜디오에서 플레이어 오디오 녹음에 대한 플레이어의 명시적 동의를 수집해야 함(예: 명시적인 질문이 포함된 팝업, 명확한 목적, 선택 체크박스).

5) 유니티가 서비스 개선을 위해 플레이어 데이터를 활용하는 데 동의할 것.

6) 부모 동의 메커니즘을 적용해야 함(섹션 8.6 유니티 서비스 약관에 의거)

Q. 세이프 보이스 같은 유해성 관련 솔루션이 게임 외에 다른 분야에도 적용할 수 있는 기술로 보이는데, 다른 분야로도 솔루션을 확장할 계획이 있나? 있다면 어떤 분야를 눈여겨보고 있나?

= 물론 말한 것처럼 세이프 보이스의 장점이 다른 분야에서 적용될 수 있으리라고 생각한다. 향후 어느 시점에 게임뿐만 아니라 다른 분야에서도 테스트하고 솔루션을 제공하는 것을 목표로 하고 있다. 다만 현재로서는 게임에만 집중하고 있다. 게임 내에는 유해성 문제가 만연하고, 개발자와 플레이어 모두 이 과제를 해결하고자 하는 수요가 있다. 그런 상황에서 크리에이터들에게 더 긍정적인 게임 환경을 조성할 수 있는 솔루션을 제공할 수 있게 되어 기쁘다.

출처: 인벤

모바일 게임 PC 다운로드

녹스 앱플레이어는 안드로이드 게임이나 앱을 WIN·MAC 큰 화면에서 즐길 수 있는 앱플레이어(무료 소프트)입니다 . 녹스의 멀티 플레이 기능을 이용해 신규 에뮬레이터를 생성하여 스마트폰 몇개를 가지고 있는 것처럼 PC 한 대에서 동시에 리세마라를 진행 가능합니다. 라그나로크X 뿐만 아니라, 블루 아카이브, 좀비고, 쿠키런 킹덤등 인기게임들도 녹스를 통해 PC로 즐길 수 있습니다!

	모바일 게임을 키보드와 마우스로?	클릭 한번으로 가상 키보드 실행이 가능하며 PC에서도 모바일 게임을 간편하게 체험할 수 있습니다.
	최강의 멀티 플레이	멀티를 실행해 보세요! 멀티로 실행된 앱플레이어에 게임 운용이 동시에 가능합니다. 간편하게 여러 계정을 함께 실행해 보세요.
	마우스 키 녹화	복잡한 조작을 심플하게 기록해 보세요. 다음에 게임 플레이 시 한번의 클릭으로 모든 것이 해결 됩니다.