서울 로블록스가 플랫폼 안전을 위한 다층적 접근 방식의 일환으로 ‘실시간 멀티모달 콘텐츠 관리(Real-time Multimodal Moderation)’에 대한 대규모 투자를 발표했다.

로블록스 대시보드

로블록스의 새로운 AI 시스템은 사용자의 시점에서 3D 오브젝트, 아바타, 텍스트를 포함한 전체 콘텐츠를 동시에 분석할 수 있게 지원하며, 단일 3D 오브젝트나 텍스트 조각과 같은 개별 항목만 검증할 수 있던 기존 도구의 한계를 보완했다. 해당 시스템은 특정 모먼트의 모든 요소를 종합적으로 포착해 여러 유형으로 결합된 콘텐츠가 플랫폼 규정을 위반하는지 파악할 수 있다.

주요 성과 및 영향

· 매일 5000대의 서버 차단: 시스템 도입 이후 매일 수천 개의 커뮤니티 가이드 위반 서버를 차단하고 있다.
· 선제적 안전망 구축: 로블록스는 기존에도 AI와 전문 모더레이션 팀을 통해 플랫폼에 업로드된 모든 콘텐츠를 검토하고 있다. 새로운 시스템은 이에 더해 게임 플레이 중에도 작동하는 안전망으로서 유해성 텍스트, 3D 드로잉, 아바타의 움직임이 결합된 상황을 실시간으로 평가해 사용자가 해당 콘텐츠를 접하기 전에 해당 서버를 즉시 차단할 예정이다.
· 정밀 타기팅: 전체 서비스가 아닌 특정 위반 서버만을 차단하기 때문에 규칙을 준수하는 일반 플레이어들은 서버 중단 없이 게임을 안정적으로 플레이할 수 있다.

이번 발표는 사용자 생성 콘텐츠(UGC) 플랫폼이 AI를 활용해 사용자를 보호하고 콘텐츠를 관리하는 방식에 있어 중대한 변화를 의미한다.

이번 발표에 대한 더욱 자세한 내용은 로블록스 뉴스룸 포스팅을 통해 확인할 수 있다.

웹사이트: https://www.roblox.com