Roblox рассказала, как сверяет возраст аккаунта с его поведением после проверки по селфи
Внутренняя система учитывает несколько групп сигналов. Она помогает следить за соответствием возрастной оценки при дальнейшем использовании аккаунта.
Roblox раскрыла устройство системы, которая сопоставляет поведение аккаунта с ранее оценённым возрастом пользователя. В технической публикации от 4 августа компания объяснила, почему проверка по селфи дополняется наблюдением за дальнейшим использованием платформы.
После начальной проверки аккаунт могут передать другому человеку, например младшему родственнику. Чтобы возрастная оценка не оставалась неизменной при таких обстоятельствах, Roblox создала собственную систему машинного обучения. Она оценивает, согласуются ли последующие действия с предполагаемой возрастной группой.
Система учитывает несколько семейств сигналов: общие особенности круга общения, участие в играх, активность аккаунта, характеристики коммуникации и более широкие модели использования платформы. Для каждой группы применяется отдельная модель. Их результаты объединяются в общую оценку вероятности принадлежности к возрастным диапазонам.
Компания подчеркнула ограничения такого анализа. Родители и дети могут играть в одни и те же игры, а язык общения зависит от культуры и контекста. Кроме того, люди, прошедшие усиленную проверку возраста, не представляют случайную выборку всей аудитории. Roblox корректирует вес обучающих примеров, чтобы уменьшать это смещение.
По данным публикации, в обучении используются почти 30 млн возрастных меток высокой достоверности. Ежедневно система обрабатывает около 2 млрд записей на уровне аккаунтов. Roblox заявила, что по возможности хранит производные признаки вместо полных потоков исходной активности.
Перед допуском модели к работе компания проводит защитные проверки. Результаты анализа также проходят контроль перед передачей другим системам: при резком изменении распределения прогнозов публикация блокируется. Roblox отдельно оценивает стабильность и соответствие человеческим проверкам, поскольку один общий показатель точности не описывает работу системы на границах возрастных групп.