Администрация Roblox выпустила 5 марта
заявление, в котором анонсировала внедрение в чаты игроков
новый ИИ-инструмент проверки речи. Данная технология, целью которой называют
«защиту детей», будет доступна на всех языках, поддерживаемых в настоящее время
инструментами автоматического перевода платформы (сейчас их 14 —
ред.).
Главной новой чертой механизма было названо автоматическое перефразирование.
Если раньше бранные слова и фразы в оригинальном сообщении пользователя
цензурировались символами «####», то теперь новый фильтр сам переписывает весь
текст. До адресата доходит лишь отредактированный вариант, все участники
игрового чата получают в этот момент уведомление о зафиксированной попытке
нарушения правил вежливого общения на платформе.
Также в компании сообщили, что разрабатывают методы распознавания
замаскированных нецензурных выражений. Например, тех, в которых некоторые буквы
замены цифрами или знаками препинания; общий смысл при этом угадывается все
равно. По словам администрации, сейчас количество ложных распознаваний брани
при публикации или запросе сообщений сократилось в 20 раз.
Как уточняет
MediaPost, в это же самое время Roblox работает более чем с
130 судебными исками по вопросам безопасности несовершеннолетних пользователей.
По результатам расследований несколько десятков человек в США были арестованы в
последние месяцы по обвинениям в педофилии. Во всех этих уголовных делах
фигурировала деталь: преступники вышли на своих жертв через знакомство в
Roblox, выдав себя за их родственников путем обмана возрастной модерации.
Служба безопасности компании пообещала доработать механизм и
прокомментировала: «Процесс потребует много времени».
В январе 2026 г. началофункционировать разделение пользователей
на 6
возрастных групп. Однако пока что сохраняется ненулевая вероятность ошибки
распознавания или обмана системы. На территории РФ Roblox
заблокирован.
В западных странах все больше ведутся разговоры о введении возрастного
ценза на
чат-боты
и соцсети, контент которых
«вызывает
привыкание».
Свежие комментарии