В коде Twitter обнаружена уязвимость, вызывающая «теневой бан» жертвы
В последнее время твиттер выполнил обещаниепредоставлено Илоном Маском и опубликовано на GitHub исходный код вашего алгоритма распознавания. Многочисленные исследователи тут же взялись за изучение исходного кода, и теперь одной из обнаруженных ими проблем был присвоен идентификатор CVE. Уязвимость позволяет получить «теневой бан» жертвы, то есть чужой аккаунт будет скрыт от других «без права обжалования».
Проблема была обнаруженный Федерико Андрес Лоис исследует механизм рекомендаций, на котором работает раздел «Для вас» в Твиттере. Согласно исследованию, скоординированные усилия других пользователей могут привести к «теневому бану» любого аккаунта, который вряд ли удастся преодолеть. Чтобы жертва получила масштабные репутационные штрафы, достаточно отписаться от него, активировать мьют для этого аккаунта, заблокировать или сообщить о нарушениях.
По словам Лоис, текущий алгоритм рекомендаций Twitter «позволяет скоординировать ущерб репутации». [любого] счет без права регресса. Этой задаче уже присвоен идентификатор CVE-2023-23218.
Получается, что любые аккаунты, подвергшиеся массовой блокировке и удалению, получат «теневой бан» и не будут отображаться в чужих подсказках, при этом владелец пострадавшего аккаунта даже не узнает о наложенных на него ограничениях. При этом исследователь отмечает, что исправить такой запрет, кажется, просто невозможно.
Лоис пишет, какое приложение ей нравится Блочная вечеринкакоторые позволяют пользователям Twitter массово фильтровать учетные записи, по сути, являются инструментами, которые (преднамеренно или нет) оказывают аналогичное влияние на пользователей.
Многие пользователи Twitter уже заговорили о том, что ошибка может быть использована многочисленными армиями ботов на платформе. Когда пользователь Твиттера предложил Маску решить проблему, разрешив отключать звук, блокировать сообщения и сообщать о них только пользователям Твиттера с «синей галочкой», Маск ответилчто он хочет знать, «что стоит за этими ботнетами».
«Глобальный штраф не должен применяться, потому что его можно довольно легко обмануть, все штрафы (если они есть) должны применяться на уровне контента», — пишет Лоис.
Однако для этого в Twitter потребовалась бы команда модераторов, и похоже, что их массово уволили вместе с другими сотрудниками, когда Маск возглавил компанию в ноябре прошлого года.
Другим очевидным решением проблемы было бы использование временной энтропии для отрицательных сигналов, но, по словам Лоис, дизайн алгоритма распознавания Twitter позволяет легко преодолеть это. Например, повторная подписка/отмена подписки на определенные учетные записи каждые 90 дней. «Такую тактику можно использовать бесконечно», — говорит эксперт.
