За первые 3 месяца 2019 года сотрудники компании Google вручную просмотрели на YouTube более 1 млн видеороликов, присланных пользователями на проверку на предмет содержания противоправного контента.
Из всего количества просмотренных роликов около 90 тысяч (9%) были признаны нарушающими политику сервиса в отношении запрета пропаганды терроризма.
С одной стороны, это говорит о том, что около 90 тыс. видео содержали экстремистскую идеологию. Но в то же время это свидетельство, что большое количество роликов было отправлено на ручную модерацию, хотя они и не нарушали правил сервиса (более 90%).
Компания Google уточнила, что над проверкой контента работают более 10 тыс. человек, и ежегодно на эти усилия она тратит сотни миллионов долларов.
Стрельба в Новой Зеландии усилила давление на платформы социальных сетей относительно мониторинга контента. После этой трагедии на YouTube новое видео о стрельбе добавлялось со скоростью 1 ролик в секунду. После этого в Австралии были приняты изменения в законодательство, которые обязывают платформы социальных сетей отвечать за удаление контента, содержащего насилие.
Вместе с тем ЕС рассматривает законы, которые требуют удаления террористического контента в течение одного часа после поступления уведомления. Чтобы соответствовать таким стандартам, Google, вероятно, потребуется более совершенная система, чтобы фильтровать видео, отправленные на ручную модерацию.