Новый размах цензуры — в России вводят систему для контроля мемов, карикатур и политических роликов.
Рассказываем, как с помощью системы "Окулус" Роскомнадзор собирается находить критику про Путина даже в картинках и видео. Систему уже запустили в эксплуатацию в начале 2023 г. Подробно разбираем, как она сейчас работает и что умеет.
С начала военных действий в Украине Роскомнадзор стремительно расширяет степень контроля в русскоязычном Интернете и вводит в работу новые системы для жесткой цензуры. Так с 2023 года ведомство запустило «Окулус». С помощью этой системы в автоматическом режиме собираются анализировать больше 200 тысяч изображений в сутки и оперативно находить в них так называемый запрещенный контент. К нему относятся пропаганда суицида, наркотиков, табачных изделий.
Однако в первую очередь систему разрабатывают для политических целей. Ее собираются использовать, чтобы в короткие сроки выявлять призывы к массовым акциям протеста и оскорбления Владимира Путина в изображениях и видеоматериалах.
За реализацию проекта ответственен Главный радиочастотный центр (ГРЧЦ). Именно его сотрудники нашли подрядчиков для создания «Окулус», а также курируют ее внедрение, использование и последующие доработки. Благодаря взлому серверов Главного радиочастотного центра осенью 2022 года КиберПартизаны получили внутренние документы и исходный код системы. И сегодня мы расскажем о том, как работает «Окулус» и чем обернется ее внедрение для Интернета.
"Окулус" — от идеи до реализации
Работа над системой «Окулус» началась 21 октября 2021 года с научного исследования, которое поручили провести сотрудникам Московского физико-технического института.
За 15 миллионов российских рублей перед ними была поставлена задача за 2 месяца выяснить, возможно ли с помощью искусственного интеллекта находить в изображениях и видео определенный контент. Кроме того, сотрудники МФТИ должны были разработать концепцию «Окулус».
В результате проделанной работы подтвердили принципиальную возможность использовать искусственный интеллект для подобных задач. И в декабре 2021 года появилось техническое задание, по которому стали искать подрядчиков для разработки системы "Окулус".
В августе 2022 года эту задачу по договору за 58 миллионов рублей поручили ООО «Эксикьюшн Эр Ди Си».
Эта компания была учреждена в 2014 году двумя начинающими бизнесменами Артемом Пономаревым (на фото слева) и Сергеем Браилко (на фото справа) с уставным капиталом всего в 10 тысяч рублей.
На момент начала 2022 года в ней работало только 29 сотрудников. Госконтрактами они ранее не занимались, однако взялись с нуля разработать «Окулус» в срок до 12 декабря 2022 года, то есть всего за 4 месяца.
Бюджет и сроки на реализацию проекта, по оценкам экспертов, знакомых с содержанием технического задания, нереальные и вызывают недоумение. Однако в феврале 2023 года Роскомнадзор заявил о запуске системы в эксплуатацию.
Теперь разберемся, что именно удалось реализовать небольшой компании за скромный бюджет и в такие ограниченные сроки. Расскажем подробнее о том, как работает «Окулус».
Исходники из США
Система реализована на основе архитектуры искусственного интеллекта Йоло версии 5 с открытым исходным кодом, которую разработал Гленн Джохер, основатель американской компании Ультралитикс.
С работой Йоло-5 вы можете легко ознакомиться на официальном сайте компании. Достаточно загрузить на сайт фото, и в режиме онлайн искусственный интеллект определит все основные объекты, которые на нем изображены.
С точки зрения нейронных сетей этот проект идеально подошел для реализации прототипа «Окулус». Таким образом, российская компания «Эксикьюшн Эр Ди Си» фактически доработала уже готовое решение, созданное в США для распознавания различных объектов на фото и видео.
Как работает цензура «Окулус»
«Окулус» способна определять заранее заданные изображения, например, логотипы, гербы, символы, лица политиков. Ниже вы видите примеры изображений, на которых искусственный интеллект системы обучали выявлять негативную информацию. Все эти файлы взяты с серверов ГРЧЦ. На них тренируют «Окулус».
Все подобные изображения считаются цензорами Роскомнадзора нарушениями и должны быть заблокированы, чтобы даже в Интернете люди не могли делиться своей точкой зрения и шутить на острые политические темы.
Система сама не ищет изображения и видео с нарушениями, а также вообще не имеет пользовательского интерфейса.
«Окулус» интегрирована в единый модуль анализа информации, который используют цензоры Роскомнадзора. Через него в систему передают изображения и видео из источников, которые уже стоят на постоянном контроле Роскомнадзора. Например, со страниц известных блогеров, политиков, медийных личностей, интернет-изданий. А «Окулус» в свою очередь должна анализировать эти материалы и выдавать оператору результат. Так работает цензура в отношении картинок и видео в русскоязычном Интернете.
На словах лучше, чем на деле
«Окулус» проверяет именно изображения. То есть все загруженные видео система разбивает на отдельные кадры и в каждом ищет запрещенный контент. Причем для поставленной задачи «Окулус» работает довольно медленно. Если взять заявленную Роскомнадзором скорость в 200 тысяч изображений в сутки, получается около 3 секунд на обработку одного изображения. А даже относительно короткое видео содержит несколько тысяч кадров. Так что система вряд ли способна обрабатывать больше чем несколько сотен видео в сутки, в то время как в Интернете их ежедневно появляются тысячи.
"Окулус" поможет Роскомнадзору проверять только очень небольшую часть новых видео из источников, которые уже стоят на контроле цензоров.
И на данный момент система ищет только конкретные изображения. Если в видео, например, агитируют присоединяться к Правому сектору, но нет его логотипа или он нарисован в нестандартном исполнении, "Окулус" не распознает запрещенный контент. 😉
Таким образом, система работает быстрее, чем человек, но не эффективнее. И несмотря на громкие заявления о запуске "Окулус" в феврале 2023 года, на данный момент в распоряжении Роскомнадзора, по нашей оценке, есть скорее прототип желаемого решения, а не полноценный продукт.
Чтобы создать программный комплекс, который способен находить запрещенный контент в большем количестве видео, по разным оценкам из внутренних документов ГРЧЦ требуется от 500 миллионов до 1,5 миллиардов рублей. И на данный момент он не реализован.
А планы-то наполеоновские....
Планы по работе над «Окулусом» расписаны во внутренних документах ГРЧЦ вплоть до 2025 года:
2023 г. — систему собираются «научить» обрабатывать видео с нарушенной последовательностью кадров и рисунки, а также улучшить распознавание текстов и расширить список объектов для поиска.
2024 г. — намерены добавить аналитику эмоций, возраста лиц, а также поз людей и их действий.
2025 г. — «Окулус» по замыслу заказчиков проекта должна уметь различать фейки в изображениях и идентифицировать людей по силуэтам.
В развитом демократическом государстве подобные технологии нейронных сетей и искусственного интеллекта применялись бы в основном на благо общества. Например, для выявления и блокировки пропаганды суицида, наркотиков, педофилии. Но в России на данный момент их стремятся использовать главным образом для тотального политического контроля общества. И в будущем подобные технологии, к сожалению, могут применять и в Беларуси.
Поэтому мы просим распространить этот материал, чтобы о системе «Окулус» узнало как можно больше людей, а также опубликуем по ней внутренние документы, которые мы получили при взломе сетей Главного радиочастотного центра.
Подписывайтесь и следите за обновлениями на каналах КиберПартизан в Телеграм.