Эксперты рассказали, насколько реально осуществить идею «Окулуса»

«Роскомнадзор» объявил о создании в России к декабрю 2022 года информационной системы, которая будет отслеживать в интернете запрещённый контент, сообщил ТАСС. Система под названием «Окулус» будет анализировать тексты, фото и видео из недр Сети, предоставляемые ей другими российскими информационными системами в рамках Единого модуля анализа (ЕМА), и самостоятельно выявлять разнообразную запрещённую в России информацию: детскую порнографию, рекламу наркотиков, экстремизм, фейки, дискредитацию власти и Вооруженных сил РФ, и т.д.

Сейчас основная задача, стоящая перед Роскомнадзором, — автоматизировать цензуру, рассказал «Московской газете» киберадвокат, партнёр «Центра цифровых прав» Саркис Дарбинян.

«Российские власти готовы тратить на это очень много денег, чтобы блокировки запрещённых материалов происходили автоматически. Скорее всего предполагается и возможность делиться информацией о запрещённом контенте с правоохранительными органами», — отметил собеседник издания.

По мнению киберадвоката, рано или поздно должен был появиться некий большой софт, которым воспользуются подобные ведомства.

«Раньше всё делалось вручную или с помощью определённых организаций, которые писали заявления, на них Роскомнадзор реагировал. Сейчас ведомство выходит на уровень автоматизированной цензуры, «цензурной мануфактуры», это значит, что ограничений будет больше, ведомство сможет искать не только текстовый контент, но и видеоконтент, ссылки на запрещённые соцсети, информацию из любых запрещённых реестров и анализировать картинки. Это может дать РКН полномочия контролировать весь контент в Рунете, социальных сетях вроде Telegram», — сказал Саркис Дарбинян.

Если система вроде «Окулуса» не будет разработана, специалистам Роскомнадзора придётся модерировать интернет-контент вручную, считает аналитик ФГ «Финам» Леонид Делицын.

Аналогичные примеры есть на Западе, провёл параллель эксперт.

«К примеру, Марка Цукерберга, основателя Facebook^* (запрещен в России, принадлежит компании Meta, признанной экстремистской организацией в России, — прим.ред.), конгрессмены и сенаторы многократно вызывали на слушания, выясняя, почему он позволил распространять новости, которые сенаторы считают фальсифицированными. Это отрицательно влияло на стоимость активов Цукерберга, они могли стоить два триллиона долларов, а стоят меньше половины одного триллиона. Потому что инвесторы боятся, что власти оштрафуют Facebook^* или вовсе запретят распространять новости, а то и разделят на несколько компаний. Поэтому социальным сетям приходится тратить колоссальные средства на модерацию контента. Двадцать лет назад каждый из нас, кто умел программировать, мог себе позволить открыть маленькую социальную сеть во Всемирной Паутине, а сегодня мы утонем под грузом модерации. Ведь распространяют запрещённую информацию — боты, а они неутомимы. Значит и бороться с ними должны боты», — заключил Леонид Делицын.

Начальная цена закупки Роскомнадзора на создание системы «Окулус» — 70 миллионов рублей, в итоге на это выделено 57,7 миллионов рублей, говорит Саркис Дарбинян. Систему разрабатывает главный радиочастотный центр Роскомнадзора, который обеспечивает большую часть надзорной работы ведомства на техническом уровне, однако вряд ли система сразу сможет перерабатывать террабайты интернет-трафика, считает эксперт.

«Все каналы сейчас просто забиты разного рода трафиком, при этом социальные сети — на первом месте по потреблению трафика. В настоящее время заявленная мощность «Окулуса» — 200 000 изображений в сутки, это не так уж много. Если иметь ввиду огромное количестве потоковых видео, стримингов, блогерские видео и другой распространяемый контент. Систему будут дополнять, расширять её мощности», — пояснил специалист.

Однако, в условиях достаточно серьёзных технологических санкций возникает серьёзный вопрос, обратил внимание эксперт: где взять столько «железа»?

«Своего «железа» Россия производит не в том количестве, которое может потребоваться. Даже микрочипы «Эльбрус» изготавливаются на тайваньских компонентах. Насколько я знаю, «Эльбрус» приостановил выпуск микрочипов. Так что для «Окулуса» понадобятся вычислительные мощности, которые надо будет покупать, учитывая, что глава Роскомнадзора Андрей Липов находится в санкционном списке Канады. С телекоммуникационным оборудованием тоже не всё так просто — через Казахстан его прогнать можно, но как только оно будет включено и запеленгуется в Сети, поставщик будет знать об этом. А сейчас продавцы санкционного оборудования очень серьёзно следят за тем, чтобы оно не попадало в Россию. В общем, осуществить идею «Окулуса» будет сложно, но Роскомнадзор не оставит попыток взять на себя полномочия сверхрегулятора», — уверен Саркис Дарбинян.

«Железо» — проблема эксплуатации системы, а не её разработки, считает Леонид Делицын. Однако, чтобы разработка не осталась разработкой навечно, нужно учесть, что «железо» может оказаться очень дорогим, а то и вовсе недоступным. А это накладывает ограничение на то, какие методы машинного обучения будут использоваться системой, отметил аналитик.

«Ведь в последние годы получили распространение так называемые сети «глубокого обучения». В них заложена простая математика, но, возможно, сложная программная архитектура, и для них требуются большие вычислительные ресурсы. Раскручивали это направления гиганты бигтеха – Google, Microsoft и Facebook^* – они выложили в открытый доступ готовые библиотеки для использования нейронных сетей, (например, Tensor Flow и Pytorch). И это понятно, ведь у бигтеха – десятки миллионов серверов в дата-центрах. Им надо «отбивать» стоимость этого «железа», на которое расходуется уже порядка 10 млрд долларов в год. Разве плохая идея – отучить копать огород лопатой и приучить всех пахать при помощи большого трактора, который есть только у тебя и который ты можешь сдавать в аренду поминутно?» — заметил Леонид Делицын.

Естественно, большое количество разработчиков в надежде улучшить свои резюме осваивали эти библиотеки, и сейчас уже многие умеют их применять — но тогда и Роскомнадзору, если он будет перенимать передовой опыт, требуется очень мощное «железо», которого в распоряжении может и не оказаться, сказал эксперт: «Так что лучше бы решать не проблему с «железом», а разрабатывать эффективные алгоритмы, — у наших разработчиков зарплаты всё же не такие, как у Ильи Суцкевера (которому Маск предложил $2 млн в год за переход в проект Open AI, разрабатывающий технологии машинного обучения). Отсюда следует вывод, что в текущей геополитической ситуации собственные российские разработки могут оказаться куда полезнее, чем считалось», — подчеркнул Леонид Делицын.

Как сообщил «Ъ» директор по цифровым технологиям ГРЧЦ Константин Буланов, для стабильной работы системы «Окулус» понадобится не менее 48 серверов, оснащенных графическими ускорителями. А поиск запрещенного контента будет осуществлять нейронные сети, работающие как раз на основе на основе «глубокого машинного обучения».

Похоже, искусственному интеллекту в России придётся развиваться на ниве цензуры, и это, по крайней мере, нетривиальный путь развития. Более тривиально то, что мощное компьютерное «железо» для 48 серверов информационного контроля надо всё-таки где-то взять.

Или можно обойтись «железом» попроще, например, китайским, если «заточить» под него алгоритмы обучения бдительных нейросетей?

*Facebook — запрещен в России, принадлежит компании Meta, признанной в РФ экстремистской организацией.