Thread by @snowy_robolamp

Ну штош, сказано-сделано.

В этом треде я постараюсь рассказать, что я узнала из документов, которые утекли из РКН в конце 2022 года о том, кто и как помогал РКН стать более прокачанными с точки зрения ИИ. Поехали!

https://twitter.com/snowy_robolamp/status/1626296804127002624

1. Что за утечка такая? В ноябре 2022 года Киберпартизаны @cpartisans из Беларуси взломали сервера одного из самых ненавистных для многих из нас российских ведомств — Роскомнадзора, и смогли достать оттуда переписку ведомства.

2. В феврале 2023 года они поделились этими материалами с несколькими независимыми медиа, среди которых @mediazzzona, @mediazona_by, @istories_media, @dossier_center, @wwwproektmedia и другие.

3. Эти издания написали по материалам утечки несколько интересных расследований, но меня большое всего заинтересовали попытки РКН применить ИИ для своих злодейских цензурных целей.

4. На мой взгляд, интереснее всего написала про это Медиазона: zona.media/article/2023/0…
Во-первых, я не ожидала, что РКН будет осмысленно пытаться применить нейросети,
а во-вторых, я совершенно не ожидала увидеть среди тех, кто им помогает, очень уважаемого Константина Воронцова.

5. Тогда я подумала, что было бы интересно узнать, кто ещё из AI-экспертов работал с РКН?

Я обнаружила, что на сайте ГРЧЦ есть информация об Экспертном совете по ИИ, который создан на базе Научно-технического центра ГРЧЦ. Думаю, там состояла хотя бы часть таких людей.

6. Главный источник информации о том, кто там состоял и что делал — приказ (приложен) о составе совета 24.12.2021 и протоколы заседаний совета, а ещё презентации докладов. Всего в заседаниях советов, о которых мы знаем, участвовало за 70 человек, а в самом совете состоит за 20.

7. Конечно, про всех них рассказывать не интересно, поэтому я опишу участие только тех людей, о работе которых можно судить из доступных документов. Поэтому держите в голове, что данные могут быть не полными и показывают нам только часть происходящего.

8. Первый, кто привлёк моё внимание — Константин Вячеславович Воронцов. Он доктор наук, профессор ФУПМ МФТИ и очень уважаемый многими людьми человек, а ещё — докладчик как минимум на 3х советах и член совета по ИИ при ГРЧЦ РКН.
ru.wikipedia.org/wiki/%D0%92%D0…

9. Когда я прочитала в Новой Газете, что Воронцов был руководителем проекта в рамках «НИР Основа» novayagazeta.eu/articles/2023/… который исследовал возможности нейросетей для слежки в Рунете, я не очень в это поверила.

10. Что, если он, как завлаб, просто подписал готовую работу, чтобы у неё было больше веса? Однако, изучив протоколы заседаний экспертного совета, я обнаружила, что сотрудничество Воронцова и РКН было гораздо более плотным.

11. На 3 из 6 известных заседаний Воронцов выступал с докладами: это доклад об интерпретируемом ИИ, доклад об технологиях автоматической обработки текстов и, на мой взгляд, самое интересное, о подходах к обнаружению запрещённой информации.

12. В общем, всё гораздо серьёзнее, чем можно было подумать сначала. К сожалению, презентации к самому интересному докладу Воронцова в сливе не было, поэтому мы знаем только тему. Думаю, этот доклад сильно пересекался с уже известным отчётом по НИР "Основа".

13. Другой интересный человек, который упоминается в этих документах — Алексей Геннадьевич Натёкин, основатель и координатор OpenDataScience (ods.ai)!

Учитвая “популярность” РКН в среде российских айтишников, совершенно не ожидала его там увидеть!

14. В отличии от Воронцова, про сотрудничество Натёкина и РКН известно не так много — это присутствие на трёх заседаниях и одно интересное предложение на совете 10 марта 2021 года.

Думаю, это был бы замечательный хакатон!

15. Другой заметный эксперт — Максим Валериевич Федоров, ректор НТУ Сириус, в Сочи. Про него пишут, что он является большим экспертом в сфере приложений High Performance Computing and Data Science, работал в Институте Макса Планка, в Кембридже, а теперь и член совета ГРЧЦ по ИИ.

16. Как и Воронцов, Федоров, судя по протоколам советов, как минимум три раза выступал с докладами. Как можно заметить, темы докладов были менее пугающими, чем у Воронцова. Однако забавно, что этику использования ИИ обсуждают в российском цензурном ведомстве. Подходящее место!

17. Вот ещё забавный кусочек из презентации Федорова:

18. Следующий интересный эксперт — Андрей Александрович Невзоров, начальник отдела машинного обучения ГРЧЦ. Да, такой отдел существует!

19. Судя по темам докладов (презентаций в доступных документах нет), Андрей Невзоров занимается вещами куда более практическими, чем Максим Фёдоров, а именно применение компьютерного зрения для обнаружения “запрещённой информации”.

20. Так что будьте осторожны, когда и если Андрей Невзоров или его подчинённые обратятся к вам за советом по поводу компьютерного зрения: возможно, они потом применят эти знания и технологии, чтобы вам навредить.

21. Разумеется, это не все люди, которые участвовали в экспертном совете. Судя по доступным документам, в составе совета состоят люди из самих ГРЧЦ и РКН, @mipt , @yandex , OpenDataScience, Петербургского Политеха, Сколтеха, Курчатовского института,

22. Ростелекома, ФИЦ ИУ РАН (бывший ВЦ РАН), ИСА РАН, Сбербанка, Сириуса, ГосНИИАС (ГосИнститут Авиасистем), Промсофта, АО Азимут, а также замечательный господин Ашманов (правда без докладов).

23. В разное время в советах участвовали люди из ВШЭ, Mail Ru Group, Тинькофф-банка, ИТМО и других мест. Думаю, подробно про всё это писать никакого треда не хватит, поэтому дальше просто покажу вам пару интересных докладов.

24. Вот любопытный доклад ребят из Сколтеха и МТС, которые осенью 2021 года рассказывали РКН, как можно выявлять высказывания на опасные темы (например про выборы):

25. Шок! РКН пользуется @huggingface ! (Ладно, это шутка, просто ребята из Сколтеха принесли эти ссылки в РКН).

26. Ещё одна интересная презентация, которую я нашла в документах. Не очень понятно, к какому именно заседанию совета она относится, возможно к тому, что состоялась накануне войны, 17.02.2022 года. Думаю, эта презентация может заинтересовать не только РКН, но и нас с вами!

27. На этом у меня всё! Надеюсь, что у меня получилось найти самое интересное, что можно узнать о деятельности этого совета и вокруг него, но учтите, что во-первых, данные по-видимому не не полные, а во-вторых, я могла что-то пропустить.

28. Как говорят на одном YouTube-канале, все выводы делайте сами.

Мне же хотелось бы, чтобы наши IT-специалисты, особенно такие умные, как упомянутые выше эксперты, не помогали бы РКН делать их мерзкую работу.

29. P. S. Думаю, теперь вы лучше понимаете мой скептицизм по поводу недавнего твита @glukhovsky : ведь ИИ этот могут сделать те же профессор Воронцов, Визильтер и Невзоров, по заказу господина Липова, и что из этого выйдет?

https://twitter.com/glukhovsky/status/1626145359998119936

30. P. P. S. Я призываю не наезжать на авторов презентаций, которые я опубликовала. В конце концов, их могли принести и без ведома авторов, или кто-то один из них принёс, а другие были вообще не в курсе.

31. Я их опубликовала, потому что они создают представление, чем там интересуются по части AI.

Хотя мне кажется, что в 2021 году уже не то, что человек из академии или индустрии, а и ребёнок мог бы понять, что такое РКН.