ента новостей

18:59
В Петербурге пройдет крупнейший пляжный фестиваль «Комус Fest 2025»
09:30
В СПб состоится парад ретротранспорта
09:16
Что с переговорами по Украине?
08:48
Как начинается ЕГЭ в СПб
08:20
В СПб распродадут конфискованные электровелосипеды
01:29
Гандбольный «Зенит» проиграл второй матч финала Суперлиги ЦСКА со счётом 30:32, счёт в серии сравнялся
15:32
Швеция, США, Швейцария и сенсационно выбившая Канаду Дания стали полуфиналистами чемпионата мира по хоккею – 2025
13:30
Госдума одобрила в I чтении законопроект о введении в оборот цифрового рубля
12:56
В Выборге неизвестный обстрелял из пневматики мужчину
12:44
В Красносельском районе иномарка сбила 8-летнего мальчика на самокате
12:41
На проспекте Наставников иномарка сбила 4-летнего мальчика
11:57
В Шушарах задержали стрелявшего из пневматики у магазина
10:58
На Светлановском проспекте задержали подозреваемого в обмане пенсионерки
10:55
В Петербурге задержали подозреваемого в разбойном нападении в Шушарах
10:50
В Петербурге полицейские на станции метро задержали подозреваемого в наркоторговле
10:20
Трудности на работе: каково мнение жителей СПб
09:58
Чиновники пересаживаются на китайские авто
09:46
В Петербурге полицейские провели профилактические рейды по клубам боевых единоборств
09:24
Матерился – получил двое суток
09:06
Сколько тратят на маркетплейсах?
01:24
Крупная победа «СКА-1946» в шестой игре финала Кубка Харламова с МХК «Спартак» – 5:2 в матче и 3–3 в серии
23:11
Баскетбольный «Зенит» вышел в финал плей-офф Единой Лиги ВТБ, а Дуэйн Бэйкон набрал в седьмом матче серии с «Локомотивом» 34 очка
20:07
В Герценовском университете начала работу ассамблея к 95-летию института народов Севера
15:37
На КАД между развязками с проспектом Культуры и Рябовским шоссе перекроют две полосы
10:49
В Пулково поймали курьера мошенников из Новосибирской области
10:36
Живого посчитали мертвым и заблокировали счета
10:18
В Старо-Паново иномарка сбила подростка на электросамокате
10:18
В СПб не хватает фармацевтов
10:00
На улице Чекистов мужчину избили гаечным ключом
09:54
В Петербурге полицейские разогнали сходку стритрейсеров
Все новости
Питерец.ру » Общество » Три секунды - на анализ: как искусственный интеллект будет защищать россиян от фейков

Три секунды - на анализ: как искусственный интеллект будет защищать россиян от фейков

Фото:
Яндекс
Три секунды - на анализ: как искусственный интеллект будет защищать россиян от фейков

Роскомнадзор и Главный радиочастотный центр совместно с аналитическим центром MINDSMITH и компанией «Ростелеком» определили ключевые технологии с использованием искусственного интеллекта, необходимые для мониторинга интернета и обеспечения безопасности его пользователей. Эксперты предполагают, что уже в ближайшие несколько лет системы на базе искусственного интеллекта будут интегрированы в социальные сети для отслеживания деструктивного контента в режиме реального времени. Но пока полностью доверять нейросетям проверку фактов не стоит.
Эксперты Роскомнадзора, Главного радиочастотного центра (ГРЧЦ), аналитического центра MINDSMITH и компании «Ростелеком» представили обзор трендов и передовых решений в области искусственного интеллекта в России в исследовании «Инструменты ИИ в руках злоумышленников — классификация угроз и способы противодействия». В частности, они выделили 12 групп технологий, соответствующих интересам профильных организаций по мониторингу и обеспечению безопасности интернет-среды. В их число вошли обнаружение дипфейков, определение контекста происходящего на видео, автоматизация мониторинга и модерации контента, распознавание лиц, извлечение смысла из текста, поддержка проверки фактов, распознавание символики, извлечение и анализ метаданных, распознавание эмоций, поддержка решений при информационных атаках, генерация и рекомендация контента.
Одной из важнейших задач государства в последнее время стала борьба с дезинформацией. По мнению аналитиков, информационные системы уже приближаются к проверке фактов в реальном времени и будут впоследствии интегрированы в социальные сети. Например, в будущем они смогут анализировать речь и потоковое видео, проверять их и, при обнаружении ложных новостей, оповещать пользователей о недостоверном контенте. Такие системы будут включать в себя комплекс нейросетей, а внедрить их в соцсети получится в течение 3–5 лет. «Внедрение автоматизированной проверки фактов приведет к тому, что каждая новость будет размечена специальными тегами на крупных платформах. Государства смогут напрямую влиять на фактчекинг, сформировав систему тегов и отслеживая корректность разметки новостей техногигантами», - отмечается в исследовании.
Сегодня нельзя полностью положиться на искусственный интеллект в проверке фактов. Пока наиболее релевантный вариант - автоматизировать часть процессов, отмечает член комитета Госдумы по информационной политике о информационной политике, информационным технологиям и связи Антон Немкин.

«Проверка фактов приобрела особую актуальность еще во время пандемии коронавирусной инфекции и остается важной и сейчас, когда мы боремся с потоками фейков и дезинформации, которые обрушиваются на наших пользователей. Это направление уже активно развивается: например, во второй половине 2023 года Роскомнадзор должен запустить систему «Вепрь», которая сможет выявлять потенциальные угрозы в интернете. Эксперты будут анализировать поступающую информацию и прогнозировать последующее распространение деструктивных материалов. Кроме того, еще одна автоматизированная система – «Окулус» - уже работает. Она распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. Благодаря системе можно выявить экстремистскую тематику, призывы к массовым незаконным мероприятиям или суициду, пронаркотический контент, пропаганду ЛГБТ, при этом на одно изображение система тратит всего три секунды, что в значительной степени ускоряет выявление угроз в сети. Создание таких систем – это полноценный ответ на провокации и антироссийские действия со стороны иностранных ресурсов, которые ежедневно множат в сети фейки и материалы по всем разновидностям запрещенной информации. Перспектива развития таких технологий и внедрения в эту работу возможностей искусственного интеллекта дает надежду на то, что в будущем проблему с фейками и противоправным контентом получится решить окончательно», - считает депутат.
На фоне глобальной автоматизации информационных войн и развития генеративных моделей будет крайне проблематично обеспечить когнитивную безопасность населения без внедрения искусственного интеллекта, считают аналитики. При этом государству необходимо решить важную инфраструктурную задачу и разработать процедуры тестирования и оценки моделей ИИ - это позволит держать руку на пульсе развития технологий, отслеживать перспективных разработчиков и проекты. «Сегодня у нашей страны есть все для создания отечественных моделей ИИ, самый ценный наш ресурсы - это специалисты. Уже сегодня они предлагают очень качественные решения, особенно в области распознавания лиц и работы с информационными атаками, число которых в 2023 году продолжает расти, - добавил Немкин. – При этом сама по себе область ИИ должна четко регулироваться, и “Единая Россия” уже работает над законопроектом, который поможет разобраться в этом вопросе и дать людям уверенность в том, что искусственный интеллект станет им помощником, а не врагом».

Генеральный директор исследовательской компании TelecomDaily Денис Кусков также подчеркнул важность разработки законодательных норм для систем на основе ИИ, которые будут фильтровать контент в сети. Он, кроме того, отметил, что нынешний уровень развития ИИ в России позволит начать полноценное использование таких систем в перспективе пяти лет.

«У нас уже есть множество подобных систем – например, в Сбере, Яндексе, Роскомнадзоре. Однако и количество аудиовизуального контента в интернете растет очень быстро. Там уже очень много ложной информации, а учитывая существующие технологические возможности по замене голоса или изображения, это создаст еще больше проблем с точки зрения законодательства. Считаю, что нужно обязательно в этом направлении работать, и интеграция технологий ИИ в соцсети должна стать одним из шагов в заданном направлении. К коллапсу это точно не приведет, потому что будут выработаны подходы, которые позволят осуществлять модерацию контента за считанные минуты. В любом случае на начальном этапе – год и более – нельзя допускать применение исключительно автоматической системы к работе. Обязательно будет необходима и работа аналитиков», - заключил он.
Источник: Пресс-служба депутата ГосДумы РФ Антона Немкина

Добавьте комментарий

Войти через

Похожие публикации

Наверх