Понятие дипфейка в российском праве, классификация дипфейков и вопросы их правового регулирования

Бодров Николай Филиппович ORCID: 0000-0002-9005-3821 кандидат юридических наук доцент кафедры судебных экспертиз Московского государственного юридического университета имени О.Е Кутафина (МГЮА) 123242, Россия, Московская область, г. Москва, ул. Садовая-Кудринская, 9, каб. 729 Bodrov Nikolay Filippovich PhD in Law Associate Professor of the Department of forensic expertise Kutafin Moscow State Law University (MSAL), PhD (Law) 123242, Russia, Moscow region, Moscow, Sadovaya-Kudrinskaya str., 9, room 729 bodrovnf@gmail.com

Лебедева Антонина Константиновна кандидат юридических наук доцент, кафедра судебных экспертиз, Московский государственный юридический университет имени О.Е. Кутафина (МГЮА) 125993, Россия, Москва, г. Москва, ул. Садовая-Кудринская, 9 Lebedeva Antonina Konstantinovna PhD in Law Associate professor of Forensic Expertise’s department at Kutafin Moscow State Law University (MSAL) 125993, Russia, Moscow, Sadovaya-Kudrinskaya str., 9 tonya109@yandex.ru

Статья подготовлена в рамках госзадания «Российская правовая система в реалиях цифровой трансформации общества и государства: адаптация и перспективы реагирования на современные вызовы и угрозы (FSMW-2023-0006)». Регистрационный номер: 1022040700002-6-5.5.1.

Ежедневно в медиапространстве появляются новости об очередных достижениях искусственного интеллекта. Например, на презентации компании Google «Google I/O», состоявшейся 10 мая 2023 года аббревиатура “AI” (сокращение от «artificial intelligence» (искусственный интеллект) была произнесли 146 раз.

С учётом темпов развития технологий искусственного интеллекта (далее – ИИ), доступности продуктов, использующих нейросетевые технологии, возникает необходимость разработки правовых механизмов регулирования результатов применения ИИ, и связанных с ними общественных отношений.

Проблематика искусственного интеллекта и связанных с ними общественных отношений представляет собой достаточно широкий предмет исследования, который мы рассмотрим с позиции уголовно-правовых наук.

Центральное, по нашим оценкам, место в системе результатов деятельности ИИ место занимают так называемые deepfake (дипфейк), обладающие универсальным криминогенным потенциалом.

Нормативно-правовое регулирование дипфейк-технологий и материалов явно не поспевает за темпами технологического развития, но в научной литературе проблематика угроз, связанных с дипфейками, обсуждается с 2019 года [См., например, 3, 7, 10, 12].

Анализ дипфейк-технологий и материалов в силу относительной новизны специфической наукоёмкости в настоящее время в некоторой степени зашел в тупик. Вместо авторских определений дипфейков, учитывающих специфику правового регулирования, в научной литературе часто содержится достаточно примитивная информация из общедоступных источников.

Данный термин используется для обозначения как самой технологии ИИ, так и для номинации самого фейкового контента, что вводит заблуждение как научное сообщество, так и пользователей. Однако те определения дипфейка, которые приводятся в современных научных работах, не раскрывают все грани данного понятия.

Формулируя подходящее определение понятия «дипфейк», мы проанализировали ранее опубликованные в научной литературе определения так как, на наш взгляд, они не в полной мере отражают сущность данного понятия.

Например, в научных работах распространены определения, авторы которых приводят понятие дипфейка без учета возможности создания контента в форме звука:

«Дипфейки» — это синтетически произведенный медиаконтент, в котором оригинальный человек (тот, кто изначально находится на изображении) замещается другим человеком» ^{[6, С. 117]}. Следует также отметить, далеко не всегда человек «замещается другим человеком», существует возможность замены не только изображения лица или головы, но и трансформация артикуляции и мимики. Кроме того, дипфейк может быть вообще не связан с генерацией изображения человека, мы также можем говорить о генерации, например, конкретного места.

Излишне узким нам представляется подход к анализу дипфейков, когда внимание акцентируется на преднамеренном искажении объектов. Например, в определении:

«Дипфейки - это преднамеренно искаженные аудио, видео или иные файлы с использованием технологии глубокого обучения (определение производное от словосочетания «deep learning» - глубокое обучение, «fake» - подделка), которые изображают что-то вымышленное или ложное, что позволяет злоумышленникам использовать новый и сложный инструмент социальной инженерии» ^{[4, С. 74]} автор указывает на преднамеренный характер искажения аудио, видео или иных файлов. Тем не менее, дипфейк – это не какая-то программа для постобработки файлов с целью их изменения, как, например, voicechanger (класс программных продуктов для изменения голоса), которые либо посредством постобработки, либо в реальном времени изменяют голос диктора по заранее заложенному в программу алгоритму. Дипфейк создается посредством генерации цифрового продукта на основе обучения нейросети на каком-либо датасете. Это может быть и огромные массивы данных интернета, а также и, например, фонограммы с записью звучащей речи конкретного лица.

Под «датасетом» в соответствии со ст. 5 "Национальной стратегии развития искусственного интеллекта на период до 2030 года", утвержденной Указом Президента РФ от 10.10.2019 N 490 "О развитии искусственного интеллекта в Российской Федерации" следует понимать:

«д) набор данных - совокупность данных, прошедших предварительную подготовку (обработку) в соответствии с требованиями законодательства Российской Федерации об информации, информационных технологиях и о защите информации и необходимых для разработки программного обеспечения на основе искусственного интеллекта».

С учетом проанализированной специфики следует подойти к определению дипфейка, в первую очередь, как цифрового продукта. Дипфейк в его современном представлении является результатом (продуктом), генерируемым при помощи нейросетевых технологий.

Можно представить и аналоговую форму представления дипфейка, например, опубликованный в периодической печати материал, содержащий изображение или текст, полностью или частично сгенерированные при помощи нейросетевых технологий. Но первоисточником такой информации безусловно будет являться именно цифровой продукт – результат синтеза с использованием нейросетевых технологий.

Дипфейк в цифровой форме может быть представлен разными видами контента или их комбинациями. Поэтому для формулирования определения понятия «Дипфейк» важно, на наш взгляд, определить, в каком виде может быть представлен анализируемый цифровой продукт.

Нам представляется важным проанализировать типы дипфейков по видам генерируемого контента или их сочетаниям.

1. Графика.

Современные технологии позволяют осуществлять синтез графики в виде отдельных изображений или видеофонограмм.

1.1. Изображения.

За последние полгода в интернет-пространстве появилось несколько десятков нейросетей, большинство из которых использует интерфейс текстовых запросов (промпт – от англ. prompt) для синтеза изображений. Text-to-image (генерация изображений по текстовому запросу) модели позволяют генерировать самые различные изображения, включая синтез на основе референтных изображений.

Популярная нейросеть «Midjourney», генерирует изображения с возможностью создания графики фотоснимка (с указанием модели камеры и использованной оптики), максимально приближенного к реальному изображению, если задание (промпт) пользователя содержало запрос на это (например, «гиперреалистичный»). Даже по коротким запросам данная нейросеть демонстрирует результаты, способные ввести в заблуждение обывателя. Пользователь может задать качество изображения, с какого устройства это было «снято», расположение объектива, фокусное расстояние и другие параметры реальной фотосъемки. Кроме того, существует команда для генерации изображения по фото. Например, пользователь может загрузить фотографию желаемого лица и сгенерировать практически любую ситуацию с ним.

Безусловно, администрация нейросети разработала некоторые принципы, которые ограничивают «свободу творчества». Например,

«Не создавайте изображения и не используйте текстовые подсказки, которые по своей сути носят неуважительный, агрессивный или оскорбительный характер. Насилие или домогательства любого рода недопустимы; Никакого контента для взрослых или крови. Пожалуйста, избегайте визуально шокирующего или тревожного контента. Мы автоматически заблокируем ввод некоторых текстов» ^[21].

Сервис доступа к нейросети «Midjourney» (на платформе Discord) позволяет пользователям выполнять функции администрирования (своего рода социальный контроль пользователями) результатов генерации путем подачи жалоб.

Однако, чтобы создать цифровой продукт, вводящий в заблуждение, не всегда необходимо создавать графическое изображение сцен насилия, жестокости, порнографии и проч. Например, для манипуляции электоратом на выборах может быть достаточно генерации совместного фото представителя лидирующей партии и, предположим, какого-либо военного преступника, сидящих за столом переговоров.

Кроме упомянутой нейросети существуют, например, следующие:

Crayon (ранее Dall-E mini). Нейросеть от разработчиков компании Microsoft, которые подчеркивают, что нейросеть создает крайне реалистичные изображения, что это даже заставляет их переживать, что генерация подобных изображений может привести к непредсказуемым последствиям при создании дипфейков.

Kandinsky 2.2 —нейросеть от разработчиков Сбера при партнёрской поддержке учёных из Института искусственного интеллекта AIRI на объединённом наборе данных Sber AI и SberDevices. Кроме генерации изображения по тексту, данная нейросеть может дорисовать загруженные фотографии, а также модифицировать их, например, перерисовать существующее изображение в другом стиле или же совместить два изображения.

Шедеврум. Нейросеть от разработчиков Яндекса также имеет собственное мобильное приложение, по существующей информации нейросеть была обучена на 240 млн примеров, которые представляли собой изображения с текстовыми описаниями. Для совершенствования качества обучение нейросети продолжается.

В мае 2023 в Adobe Photoshopпоявился новый инструмент Generative Fill (генеративная заливка), на базе ИИ данный инструмент позволяет добавлять, расширять или удалять содержимое изображений без внесения необратимых изменений с помощью простых текстовых запросов. В функционал генеративной заливки включена, например, функция удаления объектов с фотографии, когда пространство вместо объекта (человека, автомобиля следа) автоматически заменяется фоном (без привычных следов обработки инструментами графического редактора).

Характерной особенностью технологических ограничений генеративной заливки на современном этапе является разрешение 1024х1024 (1Мп), но опыт анализа изображений, приобщаемых к материалам дел показывает, что такие возможности заливки более чем достаточны для среднестатистической графики, которую используют в судебном доказывании.

1.2. Видеофонограммы.

Говоря о дипфейках, современные пользователи интернета в первую очередь обычно представляют именно видеофонограммы. Примеры программ с легкостью можно обнаружить в интернете. Одна из самых известных – DeepFaceLab. С помощью данной программы можно заменить лицо в видеофонограмме, изменить возраст диктора на видео, поменять не просто лицо, а форму головы, прическу, голос на фонограмме полностью, а при наличии средних навыков видеомонтажа (например, в Adobe After Effects или Davinci Resolve) можно трансформировать артикуляцию и мимику лиц на видеофонограмме в дополнение к системе клонирования звучащей речи.

«DeepFaceLive» - позволяет заменить лицо как на видеофонограмме, так и в процессе онлайн-общения или в процессе стриминга на веб-камере.

«Face2Face» - накладывает мимику управляющего «актёра» на любое другое лицо.

«Zao Deepfake» – китайское приложение, которое работает на основе обучаемых нейросетей, позволяет заменяют не просто одно лицо фото на другое, но всю мимику и движения лица ни видеофонограмме.

Данный перечень можно продолжать и далее, но для общего представления о функционале подобных программ достаточно описания упомянутых нами примеров.

2. Звук.

Если в сентябре 2019 года говорилось, что «имитация» голоса человека крайне трудоемкий и непростой процесс:

«Обучать искусственный интеллект имитировать голос определенного человека дорого и неэффективно, полагает замначальника департамента информационной безопасности Центробанка Артем Сычев: «Применимость таких методов мошенничества крайне низкая. Для этого нужно, чтобы злоумышленник точно знал, что жертва правильно среагирует на этот голос» ^[9].

То сейчас некоторые сервисы предлагают клонировать вашу речь, обучаясь на небольших фонограммах и предлагая крайне высокое качество аудиосигнала без каких-либо существенных требований к пользователю и доступному ему оборудованию.

Синтез звучащей речи - это технология, позволяющая преобразовывать текст в звучащую речь (TTS-технологии синтеза речи (Text-to-Speech) [см., например, 1, 2, 5].

Говоря о синтезе звучащей речи из текста, нам необходимо отделить его от понятия «клонирование речи» (с англ. voice cloning). Анализируя технологии синтеза звучащей речи важно отметить, что речь идет именно об озвучивании контента голосом «смоделированного» диктора с заданными параметрами. Благодаря технологии глубинного обучения нейросеть может обучаться на фонограммах с голосом и речью миллионов дикторов. Однако, когда перед нейросетью стоит задача генерации звучащей речи конкретного лица, обучение нейросети происходит на фонограммах с образцами голоса и речи индивидуально-определенного диктора. Данный вид синтеза звучащей речи принято называть «клонирование звучащей речи», таким образом, искусственно, с использованием технологий ИИ генерируется звучащая речь реального человека.

С правовой точки зрения важно учесть тот факт, что технология генерация звучащей речи находится на стыке с такой важной индустрией, как биометрическая идентификация по голосу. Биометрическая идентификация/авторизация по голосу уже сейчас используется в качестве самостоятельного инструмента или компонента информационных систем в банковской сфере ^[11]. Так, например в АО «Тинькофф Банк» еще в октябре 2014 года была внедрена подобная технология ^[24].

Фактически идентификация/аутентификация и клонирование звучащей речи являются конкурирующим технологиями. Правовое регулирование правоотношений в такой сфере должно преследовать не только задачу поспеть за уровнем технологического развития, но и учесть риски отсутствия адекватного и детального регулирования в аспекте обеспечения информационной безопасности.

Рассмотрим некоторые системы синтеза звучащей речи и их возможности.

VALL-E позволяет синтезировать персонализированную речь высокого качества. На основе разработанных алгоритмов и уже осуществленного обучения нейросети VALL-E может клонировать голос и речь конкретного диктора, используя, по словам разработчиков, 3-секундные записи, при этом сохраняя эмоции диктора и акустическую обстановку, если это было в запросе пользователя. Данная нейросеть позволяет также создавать текстовый контент, используя генеративные модели ИИ, например, такие как GPT-3 ^[16].

В мае 2023 года вышла публикация с описанием и примерами генерации звучащей речи «SoundStorm» ^[27]. Указанная модель демонстрирует высокие результаты клонирования речи. Авторы публикации, как следует из опубликованных ими материалов, осознают возможности использования их модели для, например, обхода систем биометрической идентификации. Авторы указывают, что с учетом возможного использования модели в противоправных целях, в будущем они планируют изучить подходы к обнаружению синтезированной речи, например, звуковые водяные знаки, чтобы любое потенциальное использование этой технологии строго соответствовало ответственным принципам ИИ, которым придерживаются создатели модели.

ElevenLabs. Как указывают разработчики, они представляют самое реалистичное программное обеспечение для преобразования текста в звучащую речь ^[17].

Сервис fakeyou ^[19] представляет пользователям возможность клонировать голос любого человека, прежде чем оформить подписку, необходимо ответить на несколько вопросов, для каких целей планируется использовать голос, чей голос будет клонироваться. Для обучения нейросети можно как записать фонограммы через сам сервис, так и прикрепить свои записи высокого качества.

Существуют также сервисы, которые изначально не ставят основной целью синтез и клонирование речи, однако предлагают это пользователям.

Например, Descript, данный сервис создан изначально для удобства создателей подкастов и видеороликов, а также их обработки.

Вот некоторые его функции:

– редактор, который одновременно позволяет обрабатывать и видоизменять аудио, текст и видео,

– программа осуществляет распознавание речи и выдает «расшифровку» с текстом ее дословного содержания,

– при редактировании полученного текста изменения происходят также и в аудиоматериале,

– при удалении слов программа автоматически удаляет соответствующие по хронометражу фрагменты видео.

Однако разработчики предлагают также и технологии высококачественного синтеза и клонирования звучащей речи. Lyrebird – это исследовательский отдел ИИ в Descript, создающий новое поколение инструментов для редактирования и синтеза медиаконтента. При помощи возможностей искусственного интеллекта Descript генерирует фразы, точно имитируя особенности голоса человека. Программа может озвучить введенный текст как голосами из имеющейся коллекции, так и собственным голосом пользователя. Программа не работает на русском языке, не распознает и не синтезирует русскую речь.

В заявлении об этике данной компании говорится, что после обучения речевых моделей на ваших образцах голоса (звукозапись начинается только после записи файла устного согласия пользователя), пользователь, как владелец «цифрового голоса», после генерации контролирует то, когда и в каких целях используются результаты синтеза.

Таким образом здесь и в других упомянутых нами примерах отчетливо прослеживается запрос индустрии на создание отраслевых стандартов для борьбы с дезинформацией.

3. Текст

Наибольшие темпы совершенствования на современном этапе развития систем искусственного интеллекта демонстрируют системы, основанные на использовании больших языковых моделей (БЯМ) ^[18].

Благодаря существенным успехам архитектуры так называемых трансофрмерных ^[14] глубоких нейронных сетей широкое распространение получили БЯМ по типу генеративных предобученных трансформеров (GPT).

Наиболее популяризированной среди подобных нейросетей является ChatGPT ^[15].

Текущая версия - GPT-4, - это языковая модель, разработанная компанией OpenAI, основанная на архитектуре трансформера, а точнее, варианте модели трансформера, известном как трансформер-декодер.

По своей сути ChatGPT - это модель машинного обучения, предназначенная для генерации «человекоподобного» текста, то есть попытке синтеза письменной речи, соответствующей критериям логичности, осмысленности, грамматической правильности и др. Нейросеть обучалась путем машинного обучения, известном как «обучение без наблюдения». При таком подходе модели предоставляется большой корпус текстовых данных, и она учится предсказывать следующее слово в предложении. В частности, модели GPT (Generative Pretrained Transformer) обучаются с помощью варианта бесконтрольного обучения, называемого самоконтрольным или самоконтролируемым обучением.

GPT-4, как и его предшественники, но в большем масштабе, использует огромное количество данных и вычислительных ресурсов для обучения, оперируя в своей работе по разным оценкам порядка 175 миллиардами параметров (с учетом того, что точные данные как и для большинства проприетарных нейросетей в открытом доступе отсутствуют).

С учетом рассматриваемой нами проблематики большие языковые модели представляют практический интерес в плане возможности генерации текстов письменной или предназначенной для озвучивания речи от имени конкретного лица.

Уже сейчас пользователи имеют возможность задать нейросети такие параметры, чтобы она сгенерировала текст нужной тематики на образцах имеющейся в открытом доступе письменной речи. В качестве образцов могут выступать сообщения из мессенджеров, переписка по электронной почте, публичные записи социальных сетей и т.д. Существует возможность сформулировать задание (prompt) и составить текст на заданную тему в стиле автора (конкретизировать параметры стиля: словарь (лексический запас) автора, особенности употребления синтаксических конструкций, манеру речи и т.д.). Исследование подобного рода запросов уже осуществляется в самостоятельном направлении прикладных исследований – промпт инжиниринге (калька от англ. prompt engineering), одной из основных задач которого является подбор и структурирование модификаций текста запросов (промптов) для решения конкретных задач, например, генерации текста от имени заданного автора.

Сегодня существует техническая возможность генерации текстов на любую тематику. Характерно, что уже сейчас имеются некоторые механизмы этической саморегуляции нейросетевых программных продуктов. Корпорация Open AI, которая является создателями нейросети, указывают, что безопасность пользователя стоит на первом месте, однако в сети существуют инструкции как «обмануть нейросеть» и составить промпты, позволяющие обойти заданные моральные и этические принципов, а также сгенерировать текст без принципа безопасности пользователя.

Среди аналогов ChatGPT в общем доступе находится, например, Bard AI –экспериментальный проект от компании Google, который также как и ChatGPT в виде чат-бота ведёт беседу с пользователем и может генерировать по запросам самые разные тексты.

Важным аспектом рассматриваемой проблематики является общедоступность технологий синтеза текста. Так, например, ресурсы нейросети ChatGPT сейчас доступны фактически каждому пользователю поисковой системы Bing ^[20], распространяемой корпорацией Microsoft в качестве предустановленной программы-браузера.

С учетом общедоступности можно провести некоторые аналогии с правом интеллектуальной собственности, которое столкнулось с необходимостью правового регулирования общественных отношений в условиях практически неограниченного доступа к информации. Проблематика дипфейк-технологий помимо прочего характеризуется еще и крайне высокой степенью общественной опасности, что, по нашим оценкам, в ближайшем будущем станет одним из первоочередных факторов информационной безопасности.

4. Сочетание Звук+Графика

Сочетание нескольких форм представления, например в виде сочетания сгенерированных звука и графики уже сейчас встречается в форме так называемого «цифрового аватара». Правовому осмыслению данной категории уже посвящен ряд научных работ в юридической литературе [см., например, 8].

Уже несколько сервисов предлагают пользователям создать свой цифровой аватар. Например, сервис «Синтезия» (Synthesia) ^[23] предлагает пользователям создать свой собственный «AI avatar», то есть аватар, созданный при помощи технологий искусственного интеллекта. Как указывают разработчики, их сервис может создать фотореалистичное изображение реального человека, а также клонировать его голос. Цифровой аватар создается на основе 15-минутных видео пользователя, а клонирование голоса осуществляется на основе обучения системы на прочтении заранее подготовленного сервисом эталонного текста.

С помощью данного сервиса журналист Джоана Стерн создала свой собственный цифровой аватар, который ^[26] был использован ею для преодоления механизма системы биометрической верификации по голосу банка, а также введения в заблуждение родственников журналистки.

А при использовании чат-бота ChatGPT возможно обучить нейросеть на образцах письменной или устной речи конкретного лица и синтезировать не только ее голос и внешность, но и содержательную сторону речи. Таким образом, данная форма дипфейка может перейти в следующую: сочетание текста, графики, звука.

Практике уже известны случаи комплексирования различных видов контента, сгенерированного при помощи нейросетей. Так, например, в июне 2023 года в протестантской церкви в Германии была проведена церковная служба, почти полностью сгенерированная при помощи технологий ИИ ^[13]. 40-минутное богослужение, включая проповедь, молитвы и музыку, было создано при помощи ChatGPT, а служба «управлялась» четырьмя разными цифровыми аватарами на экране, двумя молодыми женщинами и двумя молодыми мужчинами.

Ранее упомянутая нами система DeepFaceLab позволяет при наличии некоторых навыков в видеомонтаже (например, программы Adobe After Effects или Davinci Resolve) изменять движение губ лица на видеофонограмме. При использовании систем клонирования звучащей речи на примере, представленном разработчиками, данная нейросеть позволила создателю дипфейка артикулировать нужные фразы, используя внешность известных политических деятелей.

5. Сочетание текста, графики, звука.

Сочетание текста, графики, звука в одном материале с коммерческой точки зрения является даже более популярным видом контента, так как ее развитие тесно связано с запросами разного рода корпоративной индустрии (например создание автоматизированных сервисов новостного вещания, справочных сервисов и проч.).

Несмотря на высокотехнологичность подобного рода контента, на современном этапе его генерация все больше доступна обывателю. Так, например, Китайская компания Tencent Cloud объявила о запуске цифровой платформы для создания людей - deepfakes-as-a-Service (DFaaS) ^[25]. По заявлению разработчиков за сравнительно небольшую плату сервис позволяет создавать цифровые копии высокой четкости всех желающих, используя всего три минуты живого видео и 100 произнесенных фраз. Для завершения процесса генерации цифрового аватара потребуется около 24 часов после ввода образцов. То есть технологические возможности позволяют осуществлять подобную генерацию, не требуя от пользователя привлечения собственных вычислительных ресурсов, к тому же позволяя получить результат в короткий срок.

Так, например, создатели сервиса «Spiritme» ^[22] предлагают пользователям оперативное создание видео с цифровыми аватарами. Для создания цифрового аватара пользователю необходимо записать пятиминутное видео собственной внешности, а в качестве образца может быть использована устная речь на любую тему. Затем сервис генерирует цифровой аватар пользователя, который может произнести любой текст, который вы подготовите, с достаточной степенью реалистичности а таже отображением внешности пользователя, особенностей его голоса и эмоций.

С учётом вышеизложенного криминогенный потенциал такого рода контента крайне сложно переоценить, особенно с учетом степени осведомленности среднестатистического пользователя и в условиях дефицита правовой регламентации технологий и результатов синтеза в отечественной правовой системе.

Анализируя практику по делам, связанным с противоправным распространением дипфейк-контента, и потенциальные угрозы, исходящие от дипфейков, можно сформулировать две главные цели их использования: введение в заблуждение или преодоление пользователем систем контроля и управления доступом.

Результаты проведённого анализа сущности дипфейк-контента позволяют нам сформулировать следующее авторское определение дипфейков. Дипфейк – цифровой продукт в виде текста, графики, звука или их сочетания, сгенерированный полностью или частично при помощи нейросетевых технологий, для целивведения в заблуждение или преодоления пользователем систем контроля и управления доступом.

В контексте определения понятия «дипфейк» и с учетом отсутствия правовых механизмов регулирования общественных отношений, а также на этапе формирования ряда сквозных цифровых технологий, обусловливающих развитие цифровой трансформации важно сформировать механизмы адаптации правовой системы к вызовам, связанным с развитием дипфейк-технологий. Первоочередными в вопросах правовой регламентации подобного рода технологий и результатов их применения, нам представляются следующие меры:

- нормативное закрепление термина дипфейк и его определение в отечественном законодательстве с учетом технологических возможностей и рисков, вызванных развитием и повсеместным распространением подобных технологий.

- внесение дополнений в нормы уголовного законодательства и законодательства об административных правонарушениях, связанных с применением дипфейк-контента в качестве предмета противоправного (в том числе преступного) посягательства, элемента способа совершения правонарушения (в том числе преступления), обстоятельства, отягчающего ответственность, так как как дипфейк представляет собой более изощренный высокотехнологичный продукт, обладающий принципиально высоким уровнем общественной опасности и трудно распознаваемый на современном уровне развития криминалистической техники.

- внесение дополнений в нормы гражданского законодательства, например, в части защиты чести, достоинства и деловой репутации, а также охраны изображения гражданина, поскольку статьи 152 и 152.1 ГК РФ в должной мере не отражают ставшие уже современными реалии противоправного распространения дипфейк-контента.

- очевидным шагом в регламентации искусственного интеллекта и связанных с ними общественных отношений видится разработка норм профильного законодательства о системах искусственного интеллекта, робототехники, виртуальной реальности, больших данных.

В публично-правовой сфере в первую очередь следует урегулировать вопросы, связанные с ответственностью разработчиков нейросетевых технологий, так как от траектории их развития в первую очередь зависит предмет правового регулирования. Действенным инструментом контроля за распространением дипфейков могут стать включение в тело файлов, генерируемых нейросетями ватермарок (от англ. watermark) и дополнительной служебной информации в метаданных.

Резюмируя, стоит отметить, что дипфейк-технологии в контексте современной цифровой трансформации являются малоизученными, но одними из наиболее интенсивно развивающихся сфер, с высоким криминогенным потенциалом. Риски, связанные с развитием данной сферы, нам предстоит в полной мере оценить в самое ближайшее время, а от качества нормативно-правовой регламентации сферы применения искусственного интеллекта напрямую зависит объем и характер противоправной деятельности в данной быстроразвивающейся сфере.

Просто выделите и скопируйте ссылку на эту статью в буфер обмена. Вы можете также попробовать найти похожие статьи