Статья 'Цифровое общество в этико-аксиологическом контексте: от постмодерна к обществу высоких технологий ' - журнал 'Философия и культура' - NotaBene.ru
по
Меню журнала
> Архив номеров > Рубрики > О журнале > Авторы > Требования к статьям > Порядок рецензирования статей > Ретракция статей > Этические принципы > Политика открытого доступа > Оплата за публикации в открытом доступе > Online First Pre-Publication > Политика авторских прав и лицензий > Политика цифрового хранения публикации > Политика идентификации статей > Политика проверки на плагиат
Журналы индексируются
Реквизиты журнала
ГЛАВНАЯ > Вернуться к содержанию
Философия и культура
Правильная ссылка на статью:

Цифровое общество в этико-аксиологическом контексте: от постмодерна к обществу высоких технологий

Суслов Алексей Викторович

кандидат философских наук

доцент кафедры философии Российского Государственного Социального Университета; доцент кафедры социально-гуманитарных дисциплин Московского Университета им. С.Ю. Витте

123995, Россия, г. Москва, ул. Вильгельма Пика, 4, стр. 1, каб. 420

Suslov Alexey Viktorovich

PhD in Philosophy

Docent, the department of Philosophy, Russian State Social University; Docent, the department of Social Disciplines and Humanities, Moscow Witte University

123995, Russia, g. Moscow, ul. Vil'gel'ma Pika, 4, str. 1, kab. 420

suslov.aleksei@mail.ru
Другие публикации этого автора
 

 

DOI:

10.7256/2454-0757.2020.10.33079

Дата направления статьи в редакцию:

01-06-2020


Дата публикации:

07-11-2020


Аннотация: Объектом исследования является современное цифровое общество как новая цивилизационная ступень в развитии человечества. Предмет исследования - эволюция нравственных ценностей и норм при переходе от постиндустриального этапа к информационному обществу, а также этические аспекты внедрения электронных технологий и систем искусственного интеллекта в пространство социального управления. Статья знакомит читателей с китайской системой социального кредита - самым масштабным социальным экспериментом на основе электронных технологий, а также с тенденциями и перспективами процесса цифровизации в современной России. Анализируя отечественный и зарубежный опыт, автор показывает опасность поспешного внедрения цифровых решений на основе искусственного интеллекта без глубокой этической экспертизы, указывает на противоречие, существующее между научно-технологической и экономической свободой и необходимостью ограничения этих свобод во-имя благополучия человека.    Автор делает вывод о том, что несмотря на все свои преимущества, цифровые технологии несут риски неэтичного использования персональных данных и нарушения приватности. Превращение данных в товар как средство получения прибыли, трудности правового регулирования и надзора за их оборотом делают человека очень уязвимым в новом цифровом мире. Поэтому в процессе сбора и обработки данных, а также при создании робототехнических систем на основе искусственного интеллекта следует адекватно оценить риски и сформулировать этические ограничения, которые должны быть учтены при их проектировании и эксплуатации.


Ключевые слова: этика, мораль, цифровизация, цифровое общество, искусственный интеллект, этические ограничения, социальный рейтинг, этическая экспертиза, цифровая этика, трансформация нравственных ценностей

Abstract: The object of this research is the modern digital society as a new civilizational level in development of humanity. The subject of this research is the evolution of ethical values and principles in the context of transition from postindustrial stage to information society, as well as ethical aspect of implementation of digital technologies and artificial intelligence systems into the realm of social management. The article familiarizes the audience with the Chinese system of social score – the largest social experiment on the basis of digital technologies, as well as with the trends and prospects of digitalization process in modern Russia. Having analyzed the national and foreign experience, the author demonstrates the risks of hurried implementation of digital solutions based on artificial intelligence without extensive ethical examination, point out the contradiction between scientific-technological and economic freedom, and the need for limiting these freedoms for the sake of human welfare. The conclusion is made that despite all advantages, digital technologies bear the risks of unethical usage of personal data and violation of privacy. Turning data into the product as a means for gaining profit, difficulties of legal regulation and control thereof, makes a human extremely vulnerable in the new digital world. Therefore, in the process of collection and processing of data, as well as in creation of robotic systems based on artificial intelligence, it is essential to adequately assess the risks and formulate ethical restrictions, which should be taken into account in their design and exploitation.



Keywords:

social rating, ethical restrictions, artificial intelligence, digital society, digitalization, morality, ethics, ethical review, digital ethics, transformation of moral values

Введение

Важной тенденцией современного мира является цифровизация, которая реализуется, прежде всего в развитии on-line технологий, а также в создании электронных порталов и цифровых платформ на основе систем искусственного интеллекта. С одной стороны, эти технологии открывают много новых возможностей: снижение издержек, повышение эффективности и конкурентоспособности в экономике, удалённый доступ к различным услугам и социальным благам. С другой стороны, несут серьёзные риски и вызовы, влияние которых на человека и общество ещё предстоит оценить. Одним из таких вызовов является проблема адаптации к изменившейся реальности, вытекающий из вопроса о том, как человеку «старой формации» жить в новом мире цифровых технологий? Поэтому современного человека, не понимающего как жить в этом новом мире известный философ, психолог и нейро-лингвист Татьяна Черниговская определила как «Homo-Confusus» - человек растерянный [1]. Другая важная проблема с этико-философской точки зрения связана с процессом накопления персональных данных и возможностью их этически-негативного использования, т.е. в экономических и политических интересах отдельных групп, а также с построением автократических моделей социального управления путём «электронно-цифровой диктатуры».

1. Человек в новом цифровом мире

Масштабное внедрение электронных технологий позволяет сделать вывод о том, что со второго десятилетия ХХI века в истории человеческой цивилизации начался крутой перелом, связанный с разрушением фундаментальных оснований прежней эпохи и результатом которого становится формирование новой реальности, нового технологического уклада, а также экономического, политического и социального порядка. Проанализируем наиболее существенные и важные черты этой новой реальности.

Нечеловекомерность цифрового мира. Ключевой характеристикой жизненного мира человека является временна́я шкала (темпора́льный уровень) как набор базовых (пространственно-временны́х) параметров, в которых он ощущает окружающий мир, воспринимает происходящие события и реагирует на них. Помимо той временно́й шкалы, в которой «живёт» человек и большинство живых существ, в мире есть ещё множество уровней темпора́льности, недоступных человеку, связанных, например, с микро- и мега- мирами, которые не воспринимаются непосредственно и познаваемы лишь условно в вероятностно-статистических и гипотетических конструкциях [2, С. 91-93]. И только лишь макромир является для человека предсказуемым, ясным и определённым, ибо его размерность и временна́я ниша соответствуют природе самого человека, возможностям его физиологических и психических процессов. Цифровой мир существует в нанометрах и наносекундах и представляет собой также несоразмерную человеку реальность. Например, технические устройства будущего (беспилотные автомобили и самолёты) в случае возникновения нестандартной ситуации могут выбрать (принять) решение намного быстрее, чем его успеет осмыслить и скорректировать человек. Отсюда вытекает глубокое противоречие между природой человека и несоразмерным ей миром сложных технических устройств.

Прозрачность. В мире высоких технологий трудно что-либо сохранить в тайне или что-то спрятать, исчезает приватность. Каждый человек, вовлеченный в социум через систему глобальных коммуникаций, оставляет после себя цифровой след в виде большого массива данных, таких как: история поисковых запросов, личная переписка и фото, лайки и репосты, сведения о финансовых операциях, записи камер фото и видеонаблюдения и мн. др). Будучи аккумулированы и систематизированы, эти данные делают человека прозрачным для тех, кто владеет ими. Даже когда человек умирает, его цифровое тело продолжает жить. То есть возможно утверждать о бытии человека в двух модусах: реальном (физическом) и виртуальном (цифровом). Несмотря на взаимосвязь этих двух аспектов реальности, последняя обладает относительной автономией и, в некотором смысле, может существовать самостоятельно подобно 3-му миру в онтологической конструкции К. Поппера. Проблемным является вопрос о соотношении реального и виртуального бытия человека, а также о праве человека контролировать эту виртуальную оболочку.

Текучесть. Она в равной мере характеризует как техносферу, так и социальную и духовную жизнь, где нет ничего стабильного и застывшего, а, наоборот, происходят постоянные изменения в составе, структурах и функциях. То есть не существует таких паттернов, кодексов и правил, которые возможно считать устойчивыми ориентирами в настоящем и руководствоваться ими в будущем. Эта идея подробно раскрыта З. Бауманом в книге «Текучая современность». Несмотря на то, что книга была издана более 10 лет назад, её идеи не утратили своей актуальности. «В отличие от твердых устойчивых форм эпохи модерна, - отмечает З. Бауман, - современность подобна потоку жидкости, который всё увлекает за собой: одно поглощает, через другое просачивается, третье растворяет, но ничего не фиксирует» [3, С.5 – 7]. Трактуя его идеи языком синергетики, можно сравнить текучую современность с подобием динамического хаоса с высокой энтропи́ей, из которого должен образоваться новый порядок в экономическом, социальном и культурном пространстве.

2. Революция нравственных отношений

По мнению американского социолога и антрополога Стивена Пинкера, важной характеристикой современного мира (со второй половины ХХ в.) является значительное снижение уровня глобального насилия и повышение цены человеческой жизни. В международной политике ценности сотрудничества и кооперации одержали верх над идеями захвата ресурсов и территорий, что уменьшило угрозу мировых войн. Снижение насилия между гражданами связано, по мнению С. Пинкера, с усилением роли права и государства. Именно государства берут на себя монополию на насилие, снижая тем самым его уровень между людьми [4, С. 6-8]. Несмотря на то, что во второй половине ХХ века было немало случаев геноцида (например в Руанде или в Камбодже) и локальных конфликтов, тренд, обозначенный С. Пинкером, невозможно отрицать и он, вероятно, будет характерен и для цифрового общества будущего.

Отсюда вытекают и трансформации, затрагивающие сферу морального сознания: нравственные нормы и ценности. Как известно, в основе морального сознания лежат представления человека о должном поведении, образе жизни, взаимоотношениях с другими людьми, которые раскрываются через категории добра, справедливости, долга, совести, чести, достоинства и др., которые, являясь фундаментальными основаниями общечеловеческой морали, в разные исторические эпохи наполнялись особым специфическим смыслом [5, С. 56-62]. Современный политолог Екатерина Шульман считает, что главными моральными ограничителями уходящей эпохи являются честь и стыд. В новой информационной культуре не будет чести и стыда, а категория «репутация», утратившая своё былое значение, наоборот, возродится на новом техническом уровне и приобретёт высокую нравственную ценность [6]. Понятие «честь» включает в себя совокупность норм, соблюдение которых ценнее жизни, и исторически было ограничителем для аристократической элиты общества, а также для корпораций. В настоящее время эти нормы частично сохраняются только в строго иерархизированных военных и силовых структурах, деятельность которых в максимальной степени связана с насилием, а также в криминальной среде, которую сложно рассматривать в нравственно-смысловом поле.

В свою очередь стыд традиционно был ограничителем для масс и специфическим ограничителем для женщин. Е.М. Шульман отмечает, что природа стыда связана с одной стороны с проявлением человеческой телесности, которая в настоящее время перестает быть закрытой и запретной, с другой стороны с эмоциями и чувствами, которые переживает жертва насилия из-за невозможности предотвратить насильственный акт или из-за какой-либо её связи с субъектом насилия и оценкой этой связи в общественном мнении [6]. Таким образом по мере нарастания свободы в проявлении чувственности и сексуальности и снижения уровня физического насилия, категория стыда теряет свою былую значимость. Если же понимать стыд более широко как переживание несоответствия своего поведения общезначимым нормам, то это чувство будет определяться более содержательным понятием «совесть», которое, согласно Э. Фромму как раз эволюционировало из чувства стыда. В работе «Человек для самого себя» он выделял три стадии эволюции совести: страх, стыд и самоответственность. «На первоначальной стадии эволюции совести авторитет выдвигал определенные требования, которые затем следовали уже не из подчинения авторитету, а из чувства ответственности перед самим собой» [7, С. 245-246]. В классическом понимании совесть – это способность человека критически оценивать свои поступки, мысли и желания на предмет их соответствия нравственному идеалу и высшим ценностям. Учитывая размытость и при́зрачность идеалов, можно сделать вывод о том, что понятие совесть, если не утратит свое значение, то также подвергнется трансформации.

В условиях всеобщей прозрачности особую значимость может получить нравственное качество, определяемое понятием «репутация». В цифровом мире каждый является одновременно производителем и потребителем информационного контента и, поскольку все прозрачны для всех, важно следить за нравственным содержанием этого производимого контента, и, таким образом, сохранять и поддерживать чистоту своей репутации.

Вместо старых моральных ограничителей появляются новые, которые окончательно не сформировались и только начинают просматриваться. Одним из таковых является принудительная публичность, которая может иметь разные формы. Поскольку англоязычные термины (троллинг, аутинг, буллинг), часто используемые для обозначения принудительной публичности, не раскрывают в позитивном ключе её содержание, воспользуемся термином Е.М. Шульман «партсобрание», хорошо знакомым советскому человеку.

Приведем пример. Так Волгоградский депутат Гассан Набиев, член партии «Единая Россия» на заседании волгоградской областной Думы 6 марта 2019 года заявил, что пенсию в 8000 рублей получают только тунеядцы и алкоголики. Суждения депутата вызвали широкий общественный резонанс, шквал возмущения и негодования «прокатился» по социальным сетям. Именно публичная критика инициировала рассмотрение высказываний депутата этической комиссией Единой России, депутат был исключён из партии.

Другой пример. 26 апреля 2020 года официальный представитель МИД РФ Мария Захарова в интервью Михаилу Зыгарю отметила, что дальние перелёты и зарубежные путешествия должны быть привилегией состоятельных людей: дорого одетых, с деньгами и связями, не имеющих ипотечной недвижимости и кредитов, а граждане РФ, которые не смогли вернуться домой из-за закрытия границ в период эпидемии 2020, являются безответственными. На момент написания статьи петиция за отставку М. Захаровой уже набрала значительное количество подписей.

Следует отметить, что позитивную этическую значимость принудительная публичность имеет только в условиях равного и свободного доступа к информационному пространству для всех участников дискурса, в недемократических же условиях, когда информационное поле находится под контролем, она, наоборот, может стать инструментом тоталитарного господства.

3. Искусственный интеллект в нравственном измерении

Важным фактором, определяющим формирование новой реальности, является разработка и внедрение цифровых платформ на основе систем искусственного интеллекта. В настоящее время отсутствует общепринятое определение искусственного интеллекта (ИИ). С позиции психологии интеллект (лат. Intellectus - понимание, познание) – есть общая способность человека к познанию, пониманию и разрешению проблем и объединяет все его познавательные способности: память, представление, мышление, воображение и др. ИИ – это область науки и техники, которая занимается разработкой компьютерных программ, обладающих возможностями, присущими человеческому разуму и способных к решению сложных задач с множеством переменных, к пониманию языка, а также к обучению и самообучению. При этом как на стадии разработки алгоритмов, так и в процессе использования искусственных интеллектуальных систем (ИИС) возникают вопросы, требующие обстоятельного этико-философского анализа. Бо́льшая часть таких вопросов, обсуждаемых в современной научной литературе, связана с этическими аспектами программирования ИИС, а также с проблемой появления сознания и самосознания ИИС, в результате чего машины могут произвести революцию и одержать власть над миром.

Уже на стадии программирования ИИС возникают вопросы, связанные с действием системы в критической ситуации и упирающиеся в моральные дилеммы, не имеющие решения. Так, в случае с беспилотным автомобилем возникает вопрос о том, можно ли спасти несколько человек ценой жизни одного человека, оправдано ли свернуть с дороги ради спасения пешехода или возможно проехать через сплошную линию и др. Об этом, в частности идёт речь в статье профессора А.В. Разина «Этика искусственного интеллекта» [8, С. 57-73]. А. Разин отмечает, что подходы к решению этих вопросов различны в рамках разных этических доктрин (абсолютистской, утилитарной, прагматической), а разработка жёстких этических стандартов для всех ИИС может затормозить их дальнейшее развитие. Если вместо строгих алгоритмов допустить неопределённость в действиях системы, сравнимую со свободой воли человека, дать возможность ИИС анализировать принятые решения и самообучаться, данный вопрос может принять более широкий смысл.

Другой интересный подход разработан группой американских ученых ассоциации UCLA School of Law и изложен в статье «Creating a Tool to Reproducibly Estimate the Ethical Impact of Artificial Intelligence» [9, С. 2-4]. Исследователи отмечают, что в настоящее время разработчики платформ и различных приложений на основе ИИС, а также контролирующие и надзорные организации всё больше заинтересованы в этической оценке результатов своей работы. Отдельные критерии и правила по оценке технического, социального и этического воздействия платформ, разрабатываемые американскими и международными комитетами по стандартизации (NIST[1], ISO[2], IEEE[3]) носят фрагментарный характер и являются недостаточными. Важная мысль авторов состоит в том, что этические принципы должны быть заложены в стандарты, которыми руководствуются разработчики, «ибо они закрепляют требования и характеристики, которые могут быть последовательно использованы для обеспечения соответствия материалов, продуктов, процессов и услуг их целям» [9, С. 1-2]. Стандарты помогают прояснить процессы и характеристики платформы организациям и гражданам, иначе, продукт может стать «чёрным ящиком», действие которого заинтересованные стороны не смогут понять и воспроизвести в связи с недостатком технических знаний. По мнению авторов, главными принципами, закладываемыми в стандарты должны стать: отсутствие доминирования и предвзятости, инклюзивность (включенность каждого и учёт его интересов), провизионализм (способность предвидеть проблемы, которые могут возникнуть в будущем), а также соблюдение прав человека, закреплённых Конвенцией ООН. «Это делается для того, чтобы возвысить важность защиты человеческого благополучия как неотъемлемой части развития и успеха будущего с поддержкой искусственного интеллекта» [9, С. 3-4]. Профессионально-этические требования к разработчикам программ и стандартов – защита принятия решений, объяснимость, непредвзятость (независимость), алгоритмическая компетентность, безопасность. Цель этической экспертизы –защита благополучия и прав человека. Методом является многократное тестирование разработчиков на предмет соответствия программного продукта вышеперечисленным принципам по специально-разработанным формам, при этом учитываются как ожидания, так и промежуточные результаты, которые переводятся в баллы и обрабатываются по специальной методике. Конечной целью экспертизы является присвоение тестируемому продукту индекса этического влияния (impactscore).

Что касается киборгизации (сращивание ИИС с человеческим мозгом) и вытеснения искусственным интеллектом самого человека, то такое развитие событий представляется маловероятным, ибо для этого нужен кардинальный прорыв в исследовании мозга. Изучение отдельных нейронов и механизмов передачи сигналов по нейронным сетям всё больше смещается на квантовый уровень, где не работают классические познавательные стратегии. Несмотря на то, что в США и в Китае такая работа в настоящее время ведётся очень активно, объяснить работу мозга и смоделировать психические процессы учёным пока не удалось, согласно метафорическому высказыванию Татьяны Черниговской «наш мозг нам не по мозгам». [1]

4. Искусственный интеллект и новая модель социального управления в Китае

В настоящее время весьма актуальные этические проблемы связаны с внедрением цифровых платформ на основе ИИС в системы государственного управления. Лидерами в этой области являются Сингапур, Дания и Китай. Причем Дания и Сингапур делают акцент на автоматизацию управления инфраструктурой и создание электронных сервисов для граждан, а Китай на систему цифрового контроля. Наиболее интересным в этом контексте является китайский опыт по созданию системы социального кредита, целью которой объявлено построение гармоничного социалистического общества [10].

История проекта восходит к началу нулевых. Так уже с 2003 года в отдельных провинциях начали собирать данные для определения уровня благонадёжности граждан, которая складывалась из ряда факторов: наличие работы, отсутствие судимости и правонарушений, своевременность выплаты налогов, исполнения кредитных обязательств и коммунальных платежей. Позже эта идея обретёт государственное значение. В 2010 г. в округе Суйнин провинции Сычуань был запушен первый пилотный проект социальной оценки жителей и появилась законодательная база для его использования. В 2014 был утверждён национальный план запуска пилотных проектов на основе социального рейтинга до 2020 года, началась установка видеокамер с функцией распознавания лиц и запущена платформа «Credit China» для реализации программы «национальное доверие». Механизм действия программы такой: гражданам присваиваются единые номера, затем из архивов госслужб, а также из всех открытых источников собираются данные о человеке. В зависимости от характера этих данных ему присваивается рейтинг, выраженный в баллах (от 800 до 1000 в разных проектах), вводиться система штрафов и поощрений. К настоящему времени объем собираемой информации расширился благодаря использованию данных персональных компьютеров, мобильных приложений и камер видеозаписи. Соблюдение трудовой дисциплины, работы на общественных началах, донорство крови, приобретение спиртного, он-лайн игры, разоблачение недобросовестных граждан, посещение различных сайтов, покупки в магазинах, размещение в блогах и социальных сетях недостоверной информации и мн. другое, - всё это в определённой мере повышает или снижает рейтинг гражданина. Например, присутствие в списке друзей конкретного человека в социальной сети людей с низким рейтингом способствует его снижению, а людей с высоким рейтингом, наоборот способствует повышению.

Привилегией граждан с высоким рейтингом является, например, внеочередное обслуживание в медучреждениях, кредиты с низкой процентной ставкой, путёвки в санатории, льготы при поступлении в вузы, бронирование номеров в отелях без предоплаты, доступ в vip-залы аэропортов и др. Лицам с низким рейтингом закрыт доступ к госслужбе, их дети не могут учиться в дорогих частных школах, они также не могут пользоваться бизнес-классом в самолётах и поездах, им может быть запрещён выезд за рубеж. Чтобы получить представление о масштабах проекта, приведем некоторые примеры о работе системы в регионах [11].

А) Суйнин, провинция Цзянсу – сельскохозяйственный и промышленный уезд с населением 1,45 млн. человек. Базовый балл-1000 на каждого гражданина. Баллы вычитаются за вождение в нетрезвом виде, неуплату кредитов, наличие бо́льшего количества детей, чем разрешено законом.

Б) Жунчэ́н – город с населением 740 000 жителей в восточной части провинции Шаньдун. Базовый балл составляет 1000. Преимущества высокого рейтинга включают аренду велосипедов без внесения залога, скидки на зимнее отопление и льготные условия кредитования.

В) Хэбэй — северная провинция с населением около 75 миллионов жителей. В январе 2018 г. Высший народный суд Хэбэя выпустил мини-приложение WeChat для обмена сообщениями, которое позволяет пользователям проверять наличие должников по судебным решениям в радиусе 500 метров, предупреждать власти и делиться информацией с друзьями. Заявленная цель состоит в том, чтобы создать “социальную среду, в которой каждый знает, понимает и соблюдает закон”.

Г) Нинбо – крупный город в одной из самых богатых провинций Китая Чжэцзян. Проезд без оплаты в общественном транспорте или отсрочка оплаты счетов за электроэнергию записываются как "пятно (у Диань)" на личном рейтинге. Негативные записи снижают шансы человека получить ипотеку, повышение по службе или повышение зарплаты.

По сообщениям негосударственных китайских СМИ, по состоянию на март 2019 г. 9 миллионам граждан было запрещено покупать билеты на внутренние авиалинии Китая, 3 миллионам была закрыта возможность покупки билетов бизнес-класса в поездах, около 3 миллионов граждан находятся в черных списках.

Стоит отметить, что общие тенденции размывания традиционных ценностей в меньшей степени характерны для китайской культуры в силу её исторической замкнутости и самобытности, а некоторые древние традиции и сейчас сохраняют своё значение. Вместе с тем, приведённая информация позволяет сделать ряд этико-философских выводов. В обществе социального кредита главным ограничителем становиться чувство страха. Именно страх потерять рейтинг и связанные с ним важные социальные блага удерживает человека от безнравственных или противозаконных деяний и стимулирует к положительной активности. Возникает вопрос: может ли страх быть основой моральной мотивации и возможно ли в таком обществе полноценное функционирование морали? Согласно Э. Фромму, страх был первичным компонентом морали и начальным этапом эволюции совести, но это было характерно для архаичного общества, где сущность морали сводилась к совокупности табу. Можно предположить, что общество, эксплуатирующее страх, делает шаг назад в эволюции нравственной культуры.

Вместе с тем, идеи построения общества благоденствия через страх и принуждение можно найти в некоторых древних учениях Китая. Так, известный философ Мо-Цзы проповедовал идею всеобщего равенства людей и всеобщей любви как основу благополучия общества. При этом он полагал, что приобщать к любви можно как путём убеждения, так и путём принуждения, то есть должна существовать система наград и наказаний, при которой «любить людей было бы выгодно, а не любить – невыгодно» [12, С. 66-68]. Более радикальную позицию занимали представители школы легизма Шан Ян и Гуань Чжун, они были сторонниками тотального контроля, высказали идею верховенства закона, который устанавливается высшим правителем и обязателен для всех, при этом обсуждать, ругать или даже хвалить закон никому не позволено, а управлять государством надёжнее всего полагаясь на страх перед наказанием. Интересно то, что легисты поощряли взаимное разоблачение как способ поддержания законности, при этом отдавая доносчику часть имущества привлеченного к ответственности гражданина. Все эти идеи в той или иной степени нашли отражение в современной системе социального рейтинга, которая по сути, представляет собой архаичную мораль, возрождённую на новом техническом уровне, что можно рассматривать как пример этически-негативного использования высоких технологий.

Попытка осмыслить китайскую систему с позиций гуманистической морали и классической европейской этики приводит нас к обнаружению противоречия идеи социального кредита с идеей свободы как необходимым условием существования и функционирования морали. По И.Канту, именно в условиях свободного выбора индивид добровольно встает на путь реализации добра и проявляет тем самым своё нравственное начало, а приобщение к нравственным ценностям происходит через культуру и воспитание, а не посредством страха и принуждения.

5. Россия и новая цифровая реальность

В настоящее время Россия также стоит на пороге цифровой трансформации. В 2017 г. Президентом РФ была утверждена «Стратегия развития информационного общества в Российской Федерации на 2017 – 2030 годы». На её основе был разработан и утверждён национальный проект «Цифровая экономика» на период до 2024 года. В нем цифровая экономика определена как «деятельность, в которой ключевыми факторами производства являются данные в цифровом виде, обработка и использование которых по сравнению с традиционными формами хозяйствования позволяют существенно повысить эффективность различных видов производства, технологий, оборудования, хранения, продажи, доставки товаров и услуг» [13]. Одновременно реализуются проекты цифровизации в области образования и здравоохранения. Российские власти не рассматривают цифровой контроль как приоритетное направление, подобно тому, как это сделано в Китае, но активно работают над внедрением цифровой платформы управления, при этом, госструктуры и крупные банки активно формируют базы данных граждан и организаций, в столице уже несколько лет тестируют видеокамеры с функцией распознавания лиц, а с июля 2020 года вступил в силу «Закон об экспериментальном правовом режиме для внедрения технологий искусственного интеллекта в Москве» [14].

Ряд ученых, внимательно следящих за происходящими изменениями обеспокоены их возможными негативными последствиями. Как отмечает профессор Ольга Четверикова, цифровизация в России направлена, прежде всего не на рост эффективности экономики или оптимизацию госуправления, а на накопление больших данных, которые, превращаясь в товар, обретают значение экономической категории. Не случайно, премьер-министр РФ Михаил Мишустин назвал данные «золотом ХХI века». В нашей стране крупнейшими аккумуляторами данных являются Сбербанк (финансовые операции), ФНС (доходы, работа, личные данные), Яндекс (поведение в сети, интересы, предпочтения), а также мобильные операторы. Технологии, которые они используют дают возможность собрать такой объем сведений о личности человека, который раньше сложно было даже представить, а их обработка позволяет сделать множество выводов о человеке и его жизни, к которым он сам не смог бы прийти. Информацию о потребностях и интересах, составе семьи, маршрутах передвижения уже сейчас активно используют в предиктивной аналитике, - это анализ больших данных с целью прогнозирования потребностей и интересов человека и управления его вниманием и поведением в интересах третьих лиц. С одной стороны это может сэкономить время и силы на поиск нужного продукта, с другой стороны выступает как способ давления на человека и манипулирования его сознанием.

Отсюда вытекает вопрос о том, как человек может контролировать распространение и использование информации о себе и защитить свою жизнь от вторжения извне, а также каким образом в условиях высокого уровня коррупции и незрелой системы правового регулирования сохранить личные данные в безопасности и предотвратить их неэтичное использование? Чёткого ответа на этот вопрос пока нет. Несмотря на существующую нормативно-правовую базу (ФЗ «О персональных данных», Трудовой кодекс, постановления Роскомнадзора), законодательные нормы исполняются лишь формально, при этом ни государство, ни граждане не имеют возможности контроля за их соблюдением.

Становление новой бизнес-модели на основе больших данных ярко просматривается на примере трансформации современного российского образования. Так проект «Цифровая образовательная среда», реализация которого уже начата в школах России, предполагает не только внедрение технических средств обучения и on-line технологий, но и формирование электронного досье обучающегося, переход от традиционной системы оценки успехов и достижений ученика учителем к комплексной оценке личности ученика (РОСТ - распределённая оценка в системе талантов, выраженная в баллах), которую определяет программа. В будущем досье может быть доступно представителям бизнеса, которые смогут выбирать людей с высоким интеллектуальным потенциалом и инвестировать средства в их дальнейшее обучение и развитие. Профессор О.Н. Четверикова в книге «Трансгуманизм в российском образовании» отмечает, что в современном мире формируется модель узаконенного рабовладения. «Людиардеры – бизнесмены, владеющие командами лучших специалистов, это богатые люди, у которых капиталы в пакетах владения людьми. Инвестиционный портфель можно собрать не только из акций компаний, но и из акций людей: талантливые будут всегда хорошо зарабатывать и доходность с вложений будет высока. На этой бирже перспективной считается модель венчурных инвестиций в человека, которая уже отрабатывается в США. С одной стороны, есть молодые и талантливые люди, желающие повысить свою квалификацию в ведущих мировых университетах или школах бизнеса, но у них нет на это средств. Они выставляют себя на биржу с обязательством перед теми, кто профинансирует их обучение, выплачивать 20% своего годового дохода в течение 10 лет. С другой стороны, есть те, кто готов вложиться в это “предприятие” с учётом потенциально высокой готовности» [15]. Из этого следует, что вначале персональные данные обретают значение экономической категории, а затем товаром становиться и сам человек. Мы понимаем этот процесс как пример этически-негативного использования данных с опасными перспективами. Таким образом, несмотря на все свои преимущества, цифровые технологии несут риски неэтичного использования данных и нарушения приватности. Превращение данных в товар как средство получения прибыли, трудности правового регулирования и надзора за их оборотом делают человека очень уязвимым в новом цифровом мире.

Заключение

Несмотря на то, что проблемы цифровизации активно обсуждаются в научной среде (особенно в Европе и США), пути их решения в основном не найдены. Трудности разрешения этих проблем определяются сложностью и нечеловекомерностью самого цифрового мира, а также отсутствием взаимопонимания между специалистами разных направлений, прежде всего: IT-программистами, юристами и философами в силу отсутствия у последних профессиональных технических знаний. Этот фактор также делает затруднительным широкое общественное обсуждение (что особенно актуально для России), ибо большинство людей не видит и не понимает суть и перспективы происходящих изменений.

Важной особенностью современного цифрового мира является неопределённость и непредсказуемость путей его дальнейшей эволюции, диапазон которых довольно широк: от цифрового гуманизма до тотального контроля. Во-избежание худших сценариев, электронные новации должны внедряться достаточно осторожно, проходя на каждом этапе этическую экспертизу. Возможные негативные влияния этих новаций на жизнь, здоровье, права и свободы человека, установленные экспертами, должны стать основанием для наложения ограничений на их разработку и применение, подобно тому, как в конце ХХ века мировое научное сообщество наложило запрет на исследования в области репродуктивных биомедицинских технологий, осознавая их потенциальную опасность и непредсказуемость. При этом необходимо преодолеть противоречие, возникающее между свободой научного поиска, экономической и технологической свободой и необходимостью ограничения этих свобод в целях сохранения общества, культуры и самого человека.

[1] NIST – американское национальное агентство по стандартизации

[2] ISO – международная организация по стандартизации

[3] IEEE - институт инженеров электротехники и электроники

Библиография
1.
Черниговская Т.В. «Человек растерянный – Homo confusus и новая цифровая реальность». Научный доклад на заседании Ученого совета СПбГУ 30.09.2019 https://www.youtube.com/watch?v=3V0J_rSA4Zk
2.
Алюшин А.Л., Князева Е.Н.-Темпомиры. Скорость восприятия и шкалы времени. – М, ЛКИ, 2008. – 240 с.
3.
Бауман З. Текучая современность. – СПб. Питер, 2008, ISBN: 978-5-469-00034-1
4.
Pinker. S. The Better Angels of Our Nature: Why Violence Has Declined. USA, 2011. DOI: 10.12709/mest.02.02.02.30
5.
Суслов А.В. Справедливость и право как необходимые основания современного многокультурного общества // Перспективные направления в развитии науки, бизнеса, образования. Сборник научных трудов по материалам научно-практической конференции. М, 2015. – С. 56 – 62.
6.
Шульман Е.М. Этические нормы и ценности будущего. Выступление в лектории музея современного искусства. https://www.youtube.com/watch?v=8S8UT2208M8
7.
Фромм Э. Человек для самого себя. – М.: ACТ, 2011. – 350 с.
8.
Разин А.В. Этика искусственного интеллекта //Философия и общество, 2019, вып. 1(90), С. 57-73, DOI: https://doi.org/10.30884/jfio/2019.01.04
9.
Jordan S, Fazelpour S, Koshiyama A, Kueper J, De-Chant C, Leong B. Creating a Tool to Reproducibly Estimate the Ethical Impact of Artificial Intelligence. UCLA school of law, 2019, https://escholarship.org/uc/item/56w756v8
10.
Planning Outline for the Construction of a Social Credit System (2014-2020). https://chinacopyrightandmedia.wordpress.com/2014/06/14/planning-outline-for-the-construction-of-a-social-credit-system-2014-2020
11.
Cheng Evelyn, Shirley Tay. China wants to track and grade each citizen’s actions — it’s in the testing phase. https://www.cnbc.com/2019/07/26/china-social-credit-system-still-in-testing-phase-amid-trials.html
12.
История китайской философии: пер. с кит./ Общ. ред. и послесл. М.Л. Титоренко. – М.: Прогресс, 1989. – 520 с.
13.
Стратегия развития информационного общества в Российской Федерации на 2017 – 2030 годы», http://kremlin.ru/acts/bank/41919
14.
Федеральный закон от 24.04.2020 № 123-ФЗ, http://kremlin.ru/acts/bank/45475
15.
Четверикова О.Н. Трансгуманизм в российском образовании. М.: Книжный мир, 2020. – 309 с. ISBN: 978-5-6041495-1-5
References
1.
Chernigovskaya T.V. «Chelovek rasteryannyi – Homo confusus i novaya tsifrovaya real'nost'». Nauchnyi doklad na zasedanii Uchenogo soveta SPbGU 30.09.2019 https://www.youtube.com/watch?v=3V0J_rSA4Zk
2.
Alyushin A.L., Knyazeva E.N.-Tempomiry. Skorost' vospriyatiya i shkaly vremeni. – M, LKI, 2008. – 240 s.
3.
Bauman Z. Tekuchaya sovremennost'. – SPb. Piter, 2008, ISBN: 978-5-469-00034-1
4.
Pinker. S. The Better Angels of Our Nature: Why Violence Has Declined. USA, 2011. DOI: 10.12709/mest.02.02.02.30
5.
Suslov A.V. Spravedlivost' i pravo kak neobkhodimye osnovaniya sovremennogo mnogokul'turnogo obshchestva // Perspektivnye napravleniya v razvitii nauki, biznesa, obrazovaniya. Sbornik nauchnykh trudov po materialam nauchno-prakticheskoi konferentsii. M, 2015. – S. 56 – 62.
6.
Shul'man E.M. Eticheskie normy i tsennosti budushchego. Vystuplenie v lektorii muzeya sovremennogo iskusstva. https://www.youtube.com/watch?v=8S8UT2208M8
7.
Fromm E. Chelovek dlya samogo sebya. – M.: ACT, 2011. – 350 s.
8.
Razin A.V. Etika iskusstvennogo intellekta //Filosofiya i obshchestvo, 2019, vyp. 1(90), S. 57-73, DOI: https://doi.org/10.30884/jfio/2019.01.04
9.
Jordan S, Fazelpour S, Koshiyama A, Kueper J, De-Chant C, Leong B. Creating a Tool to Reproducibly Estimate the Ethical Impact of Artificial Intelligence. UCLA school of law, 2019, https://escholarship.org/uc/item/56w756v8
10.
Planning Outline for the Construction of a Social Credit System (2014-2020). https://chinacopyrightandmedia.wordpress.com/2014/06/14/planning-outline-for-the-construction-of-a-social-credit-system-2014-2020
11.
Cheng Evelyn, Shirley Tay. China wants to track and grade each citizen’s actions — it’s in the testing phase. https://www.cnbc.com/2019/07/26/china-social-credit-system-still-in-testing-phase-amid-trials.html
12.
Istoriya kitaiskoi filosofii: per. s kit./ Obshch. red. i poslesl. M.L. Titorenko. – M.: Progress, 1989. – 520 s.
13.
Strategiya razvitiya informatsionnogo obshchestva v Rossiiskoi Federatsii na 2017 – 2030 gody», http://kremlin.ru/acts/bank/41919
14.
Federal'nyi zakon ot 24.04.2020 № 123-FZ, http://kremlin.ru/acts/bank/45475
15.
Chetverikova O.N. Transgumanizm v rossiiskom obrazovanii. M.: Knizhnyi mir, 2020. – 309 s. ISBN: 978-5-6041495-1-5

Результаты процедуры рецензирования статьи

В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.

Cтатья посвящена актуальной теме, которая, возможно, будет интересна определенной части аудитории журнала.
Целью работы является необходимость обозначить проблемы и перспективы, связанные с внедрением цифровых технологий, проанализировать их влияние на человека и общество в широком этико-философском контексте.
Объектом исследования является современное цифровое общество как новая цивилизационная ступень в развитии человечества.
Предмет исследования - эволюция нравственных ценностей и норм при переходе от постиндустриального этапа к информационному обществу, а также этические аспекты внедрения электронных технологий и систем искусственного интеллекта в пространство социального управления.
В статье автор пытается проанализировать, как видоизменяются социально-этические ценности при переходе от постиндустриального этапа к информационному обществу высоких технологий, рассматриваются примеры неэтичного использования персональных данных, а также проблемы, связанные с разработкой глобальных цифровых платформ и систем искусственного интеллекта. Автор показывает опасность поспешного внедрения цифровых платформ в пространство социального управления без глубокой этической экспертизы, указывает на противоречие, существующее между научно-технологической свободой и необходимостью ограничения этой свободы во имя благополучия человека.
Следует отметить, что статья знакомит читателей с китайской системой социального кредита - самым масштабным социальным экспериментом на основе электронных технологий. Идея системы социального кредита являтеся в настоящее время широко обсуждаемой социально-экономической и социльа6но-политической тематикой, которая находит достаточно большое распространение в мировой экономике в различных вариациях и модификациях, отражающих различный менталитет и традиции.
Можно согласиться с тем выводом, который делает автор о том, что несмотря на все свои преимущества, цифровые технологии несут риски неэтичного использования персональных данных и нарушения приватности. Превращение данных в товар как средство получения прибыли, трудности правового регулирования и надзора за их оборотом делают человека очень уязвимым в новом цифровом мире. Поэтому в процессе сбора и обработки данных, а также при создании робототехнических систем на основе искусственного интеллекта следует адекватно оценить риски и сформулировать этические ограничения, которые должны быть учтены при их проектировании и эксплуатации.
Работа базирется на большом количестве отечественной и зарубежной литературе, а также интернет источниках, обсуждающих данную проблематику, причем идет апелляция к различным точкам зрения, приводятся аргументы и контраргументы, ориенитровванные на авторскую позицию.
Работа написана понятным и доступным языком, выдержан приятный литературный стиль, присутствует здравая аргументация, приводятся достаточные обоснования для выдвигаемых утверждений и положений. Взгляд автора достаточтно оригинален и интересует, что несомненно заинтересует интересующегося читателя.
Ссылка на эту статью

Просто выделите и скопируйте ссылку на эту статью в буфер обмена. Вы можете также попробовать найти похожие статьи


Другие сайты издательства:
Официальный сайт издательства NotaBene / Aurora Group s.r.o.
Сайт исторического журнала "History Illustrated"