goret6 писал(а):
Есть такая версия, что наднациональная элита строит новый мир ( т. к. старый изжил себя и кпитализм полыхает). Это версия лжесоциализма (или лжетроцкизма). Глобализм, отсутствие государств, отмирание института семьи и традиционной морали. По сути цифровое рабство. Сейчас навязывается идея отсутствия собственности. Зачем собственная машина, когда есть каршеринг. Зачем собственное жилье, можно снимать, тем более что такое жилье проще подогнать под сиюминутные потребности. И т. д. Главное - работай, а в обмен тебе будут давать необходимое. Постепенно всю собственность отожмут и возьмут под себя группа транснациональных кампаний. В Китае отрабатывают систему социальных рейтингов. Вот типа такого. При этом нет ни денег в старом понимании, ни частной собственности. Некто диктует условия и определяет, какие ништяки могут получать за выполнение определённых задач. Дернешься - вылетаешь из системы и подыхаешь, у тебя ничего нет. Даже куска земли, что бы как то выжить.
https://colonelcassad.livejournal.com/Основные проблемы концепции социального рейтинга при применении на практике
1. Непрозрачность правил и алгоритмов, на основе которых система социального рейтинга будет давать оценки поведению человека.
Текущий, прежде всего китайский, опыт внедрения элементов соцрейтинга не дает ответа на вопрос о том, кто имеет или будет иметь право писать и закладывать в интеллектуальную систему правила и критерии оценки действиям человека. Какова степень ответственности таких людей за принятие решений, которые могут иметь судьбоносное значение для десятков миллионов (если говорить о России) сограждан? Согласится ли общество делегировать, условно говоря, системным администраторам право решать, какие критерии будут служить мерилом оценки деятельности человека? Чем их восприятие «правильности» и «неправильности» лучше и объективнее восприятия и мнений других людей и норм законодательства?
Помимо человеческого фактора, остается неясным, как система соцрейтинга, использующая ИИ для обработки огромных массивов данных граждан в масштабах страны или отдельно взятого социума, принимает решения. Китайская модель, например, функционирует по принципу классического «черного ящика». Это означает, что получаемые на выходе результаты не подразумевают объяснения причин и обстоятельств, по которым ИИ-система делает выводы и принимает решения. Людям остается лишь принять как должное тот факт, что «интеллектуальная» машина в режиме реального времени каким-то образом «сортирует» их по группам в зависимости от поведения и совершенных поступков, даже если последние не противоречат закону. Здесь будет уместно вспомнить один из эпизодов во многом пророческого мини-сериала «Черное зеркало» (серия «Под откос», англ. — «Nosedive»), в котором главная героиня в стремлении улучшить свой индивидуальный рейтинг для получения возможности арендовать жилье в престижном районе скатывается на самое дно рейтинга, не совершив при этом ни одного противоправного деяния.
2. Никто не застрахован от социального деранкинга.
Некоторые лоббисты системы социального рейтинга наивно полагают, что следование определенным шаблонам «хорошего гражданина» является гарантией нахождения человека в верхней привилегированной группе. Однако, как и любая другая сложная технология, социальный рейтинг на основе ИИ способен не только отслеживать общий фон вокруг человека на основе определенной системы социальных индикаторов, но и идти дальше — формировать о таком лице «мнение» с учетом мультипликативного эффекта от восприятия поведения человека всем социумом. Например, популярная медийная личность (политик, артист или спортсмен), с одной стороны, имеет больше возможностей для поддержания своего соцрейтинга на высоком уровне за счет кумулятивного эффекта от его положительного имиджа. С другой стороны, при спланированной информационной кампании по его дискредитации или просто при совершении неблаговидного поступка, ставшего достоянием общественности, «интеллектуальная» система социального рейтинга будет учитывать меняющееся в худшую сторону восприятие этого лица в обществе, и такому человеку впоследствии будет сложнее «выправить» свой рейтинг «хорошими поступками». Система будет давать усредненную оценку человеку с учетом «хороших» дел и «плохого» имиджа в медийном пространстве.
3. Система социального рейтинга может иметь большое количество звеньев.
«Сортировка» людей по категориям в зависимости от их текущего социального рейтинга будет иметь далеко идущие последствия во всех сферах жизни. Например, человека с недостаточно высоким рейтингом вряд ли возьмут на престижную или хорошо оплачиваемую работу, даже если он полностью соответствует всем формальным требованиям. Он в итоге и не поймет, в связи с чем и почему ему отказали. Там, где законом человеку гарантируется защита от дискриминации и равное обращение, будет всплывать «цифровой надсмотрщик» со своим «особым» мнением, которое в итоге и станет определяющим (а если не станет, то зачем тогда вообще нужен соцрейтинг?). Фундаментальное право каждого человека — право выбора, включая право свободно и по своей воле распоряжаться данной при рождении жизнью, будет пропорционально ограничиваться занимаемому месту в социальном рейтинге. Неоплаченный вовремя штраф за нарушение ПДД или невыполненная в срок «программа по детям» могут самым неожиданным образом проявиться в будущем и сыграть определяющую роль в судьбе человека при реализации его планов на жизнь.
4. Цифровая дискриминация человека.
Принятие системы социального рейтинга на государственном уровне в Российской Федерации означает появление параллельных с Конституцией и другими нормативно-правовыми актами «цифрового свода закона» и «цифрового процессуального кодекса» (совокупность социальных индикаторов и алгоритмов по сбору, анализу и оценке входящей в систему ИИ информации о человеке). С одной стороны, в Конституции гарантируются равные права и обязанности, а с другой — может возникнуть полноценный механизм дискриминации и ограничения прав человека без совершения им противоправных деяний, являющихся таковыми по действующему законодательству. На прошлогоднем референдуме по поправкам в Конституцию, граждане России, в числе прочего, проголосовали за примат Основного закона над нормами международного права. Как представляется, в случае внедрения соцрейтинга, неизбежное за этим «понижение» Конституции до подчиненного положения к «цифровому своду законов» — это явно не то, за что совсем недавно голосовали россияне.
Существует прямая угроза, что социальный рейтинг превратится в диктатуру определенной системы «цифровых» ценностей, внедренных никому не известными программистами в непонятно по каким критериям работающую автоматизированную систему. Это, к слову, является прямым нарушением седьмой статьи Конституции Российской Федерации, гарантирующей свободное развитие человека.
5. Система социального рейтинга ведет к социальной дестабилизации.
Внедрение даже отдельных элементов соцрейтинга может оказаться весьма криминогенным: кто не захочет за умеренную плату «подкрутить» свой рейтинг и оказаться в итоге в категории уровнем выше? Кроме того, социальный рейтинг — явная провокация общественной напряженности. Он, очевидно, вызовет протестные настроения в обществе, что опять-таки прямо противоречит недавним поправкам в Конституции России, согласно которым государство обязано создавать условия для взаимного доверия между ним и обществом.
В этом контексте остается в подвешенном состоянии вопрос «транзита» человека из одной категории социального рейтинга в другую. Китайский опыт, например, говорит о прямой угрозе легального «закрепощения» человека, то есть пожизненного нахождения внизу рейтинговой пирамиды по причине объективного сужения возможностей для последнего по улучшению своих показателей. Изначально ориентированная на дискриминацию концепция социального рейтинга будет ущемлять в правах лица, которые хоть и не нарушают закон, но не «зарабатывают» в достаточной мере баллы «хорошего гражданина». Как мы уже отмечали, чем ниже в иерархической табели соцрейтинга находится человек, тем у него меньше предусмотренных правилами системы возможностей «зарекомендовать» себя «хорошим» членом общества.
В России, несмотря на отсутствие комплексных исследований по данной проблематике, тем не менее, уже создается юридическая основа для неких критериев оценки людей и общества в целом, схожих по своей природе с социальным рейтингом. Например, в национальной программе «Цифровая экономика Российской Федерации» (направление «Цифровое государственное управление») зафиксировано, что в будущем появятся открытые профили компетенций граждан с «траекториями их развития», а к 2024 г. должна быть создана еще и система идентификации, включающая в себя биометрические данные и цифровые профили граждан. В этом же документе говорится, что запланировано исключение человека из участия в процессе принятия решения при предоставлении госуслуг. Все это косвенно свидетельствует о том, что подготовка основы для возможного внедрения социального рейтинга уже ведется.
Барьер для социального рейтинга в Евросоюзе
На этом фоне примечательно, что риски внедрения социального рейтинга были выявлены и осознаны руководящими структурами Европейского союза уже на ранней стадии. В апреле 2021 г. Еврокомиссия предложила запретить внедрение технологий ИИ (постановление «О европейском подходе к искусственному интеллекту»), которые используются для «массового наблюдения, применяемого в обобщенном виде ко всем физическим лицам без каких-либо различий». Незаконными станут такие методы наблюдения, как «мониторинг и отслеживание физических лиц в цифровой или физической среде, а также автоматическое агрегирование и анализ персональных данных из различных источников».
Евросоюз, в случае утверждения указанной инициативы в Европарламенте и Евросовете, полностью запретит использование ИИ-систем «высокого риска» и ограничит применение других в случае, если они не будут соответствовать новым стандартам. Примечательно, что в категорию «высокого риска» в числе прочего попали технологии ИИ в роботизированной хирургии, ИИ в программном обеспечении для найма сотрудников, ИИ для проверки документов и верификации доказательств (в судопроизводстве), а также ИИ для оценки кредитного рейтинга граждан — первичного элемента всей системы социального рейтинга. Более того, в пояснении к документу Еврокомиссии отмечается, что сама суть соцрейтинга и использование ИИ в «приложениях, которые манипулируют поведением человека, чтобы обойти его волю», являются неприемлемыми. Представители бизнеса, которые проигнорируют новые правила, могут быть оштрафованы на сумму до 20 млн евро или на 4% от годового оборота.