|
Как хорошо, что у нас в стране еще проводятся круглые столы, которые по актуальности и глубине высказанных мыслей как глоток свежего воздуха после цифробесия Сбера Германа Грефа в его «Путешествии в мир искусственного интеллекта». Речь о мероприятии «Три года с момента принятия Указа Президента России №809. Итоги и перспективы», которое состоялось на минувшей неделе в Пятигорске. На круглом столе представители родительских комитетов, казачьих, ветеранских и патриотических организаций из городов и республик Северного Кавказа и Юга России обсуждали проблемы суверенитета и национальной безопасности в контексте защиты традиционных ценностей. Очень важным стало выступление на КС ведущего IT-специалиста в России по нейросетям, президента компании «Крибрум», члена СПЧ при президенте РФ Игоря Ашманова. И логически, и по внутреннему посылу – это полная противоположность мантрам цифросектанта Грефа и Ко. Глава Сбера уже, простите, либо совсем выжил из ума, либо окончательно оторвался от реальности. Тогда как Ашманов честно рассказал про риски, связанные с внедрением ИИ в социалку и госуправление. «Катюша» приводит расшифровку речи главы «Крибрум» почти целиком.
Что такое искусственный интеллект? Это программа, имитирующая деятельность человека. Причем нельзя сказать, что она делает что-то лучше человека. Это примерно как сказать, что машина ездит быстрее или экскаватор копает быстрее, чем человек. Что делает современный генеративный искусственный интеллект? Он умеет просто подбирать наиболее вероятную последовательность слов из сети на ваш запрос и усредняет его. Это просто машина счета совместной встречаемости слов в интернете и их отбора. Если вы попросите его написать Стратегию для компании, то он просто сгенерирует для вас шлак из разных советов по «успешному успеху».
Естественно, большое количество людей, которым было непросто разбивать текст на абзацы, придумывать заголовки, выделять основное и т.д. – у них сейчас эйфория, потому что ИИ сделает это за них. Мозг человека склонен к экономии энергии, поэтому таких людей будет становиться все больше. Более того, они пытаются с помощью документов стратегического планирования всем это навязать, чтобы ИИ везде применялся. Например, в Краснодаре адвокаты недавно выявили, что приговор одним из судов был написан с помощью ИИ. Точнее, у них были такие подозрения. Адвокаты подали жалобу, но приговор оставили в силе. Потому что у нас нет никакого закона, запрещающего использовать ИИ для судебных решений.
Я лично знаю депутатов, которые пытаются генерировать целые законопроекты или поправки к ним с помощью этой штуки. При этом надо понимать, что наш народ типа продвинутый, не хочет ничего совкового, а потому использует не Гигачат или Алису, а чат GPT. И вот когда наш сенатор, депутат, правоохранитель спрашивает что-то у этой системы, его запрос тут же уходит в США. Потому что все работает в облаке, это сервис. Здесь возникает и опасность утечки ПД, и опасность компрометации, потому что все американские корпорации потоками, автоматически, сдают все свои внутренние данные спецслужбам, военной разведке. И это оказывается у них на столе раньше, чем у помощника депутата Госдумы, который воспользовался GPT-чатом.
При этом наши цифровизаторы накручивают истерику, надувают пузырь ИИ. Сама широко разрекламированная технология, когда пузырь лопается, выходит просто на узкий профиль применения, а истерика вокруг нее естественным образом падает. Лет 5-6 назад нам рассказывали, что везде будут одни сплошные блокчейн. Греф говорил, что к 2030 г. блокчейн-технологии будет производить 10% ВВП всей Земли. А я сейчас вижу, как чиновники среднего уровня на совещаниях обсуждают, как им вычеркнуть блокчейн из всех своих программ, чтобы высшее начальство об этом не узнало. Сегодня он конечно применяется только в биткоине и прочих цифровых валютах, которые являются трансграничным серым налом для торговли разными запрещенными вещами. И все.
Пресловутая кривая Гарднера начала загибаться, и пузырь ИИ лопнет через год-полтора. Уже выходят материалы, что ИИ денег не приносит, а затраты на него гигантские. Для понимания – один промпт (запрос) для чата GPT стоит в 10 раз дороже, чем запрос в Гугле. Трамп говорит, что надо расконсервивать АЭС в США для развития ИИ, а в реальности и там начали понимать, что этот пузырь скоро лопнет.
Такую же историю можно вспомнить с Facebook*, когда не так давно все говорили, что скоро мы все уйдем в ее метавселенную, будем жить в цифровых аватарах и т.д. На проект было потрачено 35 млрд. долларов, но потом его закрыли, уволили 10 тыс. сотрудников, которые им занимались. У нас же еще год рассказывали, какие замечательные у нас будут метавселенные…
Говорил с ректором ВШЭ - она мне призналась, что решили не бороться с написанием рефератов/курсовых студентами с помощью ИИ, а возглавить это явление. То есть разрешили так делать, но с обязательной маркировкой, что текст написан ИИ/с помощью ИИ.
Но здесь есть большая проблема, и это подтверждают недавние международные исследования. У тех студентов, которые пользуются чатом GPT, первые пару месяцев результаты и оценки выше, чем у тех, кто не пользуется. Но затем человек привыкает к нейросети и не может так легко отказаться от ее "помощи". Он буквально разучивается думать сам, делать выводы. Не может вспомнить, что ему написал GPT -чат, даже свой запрос к нему. В результате происходит общее усреднение способностей учащихся, падение творческих навыков.
Недавно прошло большая конференция по ИИ Грефа, где участвовал президент России. Можете прочесть ее стенограмму на сайте kremlin.ru. Она как бы разделилась на две части - в первой президент пел дифирамбы ИИ, рассуждал, как он должен заколоситься, что надо его всюду внедрять и т.д. Думаю, что эти нарративы президенту подсунули... из Сбербанка, тот же Греф и так далее.
А потом Владимир Путин начинает говорить от себя. И говорит противоположные вещи. Например, "а зачем вводить ИИ в образование? Ведь тогда дети разучатся думать?" и т.д.
И сейчас вот эти цифровизаторы через депутатов внедряют ИИ как эксперимент в образовании, и они же пытаются продвигать социальный рейтинг. Мне такие депутаты прямо говорили: "А что в этом плохого? Ну, будут у нас какие-то критерии оценки. Хороших учеников награждаем, плохих как-то наказываем. На основании цифрового профиля ученика, который уже ведётся".
Тут возникает один вопрос. Как вы думаете, чиновник или начальник, которому сотрудник подчиняется, как будет использовать этот соцрейтинг? То есть человеческий фактор моментально коррумпирует эту систему. И есть вопросы к работе самого ИИ. Сейчас у многих банки блокируют карты за безобидные переводы денег. Начинаешь разбираться - "а это не мы, это все ИИ, мы не отвечаем за его решения". А кто отвечает?
Греф недавно публично заявил, что уволил 20% сотрудников Сбера, потому что ИИ посчитал их работу неэффективной. Такой причины увольнения, конечно, в Трудовом кодексе нет. И вот такой подход они хотят навязать всей стране. А кто пишет алгоритм для соцрейтинга, критерии оценки сотрудников Грефу? Это сделали какие-то программисты, окончившие технический вуз. При этом мораль их не интересует, просто потому, что они ей не занимаются. Они верят, что алгоритм все решает. И вот они пишут правила для других людей, не несут ответственности за свои правила, и уверены, что они хорошо работают... И вот это самое страшное - мы получаем безответственную систему.
С этим надо бороться, поэтому сейчас пытаемся написать законопроект об безопасном использовании ИИ в соцсфере. В частности, прописать, что нельзя принимать никаких важных и юридически значимых автономных решений о людях посредством ИИ.
А у Грефа и Ко противоположная концепция - не надо никак регулировать ИИ. Якобы за это выступают старики и луддиты, мешающие развитию технологий. Очевидно, они будут пытаться нам помешать", - заключил Ашманов.
_________________
Великие умы обсуждают идеи. Средние умы обсуждают события. Мелкие умы обсуждают людей.
|
