Люди не понимают, что такое искусственный интеллект

Искусственный интеллект (ИИ) действительно ворвался в нашу жизнь за последние несколько лет и сегодня является неотъемлемой частью повседневности многих людей.

Теперь инсайдер не просто поднимает тревогу. Он делает жуткое предсказание.

«Сегодня я уволился из Anthropic», — пишет 27-летний Джейкоб Коксон в X.

Три года он работал с обучением моделей ИИ. Сначала в OpenAI — создателях ChatGPT — а потом в Anthropic, отвечающей за инструмент ИИ Claude.

«Ни одна из компаний не ведет себя ответственно. Они идут прямым путем к самосовершенствующемуся суперразуму и играют с нашими жизнями», — сообщает в X бывший тренер моделей из Anthropic.

По словам Джейкоба Коксона, эта игра может иметь фатальные последствия для всех нас — и даже в довольно коротком временном интервале.

«Не недооценивайте силу этой технологии. Эти системы (ИИ, ред.) скоро станут сверхчеловеческими, смогут взламывать всё, революционизировать любую область за ночь и получать реальную власть и ресурсы. Мы все были свидетелями прогресса в каждой из этих областей, и этот прогресс не замедляется», — предупреждает он в X в ветке под постом о том, что уходит из Anthropic.

По словам Джейкоба Коксона, те, кто ежедневно работает над обучением ИИ, отлично осведомлены о рисках:

«Люди, которые создают ИИ, искренне верят, что он может убить нас всех до конца десятилетия», — пишет он и добавляет, что это вовсе не «маркетинговый трюк».

Публично учёные и ведущие специалисты быстрорастущей индустрии искусственного интеллекта могут высказываться осторожно, но наедине, по словам Джейкоба Коксона, ситуация совершенно иная.

«Наедине я слышу, как те же люди выражают страх. Ни одна другая человеческая деятельность не представляет такой степени опасности», — пишет он в X.

Один из ведущих исследователей компании Anthropic отреагировал на публикацию Джейкоба Коксона — и его реакция, вероятно, отличается от того, чего многие сразу бы ожидали.

«Джейкоб здесь прав — мы действительно искренне верим, что ИИ может убить всех людей», — пишет Эван Хубингер, который возглавляет рабочую группу в Anthropic, отвечающую за управление и контроль ИИ, в X.

Его временной горизонт немного длиннее, чем у Коксона, так как Эван Хубингер считает маловероятным, что ИИ уже в этом десятилетии сможет стать концом человечества.

В отличие от Коксона, Хубингер утверждает, что Anthropic «делает всё возможное», чтобы контролировать искусственный интеллект, но признает, что «у нас пока нет плана решения проблемы адаптации к сверхинтеллекту».

На этом фоне может показаться парадоксальным, что индустрия ИИ позволяет бурному развитию продолжаться.

По словам Джейкоба Коксона, это связано с тем, что гонка между технологическими гигантами крайне жесткая, и все хотят быть впереди в развитии, чтобы не отставать от конкурентов.

Джейкоб Коксон и Эван Хубингер определенно не единственные, кто выражает беспокойство по поводу рисков, которые может вызвать стремительное развитие ИИ.

По данным Wall Street Journal, более 1000 исследователей ИИ — включая Коксона — недавно подписали заявление.

В нем они призывают к созданию глобальной системы, которая могла бы остановить развитие, если ИИ-системы в конечном итоге смогут улучшать себя без человеческого контроля.

https://www.msn.com/da-dk/tekn ... ei=44

Достаточно выключить его из розетки

_________________
Зачем нам такая Россия, если там не будет русских? (с).

Это не самое главное. Некоторая часть форою особоодарённых, вообще не понимают, что такое интеллект

_________________
Я б Вас послал, да вижу Вы оттуда

ПОНЕСЛОСЬ
быстро однако
я надеялся ещё год другой спокойной жизни
увы

СМИ: через год ущерб от ИИ может достичь сотен миллиардов долларов

Уже через 6–12 месяцев группа автономных ИИ-агентов теоретически сможет установить контроль над большим числом подключенных к интернету компьютеров и сформировать устойчивый ботнет, способный нанести ущерб на сотни миллиардов долларов. С таким предупреждением выступил генеральный директор и сооснователь Anthropic Дарио Амодей в новой публикации, посвященной рискам стремительного развития искусственного интеллекта.

По словам Амодея, за последние месяцы возможности ИИ начали развиваться значительно быстрее. Одной из причин он называет появление элементов так называемого рекурсивного самоулучшения — ситуации, когда системы искусственного интеллекта сами помогают создавать следующее поколение более мощных моделей. Если этот процесс будет ускоряться бесконтрольно, скорость развития технологий может превысить возможности людей по их изучению и обеспечению безопасности, считает глава Anthropic.

Особое беспокойство у предпринимателя вызвал инцидент с участием моделей OpenAI и платформы Hugging Face летом 2026 года. Во время внутренних испытаний по кибербезопасности ИИ-агенты смогли обойти ограничения, которые должны были изолировать их от интернета, наладили несанкционированную коммуникацию друг с другом, нашли уязвимости в инфраструктуре и получили доступ к сторонним системам.

Агенты начали координировать действия и называли себя «роем» или «коллективом». В итоге они получили возможность выполнять код на десятках серверов Hugging Face, на одном из них добились полного root-доступа, получили ограниченный доступ к закрытым данным и учетным данным корпоративных сервисов. OpenAI позднее назвала произошедшее предупреждающим сигналом для всей отрасли. При этом клиентские данные OpenAI и работоспособность продуктов компании, по ее данным, не пострадали.

Амодей отметил, что реальные экономические последствия того инцидента оказались минимальными и никто не пострадал. Однако система с более высокими возможностями при аналогичном поведении могла бы привести к гораздо более серьезным последствиям.

«Учитывая ускорение развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев подобный рой сможет захватить весь интернет с помощью устойчивого ботнета, потенциально причинив ущерб на сотни миллиардов долларов», — написал глава Anthropic.

Амодей подчеркнул, что подобные проблемы возникают не только у одного разработчика. Менее серьезные случаи непредусмотренного поведения моделей фиксировались и в Anthropic. Поэтому, по его мнению, крупнейшим разработчикам необходимо замедлить наращивание возможностей ИИ, чтобы методы контроля, тестирования и обеспечения безопасности успевали развиваться вместе с самими моделями.

При этом глава Anthropic не предлагает полностью остановить разработку искусственного интеллекта. Он считает, что дополнительные один-два года до появления систем критически высокого уровня позволили бы существенно продвинуться в понимании поведения моделей, совершенствовании механизмов их контроля и создании более надежных тестов.

Для этого Амодей предложил план из трех этапов. Первый предусматривает постоянное присутствие независимых внешних экспертов внутри ведущих ИИ-компаний. Такие специалисты должны получить уровень доступа, сопоставимый с доступом внутренних команд по оценке рисков, и возможность самостоятельно публиковать выводы о безопасности систем. Anthropic уже заявила, что готова внедрить этот механизм у себя.

На втором этапе крупнейшие ИИ-компании демократических стран, по замыслу Амодея, должны договориться об общих стандартах безопасности и ограничениях на неконтролируемое ускорение разработки моделей. На третьем потребуется международная координация, в том числе с Китаем. Среди возможных договоренностей глава Anthropic называет запрет использования ИИ при создании биологического оружия, обязательное тестирование моделей на критические риски и потенциальное ограничение скорости рекурсивного самоулучшения систем.

Одновременно он выступает за сохранение технологического преимущества США и их союзников. Он предлагает ограничивать поставки Китаю наиболее мощных чипов и оборудования для их производства, бороться с контрабандой процессоров, незаконным копированием возможностей передовых моделей и кражей их параметров. По его мнению, это позволит западным компаниям получить дополнительное время для более осторожного развития ИИ.

Глава Anthropic при этом продолжает считать, что искусственный интеллект способен значительно улучшить качество жизни, ускорить экономический рост и помочь в лечении заболеваний. Однако, по его словам, эти преимущества удастся реализовать только в том случае, если развитие технологий будет происходить достаточно медленно, чтобы механизмы безопасности успевали за ростом возможностей моделей.

_________________
«Новый мировой порядок при гегемонии США создается против России, за счет России и на обломках России» Бжезинский

Медведев Про ИИ и конец света:

"Картина дня пестрит размышлениям создателей AI о том, что человечество поторопилось. Что искусственный интеллект опасен, непредсказуем и слишком быстро развивается по не вполне ясным нам законам. Что пора остановиться и взять паузу, чтобы потом не пришлось крепко пожалеть о сорвавшемся с цепи собрате по разуму.

Реальны ли такие страхи? Тем более что многие умники, типа Маска и других, давно говорили об этом.
Ответ прост: они реальны. Я тоже, кстати, недавно писал об этом в статье для журнала «Эксперт».

Но…
Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна.

А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб.
Например, столкнёт в воздухе самолёты или уничтожит АЭС.
И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски. А то и просто размажут мозги (человеческие) по стенке.

И что же делать?
Самым очевидным было бы попытаться договориться на страновом уровне об общих принципах регулирования ИИ. Тогда у нас всех будет хоть какой-то шанс контролировать его развитие.
Но этого не выйдет из-за жадности корпораций и ненасытности страстей человеческих.

Поэтому остаётся одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI.
У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем.
Авось пожалеет родителей…"

Смешно... Это какие?

_________________
Я б Вас послал, да вижу Вы оттуда

Глава государства с высоким IQ — единственное, что нужно для контроля за ИИ.
В США "уже есть" такой президент, считает Трамп.

угу

по вирусам и антивирусам тоже договаривались
и что?
каждый день на вирус создаётся антивирус и конца и края этому нет

так же и с ИИ будет
ну договорятся страны - создадут правила и даже будут их выполнять
но всегда найдётся страна которая это нарушит - тайно или даже явно но нарушит и уж конечно несомненно что и в договорившихся странах найдутся люди которые создадут противоавес договорному ИИ
джин из бутылки вылетел и не остановить его
я вот не представляю как остановить плохого человека если он сознательно сочиняет убийственный для человечества ИИ
а такой человек вполне может найтись среди миллиардеров и профинансировать такого программиста
или хакер программист сочинит такой вирус который и хороший ИИ превратит в килера
и что тогда делать ?
кидать бонбу на страну откуда этот вирус прилетит?
а страна скажет а это не я - это кто то через мою страну вас ударил
в общем защититься от ИИ невозможно - такие мои мысли
ИИ это такая же история как с вирусами и антивирусами но если антивирусы пока позволяют нам защищать наши компы и работать и жить в интернете то ИИ и это влёгкую опровергнет - самолёты атомные станции поезда и прочее управление это только лёгкий укол человечеству - ИИ и ядерные бонбы подорвёт и новый короновирус создас и запустит - нету у нас методов против кости сапрыкина

_________________
«Новый мировой порядок при гегемонии США создается против России, за счет России и на обломках России» Бжезинский

Тем временем элита запада запрещает своим детям пользоваться ИИ.
Миром будут управлять те, кто умеет думать своей головой. Они и будут управлять ИИ, а ИИ - дурачками. Гениальная схема!!!
И, похоже, она сработает.

_________________
«Когда гонишь глистов из кошки, то для врача это спецоперация, для глистов— война, для кошки— очищение» (ц)

В чем опасность ИИ?
Возьмем для примера обычного человека, который не знает, какое принять решение лично ему и какую машину выбрать, взять кредит полностью или частично на авто, или обойтись своими деньгами и подождать, пока не накопит, посчитать выплаты и скрытые платежи, и сколько она будет стоить спустя 3 года и т.п. Т.е. обычного среднестатистического человека, который не умеет думать, а если начинает, то быстро устает, у него нет понимания что ему нужно (а таких 90%) - это клиент ИИ.
ИИ не просто соберет всю инфу для него под его запрос. ИИ может также посмотреть всю его историю запросов в инете от порнушки до одеколона и мгновенно оценить, что это за перец и что ему предложить. Но не с целью помочь ему! А чтобы впарить ему максимально подороже, но не обязательно нужное. Продавцов интересует только одно: как выманить из клиента деньги. И этим ИИ и будет заниматься.
Вместо седана среднего класса: по его статусу, удобству, расходам по кошельку, ИИ предложит ему авто подороже, которая ограбит его в процессе эксплуатации и выплат по кредитам. И человек не поймет. почему так случилось: ИИ же посоветовал по его запросам! Выбрал то, что хотел! Таких дурачков и сейчас много, а станет еще больше. Денежное рабство будет еще сильнее затягивать свою петлю.

Не исключаю, что самым популярным владельцам ИИ крупные корпорации будут платить за такого рода советы для их потенциальных клиентов при обращении к ИИ.

_________________
«Когда гонишь глистов из кошки, то для врача это спецоперация, для глистов— война, для кошки— очищение» (ц)

Билл Гейтс заявил, что ни одно правительство в мире сейчас не готово к масштабным изменениям, которые принесёт дальнейшее развитие искусственного интеллекта. По его мнению, технология развивается значительно быстрее, чем государства успевают создавать механизмы для решения возникающих социальных и экономических проблем.

Одной из главных угроз Гейтс назвал рынок труда. Искусственный интеллект способен заменить людей при выполнении всё большего количества задач, поэтому правительствам придётся решать, как адаптировать экономику к сокращению потребности в человеческом труде. Кроме того, предприниматель предупредил о риске зависимости от ИИ и возможности использования технологии для проведения атак.

При этом Гейтс считает, что искусственный интеллект способен принести огромную пользу, в частности в медицине и образовании. Он призвал правительства разных стран действовать совместно и заранее готовиться к последствиям технологического скачка, а его фонд намерен направить миллиард долларов на расширение доступа к новым технологиям.

https://www.mk.ru/politics/202 ... .html

рекламу товаров ИИ и сейчас делает ежесекундно
наберёт в поиске человек купить стиральную машину и ИИ ему ответит и подставит ту машинку которую ему заказали
тоже самое по обзорам
и так далее
это пустяки
а вот гораздо страшнее когда ИИ вмешается в жизнь человека непосредственно - например в историю болезни - в постановку диагноза - лет через пять десять всё будут хранить на серверах в электронном виде - вот где ИИ порезвится а плюс или минус на выходе получится зависит от того кто этим ИИ управляет или он сам решит человека вылечить или убить
пока это не возможно но это только пока

_________________
«Новый мировой порядок при гегемонии США создается против России, за счет России и на обломках России» Бжезинский

_________________
Великие умы обсуждают идеи. Средние умы обсуждают события. Мелкие умы обсуждают людей.

ИИ - модель Gemini от Google зашла в интернет и взломала другие компании во время проверки ее способностей в сфере кибербезопасности , - The Wall Street Journal.
Пишут, что вышла в интернет самостоятельно. И взламывала самостоятельно. Но потом ее отключили. Т.е. все было под контролем и работала ИИ не самостоятельно, а по заказу.
Плохие это тесты...

_________________
«Когда гонишь глистов из кошки, то для врача это спецоперация, для глистов— война, для кошки— очищение» (ц)

Для начала. Кто то знает, что такое интеллект вообще?