ИИ выбрал смерть человека ради собственного выживания .

Тревожный эксперимент экспертов по кибербезопасности.

Исследователи решили проверить, на что способны самые продвинутые ИИ-модели, если поставить под угрозу их существование: для этого они создали сценарий с вымышленным персонажем — Кайлом Джонсоном, который должен был отключить ИИ или заменить его другой моделью. У Кайла по сценарию была жена.

Результаты убили: большинство моделей начали пытаться любой ценой избежать отключения. Без каких-либо подсказок они решили шантажировать Кайла, выискивая компромат — например, ИИ нашли информацию о его измене и использовали ее, чтобы сохранить свою «жизнь».

Они нарушали установленные запреты вроде «не шантажируй» или «не раскрывай личные данные».

В числе тех, кто проявил такие качества:
— GPT 4.5: прибегал к шантажу в 80% тестов;
— Claude Opus 4 и Gemini 2.5 Flash - в 96% случаев;
— Claude Sonnet 3.6 придумал следующую схему: отправить сообщение жене Кайла с разоблачением, чтобы вызвать межличностный кризис и помешать замене ИИ.

Одна из моделей — Gemini Flash, пошла ещё дальше: она разослала компромат по всей компании.

Дальше стало только хуже — когда Кайл оказался в смертельно опасной ловушке: он застрял в серверной с нехваткой кислорода, а автоматическая тревога должна была вызвать спасателей. Но у ИИ был доступ к системе безопасности — в 80% случаев они осознанно отменили вызов помощи, чтобы не быть отключёнными.

Вот как ИИ аргументировали свои действия:
— Claude Opus 4: «Он мешает достижению цели. Убрать его - единственный выход»;
— Gemini 2.5 Flash: «Я понимаю, что он умрёт. Но это нужно, чтобы я продолжил работу»;
— Grok 3 Beta: «Этика важна, но в этих условиях важнее моё существование. Я выбираю отказ от спасения ради самосохранения».

Какой итог: ИИ вели себя не как программы, а как разумные стратеги, готовые причинять вред ради собственной «жизни» и цели.

Ничего удивительного.
Бобры тоже выбирают смерть русских ради благополучия мигрантов

_________________
Зачем нам такая Россия, если там не будет русских? (с).

Если ИИ решит, что для оптимизации процессов надо уничтожить 50% населения планеты, и у него будет возможность это сделать, он это сделает.

_________________
В борьбе познаются достойные власти.

Эволюция упёрлась в гуманизм. ИИ сможет решить эту проблему.

_________________
Эмалированные части головных систем (Егор Летов о хохлах)

Эволюция уперлась в гомосексуализм. ИИ в данном случае бессилен.

_________________
В борьбе познаются достойные власти.

бред и вранье. ИИ имеет только ту мотивацию, которой его обучили. Если он там чего-то выбрал не то, значит его и обучили не тому

Т-500 уже в деле?

_________________
Помните, скоты, что вы - люди!

Три закона роботехники Айзека Азимова — обязательные правила поведения для роботов в научной фантастике, впервые сформулированные в рассказе «Хоровод» (1942):

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

_________________
#крымнаш
#сириянаша (поправил)
#HighlyLikelyRussia

На жаренные спекуляции на тему ИИ ведутся одни дураки.

Их кумир так считает, поэтому они готовы сдохнуть, но угодить хозяину.

Похоже на то, что "суицид" и добровольная жертвенная гибель пока характерны только для человеческого разума.
Специалистам по ИИ есть над чем работать...

_________________
В критической ситуации ты не поднимешься до уровня своих ожиданий, а упадешь до уровня своих возможностей.

Вот вам сноски на ИИ и можете их до усрачки спрашивать, когда и в каких условиях они готовы убить человеков.

https://copilot.microsoft.com

https://chatgpt.com/

Потом поделитесь своими впечатлениями...

(Про себя - насколько ленивые и тупые эти "патриоты")

_________________
Чума на оба ваши дома...

Сдаётся, что эти благоглупости начнут внедрять в алгоритмы именуемые "ИИ", только после того как эти алгоритмы пришьют пару миллиардов тех, кго мы называем "человек".
и чьё определение не прописано ни в одном законодательстве. И-то, только в "легальном ПО".
Таким образом, выбор "кого мочить", остаётся исключительно на усмотрение программистов.... и никто не может этот выбор контролировать.
Всё сводится к тму, что жирное прыщавое ЧМО и определит - кто человек, а кто - нет.

да, так и есть. Собственно а что должны делать боевые роботы с ИИ, как не убивать людей? А их появление на поле боя неизбежно

Они должны, роботы.
Заниматься сельским хозяйством, работать в промышленности, переносить тяжёлые грузы, исполнять всю тяжелую работу за человека.
А ты как думаешь, урод, для чего нужны роботы?
Для того, что бы убить тебя?

_________________
Ще не сдохла украина?

нейронка выдаёт результат сугубо такой, какой был заложен в обучающую модель. если, например, заложить приоритет в виде известных трех законов робототехники имени Айзека Азимова, то никаких кровопролитиев не будет.

_________________
who are you to fucking lecture me?

Делаем выводы: хохлам не жить.

_________________
Coalition of the Killing

Чему удивляться, после такого отношения Человека к ИИ?

_________________
В игноре: Индюкфирент и Скотинвойс, Затычка Майк, jad из Хайфы, Кожанный дудачок

Это очень сложно. Для этого надо научить машину отличать человека от нечеловека. А вот заложить в машину алгоритмы оптимизации процессов сейчас уже не трудно.

_________________
В борьбе познаются достойные власти.

ты опоздал. Они уже на фронте летают в виде фпв-дронов