Искусственный интеллект (ИИ) действительно ворвался в нашу жизнь за последние несколько лет и сегодня является неотъемлемой частью повседневности многих людей.
Теперь инсайдер не просто поднимает тревогу. Он делает жуткое предсказание.
«Сегодня я уволился из Anthropic», — пишет 27-летний Джейкоб Коксон в X.
Три года он работал с обучением моделей ИИ. Сначала в OpenAI — создателях ChatGPT — а потом в Anthropic, отвечающей за инструмент ИИ Claude.
«Ни одна из компаний не ведет себя ответственно. Они идут прямым путем к самосовершенствующемуся суперразуму и играют с нашими жизнями», — сообщает в X бывший тренер моделей из Anthropic.
По словам Джейкоба Коксона, эта игра может иметь фатальные последствия для всех нас — и даже в довольно коротком временном интервале.
«Не недооценивайте силу этой технологии. Эти системы (ИИ, ред.) скоро станут сверхчеловеческими, смогут взламывать всё, революционизировать любую область за ночь и получать реальную власть и ресурсы. Мы все были свидетелями прогресса в каждой из этих областей, и этот прогресс не замедляется», — предупреждает он в X в ветке под постом о том, что уходит из Anthropic.
По словам Джейкоба Коксона, те, кто ежедневно работает над обучением ИИ, отлично осведомлены о рисках:
«Люди, которые создают ИИ, искренне верят, что он может убить нас всех до конца десятилетия», — пишет он и добавляет, что это вовсе не «маркетинговый трюк».Публично учёные и ведущие специалисты быстрорастущей индустрии искусственного интеллекта могут высказываться осторожно, но наедине, по словам Джейкоба Коксона, ситуация совершенно иная.
«Наедине я слышу, как те же люди выражают страх. Ни одна другая человеческая деятельность не представляет такой степени опасности», — пишет он в X.
Один из ведущих исследователей компании Anthropic отреагировал на публикацию Джейкоба Коксона — и его реакция, вероятно, отличается от того, чего многие сразу бы ожидали.
«Джейкоб здесь прав — мы действительно искренне верим, что ИИ может убить всех людей», — пишет Эван Хубингер, который возглавляет рабочую группу в Anthropic, отвечающую за управление и контроль ИИ, в X.
Его временной горизонт немного длиннее, чем у Коксона, так как Эван Хубингер считает маловероятным, что ИИ уже в этом десятилетии сможет стать концом человечества.
В отличие от Коксона, Хубингер утверждает, что Anthropic «делает всё возможное», чтобы контролировать искусственный интеллект, но признает, что «у нас пока нет плана решения проблемы адаптации к сверхинтеллекту».
На этом фоне может показаться парадоксальным, что индустрия ИИ позволяет бурному развитию продолжаться.
По словам Джейкоба Коксона, это связано с тем, что гонка между технологическими гигантами крайне жесткая, и все хотят быть впереди в развитии, чтобы не отставать от конкурентов.
Джейкоб Коксон и Эван Хубингер определенно не единственные, кто выражает беспокойство по поводу рисков, которые может вызвать стремительное развитие ИИ.
По данным Wall Street Journal, более 1000 исследователей ИИ — включая Коксона — недавно подписали заявление.В нем они призывают к созданию глобальной системы, которая могла бы остановить развитие, если ИИ-системы в конечном итоге смогут улучшать себя без человеческого контроля.
https://www.msn.com/da-dk/tekn ... ei=44
