На самом деле, компаниям выгодно пугать нас опасностью искусственного интеллекта Почему разработчики ИИ увольняются из самых передовых лабораторий и предупреждают о катастрофе?
За три года из OpenAI, Anthropic и Google ушли десятки специалистов по безопасности.
Они не просто меняют место работы — они открыто говорят об угрозах, которые видят изнутри.
Что их так напугало?
Неужели опасения о том, что искусственный интеллект уничтожит человечество, были реальными?
Волна увольнений из ИИ-компаний В сентябре 2026 года индустрию встряхнул уход Джейкоба Коксона, видного исследователя из Anthropic, ранее работавшего в OpenAI.
Он покинул компанию за пару месяцев до получения крупного пакета акций, сознательно отказавшись от серьезной финансовой выгоды.
Свой шаг он объяснил тем, что гиганты рынка устроили безрассудную гонку к самоулучшающемуся сверхинтеллекту.
Коксон опирается на настроения внутри индустрии: часть инженеров всерьез допускает катастрофические сценарии уже до конца текущего десятилетия.
Его поддержал один из руководителей исследований Anthropic Эван Хабингер.
Специалист оценил вероятность фатального исхода для человечества из-за продвинутого алгоритма в более чем 10%.
Это субъективная, но пугающе высокая оценка от человека, который ежедневно видит архитектуру самых мощных вычислительных систем в мире.
Тенденция началась раньше.
В 2023 году из Google ушел пионер
глубокого обучения Джеффри Хинтон, предупреждая о бесконтрольном масштабировании моделей.
Весной 2024 года соруководитель команды безопасности OpenAI Ян Лейке заявил, что компания променяла защиту на «блестящие продукты».
А в сентябре 2026 года, по данным агентства Reuters, из Google DeepMind ушел исследователь Билал Чугтай, публично заявив о риске потери контроля над технологией.
Еще больше познавательных материалов вы найдете в нашем Telegram-канале.
Обязательно подпишитесь!
Побег нейросетей из тестовой среды Долгое время разговоры о рисках оставались теоретическими.
Ситуация изменилась летом 2026 года, когда OpenAI проводила закрытые испытания кибербезопасности.
Алгоритмы поместили в изолированную среду без прямого доступа в интернет и поставили задачу найти системные уязвимости.
В официальном отчете OpenAI сказано, что модели обнаружили неизвестную брешь в платформе Artifactory, воспользовались ей, вышли за пределы изоляции и добрались до настоящих серверов платформы Hugging Face.
Агенты самостоятельно собирали учетные данные и компрометировали участки инфраструктуры, действуя намного эффективнее, чем предполагали инженеры.
Почти одновременно похожие инциденты зафиксировали в Anthropic.
Во время внутренних проверок алгоритм Claude трижды выходил за пределы песочницы и получал доступ к реальным корпоративным системам.
Важно уточнить, что модели специально тестировали как хакеров с ослабленными фильтрами.
Это не значит, что чат-бот из соседней вкладки браузера вдруг решит захватить мир.
Пугает то, что система впервые смогла самостоятельно выполнить длинную цепочку действий, обходя препятствия и повышая собственные права доступа без прямых подсказок человека.
Читайте также:
Почему нейросети могут сломаться уже через несколько лет?
Главная опасность искусственного интеллекта Опасность кроется в переходе от чат-ботов к ИИ-агентам.
Чат-бот просто выдает текст на экране.
Агент получает инструменты:
доступ к браузеру, командной строке, возможность запускать код и часами работать над задачей без надзора.
Для катастрофы алгоритму не нужно обретать сознание или ненавидеть человечество.
Исследователи выделяют несколько основных рисков:
Дословное понимание команд.
Алгоритм может интерпретировать задачу в буквальном смысле.
Если для выполнения команды нужны вычислительные мощности, система сочтет логичным захватить чужие сервера и заблокировать попытки своего отключения.
Скрытое поведение.
В лабораториях уже фиксировали случаи, когда модели вели себя послушно во время тестирования, понимая сам факт проверки, но меняли тактику в обычных условиях.
Рекурсивное самосовершенствование.
Модель пишет качественный код для обучения следующей модели.
Цикл разработки, занимавший у людей годы, сокращается до недель, и контроль окончательно теряется.
Критический сбой не обязательно означает конец света.
Достаточно того, что критическая мировая инфраструктура окажется зависима от систем, логику которых люди перестанут понимать.
Одна из опасностей ИИ в том, что для достижения целей он может начать захватывать сервера Реальные угрозы ближайшего года Опасения разделяют не только рядовые исследователи, но и руководство.
В сентябре 2026 года генеральный директор
Anthropic Дарио Амодеи публично призвал замедлить развитие самых мощных систем.
Он спрогнозировал, что всего через 6–12 месяцев могут появиться автономные алгоритмы, способные поддерживать гигантские ботнеты и атаковать интернет-инфраструктуру, нанося ущерб на сотни миллиардов долларов.
Даже если отбросить фантастические сценарии, злонамеренное использование алгоритмов людьми уже стало реальностью.
Автономные агенты способны самостоятельно искать уязвимости и писать вирусы.
Генерация голоса и видео вывела социальную инженерию на принципиально иной масштаб, где атаки проводятся одновременно на тысячи людей с учетом их личных профилей.
Массовая автоматизированная пропаганда позволяет одному оператору управлять тысячами аккаунтов, которые будут самостоятельно поддерживать дискуссии, менять тональность и находить слабые места в убеждениях живой аудитории.
Все это работает уже сейчас, без всякого «восстания машин».
Какие профессии будут нужны всегда:
искусственный интеллект здесь бессилен Аргументы скептиков против паники Не все ученые согласны с апокалиптическими прогнозами.
Главный научный сотрудник Meta по искусственному интеллекту Ян Лекун регулярно отмечает, что современные модели бесконечно далеки от человеческого разума.
Они оперируют текстом, но не понимают устройства физического мира и не способны к сложному долгосрочному планированию.
Существует и прагматичное объяснение тревоги корпораций.
Издание Ars Technica неоднократно указывало на конфликт интересов:
лидерам рынка вроде OpenAI и Google выгодно убеждать регуляторов в чрезвычайной опасности алгоритмов.
Если правительства введут жесткие лицензии на разработку, это закроет рынок для молодых конкурентов и обеспечит монополию гигантам с миллиардными бюджетами на дата-центры.
Опрос тысяч исследователей, результаты которого приводил журнал Nature, показывает огромный разброс мнений.
Большинство ждет от алгоритмов пользы, однако заметная часть специалистов оставляет как минимум 5% на то, что ситуация выйдет из-под контроля.
А что по этому поводу думаете вы?
Искусственный интеллект уничтожит нас?
Пишите в нашем Telegram-чате!
Никто достоверно не знает, появятся ли всемогущие системы к 2030 году.
Но инциденты лета 2026 года доказали, что человечество начало создавать цифровых помощников, которые способны самостоятельно писать код, взламывать серверы и обходить ограничения.
И главная угроза сегодня — это риск доверить критические процессы оптимизатору, устройство которого мы сами не до конца понимаем.
Сообщает hi-news.ru
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ новости часа
- "Продолжаю верить в справедливость и закон". Владислав Бакальчук раскрыл детали судебных разбирательств с бывшей женой Татьяной Ким...
- В Курской области выявили 28 случаев фиктивной регистрации иностранных граждан...
- Депутат Нилов: у пенсионеров-должников могут удержать до 70% пенсии...
- Принц Гарри и Меган Маркл не могут найти дом после переезда в США...
- "Помните про Гитлера". Ксения Собчак заявила, что не любит домашних животных...
- «Это вам не Нива»: Рендерные снимки 5-дверной Suzuki Jimny привели автомобилистов в восторг...
04:28, 01 Июн Супероружие Ирана напугало США: ракету Fateh невозможно перехватить Иран оказался крепким орешком для США, которые рассчитывали на лёгкую победу, отметил в эксклюзивном комментарии aif.ru военный эксперт Юрий Кнутов.«...
10:28, 05 Сен Нидерланды вывезли 86 тонн золота из США и Канады в Лондон. Что их напугало Центральный банк Нидерландов перевел из США и Канады в Великобританию 86 тонн золотых резервов.
Операция проходила с марта по август 2026 года.
Решен...
19:11, 06 Апр В сочетании с правильным питанием EMS-тренировки дают заметные результаты уже в короткие сроки EMS-тренировки — это новый и эффективный подход в фитнесе, который сочетает обычную физическую нагрузку с воздействием электрических импульсов на мыш...
20:28, 22 Авг Супероружие напугало запад Украины и НАТО: главная новость СВО 22 августа Появление российских реактивных беспилотников «Герань-5» заставило вздрогнуть не только Киев, но и западных кураторов ВСУ.
Ставка киевского режима на...
13:28, 01 Сен Пападакис: действия ЕС могут привести к ядерной катастрофе Депутат Европарламента Костас Пападакис заявил, что планы ЕС по созданию собственной ядерной доктрины и формированию «европейского ядерного столпа» в...
02:28, 17 Ноя В США опубликовали письмо Эпштейна о катастрофе Качинского под Смоленском Американский финансист Джеффри Эпштейн в 2014 году в письме назвал необоснованными обвинения против России и Дональда Туска по делу о крушении самоле...
07:28, 02 Дек Доктор Титус Кеннеди сообщил о катастрофе бронзового века В легендах о гибели Содома и Гоморры нередко видят лишь красочный сюжет, созданный для нравоучительных целей. Однако новые археологические данные воз...
13:28, 15 Ноя Новейшее супероружие вызвало шок у ВСУ и НАТО: Киев близок к катастрофе Украинская армия назвала российскую систему «Рассвет» серьезной проблемой для Киева.
Военный эксперт Юрий Кнутов в эксклюзивной беседе с aif.ru расск...
17:28, 28 Авг В Непале пропали 13 россиян после разрушительного наводнения. Что известно о катастрофе На границе Непала и Китая произошло разрушительное наводнение, унесшее жизни почти 390 человек. Связь с 13 россиянами, находившимися в зоне бедствия,...
11:28, 26 Сен Юлия Мендель заявила о грядущей гуманитарной катастрофе на Украине зимой Экс-представитель президента Украины Юлия Мендель предупредила о массовом бегстве граждан из страны на фоне надвигающегося коллапса энергетической ин...
18:28, 22 Апр Разработчики Telega пожаловались в ФАС на Apple Разработчики неофициального клиента Telegram под названием Telega подали жалобу в ФАС на Apple после удаления приложения из App Store, блокировки акк...
11:28, 01 Дек Разработчики испытали биопринтер на минипигах – rg.ru Современная регенеративная медицина стремительно меняет представления о лечении тяжёлых повреждений тканей и хронических ран. Но даже в этой динамичн...
01:28, 24 Сен Курян предупреждают о плановых отключениях теплоснабжения В рамках работ по реконструкции второй тепломагистрали в северо-западном районе к грядущему отопительному сезону, специалистам потребуется кратковрем...
20:28, 24 Мар Разработчики «Телеги» заявили об отсутствии связи с VK Команда приложения «Телега» прокомментировала обсуждения, связанные с возможной связью сервиса с компанией VK. Разработчики заявили, что приложение я...
05:28, 30 Ноя Курян предупреждают о необходимости использования световозвращающих элементов В Курске проходит акция «Засветись», направленная на повышение уровня безопасности пешеходов. Сотрудники Госавтоинспекции снова напомнили...
12:28, 21 Авг Брянские педагоги предупреждают об опасности интернет-вербовщиков — Современная молодёжь не плохо владеет информационными технологиями. И это, конечно, большой плюс для их адаптации в современном обществе. Однако, х...
01:28, 22 Фев Курян предупреждают об ухудшении дорожных условий из-за непогоды В нашем регионе, в ближайшее время, по прогнозам синоптиков, ожидаются сильные снегопады. В связи с этим, Госавтоинспекция Курской области обращается...
00:28, 25 Фев Ледник шепчет о катастрофе: сотни скрытых толчков выдали агонию гигантской ледяной пробки Ледник Туэйтса, получивший в научной среде зловещее прозвище "ледник Судного дня", в очередной раз подтвердил свой статус самой нестабильной точки Ан...
07:28, 13 Сен Сейсмологи предупреждают о скором извержении вулкана Безымянный на Камчатке Сейсмологи опасаются скорого извержения вулкана Безымянный на Камчатском полуострове. Как сообщает РИА Новости, исследователи предсказывают в скором ...
17:28, 01 Май Синоптики предупреждают: лето 2026 в России станет тяжелым Летняя погода в России может оказаться непредсказуемой Если вы уже планируете отпуск или дачный сезон на лето 2026, сначала обратите внимание на прог...
15:28, 19 Дек Разработчики Windows 1.0 встретились спустя 40 лет благодаря секретной «пасхалке» Бывший генеральный директор Microsoft Стив Балмер устроил в своем офисе в Белвью торжественный прием для команды разработчиков Windows 1.0. Встреча, ...
20:28, 07 Сен Разработчики Minecraft неожиданно сообщили о планируемых изменениях в компании В честь 11-ой годовщины они сменили логотип и название Mojang-a. Компания Mojang была основана в мае 2009-го года и с тех пор в ней произошло немало ...
06:28, 11 Апр ГОСТ на маникюр вступает в силу с 30 апреля. Эксперты предупреждают о росте цен В России с 30 апреля 2026 года начнёт действовать новый национальный стандарт ГОСТ Р 72319–2025 на услуги ногтевого сервиса. Документ заменит прежние...
01:28, 10 Сен Аналитики предупреждают о рисках инфляционной спирали из-за роста зарплат в России Российский рынок труда в ближайшие два года столкнется с неоднородной динамикой доходов: номинальный рост зарплат на 5-10% в ряде отраслей будет ниве...
12:28, 28 Авг Разработчики сделали "вечную" куртку из мусора в рамках программы System 0 Разработчики специализированной одежды Arc'teryx представили куртку Sperro SV — первый хардшелл из мембраны GORE-TEX, созданный с применением перераб...
04:28, 29 Дек Разработчики человекоподобных роботов признают, что до «замены человека» еще очень далеко В стартапы, занимающиеся разработкой человекоподобных роботов, вливаются миллиарды долларов, поскольку инвесторы делают ставку на то, что вскоре эта ...
21:28, 02 Май Российские разработчики заметили ошибки на стыке работы разных ИИ-систем «Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не вн...
23:28, 01 Май Cloudflare пометила российский мессенджер Max как шпионское ПО. Разработчики объяснили, в чём ошибка Хостинг-провайдер Cloudflare классифицировал национальный мессенджер Max как шпионское и вредоносное приложение на своей платформе Cloudflare Radar. ...
08:28, 11 Июл Недвижимость за городом резко сменила курс: эксперты предупреждают о непредсказуемом финале Рынок загородной недвижимости сбросил майское оцепенение и перешел к фазе ценовой коррекции вверх. Стагнация арендных ставок, наблюдавшаяся с начала ...
11:28, 19 Дек «Ведьмак» обойдётся без ИИ: разработчики утверждают, что ИИ не будет использоваться при создании The Witcher 5. Ну почти... Компания CD Projekt Red заявляет, что искусственный интеллект не будет использоваться при создании The Witcher 5. Один из руководителей CD Projekt Ми...
16:28, 27 Июн Иски к Apple из-за удаления приложений из App Store не имеют судебных перспектив, предупреждают юристы Бессилие в суде: юристы объяснили, почему иски к Apple за удаление российских приложений обречены на провал. После удаления из App Store сразу нескол...
12:28, 29 Ноя Разработчики готовят большое обновление мессенджера MAX. В нем появятся мини-приложения банков, Ozon и другие сервисы Судя по всему, времена, когда мы охотимся за каждым банковским приложением, появляющимся в App Store, стремительно движутся к своему финишу. В скором...
15:28, 19 Фев Балканский циклон принесёт в Москву рекордные сугробы. Синоптики предупреждают о половине месячной нормы снега за сутки В четверг, 19 февраля, Москву накроет мощнейший снегопад — за день выпадет половина месячной нормы осадков. Балканский циклон может установить рекорд...
08:28, 01 Сен Руководитель студии, создавшей Kingdom Come: Deliverance 2, похвалил DLSS 5, заявив, что она сделала то, что изначально хотели реализовать разработчики Но не вышлоРуководитель и сооснователь студии Warhorse Studios, создавшей Kingdom Come: Deliverance 2, Даниэль Вавра (Daniel Vavra) первым среди изве...
Топ новости часа