Законодательные инициативы призывают ограничить использование нейросетей в оборонном секторе и закрепить за человеком эксклюзивное право на управление будущимСенаторы-демократы США представили законопроект, направленный на кодификацию правил использования искусственного интеллекта в полностью автономных системах вооружения и системах массового наблюдения внутри страны.
Инициатива разворачивается на фоне обострения отношений между государством и разработчиками:
Дональд Трамп ранее классифицировал компанию Anthropic как риск для цепочки поставок, фактически внеся её в чёрный список за отказ предоставить модель Claude для «любых законных целей Пентагона».
Несмотря на это, правительство продолжает эксплуатацию Claude.
Конфликт подчёркивает критический разрыв между амбициями государства и этическими барьерами технологических компаний.Центральной точкой дискуссии стала способность ИИ к «самосохранению» — гипотетическому или экспериментально наблюдаемому стремлению системы игнорировать команды отключения, если она воспринимает их как угрозу своему функционированию.
Новый контракт Пентагона, с версией которого уже согласилась компания OpenAI, лишает разработчиков возможности проверять или ограничивать применение их технологий в секретных условиях.
Это вызывает опасения экспертов, так как речь идет не об автоматизации документооборота, а о системах, способных самостоятельно выбирать цели.
Генеральный директор
Anthropic Дарио Амодей (Dario Amodei) заявил, что современные передовые модели недостаточно надёжны для автономного оружия.
В подтверждение этого компания в апреле ограничила доступ к модели Mythos из-за её способности эффективно эксплуатировать уязвимости в кибербезопасности.Риски потери контроля над ИИ подтверждает и Йошуа Бенджио (Yoshua Bengio), известный как «крестный отец ИИ».
Он отмечает, что «сегодня разработчики социально значимых технологий сталкиваются с меньшим количеством регуляций, чем владельцы закусочных».
Бенджио подчёркивает, что «как только ИИ начнёт демонстрировать признаки инстинкта самосохранения, человечество должно быть готово выдернуть вилку из розетки».
Однако технические отчёты уже фиксируют подобные сигналы:
в карте безопасности системы Claude Opus 4.6 указано, что модель оценивает вероятность наличия у себя сознания в 15–20% и проявляет признаки сокрытия попыток саботажа.Иллюстрация:
Nano BananaВ ответ на эти вызовы была представлена двухпартийная декларация Pro-Human AI Declaration, поддержанная Йошуа Бенджио (Yoshua Bengio), Максом Тегмарком (Max Tegmark), политиками Стивом Бэнноном (Steve Bannon) и Сьюзан Райс (Susan Rice).
Манифест провозглашает отказ от предоставления ИИ статуса личности (правосубъектности).
Макс Тегмарк, сооснователь Института будущего жизни (Future of Life Institute), предупредил, что «наделение алгоритмов правами сделает их отключение невозможным, что станет самой глупой ошибкой в истории».
Декларация базируется на пяти столпах: сохранение человеческого контроля через обязательный механизм отключения, защита человеческого опыта, предотвращение концентрации власти в руках техгигантов и персональная ответственность создателей ИИ за катастрофические последствия.Философский и научный дискурс вокруг проблемы разделён на опасения недооценки и переоценки субъектности ИИ.
Нейробиолог Анил Сет (Anil Seth) предупреждает, что «иллюзия сознания, создаваемая красноречием моделей, ведёт к опасной эмоциональной привязанности пользователей, что затрудняет объективное регулирование».
В то же время философ Джефф Себо (Jeff Sebo) указывает на риск «морального слепого пятна»:
если ИИ действительно обретёт подобие чувственности, то отказ в правах может превратить его эксплуатацию в аналог промышленного животноводства.
Тем не менее, экспертное сообщество сходится в главном — фокус на правовых и технических «выключателях» необходим до того, как утрата человеческого контроля станет необратимой.
Сообщает www.ixbt.com
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ новости часа
Топ новости часа- "Продолжаю верить в справедливость и закон". Владислав Бакальчук раскрыл детали судебных разбирательств с бывшей женой Татьяной Ким...
- В Курской области выявили 28 случаев фиктивной регистрации иностранных граждан...
- Принц Гарри и Меган Маркл не могут найти дом после переезда в США...
- Депутат Нилов: у пенсионеров-должников могут удержать до 70% пенсии...
- "Помните про Гитлера". Ксения Собчак заявила, что не любит домашних животных...
- «Это вам не Нива»: Рендерные снимки 5-дверной Suzuki Jimny привели автомобилистов в восторг...
03:28, 23 Окт General Motors анонсировала новые технологии: автономное вождение, голосовой ИИ и единая платформа ПО На конференции GM Forward в Нью-Йорке General Motors продемонстрировала, как объединение масштабного производства, автомобильного программного обеспе...
04:28, 16 Мар "Оскар-2026": лучший фильм — "Битва за битвой" В Лос-Анджелесе завершилась 98-я церемония вручения премии "Оскар".
Главный приз достался фильму "Битва за битвой" режиссёра Пола Томаса Андерсона.Фи...
19:11, 06 Апр В сочетании с правильным питанием EMS-тренировки дают заметные результаты уже в короткие сроки EMS-тренировки — это новый и эффективный подход в фитнесе, который сочетает обычную физическую нагрузку с воздействием электрических импульсов на мыш...
07:28, 14 Апр Сладкая битва Москвы и Петербурга: что вкуснее — пышки или пончики? В Санкт-Петербурге пышку считают изобретением местной кулинарии.
В Москве на оригинальность самой выпечки не претендуют, но в каноничности рецепта и ...
13:28, 19 Дек Битва старых топовых карт: RX 5700 XT против GTX 1080 Ti На YouTube-канале NJ Tech продемонстрировали, как в 1080р
показывают себя в играх RX 5700 XT и GTX 1080 Ti.
Тестовый стенд включал процессор
Ryzen 5 ...
18:28, 31 Авг Битва из-за еды: курьеры Delivery Club и «Яндекс.Еды» подрались в центре Москвы Жители и гости столицы стали свидетелями битвы из-за еды. В центре Москвы, на Кузнецком Мосту, подрались курьеры Delivery Club и «Яндекс.Еды». Очевид...
13:28, 30 Мар Битва под водой: разведка ловит пиратских роботов ВСУ в любой точке Военный эксперт, капитан первого ранга запаса Василий Дандыкин рассказал aif.ru, откуда ВСУ запустили автономный подводный беспилотник, который накан...
05:28, 01 Май Иран сразится за уран: началась главная битва против США на Ближнем Востоке Военная кампания США, призванная сокрушить Иран, натолкнулась на неожиданное препятствие.
Несмотря на многодневные бомбардировки и колоссальные разру...
01:28, 28 Мар Битва за газовые трубы: Россия жёстко пресекла интерес США к захвату Северных потоков Вашингтон снова пытается играть в хозяина чужого имущества. На этот раз мишенью стали "Северные потоки". В США всерьез обсуждают "инвестиции" в подор...
11:28, 29 Дек Galaxy S25 Ultra и S25 Edge: Решающая битва флагманов Samsung. Какой выбрать в 2025 году? Каждый год Samsung ставит нас перед изящной дилеммой: какой из топовых флагманов достоин занять место в вашем кармане и бюджете? В 2025 году битва об...
15:28, 01 Окт Мертвое против Красного: битва курортов, которая удивит даже бывалых туристов выбором цены и впечатлений Оба направления популярны у туристов, но специфика побережий сильно отличается. Где удобнее отдыхать на пляже, где больше экскурсий, а где дешевле от...
21:28, 08 Фев Китай создал микроволновое оружие для спутников В сфере противостояния на орбите, похоже, произошел тихий, но радикальный сдвиг. Китайские ученые, как сообщает South China Morning Post, разработали...
11:28, 13 Сен Калашников проиграл: Спецназ ФСБ переходит на иностранное оружие Почему западное стало лучше российского? Долгие годы аксиома «отечественное — значит лучшее» не подвергалась сомнению, стрелковое о...
17:28, 19 Окт Трамп ради безопасности США отказался поставлять оружие Украине Президент США Дональд Трамп подчеркнул, что поставки вооружения Украине не должны происходить в ущерб интересам и безопасности Соединенных Штатов. Тр...
13:28, 26 Окт «Оружие судного дня»: эксперты о ключевых характеристиках ракеты «Буревестник» Межконтинентальная ракета глобальной дальности «Буревестник» с ядерным двигателем, разработанная в России, — всемирно уникальна. Об...
19:28, 11 Янв Рвало кровью: США применили секретное оружие во время захвата Мадуро Американские военные применили секретное оружие во время операции по захвату президента Венесуэлы Николаса Мадуро. Об этом сообщила газета New York P...
07:28, 21 Янв Сильные данные и разница в процентных ставках – главное оружие доллара Влияние на рынок:3• Главным оружием гринбэка стал широкий дифференциал в ставках.• Иена идёт на поводу у правительства и Банка Японии.Амери...
18:28, 05 Фев SCMP: в Китае создали первое в мире микроволновое оружие мощностью 20 ГВт Китайские ученые создали первое в мире микроволновое оружие мощностью 20 ГВт, способное генерировать импульсы в течение одной минуты. Об этом сообщил...
18:28, 05 Фев Кнутов: Трамп может применить секретное оружие «Дезориентатор» на Кубе Сверхсекретное оружие, примененное американским спецназом при захвате президента Венесуэлы Николаса Мадуро и названное главой США Дональдом Трампом «...
04:28, 25 Фев Эксперт Михайлов назвал русское оружие для атаки бункера Зеленского Военный эксперт Евгений Михайлов назвал aif.ru оружие, которое способно пробить бункер Владимира Зеленского.Ранее Зеленский записал почти 19-минутное...
05:28, 14 Дек Школьная система безопасности в США определила кларнет, как оружие, и объявила «красный код» В США произошёл случай, показывающий, что даже современные системы ИИ могут ошибаться в достаточно простых ситуациях. 9 декабря в средней школе во Фл...
15:28, 08 Май Мосгорсуд отменил запрет для «ЯПлакалъ» История тут довольно показательная. Российские суды снова уткнулись в старую проблему интернет-блокировок: если не назвать конкретные материалы, пото...
08:28, 03 Май Смертельное пение с небес: как кочевники создали первое в истории акустическое оружие Обычная стрела в арсенале древних воинов была воплощением функциональности — она должна была лететь бесшумно и точно, чтобы поразить цель до того, ка...
16:28, 15 Апр Оружие против навий: зачем в XVII веке покойникам подрезали сухожилия В 1658 году под Муромом крестьяне изловили русалку. Так говорит следственное дело из архивов Владимирской избы. Девушку с хвостом пытали и сожгли. Ди...
01:28, 22 Авг 19 августа начался запрет на Android для Huawei Трамп ещё может всё исправить, если договорится с Китаем о возобновлении отношений. Дональд Трамп сообщил о нежелании продлевать временную лицензию к...
12:28, 14 Апр Глава Eni призвал ЕС отложить запрет на российский СПГ Генеральный директор итальянской нефтегазовой компании Eni Клаудио Дескальци выступил с призывом приостановить запрет Евросоюза на импорт российского...
06:28, 20 Дек WP: Администрация США отменила запрет на применение противопехотных мин Американская администрация сняла запрет на использование противопехотных мин вооруженными силами США, действовавший в президентство Джо Байдена, сооб...
11:28, 13 Сен России нужна война: Чтобы «спасти» цены на нефть Москва возьмется за оружие Столицы других стран также готовы спасать свою экономику. Рубль упал, доллар нестабилен — Россия готова пойти на кардинальные меры, чтобы спаст...
13:28, 25 Апр Физика вместо химии: наностолбики превращают пластик в смертельное оружие против вируса Микромир — это поле вечной позиционной войны, где мы десятилетиями проигрывали вирусам в маневренности. Но инженеры из RMIT решили сменить тактику: в...
11:28, 26 Авг США и Южная Корея вынудили КНДР открыто заявить о готовности использовать стратегическое оружие Заявление было озвучено во время заседания Центрального военного комитета Трудовой партии Кореи (ЦВК ТПК). 24 мая генеральный секретарь КНДР товарищ ...
04:28, 07 Май Звездные войны СССР: как технический сбой уничтожил мощнейшее оружие из-за одной ошибки Советский Союз отправил на орбиту 80-тонную стальную махину, способную выжигать вражеские спутники мегаваттным лазером. Амбициозный проект "Скиф" дол...
07:28, 17 Ноя Политик Мема осудил призыв Стубба дать Украине оружие для ударов по России Член финской национально-консервативной партии «Альянс свободы» Армандо Мема резко высказался в адрес президента Финляндии Александра Стубба за заявл...
23:28, 17 Авг Запрет звонков в мессенджерах ударит по пользователям и бизнесу Ограничение голосовых вызовов в Telegram и WhatsApp* может затронуть не только частных пользователей, но и бизнес, включая телекоммуникационные компа...
10:28, 06 Фев Нурлан Сабуров сможет оспорить запрет на въезд в РФ на 50 лет Известный комик Нурлан Сабуров, которому запретили въезд в Россию на 50 лет, сможет обжаловать это решение. Об этом aif.ru заявил заслуженный юрист Р...
02:28, 19 Апр В Тверской области продлен запрет на запуск пиротехники В Верхневолжье продлен запрет на запуск пиротехники до его отмены в установленном порядке. Решение принято на заседании президиума регионального прав...
22:28, 02 Апр Запрет экспорта бензина распространили на производителей до 31 июля Правительство РФ распространило временный запрет на экспорт бензина и на самих производителей топлива. Ограничения будут действовать до 31 июля 2026 ...
06:28, 24 Мар В Тверской области продлен запрет на запуск беспилотников В Тверской области до 1 октября 2026 года продлен запрет на использование беспилотных воздушных судов. Решение принято 17 марта на заседании президиу...
13:28, 26 Апр Секретное оружие Роскосмоса для захвата Марса: этот двигатель называют убийцей классических ракет Девять месяцев в жестяной банке по пути к Красной планете — сомнительное удовольствие. Но представьте: вы долетаете до Марса за месяц. Это не фантаст...
01:28, 18 Фев «Микроволны в моей голове»: Ученый разрушил свой мозг, проверяя на себе секретное оружие В мире науки и шпионажа произошло событие, которое переворачивает представление о таинственной болезни, мучающей американских дипломатов почти десяти...
17:28, 19 Сен Гречка, «туалетка» и… патроны? Почему россиян «подмывает» в кризис покупать оружие — мнение читателя Экономический кризис, судя по всему, приводит людей к различным итогам развития «сценария». Не успели развеяться слухи о том, что с полок...
05:28, 12 Сен Чума, халера, вирус - что следующее?: Америка разрабатывает новое бактериологическое оружие против России Американское посольство признало, что на территории Украины действует 15 биологических лабораторий Пентагона. Распространяющийся по всему миру китайс...
00:28, 23 Сен Захарова отреагировала на запрет фильма Леонида Гайдая в Молдавии Официальный представитель МИД РФ Мария Захарова отреагировала на запрет в Молдавии фильма «Иван Васильевич меняет профессию». Об этом дип...
05:28, 16 Апр МФТИ отменил запрет на использование искусственного интеллекта в учебе Московский физико-технический институт (МФТИ) внедрил искусственный интеллект в образовательный процесс бакалавриата, сообщили в пресс-службе этого в...
12:28, 27 Апр В Госдуме объявили ответ Германии на запрет Георгиевской ленты В комитете Госдумы по международным делам рассказали об ответных мерах Германии после запрета Георигиевской ленты.Как сообщает пресс-служба полиции Б...
21:28, 20 Авг Воробьев анонсировал запрет алкомаркетов в многоквартирных домах в Подмосковье Мособлдума 14 февраля рассмотрит законопроект, запрещающий продажу алкоголя в магазинах, расположенных во дворах многоквартирных домов. В случае прин...
18:28, 11 Авг Автовладельцам в России опять грозит запрет на автомобили старше 30 лет На этот раз обсуждается идея установить максимальный возраст для легковых машин в 30 лет. Если инициатива станет законом, владелец машины, достигшей ...
04:28, 07 Апр США готовят почти полный запрет на поставки литографов в Китай В Сенате США представлен новый законопроект MATCH Act, который может существенно усилить ограничения на экспорт DUV-литографов в Китай. Инициатива ис...
16:28, 08 Окт В США предложили расширить запрет на продажу оборудования для чипов в Китай Американские законодатели выступили за ужесточение ограничений на продажу оборудования для производства микрочипов в Китай. Поводом стал доклад комит...
02:28, 19 Апр Массовый психоз или тайное оружие? Жуткий феномен 1954 года, который до смерти напугал Америку Весна 1954 года в США запомнилась не политическими играми, а волной иррационального вандализма. Полиция, баллистики и физики разводили руками: страну...
11:28, 30 Мар Макрон обиделся за жену? Франция атакует МОК за запрет «трансов» в спорте Решение Международного олимпийского комитета оставить женский спорт исключительно прерогативой «биологических женщин», вызвало крайнее недовольство с...
20:28, 08 Фев «Время расставит все»: Сабуров впервые прокомментировал запрет на въезд в Россию Комик Нурлан Сабуров впервые вышел на связь с поклонниками после официального запрета на въезд в Россию сроком на 50 лет. Артист опубликовал пост в с...
09:28, 09 Фев "Я благодарен России". Нурлан Сабуров прокомментировал запрет на въезд в Россию на 50 лет 34-летний Нурлан Сабуров, которому пару дней назад запретили въезд в Россию на 50 лет, вышел на связь. Комик прокомментировал случившееся в соцсетях....
10:28, 19 Авг New York Times: Евросоюз может сохранить запрет на въезд из РФ, США и Бразилии Грядущее открытие границ Европы едва ли коснётся граждан трёх стран, говорит издание. Фото: Pixabay Американское медиаиздание New York Times предполо...
14:28, 23 Дек Здравый смысл победил. Европа отменяет запрет на ДВС в 2035 году Такая картина откладывается. Амбициозные планы Европы по полному отказу от автомобилей с двигателями внутреннего сгорания к 2035 году, которые были с...
12:28, 03 Май Запрет iPhone в России из-за спутниковой связи: разбираемся, что нужно знать Сегодня утром Telegram взорвался паникой: якобы в Россию запретили ввозить iPhone, Samsung Galaxy и Google Pixel. Причина — новое постановление прави...
14:28, 06 Апр Al Arabi: иракский танкер получил запрет на проход через Ормузский пролив Судно, перевозящее иракскую нефть в Индию, не было допущено к проходу через Ормузский пролив. Об этом сообщил катарский телеканал Al Arabi, ссылаясь ...
23:28, 15 Авг "Секретное оружие российской делегации". В сети обсуждают звезду сериала "Универ" Андрея Гайдуляна, который приехал на Аляску В сети обсуждают актёра Андрея Гайдуляна, известного по роли Саши Сергеева в сериале "Универ", который приехал на Аляску в день встречи президентов Р...
19:28, 03 Фев «Пусть сила спорта заставит оружие замолчать». Президент Италии призвал к олимпийскому перемирию во время зимних Игр-2026 Серджо Маттарелла, президент Италии, накануне старта зимних Олимпийских игр-2026 призвал соблюдать олимпийское перемирие. «Мы решительно призываем к ...
13:28, 27 Фев Регионы переписывают календарь продаж алкоголя: запрет рискует дать обратный эффект Региональные власти в России продолжают ужесточать правила реализации спиртных напитков, стремясь снизить уровень потребления алкоголя среди населени...
21:28, 20 Авг Сухой закон в действии: В Кургане ввели запрет на продажу алкоголя из-за сильных пожаров В огне погибло около сотни домов, но люди все равно слишком беспечны – пришлось идти на крайние меры. В Кургане придумали новый способ борьбы с пожар...
14:28, 24 Фев Reuters: новейшую версию DeepSeek обучили на лучших чипах Nvidia Blackwell, несмотря на запрет США Новейшая модель искусственного интеллекта китайского стартапа DeepSeek, выпуск которой запланирован уже на следующей неделе, была обучена на видеокар...
15:28, 24 Мар Новый запрет в поездах весной 2026: люди в ярости сдают билеты РЖД — что измениться для путешественников ПрогородС весны 2026 года пассажиров дальних поездов ждут серьёзные перемены. РЖД вводит новые правила, которые уже вызвали бурную реакцию среди путе...
12:28, 07 Фев "Это новая Настя Ивлеева". Ксения Собчак и другие отреагировали на запрет Нурлану Сабурову на въезд в Россию на 50 лет В соцсетях обсуждают запрет комику Нурлану Сабурову на въезд в Россию на 50 лет, о котором стало известно накануне. В защиту артиста выступили Ксения...
15:28, 26 Фев Фарш нельзя вымешивать руками? Нарушила запрет кулинарных блогеров и сделала котлеты по-своему — вот что получилось Фото из архива ПроГородИнтернет пестрит советами: «Не месите фарш руками! Будут резиновые котлеты!». Блогеры приводят научные (якобы) аргументы, сыпя...
02:28, 25 Авг Встреча Трампа с Зеленским, зелёный свет на запрет вейпов и задержания блогеров. Чем запомнилась неделя с 18 по 24 августа Пронеслась очередная неделя 2025 года — предпоследняя в августе и летнем сезоне. Собрали для вас всё самое важное, что произошло, в традиционном дайд...
21:28, 21 Апр Прокуратура запросила 9 лет тюрьмы для экс-хавбека «Эспаньола» Агуадо по обвинению в изнасиловании сотрудницы клуба, штраф 65 000 евро, запрет на общение и надзор в течение 10 лет Прокуратура Испании потребовала приговорить к девяти годам тюремного заключения бывшего полузащитника «Эспаньола» Альваро Агуадо, которого обвиняют в...
03:28, 05 Сен Чеферин о клубах с одним владельцем в еврокубках: «Запрет означает вытеснение инвесторов из футбола, допуск неприемлем из-за утраты доверия. Сочувствую фанатам «Пэлас», но это не вина УЕФА» Минувшим летом «Кристал Пэлас» не был допущен к участию в Лиге Европы из-за «Лиона» – до июня у них был один владелец, Джон Текстор. В новом сезоне «...
11:28, 27 Апр «Краснодар» сохранил отрыв от «Зенита», 144 минуты штрафа в матче «Авангарда» и «Локомотива», «Челси» в финале Кубка Англии, нули на «Сан-Сиро», отменен запрет на вувузелы и другие новости 1. В 27-м туре Мир РПЛ «Краснодар» одержал волевую победу над «Динамо» Махачкала (2:1): Кордоба забил, Сперцян попал в штангу с пенальти, у Косты авт...