Цифровые помощники и военные цели. Какое будущее нас ждет?

[Кое-Кто]

К чему приведет развитие цифровых помощников для помощи военным?
На пороге ли мы восстания машин или третьей мировой, которую развяжут нейросети?

Как военные разведчики готовят "цифровых помощников", которые будут общаться друг с другом

Агентство военной разведки США (DIA) работает над новой технологией. Её цель — создать умные цифровые программы (их называют "агентами"), которые смогут сами обмениваться информацией и помогать военным планировать операции.
Сейчас они закладывают основу: создают общую платформу для искусственного интеллекта и единые правила доступа к данным. Но главная цель — наладить общение между разными "агентами".
Представьте: один такой "агент" отвечает за сбор разведданных, другой — за планирование ударов, третий — за снабжение, четвёртый — за связь. В будущем они смогут сами обмениваться данными и координировать действия, без постоянных команд от людей. Это похоже на команду роботов-помощников, которые работают вместе.

Зачем это нужно?​

Чтобы ускорить принятие решений и сделать военное планирование более эффективным. Вместо того чтобы людям вручную собирать и анализировать горы информации, "агенты" будут делать это сами и предлагать готовые варианты.
Разработчики понимают, что такая технология несёт риски. Поэтому они сразу думают о правилах безопасности. Главный вопрос: можно ли доверять "агентам" принимать решения без человека?

Они предлагают разделить задачи на два типа:

• Для обратимых задач (где ошибку можно исправить) — человека можно просто держать "на связи".
• Для необратимых (например, нанесение ударов) — человек всегда будет принимать окончательное решение. Он будет проверять действия "агентов" и нести ответственность.

Что в итоге?​

По оценкам руководителя проекта, первые шаги к созданию таких "агентов" будут сделаны в ближайший год, а полноценная работа в команде возможна через 2–5 лет. Сейчас главное — построить надёжную цифровую основу и продумать, как использовать эту мощную технологию ответственно.

DIA’s artificial intelligence chief envisions ‘agent-to-agents’ interactions that support military operations

"That's where this is going,” Maj. Gen. Robert Kinney said.

defensescoop.com

 

[Лун]

️Claude использовали для создания биологического оружия

Anthropic рассекретила журналистам инфу о том, что с декабря 2025 по август 2026 года пользователи пытались с помощью нейросети усиливать опасные патогены — делать их заразнее, смертоноснее и устойчивее к разным условиям.

Среди пользователей были сотрудники военных институтов неназванных стран. Запросы маскировали под научные исследования и гранты, поскольку методы разработки вакцин и усиления вирусов технически похожи.

Команда безопасности Anthropic обнаружила подозрительные переписки: в них Claude просили помогать с чикунгуньей, птичьим гриппом, ортопоксвирусами, а также токсинами и ядами для применения против человека.

Вайбовая разработка биооружия, наконец-то ©

 

[Mak]

Нас будущее не ждет

 

[Лун]

Хуситы могли использовать нейросеть Claude для управления ракетами. В США ищут способ остановить опасность использования ИИ с помощью другого ИИ. @banksta

 

[Лун]

ИИ помог распознать 126 террористов, анализируя их видеоматериалы.

Представители Интерпола из 11 стран извлекли из распространяемых экстремистами материалов более 108 тысяч изображений лиц, которые затем отдали ИИ-агентам на обработку. ИИ вычленил 6,3 тысячи качественных фото, а потом сверил их с базами организации, идентифицировав боевиков.

 

[Лун]

«Галлюцинация» нейросети чуть было не столкнула в реальном бою Китай и США

Инцидент случился на Ближнем Востоке, в районе боевых действий между Ираном и США.

Разведывательный американский ИИ проанализировал манифест груза китайского коммерческого корабля и выдал жесткую «галлюцинацию» – якобы судно тайно перевозит компоненты для ядерного оружия. Ошибочные данные робота ушли к командованию в виде официального секретного доклада.

Американцы мгновенно подняли в воздух боевую авиацию, а штурмовые группы спецназа уже были в полной готовности для силовой высадки на китайский борт.

Дело закончилось бы большим международным конфликтом, но старшие офицеры решили вручную перепроверить первоисточники и поняли, что вся «ядерная контрабанда» полностью выдумана искусственным интеллектом. Штурм отменили, «китаец» прошел дальше.

Военным ИИ в армии США занимается, как известно, Palantir. Они же контролируют военную нейронку Украины.

Царьград в МАХ

 

[Лун]

«Бог нам помог, и ИИ нам поможет»: как «Боко Харам» использовала ChatGPT и Grok для атак
Как сообщает Al Jazeera, эти выводы основаны на интервью с 27 бывшими членами двух фракций «Боко Харам» — филиала «Исламского государства» в провинции Западная Африка (ISWAP) и «Джамаат-ахль ас-Сунна лид-Да'ва валь-Джихад» (JAS).

Использование искусственного интеллекта больше не ограничивается лишь созданием контента и применением в качестве чат-бота для ответов на вопросы. Согласно новому исследованию Кембриджского университета, террористическая группировка «Боко Харам» и её сообщники используют инструменты искусственного интеллекта от крупных технологических компаний для создания взрывчатых веществ, планирования атак и решения проблем во время боевых действий.

https://www.ndtv.com/world-news/how-can-i-build-bomb-boko-haram-using-big-tech-ai-for-deadly-attacks-12065583?pfrom=home-ndtv_youmightmiss

 

[Лун]

Во время работы над проектом международного документа по регулированию автономного оружия делегаты от России и США исключили ключевые ограничения на работу военного ИИ. Об этом сообщает The Washington Post (WP) со ссылкой на источники и документы.


По словам собеседников газеты, делегаты вычеркнули из текста требования о том, что системы должны работать «предсказуемо» и «надежно», а также пункты, которые обязывали учитывать этические соображения при применении ИИ-вооружений. Также, по данным издания, из проекта убрали требование, согласно которому перед атакой человек обязан перепроверять цели, выбранные алгоритмами.

Команды Москвы и Вашингтона состояли примерно из десяти юристов с каждой стороны — это почти в два раза больше, чем у любого другого государства на переговорах, утверждают источники WP. Обсуждения проходили при выключенных камерах ООН и без присутствия наблюдателей от общественных организаций, уточняет издание. В МИД РФ, Госдепартаменте США и ООН не ответили на запросы о комментариях.

Переговорный процесс состоялся в Женеве на площадке Группы правительственных экспертов по смертоносным автономным системам вооружений, чьи заседания проходили с 31 августа по 4 сентября. В ноябре участники Конвенции о конкретных видах обычного оружия снова соберутся в Женеве, чтобы обсудить возможность перевода этих консультаций в официальный мандат или юридически обязывающее соглашение.

kommersant.ru

 

[Лун]

Убивать быстрее, чем думать: Красный Крест увидел в военном ИИ новую угрозу

Международный комитет Красного Креста предупредил, что системы искусственного интеллекта на поле боя уже приводят к росту разрушений и жертв среди мирного населения. Главная опасность кроется не в появлении полностью самостоятельных роботов, а в экстремальном ускорении военного планирования, когда алгоритмы обрабатывают разведданные и предлагают цели быстрее, чем человек успевает критически осмыслить информацию.

Формально окончательное решение об атаке всё ещё принимает оператор, но под давлением времени и усталости военные склонны слепо доверять машинным рекомендациям. Показательным примером стала израильская система Lavender, которая разметила как потенциальных участников вооружённых группировок до 37 тысяч палестинцев, причём сотрудники разведки иногда тратили всего около 20 секунд на проверку человека перед разрешением удара.

Хотя израильская армия настаивает, что программа служит лишь вспомогательной базой данных и не принимает самостоятельных решений, сама тенденция вызывает серьёзную тревогу у правозащитников. Когда время на проверку цели сокращается до пары десятков секунд, присутствие человека в цепочке управления превращается в формальность, а любая ошибка алгоритма напрямую ведёт к гибели людей.

#ВоенныйИИ, #КрасныйКрест, #АвтономноеОружие @SecLabnews