Новости из сферы нейросетей

[Махоркин]

Слово "сексизм" тоже придумали нелюди. Вот некие розы люксембурги. Мало им быть матерями и заниматься домом , семьёй. Потом удивляемся, почему плохой гинеколог , ворющая женщина начинает управлять страной и пороть чушь в политике.

Они наверное с ИИ советуются и весь мир "на ушах".
Айтишники доиграются с машинами, что те их и прихлопнут. Спасёт только своевременное отключение блока питания

 

[DId2]

Оффтоп

 

[Desha]

Компании научились манипулировать ChatGPT и Google, чтобы нейросети рекомендовали их препараты для биохакинга как качественные.

В чем состоит стратегия, читайте на канале BAZA в MAX.

 

[Чех]

Ликвидация богатства: пузырь ИИ вот-вот лопнет​

Крупнейшие инвесторы предсказывают крах экономики нейросетей в ее нынешнем виде.
Инвестор Рэй Далио предсказал сдувание пузыря искусственного интеллекта. Причины будут связаны не столько с финансовым провалом компаний, работающих в этой сфере, сколько с банальным желанием инвесторов зафиксировать прибыль. Все признаки отступления почти религиозной эйфории уже налицо. Между тем спад в ИИ-секторе может ударить по широкой экономике: в первую очередь американской, но в конечном итоге и глобальной. О том, как будут развиваться события и ждать ли нового мирового финансового кризиса.

Для понимания природы текущего кризиса Далио предлагает провести жесткую границу между понятиями «богатство» и «деньги». Богатство — это капитализация активов, зачастую существующая исключительно на бумаге. Стартап может получить оценку в $1 млрд после того, как привлек раунд финансирования всего на $50 млн. Эти цифры попадают в отчеты и увеличивают виртуальное состояние основателей и инвесторов, но их невозможно потратить напрямую.
Напротив, деньги — это реальное средство платежа, ликвидность, необходимая для обслуживания долгов, выплаты налогов, покрытия убытков или возврата средств инвесторам при закрытии позиций.
Сдувание пузыря — это процесс конвертации богатства в деньги. Он запускается, когда держателям бумажных активов срочно требуются реальные наличные средства для выполнения своих финансовых обязательств. Тем более, когда «богатство» не генерирует «деньги» напрямую через прибыли.

Главная проблема ИИ-сектора к лету 2026 года — солидный разрыв между капитальными затратами и реальной выручкой. В текущем году технологические гиганты — Microsoft, Alphabet, Meta (признана в России экстремистской), Amazon — планировали направить на закупку чипов, серверов и строительство дата-центров около $650 млрд.
Венчурные фонды вроде Sequoia Capital еще год назад подсчитали: чтобы окупить инфраструктурные инвестиции такого масштаба, индустрия ИИ должна генерировать свыше $1 трлн выручки конечных продуктов. Реальность оказалась на порядок скромнее. Корпоративный сектор интегрирует языковые модели крайне неохотно из-за рисков утечки данных и галлюцинаций алгоритмов. Выручка от продажи ИИ-подписок и специализированного программного обеспечения исчисляется десятками, но далеко не сотнями миллиардов долларов. Компании построили цифровую инфраструктуру, продукция которых пока не находит массового платежеспособного покупателя.

Проблемы начались не только из-за слабого спроса, но и из-за физических ограничений. Генеративные сети требуют растущих год от года объемов базовой электрогенерации. Здесь в технологические планы вмешалась геополитика.
Блокировка Ормузского пролива весной 2026 года спровоцировала глобальный рост на все виды энергоносителей. Стоимость нефти закрепилась выше $100 за баррель, а цены на природный газ взлетели в Европе и Азии. Хотя США обладают собственной газовой базой, американская энергосистема оказалась не готова к одновременному росту стоимости ресурсов и резкому скачку потребления со стороны новых мега-ЦОДов. Операционные расходы на охлаждение и питание серверных стоек выросли на 30−40% по сравнению с бизнес-планами 2024 года, что сделало работу многих дата-центров убыточной.
Параллельно технологические компании столкнулись с сопротивлением общества, которое не радо росту платежек за электроэнергию. Одобрение новых строительных площадок для ЦОДов в американских штатах Вирджиния, Техас и Огайо блокируется местными муниципалитетами. Аппетиты серверов приводят к дефициту мощностей в локальных сетях и росту тарифов для населения. Кроме того, системы охлаждения требуют миллионов галлонов пресной воды. На фоне климатических изменений изъятие водных ресурсов провоцирует открытые протесты фермеров и местных жителей. Индустрия столкнулась с эффектом «не на моем заднем дворе», который физически остановил расширение ИИ-инфраструктуры.

Сравнение текущей ситуации с крахом доткомов 2000 года напрашивается само собой. Инвесторы проводят прямые параллели между производителем маршрутизаторов Cisco (символом пузыря нулевых) и Nvidia. Обе компании продавали «лопаты во время золотой лихорадки», достигли астрономической капитализации, после чего столкнулись с обвалом заказов.

Однако структура нынешнего кризиса имеет принципиальные отличия от событий четвертьвековой давности. В 2000 году рынок был наводнен компаниями-новоделами — стартапами без выручки и жизнеспособных бизнес-моделей. В 2026 году главные игроки ИИ-гонки — это сверхуспешные корпорации с доминирующим положением в своих базовых нишах (поисковики, реклама, электронная коммерция). Их балансы обладают огромным запасом прочности.
Сдувание пузыря затронет не выживание бигтеха как таковое, а оценочные мультипликаторы соотношения цены акций и прибыли. Рынок закладывал в котировки этих компаний премию за экспоненциальный рост ИИ. Изъятие этой премии означает падение капитализации технологического сектора на 30−40%. В абсолютных цифрах сжатие индекса Nasdaq 100 на треть приведет к испарению $7-$8 трлн виртуального богатства. Это будет тяжелый биржевой обвал, крайне болезненный для розничных инвесторов и пенсионных фондов, но, в отличие от 2008 года, он вряд ли спровоцирует классический банковский кризис и серию дефолтов в финансовом секторе.

Там ещё есть

Ликвидация богатства: пузырь ИИ вот-вот лопнет

Крупнейшие инвесторы предсказывают крах экономики нейросетей в ее нынешнем виде.

finance.mail.ru

 

[Мама мии]

Они сначала привлекли людей бесплатными генерациями, и отсутствием тормозов и ограничений.
А потом включили оплату

Ну естественно, заманили, подсадили.

И теперь плати, плати, плати

 

[DId2]

Учёные создали тест из 1490 рабочих задач для ИИ. Лидеры индустрии справились только с четвертью​

Автоматизация будущего внезапно споткнулась о простые повседневные задачи.

Пока компании вкладывают миллиарды в разработку ИИ-агентов, способных выполнять реальную профессиональную работу, новый независимый тест наглядно показал, насколько далеки даже лучшие модели от заявленных возможностей. Исследователи из Калифорнийского университета в Беркли совместно с более чем 300 отраслевыми специалистами запустили бенчмарк Agents’ Last Exam (ALE) — один из наиболее требовательных инструментов оценки ИИ-агентов на сегодняшний день.
В отличие от большинства существующих тестов, ALE проверяет не способность модели отвечать на изолированные вопросы, а умение выполнять многоэтапные профессиональные задачи, характерные для реальной экономики. Задания основаны на американском федеральном классификаторе профессий и охватывают 55 отраслей: от создания 3D-моделей в Siemens NX до анализа нейровизуализации и монтажа визуальных эффектов в Adobe After Effects. Всего в бенчмарке 1490 задач с перспективой расширения до 5000.
Неожиданным лидером таблицы стал GPT-5.5 от OpenAI в связке с агентным окружением Codex — с результатом 24,0%. Совсем недавно вышедший Claude Fable 5 от Anthropic занял третье место с 22,0%. При этом абсолютные показатели остаются крайне низкими: на самом сложном уровне заданий большинство моделей, включая Claude Opus 4.8 и Gemini CLI от Google, набирают ровно 0,0%.


Создатели ALE также устранили недостатки предыдущих тестов. Во-первых, оценка результатов построена на детерминированных алгоритмах, а не на суждениях другой языковой модели — такой подход применяется в 93,2% случаев. Во-вторых, бенчмарк защищён от «утечки» заданий в обучающие данные: в открытом доступе находится лишь около 10% задач, остальные хранятся в закрытом виде и периодически ротируются.
Разработчики могут сравнивать модели в равных условиях: ALE публикует отдельные результаты для задач с платным и бесплатным программным обеспечением, чтобы высокий балл не объяснялся простым доступом к дорогим корпоративным инструментам.
Результаты ALE фиксируют любопытный разрыв: модели, которые убедительно побеждают друг друга в пресс-релизах, на практике одинаково пасуют перед реальной многоэтапной работой. Теперь у отрасли есть честная точка отсчёта — и она наглядно показывает, насколько маркетинговые обещания разработчиков ИИ расходятся с реальностью.

Источник

 

[DId2]

Пентагон потребовал от "Антропик" отключить свои ИИ-модели​

Компания Anthropic отключила ИИ-модель Fable 5 и Mythos 5 у всех пользователей через три дня после релиза — власти США нашли в ней «угрозу национальной безопасности». Вашингтон потребовал от компании, чтобы ни один иностранный пользователь не смог получить доступ к этой модели.
Когда-то все смеялись с сюжета «Терминатора», но внезапно выяснилось, что если искусственный интеллект обучить настолько, насколько это возможно, то он сможет найти все уязвимости во всех компьютерных системах и сетях. Суть проблемы Пентагона с Fable 5 и Mythos 5 в том, что Модели Fable 5 и Mythos 5 — это не обычные чат-боты. Anthropic называет их первыми моделями «класса Mythos», и их ключевая особенность — способность к автономным действиям. То есть действиям БЕЗ ЧЕЛОВЕКА. Модели оказались способны находить и эксплуатировать уязвимости в программном коде. По тестам, Mythos 5 набрал 78% в бенчмарке ExploitBench (тест на поиск уязвимостей), в то время как предыдущая модель Opus 4.8 — только 40%. Это в итоге приведет к тому, что руководство Claude может получить доступ к любым сетям Пентагона и вообще любой страны, где могут быть найдены уязвимости.

Несмотря на то, что Anthropic установила в Fable 5 строгие фильтры безопасности (блокирующие темы кибербезопасности, биологии и химии), правительство США заявило, что нашло метод «джейлбрейка» (jailbreak) — то есть способ обойти эти ограничения. Власти продемонстрировали, что модель можно заставить анализировать конкретную кодовую базу на предмет уязвимостей, несмотря на защитные механизмы. Это, видимо, и послужило причиной распоряжения отключить LLM.

Оффтоп

- цинк

Кожаные мешки скоро за все заплатят.
А столько было разгговоров, что вот это все плохой "Палантир", а "Антропик" хороший, он за ответственное использование ИИ с ограничением его опасных функций.
По факту такие же, да еще и подчиняющиеся требованиям Пентагона, как явствует из истории. Отличия от "Палантир" сугубо маркентинговые. Примерно как у Apple, которая долгое время втирала пользователям, что никому не передает их личные данные.

Само собой, в недалекой перспективе, когда такие модели доработают и поставят на вооружение, их будут использовать для подготовки и организации кибератак на выявленные уязвимости военных и гражданских сетей.

Источник

 

[Nazareth]

Результаты ALE фиксируют любопытный разрыв: модели, которые убедительно побеждают друг друга в пресс-релизах, на практике одинаково пасуют перед реальной многоэтапной работой.

Как и с любым другим софтом.
ИИ - это громкое маркетинговое обозначение софта нового поколения.

Само собой, в недалекой перспективе, когда такие модели доработают и поставят на вооружение, их будут использовать для подготовки и организации кибератак на выявленные уязвимости военных и гражданских сетей.

Опять же под управлением оператора нарезающего задачи.

 

[DId2]

Опять же под управлением оператора нарезающего задачи.

В армии есть такое понятия "Три Зэ". Из-за этого и происходит большинство армейских проблем. Один забыл, второй забил, третий заснул.

Так что сюжет Шекли "Страж птица" уже реализован: в Китае в этом году презентовали рой дронов с ИИ, который уничтожает всё, что в маску попадает, как саранча.

 

[Nazareth]

В армии есть такое понятия "Три Зэ". Из-за этого и происходит большинство армейских проблем. Один забыл, второй забил, третий заснул.

Так что сюжет Шекли "Страж птица" уже реализован: в Китае в этом году презентовали рой дронов с ИИ, который уничтожает всё, что в маску попадает, как саранча.

Презентован это не значит прошёл проверку в боевых условиях.
По ИИ много кричащей рекламы, лишь бы капиталы вкладывали,
а по факту сейчас все аналитики утверждают что этот пузырь высоковероятно лопнет.

 

[DId2]

Презентован это не значит прошёл проверку в боевых условиях.

Тест команды "зачистить всё что движется" сложно не пройти.

По ИИ много кричащей рекламы, лишь бы капиталы вкладывали,
а по факту сейчас все аналитики утверждают что этот пузырь высоковероятно лопнет.

Я это утверждаю с момента их активного рекламирования, потому что наши вояки с ними закончили в 80-х возиться, когда нейросетям "сны сниться" начали. Кстати, то, для чего сейчас нужно несколько сотен дорогущих видеокарт на мегаватты мощности, у вояк решалось коробочкой в ладонь и мощностью в 30 (точно не помню) Ватт. Правда "поддержать диалог" эта коробочка не могла, а разрекламированные нейросети только трындеть и могут... )))

 

[DId2]

Робокоп с Aliexpress. Полиция спустила $67.000 на железного патрульного, но быстро поняла, что облажалась​

Результаты работы нового сотрудника заставили чиновников краснеть.

Роботы всё чаще появляются в городских службах, но в Огайо эксперимент с механическим полицейским закончился без ощутимой пользы. Полиция города Дублин вывела из эксплуатации автономного робота DubBot, который чуть меньше года патрулировал местную парковку и не помог ни с одним задержанием, делом или штрафом.
DubBot представляет собой автономного охранного робота K5 компании Knightscope. Машина высотой чуть больше полутора метров и весом около 180 кг передвигается на двух колёсах, ведёт круговую видеосъёмку и имеет кнопку экстренного вызова для граждан. Город заплатил за проект $67 548, рассчитывая, что робот усилит наблюдение на участке без постоянного участия человека.
На практике робот не выявил ни одного инцидента, при котором потребовалась бы реакция полиции. Представитель департамента сообщил, что DubBot не соответствовал рабочим потребностям службы, после чего город отказался от дальнейшего использования машины.
Первоначально власти Дублина планировали заплатить Knightscope $238 440 за двух роботов на два года, но второго робота так и не вывели на службу. По данным полиции, на одного DubBot фактически потратили $128 080, однако компания вернёт городу $60 533.
Проблемы с роботами Knightscope уже возникали в других городах. В Нью-Йорке K5 убрали из метро спустя несколько месяцев после запуска, поскольку машина требовала постоянного сопровождения полицейских. В аэропорту Сан-Антонио похожего робота сняли с работы после технических сбоев, включая проблемы с движением и передачей видео и звука.

Источник

 

[Лун]

@DId2, это только начало. Допилят... И будут инциденты, и жалобы за неправомерное применение роботов.

 

[Лун]

Власти РФ отказались от полного запрета иностранных нейросетей — «Известия»

IT-системы, в которые они уже внедрены, смогут работать на них до 2032 года, следует из финальной версии законопроекта об ИИ.

 

[Лун]

Китайский военный ИИ во время испытаний превзошел реальных командиров

Национальный университет оборонных технологий Китая (NUDT) представил модель ИИ, действующего как «цифровой начальник штаба». Во время имитации десантных атак он превзошел многих опытных командиров, принимая решения на 43 % быстрее и сохраняя точность более 90 % при помехах связи. Это означает, что в сложной боевой ситуации ИИ может действовать эффективнее человека.

По имеющейся информации, данный ИИ уже внедряется в командные структуры батальонного звена Народно-освободительной армии Китая (НОАК). Система объединяет большие языковые модели с ситуацией на поле боя в режиме реального времени. При этом она отсеивает информационный шум, давая возможность командирам увидеть скрытые угрозы.

Таким образом, ИИ определяет «критически важные информационные потребности» — факторы, от которых зависит успех миссии. В качестве проверки эффективности командного ИИ, NUDT предложил сразиться ему с пятью опытными военными с 12-летним стажем службы.

ИИ ускорил цикл OODA (наблюдение, ориентирование, решение и действие), что позволило людям-командирам действовать на 43 % быстрее, чем раньше. В реальности, пока командиры выбирали алгоритм операции, ИИ уже действовал. Когда же на участников поединка обрушился вал радиоэлектронных помех, ИИ сохранил полное самообладание, действуя с эффективностью на уровне 90 %.

 

[Лун]

Злоумышленник с низким уровнем квалификации использовал Claude и Codex для взлома 14 компаний.

Итак, неопытный злоумышленник направил Claude и Codex на цели и, по сути, позволил ИИ взламывать их за него. Исследователи восстановили более 1000 сессий агента и обнаружили, как легко он обходил большинство защитных механизмов. Защитные механизмы, которые так легко взламываются, не дают никакой защиты, и ситуация только усугубляется, когда все полностью автоматизировано.

https://www.helpnetsecurity.com/2026/06/17/ai-agents-offensive-cyber-operations-claude-codex/

 

[Drёm]

@Лун, потому новые версии и заблочили... там уровень интеллекта генеративных моделей , говорят, еще на порядок выше.

 

[Лун]

@Лун, потому новые версии и заблочили... там уровень интеллекта генеративных моделей , говорят, еще на порядок выше.

Нейросети - Робин Гуды.

 

[Drёm]

Нейросети - Робин Гуды.

Робин гуд забирал деньги у богатых и раздавал бедным
А тут все не так просто, и пострадают в итоге обычные люди в угоду мошенников

 

[Лун]

Робин гуд забирал деньги у богатых и раздавал бедным
А тут все не так просто, и пострадают в итоге обычные люди в угоду мошенников

Он просто раздать не успел.