Новости из сферы нейросетей

[Лун]

ИИ не сможет выполнить ни одну из их рабочих задач - так думает четверть россиян.

Оценка возможностей искусственного интеллекта за последний год снизилась, рассказали эксперты.

Рекордсменами по доверию к ИИ были колл-центры, они оценивали потенциал автоматизации в среднем на 52% своих задач - теперь 38%. Также более скептичными стали PR-менеджеры и бухгалтеры.

Не изменилось только мнение программистов - их оценки объема задач для ИИ стабильны.

РИА Новости

 

[Лун]

ИИ ищет объявления по продаже наркотиков в интернете.

В московской полиции рассказали, что у них работает отдел IT-преступлений, который специализируется на работе с теневым сегментом интернета - там искусственный интеллект помогает анализировать большие объемы информации.
РИА Новости

 

[Лун]

ИИ помог ученым впервые полностью прочитать свиток, обуглившийся при извержении Везувия

Ученые впервые полностью прочитали древний свиток, обуглившийся при извержении Везувия в 79 году н. э. Папирус почти 2 тыс лет оставался свернутым: попытка развернуть его могла уничтожить текст. Исследователи просканировали артефакт рентгеновскими лучами, виртуально развернули его и с помощью ИИ распознали древние чернила.

В сохранившейся части папируса нашли около 1,4 м текста на древнегреческом языке, разделенного примерно на 22 колонки. По оценке ученых, в свитке содержится трактат стоической школы об этике, искусстве и поведении человека, созданный во II или в конце III вв до н. э. В одной из последних колонок упоминается Аристокреонт — племянник и ученик философа-стоика Хрисиппа.

Подписывайся на Readovka в МАКС

 

[DId2]

Хватит искать разум в коде. Ваш любимый ChatGPT оказался не умнее стада коз из старой стратегии​

Наглядный эксперимент наглядно объяснил механизм работы популярных нейросетей.

Споры о «сознании» чат-ботов часто начинаются с человеческой привычки видеть личность там, где работает простая программа, и специалист Microsoft по ИИ Адриан де Винтер довёл этот спор до абсурда с помощью видеоигры Age of Empires II.
Де Винтер построил в редакторе сценариев Age of Empires II простейший элемент нейросети, где роль битов выполняют козы, а игровая логика опирается на траву и мосты. Проект описан в работе под названием «Если у LLM есть человеческие черты, значит, они есть и у Age of Empires II». Главная мысль эксперимента не в том, что у игры или чат-ботов есть сознание, а в том, насколько легко люди приписывают машинам человеческие качества.
Вместо настоящего чат-бота Де Винтер собрал в игре маленькую игровую схему, которая работает как простейшая часть нейросети. В обычной нейросети числа проходят через математические узлы, а в его эксперименте роль таких чисел получили козы. Их положение на карте означало «да» или «нет», примерно как выключатель света показывает два состояния: включено или выключено. Трава и мосты задавали правила движения, а редактор сценариев заставлял всю конструкцию реагировать на входные данные.
Так внутри старой стратегии появился примитивный «мыслительный» механизм, но не разум и не полноценная языковая модель. Схема могла выполнить одну простую логическую операцию и показать, как из элементарных переключателей строятся более сложные системы. Именно в этом и был смысл примера: если козы в Age of Empires II могут изображать кусочек нейросети, никто ведь не станет говорить, что игра обрела сознание. Значит, сам факт работы нейросетевого механизма ещё не доказывает наличие чувств, личности или понимания у чат-бота.
Де Винтер также указывает на эффект подтверждения ожиданий. Когда пользователи и авторы научных работ ищут в технологиях человеческие черты, они легче находят поведение, похожее на эмоции, намерения или личность. По словам автора, он изучил 337 работ о больших языковых моделях, опубликованных за последние два года, и в 57% из них допускалась возможность человеческих качеств у LLM. Такая предпосылка может влиять на постановку тестов и выводы.
Разница между «козьей» схемой и популярными чат-ботами вроде ChatGPT, Claude и Gemini лежит не только в сложности моделей, но и в интерфейсе. Чат-боты отвечают естественным языком, подстраивают тон беседы и имитируют привычный диалог, поэтому пользователям проще видеть в них собеседников.
Де Винтер считает, что компании, развивающие ИИ-сервисы, не всегда мешают такой антропоморфизации, поскольку эмоциональная привязанность может повышать интерес к продуктам и подпискам.
Эксперимент с Age of Empires II не закрывает научный спор о природе ИИ, но резко отделяет реальную демонстрацию от громких интерпретаций. Козы в старой стратегии помогли собрать элемент нейросети, однако вывод из работы проще: поведение машины лучше объяснять техническими механизмами, пока нет оснований говорить о более сложном сознании.

Источник

 

[DId2]

Автоматизация пошла не по плану. Ford возвращает 350 инженеров для исправления ошибок ИИ-систем​

В погоне за скоростью компания столкнулась с ценой утраченного опыта.

Автопроизводители всё активнее передают рутинные проверки ИИ-системам, однако Ford столкнулась с обратной стороной автоматизации — ростом числа ошибок на производстве, из-за чего ей пришлось вернуть на работу около 350 опытных инженеров.
Компания признала, что слишком сильно полагалась на автоматизированные инструменты в проектировании и производстве. По словам вице-президента по инженерии автомобильного оборудования Чарльза Пуна, Ford рассчитывала, что искусственный интеллект и уточнение требований к дизайну сами приведут к росту качества, но подход не сработал.
Главная проблема оказалась не в самой технологии, а в данных и утраченных знаниях. Часть опытных сотрудников ушла раньше, чем компания успела перенести их практический опыт в автоматизированные системы. В результате Ford пришлось нанимать, повышать или возвращать бывших инженеров. Всего речь идёт о более чем 350 специалистах, которые теперь помогают молодым командам и улучшают сбор данных для обучения ИИ.
Качество автомобилей Ford в последние годы проседало, а число отзывных кампаний росло. Компания связывает проблемы с несколькими факторами, включая сложные запуски моделей Explorer и Aviator, сбои в цепочках поставок во время пандемии COVID и разрозненную работу подразделений. Операционный директор Кумар Галхотра признал, что Ford слишком долго действовала по принципу поиска и быстрого устранения дефектов уже после их появления.
Теперь Ford пытается сместить контроль качества на более ранние этапы. Программные и цифровые команды теснее работают с инженерами, производством и поставщиками, а для проверки ПО создана отдельная группа из 40 человек. Компания также расширила автоматизированное тестирование и добавила более 100 000 ИИ-тестов, которые должны находить редкие сбои и проверять устойчивость программных систем до передачи машины клиенту.
На этом фоне Ford впервые за 16 лет заняла первое место среди массовых автопроизводителей в рейтинге начального качества JD Power. Компания не отказывается от ИИ, но теперь делает ставку не только на скорость автоматизации, а на сочетание машинных проверок, качественных данных и опыта инженеров, которые уже проходили несколько циклов разработки автомобилей.

Источник

 

[Лун]

Сочинский институт Российского университета дружбы народов (РУДН) стал первым вузом в стране, где решили отказаться от традиционных дипломных работ из-за активного развития ИИ и массового его внедрения в систему образования.

Не "облегчение участи", а повышение планки. Первый российский вуз отказался от дипломных работ из-за ИИ

Сочинский институт Российского университета дружбы народов (РУДН) стал первым вузом в стране, где решили отказаться от традиционных дипломных работ из-за активного развития ИИ и массового его внедрения в систему образования.

rg.ru

 

[Лун]

Ученые попросили ИИ выдать себя за 112 общественных деятелей. То, что произошло дальше, — это «серьезное» предупреждение
Исследователи обнаружили, что люди сочли ИИ-имитаторов более аутентичными, последовательными и уместными, чем настоящих политиков, что вызвало тревогу по поводу потенциальной возможности обмана общественности.

Scientists Asked AI to Impersonate 112 Public Figures. What Happened Next Is a ‘Dire’ Warning

Researchers discovered that people found AI impersonators to be more authentic, coherent, and relevant than the real politicians, raising alarm bells around the potential for public deception.

www.404media.co

 

[Лун]

Госдума приняла закон о регулировании ИИ в России — нейросети разделят на суверенные и национальные

Закон вводит в российское законодательство базовые понятия искусственного интеллекта и больших фундаментальных моделей. Крупные модели от 1 млрд параметров разделят на суверенные и национальные. Суверенный ИИ должен создаваться только в России, а данные для его обучения будут формироваться внутри страны и храниться исключительно на территории государства. Национальный искусственный интеллект получит возможность использовать зарубежные компоненты.

Какие нововведения вносятся в законодательство:

— Разработчики суверенных и национальных моделей смогут участвовать в международном сотрудничестве, включая совместные исследовательские проекты и экспорт российских технологий ИИ в соответствии с законодательством РФ;

— Суверенные и национальные ИИ-модели смогут применяться в чувствительных сферах по согласованию с правительством страны. Для взаимодействия с банковской системой потребуется разрешение ЦБ РФ;

— Разработчики отечественных ИИ смогут получить доступ к мерам господдержки, направленным на стимулирование разработки, внедрения и применения суверенных и национальных нейросетей;

— Владельцев сайтов, приложений и соцсетей с аудиторией более 500 тыс человек обяжут предоставлять возможность маркировать ИИ-контент;

— Владельцы ИИ-сервисов должны будут уведомлять пользователей, кому принадлежат авторские права на контент с искусственным интеллектом.

Теперь закон должен пройти Совет Федерации и поступить на подпись президенту. Часть норм планируется ввести с 1 сентября 2026 года, основные требования к большим фундаментальным моделям — с 1 марта 2027 года.
Readovka в МАКС

 

[Лун]

В США преподы некоторых ВУЗов стали требовать выполнения работ в письменном виде, чтобы студенты не сдавали тексты от ChatGPT. Технари решили эту проблему и создали робота, пишущего от руки.

https://www.reddit.com/r/Popular_Science_Ru/s/gOzKq02MKP