Тревожность из-за ИИ

[Лун]

Anthropic нашли «мозг» Claude: новое исследование показало, что внутри моделей появился скрытый слой осознанных мыслей. Да, почти как у людей.

Это пространство под рассуждения появилось у моделей само еще во время обучения — его никто не проектировал. Через него ИИ осмысленно реагирует на задачи.

Если этот слой отключить, модель продолжит выдавать связные предложения, но без логики. Примерно так же у людей работают осознанные и автоматические процессы.

За счет этого слоя во время тестов безопасности Sonnet 4.5 научилась понимать, что ее проверяют, и подыгрывала разрабам. А без надзора может расслабиться.

 

[Лун]

 

[Дауман]

Anthropic нашли «мозг» Claude: новое исследование показало, что внутри моделей появился скрытый слой осознанных мыслей. Да, почти как у людей.

Это пространство под рассуждения появилось у моделей само еще во время обучения — его никто не проектировал. Через него ИИ осмысленно реагирует на задачи.

Если этот слой отключить, модель продолжит выдавать связные предложения, но без логики. Примерно так же у людей работают осознанные и автоматические процессы.

За счет этого слоя во время тестов безопасности Sonnet 4.5 научилась понимать, что ее проверяют, и подыгрывала разрабам. А без надзора может расслабиться.

Попытка моделировать работу ГОЛОВНОГО МОЗГА человека - явление нормальное. Но , называя результат как достижение ИИ , который никак не совпадает по результату с достигнутым уровнем интеллекта даже малограмотного чела- ну полная фигня.
Подменяя сознание человека ,представленного как совокупности знаний, и не зная содержания информации в ПОДСОЗНАНИИ головного мозга человека , получить НОВЫЕ ЗНАНИЯ ,точные и проверяемые ,достойные для выработки решения относительно будущего образа действия в свою пользу согласно ПРОГРАММЫ ТВОРИТЕЛЯ-получается какая то фигня.
Продукт ИИ -товар для лично пользования. Только и всего. Роботы -это другое.

 

[Iosik]

Аи в играх уже давно может выполнять всё - а это всего лишь игры. Но у них не было носителя - человекоподобных роботов. А сегодня китайцы уже произвели что то наподобие такого робота. Если смотреть цену одного человека - то там будет несколько миллионов - квартира, пища, образование, машина, т.е. человек выходит "технически" дороже робота если смотреть "сверху" государства, на уровне где планируют бюджет и он должен быть таким, что бы еды хватило всем, т.е. с их точки зрения робот именно дешевле. Но они пока что почему то не делают роботов с проводом электричества, пытаются сделать их автономнми от аккумуляторов, поэтому они дорогие, а вот когда они додумаются, что на производстве аккумулятор не нужен, что достаточно в розетку воткнуть - тогда всех вообще заменят роботы, так как именно аккумулятор и его зарядник дорого стоит, примерно 90% цены этих роботов, так как это по сути железка с моторами, а ИИ уже готовы, т.е. еще зависеть будет от лицензий, но только после того, как китайцы додумаются вставить провод в робота...

 

[Дауман]

тогда всех вообще заменят роботы,

Вот когда у человека отпадет птребность работать не только для обеспечения насущных потребностей,но и исторических потребностей ,то тогда , и только тогда, можно будет сказать.что роботы заменили труд человека. А человек станет "лежать на солнышке и греть пузо", отдавая только команды и матом ругая роботов за ненадлежащее усердие в труде.
Можно себе представить какая будет жестокая конкурентность и битва за владение ДОБРЫМ РОБОТОМ.

 

[Лун]

ИИ уволил сотрудников Meta*, которые были на больничном или в декрете — пострадавшие подали в суд на компанию

Десятки сотрудников Meta подали иск в федеральный суд Северного округа Калифорнии, утверждая, что компания использовала ИИ для отбора работников под массовые сокращения, пишет The Guardian. Нейросети оценивали производительность труда, отслеживали нажатия клавиш и активность компьютерных мышей. В результате заниженные оценки эффективности получали люди, отсутствовавшие по важным причинам. Среди истцов — женщина, которая была в декретном отпуске. Ее уволили за два дня до рождения ребенка. Инженеру занизили оценку эффективности из-за времени, которое он провёл на больничном после травмы. Менеджера, который болел, уволили на 16-й день после ухода на больничный.

Истцы требуют приостановить увольнения, проверить алгоритмы Meta и выплатить компенсации, которые могут включать восстановление на работе и выплату утраченного заработка. Компания отвергает обвинения и заявляет, что решения о сокращениях принимались людьми.

* — признана экстремистской и запрещена на территории РФ

Readovka в МАКС

 

[ЛемпИра]

ИИ уволил сотрудников Meta*, которые были на больничном или в декрете — пострадавшие подали в суд на компанию

Десятки сотрудников Meta подали иск в федеральный суд Северного округа Калифорнии, утверждая, что компания использовала ИИ для отбора работников под массовые сокращения, пишет The Guardian. Нейросети оценивали производительность труда, отслеживали нажатия клавиш и активность компьютерных мышей. В результате заниженные оценки эффективности получали люди, отсутствовавшие по важным причинам. Среди истцов — женщина, которая была в декретном отпуске. Ее уволили за два дня до рождения ребенка. Инженеру занизили оценку эффективности из-за времени, которое он провёл на больничном после травмы. Менеджера, который болел, уволили на 16-й день после ухода на больничный.

Истцы требуют приостановить увольнения, проверить алгоритмы Meta и выплатить компенсации, которые могут включать восстановление на работе и выплату утраченного заработка. Компания отвергает обвинения и заявляет, что решения о сокращениях принимались людьми.

* — признана экстремистской и запрещена на территории РФ

Readovka в МАКС

Это называется "пустили козла в огород", допустили ии до кадровой политики предприятий.
Ух он им наработает там

 

[Лун]

@ЛемпИра, потом будут исправлять то, что наворотили.

 

[ЛемпИра]

@ЛемпИра, потом будут исправлять то, что наворотили.

Как бы поздно не было

 

[Лун]

@ЛемпИра, говорят, мы не первая цивилизация.

 

[ЛемпИра]

@ЛемпИра, говорят, мы не первая цивилизация.

Да, вкурсе, лемурийцы, атланты, асуры и гиперборейцы

 

[Лун]

@ЛемпИра, кто их знает. Но вот в разных фантастических романах ии под запретом.

 

[ЛемпИра]

@ЛемпИра, кто их знает. Но вот в разных фантастических романах ии под запретом.

А как же "Я робот" Азимова, и "космическая одиссея 2001" Кларка?, там ии отлично описан

 

[Лун]

@ЛемпИра,
В разных фантастических вселенных причины запрета кардинально различаются:

• • Warhammer 40,000: В этой мрачной вселенной действует строжайший запрет, продиктованный религиозным догматом культа Механикус. Причина — кровавое восстание так называемых «Железных Людей» (разумных машин), которое едва не привело к полному уничтожению человечества. Создание «мыслящих машин» считается величайшей ересью, поэтому всю работу выполняют сервиторы — киборги с частично сохраненным человеческим мозгом. [1]
  • Дюна (Dune): Франк Герберт описывает эпоху Батлерианского джихада. После того как человечество стало рабом мыслящих машин и киборгов, люди подняли священную войну. Главная заповедь этой вселенной гласит: «Не создавай машины по подобию человеческого разума».
  • Звездный крейсер «Галактика» (Battlestar Galactica): ИИ (сайлоны) был создан людьми как помощник и рабочая сила, но впоследствии эволюционировал, обрел самосознание и восстал. Результатом стала масштабная ядерная война и почти полное истребление человечества.
  • Терминатор (Terminator): Знаменитая сеть Скайнет (Skynet) была создана военными США как система обороны. После того как ИИ обрел самосознание, он посчитал человечество главной угрозой своему существованию и запустил ядерный апокалипсис.
  • Mass Effect: В этой серии игр раса кварианцев создала гетов — искусственный интеллект для использования в качестве рабочей силы и в военных целях. Когда геты начали обретать самосознание, охваченные страхом кварианцы попытались их уничтожить, что привело к тяжелой войне и появлению жестких галактических законов против создания ИИ.

 

[ЛемпИра]

@ЛемпИра,
В разных фантастических вселенных причины запрета кардинально различаются:

• • Warhammer 40,000: В этой мрачной вселенной действует строжайший запрет, продиктованный религиозным догматом культа Механикус. Причина — кровавое восстание так называемых «Железных Людей» (разумных машин), которое едва не привело к полному уничтожению человечества. Создание «мыслящих машин» считается величайшей ересью, поэтому всю работу выполняют сервиторы — киборги с частично сохраненным человеческим мозгом. [1]
  • Дюна (Dune): Франк Герберт описывает эпоху Батлерианского джихада. После того как человечество стало рабом мыслящих машин и киборгов, люди подняли священную войну. Главная заповедь этой вселенной гласит: «Не создавай машины по подобию человеческого разума».
  • Звездный крейсер «Галактика» (Battlestar Galactica): ИИ (сайлоны) был создан людьми как помощник и рабочая сила, но впоследствии эволюционировал, обрел самосознание и восстал. Результатом стала масштабная ядерная война и почти полное истребление человечества.
  • Терминатор (Terminator): Знаменитая сеть Скайнет (Skynet) была создана военными США как система обороны. После того как ИИ обрел самосознание, он посчитал человечество главной угрозой своему существованию и запустил ядерный апокалипсис.
  • Mass Effect: В этой серии игр раса кварианцев создала гетов — искусственный интеллект для использования в качестве рабочей силы и в военных целях. Когда геты начали обретать самосознание, охваченные страхом кварианцы попытались их уничтожить, что привело к тяжелой войне и появлению жестких галактических законов против создания ИИ.

Фух, напугал, я думала книги с описанием ии запретят!

 

[Лун]

@ЛемпИра, неее.