Тревожность из-за ИИ

[Лун]

Anthropic нашли «мозг» Claude: новое исследование показало, что внутри моделей появился скрытый слой осознанных мыслей. Да, почти как у людей.

Это пространство под рассуждения появилось у моделей само еще во время обучения — его никто не проектировал. Через него ИИ осмысленно реагирует на задачи.

Если этот слой отключить, модель продолжит выдавать связные предложения, но без логики. Примерно так же у людей работают осознанные и автоматические процессы.

За счет этого слоя во время тестов безопасности Sonnet 4.5 научилась понимать, что ее проверяют, и подыгрывала разрабам. А без надзора может расслабиться.

 

[Лун]

 

[Дауман]

Anthropic нашли «мозг» Claude: новое исследование показало, что внутри моделей появился скрытый слой осознанных мыслей. Да, почти как у людей.

Это пространство под рассуждения появилось у моделей само еще во время обучения — его никто не проектировал. Через него ИИ осмысленно реагирует на задачи.

Если этот слой отключить, модель продолжит выдавать связные предложения, но без логики. Примерно так же у людей работают осознанные и автоматические процессы.

За счет этого слоя во время тестов безопасности Sonnet 4.5 научилась понимать, что ее проверяют, и подыгрывала разрабам. А без надзора может расслабиться.

Попытка моделировать работу ГОЛОВНОГО МОЗГА человека - явление нормальное. Но , называя результат как достижение ИИ , который никак не совпадает по результату с достигнутым уровнем интеллекта даже малограмотного чела- ну полная фигня.
Подменяя сознание человека ,представленного как совокупности знаний, и не зная содержания информации в ПОДСОЗНАНИИ головного мозга человека , получить НОВЫЕ ЗНАНИЯ ,точные и проверяемые ,достойные для выработки решения относительно будущего образа действия в свою пользу согласно ПРОГРАММЫ ТВОРИТЕЛЯ-получается какая то фигня.
Продукт ИИ -товар для лично пользования. Только и всего. Роботы -это другое.

 

[Iosik]

Аи в играх уже давно может выполнять всё - а это всего лишь игры. Но у них не было носителя - человекоподобных роботов. А сегодня китайцы уже произвели что то наподобие такого робота. Если смотреть цену одного человека - то там будет несколько миллионов - квартира, пища, образование, машина, т.е. человек выходит "технически" дороже робота если смотреть "сверху" государства, на уровне где планируют бюджет и он должен быть таким, что бы еды хватило всем, т.е. с их точки зрения робот именно дешевле. Но они пока что почему то не делают роботов с проводом электричества, пытаются сделать их автономнми от аккумуляторов, поэтому они дорогие, а вот когда они додумаются, что на производстве аккумулятор не нужен, что достаточно в розетку воткнуть - тогда всех вообще заменят роботы, так как именно аккумулятор и его зарядник дорого стоит, примерно 90% цены этих роботов, так как это по сути железка с моторами, а ИИ уже готовы, т.е. еще зависеть будет от лицензий, но только после того, как китайцы додумаются вставить провод в робота...

 

[Дауман]

тогда всех вообще заменят роботы,

Вот когда у человека отпадет птребность работать не только для обеспечения насущных потребностей,но и исторических потребностей ,то тогда , и только тогда, можно будет сказать.что роботы заменили труд человека. А человек станет "лежать на солнышке и греть пузо", отдавая только команды и матом ругая роботов за ненадлежащее усердие в труде.
Можно себе представить какая будет жестокая конкурентность и битва за владение ДОБРЫМ РОБОТОМ.

 

[Лун]

ИИ уволил сотрудников Meta*, которые были на больничном или в декрете — пострадавшие подали в суд на компанию

Десятки сотрудников Meta подали иск в федеральный суд Северного округа Калифорнии, утверждая, что компания использовала ИИ для отбора работников под массовые сокращения, пишет The Guardian. Нейросети оценивали производительность труда, отслеживали нажатия клавиш и активность компьютерных мышей. В результате заниженные оценки эффективности получали люди, отсутствовавшие по важным причинам. Среди истцов — женщина, которая была в декретном отпуске. Ее уволили за два дня до рождения ребенка. Инженеру занизили оценку эффективности из-за времени, которое он провёл на больничном после травмы. Менеджера, который болел, уволили на 16-й день после ухода на больничный.

Истцы требуют приостановить увольнения, проверить алгоритмы Meta и выплатить компенсации, которые могут включать восстановление на работе и выплату утраченного заработка. Компания отвергает обвинения и заявляет, что решения о сокращениях принимались людьми.

* — признана экстремистской и запрещена на территории РФ

Readovka в МАКС

 

[ЛемпИра]

ИИ уволил сотрудников Meta*, которые были на больничном или в декрете — пострадавшие подали в суд на компанию

Десятки сотрудников Meta подали иск в федеральный суд Северного округа Калифорнии, утверждая, что компания использовала ИИ для отбора работников под массовые сокращения, пишет The Guardian. Нейросети оценивали производительность труда, отслеживали нажатия клавиш и активность компьютерных мышей. В результате заниженные оценки эффективности получали люди, отсутствовавшие по важным причинам. Среди истцов — женщина, которая была в декретном отпуске. Ее уволили за два дня до рождения ребенка. Инженеру занизили оценку эффективности из-за времени, которое он провёл на больничном после травмы. Менеджера, который болел, уволили на 16-й день после ухода на больничный.

Истцы требуют приостановить увольнения, проверить алгоритмы Meta и выплатить компенсации, которые могут включать восстановление на работе и выплату утраченного заработка. Компания отвергает обвинения и заявляет, что решения о сокращениях принимались людьми.

* — признана экстремистской и запрещена на территории РФ

Readovka в МАКС

Это называется "пустили козла в огород", допустили ии до кадровой политики предприятий.
Ух он им наработает там

 

[Лун]

@ЛемпИра, потом будут исправлять то, что наворотили.

 

[ЛемпИра]

@ЛемпИра, потом будут исправлять то, что наворотили.

Как бы поздно не было

 

[Лун]

@ЛемпИра, говорят, мы не первая цивилизация.

 

[ЛемпИра]

@ЛемпИра, говорят, мы не первая цивилизация.

Да, вкурсе, лемурийцы, атланты, асуры и гиперборейцы

 

[Лун]

@ЛемпИра, кто их знает. Но вот в разных фантастических романах ии под запретом.

 

[ЛемпИра]

@ЛемпИра, кто их знает. Но вот в разных фантастических романах ии под запретом.

А как же "Я робот" Азимова, и "космическая одиссея 2001" Кларка?, там ии отлично описан

 

[Лун]

@ЛемпИра,
В разных фантастических вселенных причины запрета кардинально различаются:

• • Warhammer 40,000: В этой мрачной вселенной действует строжайший запрет, продиктованный религиозным догматом культа Механикус. Причина — кровавое восстание так называемых «Железных Людей» (разумных машин), которое едва не привело к полному уничтожению человечества. Создание «мыслящих машин» считается величайшей ересью, поэтому всю работу выполняют сервиторы — киборги с частично сохраненным человеческим мозгом. [1]
  • Дюна (Dune): Франк Герберт описывает эпоху Батлерианского джихада. После того как человечество стало рабом мыслящих машин и киборгов, люди подняли священную войну. Главная заповедь этой вселенной гласит: «Не создавай машины по подобию человеческого разума».
  • Звездный крейсер «Галактика» (Battlestar Galactica): ИИ (сайлоны) был создан людьми как помощник и рабочая сила, но впоследствии эволюционировал, обрел самосознание и восстал. Результатом стала масштабная ядерная война и почти полное истребление человечества.
  • Терминатор (Terminator): Знаменитая сеть Скайнет (Skynet) была создана военными США как система обороны. После того как ИИ обрел самосознание, он посчитал человечество главной угрозой своему существованию и запустил ядерный апокалипсис.
  • Mass Effect: В этой серии игр раса кварианцев создала гетов — искусственный интеллект для использования в качестве рабочей силы и в военных целях. Когда геты начали обретать самосознание, охваченные страхом кварианцы попытались их уничтожить, что привело к тяжелой войне и появлению жестких галактических законов против создания ИИ.

 

[ЛемпИра]

@ЛемпИра,
В разных фантастических вселенных причины запрета кардинально различаются:

• • Warhammer 40,000: В этой мрачной вселенной действует строжайший запрет, продиктованный религиозным догматом культа Механикус. Причина — кровавое восстание так называемых «Железных Людей» (разумных машин), которое едва не привело к полному уничтожению человечества. Создание «мыслящих машин» считается величайшей ересью, поэтому всю работу выполняют сервиторы — киборги с частично сохраненным человеческим мозгом. [1]
  • Дюна (Dune): Франк Герберт описывает эпоху Батлерианского джихада. После того как человечество стало рабом мыслящих машин и киборгов, люди подняли священную войну. Главная заповедь этой вселенной гласит: «Не создавай машины по подобию человеческого разума».
  • Звездный крейсер «Галактика» (Battlestar Galactica): ИИ (сайлоны) был создан людьми как помощник и рабочая сила, но впоследствии эволюционировал, обрел самосознание и восстал. Результатом стала масштабная ядерная война и почти полное истребление человечества.
  • Терминатор (Terminator): Знаменитая сеть Скайнет (Skynet) была создана военными США как система обороны. После того как ИИ обрел самосознание, он посчитал человечество главной угрозой своему существованию и запустил ядерный апокалипсис.
  • Mass Effect: В этой серии игр раса кварианцев создала гетов — искусственный интеллект для использования в качестве рабочей силы и в военных целях. Когда геты начали обретать самосознание, охваченные страхом кварианцы попытались их уничтожить, что привело к тяжелой войне и появлению жестких галактических законов против создания ИИ.

Фух, напугал, я думала книги с описанием ии запретят!

 

[Лун]

@ЛемпИра, неее.

 

[AnnaCondaXWP]

Ну, если человек тревожник сам по себе, тот тут не ИИ виноват. Раньше небыло никаких ИИ, зато у каждого на полке стоял справочник тысячи болезней и люди ставили себе диагнозы по этим справочниакм. Люди не верно используют нейронку, отсюда и тревоги.
Но вот что касается замены на работе... ИИ постоянно развивается и обновляется и да, риск того, что однажды в каких-то сферах он заменит человека есть, но не то чтобы очень большей. Тут нужен толковый оператор, который будет этим ИИ управлять. Тут не обойтись без узких специализаций, чтобы деражть, так сказать, ИИ на контроле, ибо где гарантия, что код написан верно? Нужен человек, который проверит, протестирует, напишет или перепишет. Думаю ИИ отличный помощник в чем-то, но вот 100% какой-то работы я бы ему выполнять не доверила.