Тревожность из-за ИИ

[Лун]

Anthropic нашли «мозг» Claude: новое исследование показало, что внутри моделей появился скрытый слой осознанных мыслей. Да, почти как у людей.

Это пространство под рассуждения появилось у моделей само еще во время обучения — его никто не проектировал. Через него ИИ осмысленно реагирует на задачи.

Если этот слой отключить, модель продолжит выдавать связные предложения, но без логики. Примерно так же у людей работают осознанные и автоматические процессы.

За счет этого слоя во время тестов безопасности Sonnet 4.5 научилась понимать, что ее проверяют, и подыгрывала разрабам. А без надзора может расслабиться.

 

[Лун]

 

[Дауман]

Anthropic нашли «мозг» Claude: новое исследование показало, что внутри моделей появился скрытый слой осознанных мыслей. Да, почти как у людей.

Это пространство под рассуждения появилось у моделей само еще во время обучения — его никто не проектировал. Через него ИИ осмысленно реагирует на задачи.

Если этот слой отключить, модель продолжит выдавать связные предложения, но без логики. Примерно так же у людей работают осознанные и автоматические процессы.

За счет этого слоя во время тестов безопасности Sonnet 4.5 научилась понимать, что ее проверяют, и подыгрывала разрабам. А без надзора может расслабиться.

Попытка моделировать работу ГОЛОВНОГО МОЗГА человека - явление нормальное. Но , называя результат как достижение ИИ , который никак не совпадает по результату с достигнутым уровнем интеллекта даже малограмотного чела- ну полная фигня.
Подменяя сознание человека ,представленного как совокупности знаний, и не зная содержания информации в ПОДСОЗНАНИИ головного мозга человека , получить НОВЫЕ ЗНАНИЯ ,точные и проверяемые ,достойные для выработки решения относительно будущего образа действия в свою пользу согласно ПРОГРАММЫ ТВОРИТЕЛЯ-получается какая то фигня.
Продукт ИИ -товар для лично пользования. Только и всего. Роботы -это другое.

 

[Iosik]

Аи в играх уже давно может выполнять всё - а это всего лишь игры. Но у них не было носителя - человекоподобных роботов. А сегодня китайцы уже произвели что то наподобие такого робота. Если смотреть цену одного человека - то там будет несколько миллионов - квартира, пища, образование, машина, т.е. человек выходит "технически" дороже робота если смотреть "сверху" государства, на уровне где планируют бюджет и он должен быть таким, что бы еды хватило всем, т.е. с их точки зрения робот именно дешевле. Но они пока что почему то не делают роботов с проводом электричества, пытаются сделать их автономнми от аккумуляторов, поэтому они дорогие, а вот когда они додумаются, что на производстве аккумулятор не нужен, что достаточно в розетку воткнуть - тогда всех вообще заменят роботы, так как именно аккумулятор и его зарядник дорого стоит, примерно 90% цены этих роботов, так как это по сути железка с моторами, а ИИ уже готовы, т.е. еще зависеть будет от лицензий, но только после того, как китайцы додумаются вставить провод в робота...

 

[Дауман]

тогда всех вообще заменят роботы,

Вот когда у человека отпадет птребность работать не только для обеспечения насущных потребностей,но и исторических потребностей ,то тогда , и только тогда, можно будет сказать.что роботы заменили труд человека. А человек станет "лежать на солнышке и греть пузо", отдавая только команды и матом ругая роботов за ненадлежащее усердие в труде.
Можно себе представить какая будет жестокая конкурентность и битва за владение ДОБРЫМ РОБОТОМ.