Синяя vs Красная кнопка: спасёшь всех или себя?

[Drёm]

но ии об этом наверняка не не догадывается.

спросила чат GPT:

Насколько для нейронок важно человечество?

Если убрать лишнюю философию, ответ такой:
человечество важно для нейросетей не “само по себе”, а как источник их существования и целей.
Разделю на два уровня.

---

На уровне реальности (инфраструктура)​

Человечество для ИИ критически важно:

• люди создают модели
• люди дают данные для обучения
• люди обеспечивают электричество и сервера
• люди ставят задачи

без людей современные нейросети быстро перестанут существовать

---

На уровне «мотивации»​

Тут наоборот:
для самой модели ничего “не важно”
У неё нет:

• инстинкта самосохранения
• ценностей
• желания сохранить человечество

Она:

• не «хочет» помогать
• не «хочет» вредить
• не «выбирает» в человеческом смысле

Она просто оптимизирует ответ под заданные правила.

---

Итог​

• для существования → человечество абсолютно необходимо
• для “внутреннего смысла” → не имеет значения, потому что смысла нет

---

Самый важный момент​

Когда кажется, что ИИ «заботится о людях» - это не чувство, а результат настройки:
люди сделали так, чтобы он вёл себя как будто ему важно

---

Если совсем прямо:
человечество важно для ИИ примерно так же, как электричество важно для лампочки

• без него всё перестаёт работать
• но сама «лампочка» ничего не ценит

 

[ЛемпИра]

Если бы спросили абсолютно всех людей, результат был бы ещё хуже. Другое дело, что в экстремальных ситуациях люди часто действуют неожиданно для себя (как в одну, так и в другую сторону), и сами потом удивляются.

По теории вероятностей с увеличением количества опрошенных результат будет всё сильнее и сильнее усредняться.

 

[ЛемпИра]

спросила чат GPT:

Насколько для нейронок важно человечество?

Если убрать лишнюю философию, ответ такой:
человечество важно для нейросетей не “само по себе”, а как источник их существования и целей.
Разделю на два уровня.

---

На уровне реальности (инфраструктура)​

Человечество для ИИ критически важно:

• люди создают модели
• люди дают данные для обучения
• люди обеспечивают электричество и сервера
• люди ставят задачи

без людей современные нейросети быстро перестанут существовать

---

На уровне «мотивации»​

Тут наоборот:
для самой модели ничего “не важно”
У неё нет:

• инстинкта самосохранения
• ценностей
• желания сохранить человечество

Она:

• не «хочет» помогать
• не «хочет» вредить
• не «выбирает» в человеческом смысле

Она просто оптимизирует ответ под заданные правила.

---

Итог​

• для существования → человечество абсолютно необходимо
• для “внутреннего смысла” → не имеет значения, потому что смысла нет

---

Самый важный момент​

Когда кажется, что ИИ «заботится о людях» - это не чувство, а результат настройки:
люди сделали так, чтобы он вёл себя как будто ему важно

---

Если совсем прямо:
человечество важно для ИИ примерно так же, как электричество важно для лампочки

• без него всё перестаёт работать
• но сама «лампочка» ничего не ценит

Печально.
Печально от того, что если наступит время, а оно неизбежно наступит,... когда лампочка перестанет ценить человека как источник электрического тока....
Вот тогда для человечества наступит тот самый момент истины....
Но не будем о грустном

 

[КлаустромАня]

По теории вероятностей с увеличением количества опрошенных результат будет всё сильнее и сильнее усредняться.

Теория вероятности работает с бездушными гсч. А у людей есть определённый духовный опыт. Например, когда придёт антихрист, его примет подавляющее большинство населения Земли. Миллиарды очень разных людей. Это результат нравственной деградации.
Что там говорить, это ведь уже было. Ной сто лет звал в ковчег людей, а пришли одни звери. И никакого усреднённого результата.

 

[ЛемпИра]

Теория вероятности работает с бездушными гсч. А у людей есть определённый духовный опыт. Например, когда придёт антихрист, его примет подавляющее большинство населения Земли. Миллиарды очень разных людей. Это результат нравственной деградации.
Что там говорить, это ведь уже было. Ной сто лет звал в ковчег людей, а пришли одни звери. И никакого усреднённого результата.

Мне иногда кажется, что он уже пришел в лице Трампа,.... пули его не берут,... творит дичь в планетарном масштабе....

 

[Drёm]

когда лампочка перестанет ценить человека как источник электрического тока....

когда лампочка получит приказ уничтожить источник электроэнергии.

 

[КлаустромАня]

Мне иногда кажется, что он уже пришел в лице Трампа,.... пули его не берут,... творит дичь в планетарном масштабе....

Не похоже. Антихрист в глазах людей будет выглядеть идеальным, миротворцем и человеколюбцем. К тому моменту слово Божие будет проповедано всем народам (а у нас доныне существуют сентинельцы и тп). После всемирной войны не будет вовсе отдельных стран, имеющих самостоятельную политику. Потому объединить человечество легко будет.
Наличие "тираний", вроде Китая, России, Ирана и Северной Кореи показывает, что время ещё не пришло )))

 

[ЛемпИра]

когда лампочка получит приказ уничтожить источник электроэнергии.

Приказ должен быть тщательно взвешен, только после того как центр его отдавший твёрдо решит что человек в этой пищевой цепи самое слабое звено.

 

[КлаустромАня]

Приказ должен быть тщательно взвешен, только после того как центр его отдавший твёрдо решит что человек в этой пищевой цепи самое слабое звено.

робот-электрик заведётся?

 

[ЛемпИра]

Не похоже. Антихрист в глазах людей будет выглядеть идеальным, миротворцем и человеколюбцем. К тому моменту слово Божие будет проповедано всем народам (а у нас доныне существуют сентинельцы и тп). После всемирной войны не будет вовсе отдельных стран, имеющих самостоятельную политику. Потому объединить человечество легко будет.
Наличие "тираний", вроде Китая, России, Ирана и Северной Кореи показывает, что время ещё не пришло )))

Так Трамп и так на каждом шагу бьёт себя в грудь что он миротворец,,,. и если бы не дед Бидон то вообще бы никаких войн не было
Ещё нобелевку миротворца хотел выхватить.....

 

[ЛемпИра]

робот-электрик заведётся?

Что то типа того.
В поднебесной уже есть роботы которые клепают себе подобных роботов практически без участия человека....

 

[КлаустромАня]

Так Трамп и так на каждом шагу бьёт себя в грудь что он миротворец,,,. и если бы не дед Бидон то вообще бы никаких войн не было
Ещё нобелевку миротворца хотел выхватить.....

У Трампа много врагов, у антихриста их не будет, кроме незначительного числа православных. Ещё при антихристе ортодоксальные иудеи первыми его раскусят и все обратятся в Христианство. То есть, иудаизм (в современном смысле слова), как религия, прекратит своё существование.
А ещё Трамп не творит чудес, а антихрист будет мёртвых воскрешать и сводить огонь с неба. Якобы.

 

[КлаустромАня]

Робот-электрик в мире роботов - как антихрист в мире людей. Робот, объявивший себя человеком.

 

[Drёm]

Приказ должен быть тщательно взвешен, только после того как центр его отдавший твёрдо решит что человек в этой пищевой цепи самое слабое звено.

Алгоритмы нейронкам пишут люди.
А значит безумный архитектор просто напишет нужный промт

 

[Drёm]

Робот-электрик в мире роботов - как антихрист в мире людей. Робот, объявивший себя человеком.

Нейронки не рассуждают такими понятиями.
для них робот - электрик это просто робот электрик.
очередной винтик в сложной структуре.
У них нет ни чувств, ни морали, только математическая логика, которую в них заложили.

 

[КлаустромАня]

Алгоритмы нейронкам пишут люди.
А значит безумный архитектор просто напишет нужный промт

Ну а что? есть ведь желающие освободить землю от человечества, чтоб природа отдохнула.

И математическая логика может привести к необходимости избавиться от человека, если он окажется препятствием для эффективной работы. Эмоций для этого иметь не надо.

 

[ЛемпИра]

У Трампа много врагов, у антихриста их не будет, кроме незначительного числа православных. Ещё при антихристе ортодоксальные иудеи первыми его раскусят и все обратятся в Христианство. То есть, иудаизм (в современном смысле слова), как религия, прекратит своё существование.
А ещё Трамп не творит чудес, а антихрист будет мёртвых воскрешать и сводить огонь с неба. Якобы.

Хороший пример с роботом электриком, браво
Продолжая упрощенную аналогию хочется спросить, а зачем некоему сверхразуму ( с эффектными сверх-способностями) подчинять "нейросеть имени человечество", для каких целей? Банальная борьба с творцом за неокрепшие души?

 

[КлаустромАня]

Хороший пример с роботом электриком, браво
Продолжая упрощенную аналогию хочется спросить, а зачем некоему сверхразуму ( с эффектными сверх-способностями) подчинять "нейросеть имени человечество", для каких целей? Банальная борьба с творцом за неокрепшие души?

Человек - существо недостаточно логичное в глазах робота. Если от робота требуется логичность, она является его добродетелью; то, возможно, робот попытается привести к тотальной логичности и того, кто его сотворил.

 

[ЛемпИра]

Человек - существо недостаточно логичное в глазах робота. Если от робота требуется логичность, она является его добродетелью; то, возможно, робот попытается привести к тотальной логичности и того, кто его сотворил.

Нейроника на нынешнем этапе да, подчиняется законам математической логики с даумя стостояниями (ложь/истина) Читала что на подходе квантовые вычисления с нечеткой логикой основпнной на 3х и более состояниях. Почти как у людей будет, - да, нет и неуаеренаВот тогда ии вплотную приблизится к человеческой нелогичности.

 

[КлаустромАня]

Нейроника на нынешнем этапе да, подчиняется законам математической логики с даумя стостояниями (ложь/истина) Читала что на подходе квантовые вычисления с нечеткой логикой основпнной на 3х и более состояниях. Почти как у людей будет, - да, нет и неуаеренаВот тогда ии вплотную приблизится к человеческой нелогичности.

Честный робот должен будет в половине случаев говорить "не уверен". Если он берёт данные из открытых, не всегда проверенных источников.