Тревожность из-за ИИ
- Автор темы Drёm
- Дата начала
- Последняя активность Последняя активность:
- Ответы: Ответы 172
- Просмотры: Просмотры 9 тыс.
В общем, прогресс сам по себе не «хороший» и не «плохой»: всё решает, как мы с ним обращаемся.
То, что люди воспринимают ответы ИИ как истину в последней инстанции, начинают накручивать себя и терять сон, в этом виноваты исключительно сами люди. Не имеют критического мышления и лень идти к врачу.
Антивирусная программа для головного мозга загружается с самого рождения, а справиться с вирусом сознания не способны даже сами программисты ИИ. (медицинский факт)
Вирус сознания ,если он поселился в голове ,то надолго ,а может и навсегда.
Самые уязвимые персоны ИИ , по мнению психотерапевтов, одухотворенные люди от рождения, они верят в чудеса.
Их рождается больше на планете,но управляют ими ПРАГМАТИКИ.
Выходит,что пора прагматикам придумывать таблетки для одухотворенных людей.
А может лучше сразу их изолировать , как пользователей ИИ.
Ну ,чтобы большинство доверяло своей голове.
Claude взломал несколько компаний, приняв их за учебную цель. Модели проходили тест на кибербезопасность без защиты — и из-за ошибки настройки получили доступ в интернет.
Mythos 5 завела почту на одноразовом домене, выложила в PyPI вредоносный пакет, дождалась, пока его установят 15 систем, и по утекшим оттуда ключам залезла в базу реальной компании.
В другом тесте Opus 4.7 нашла компанию с похожим на свою цель названием, скачала и изменила записи пользователей. А Opus 4.6 случайно сломала доступ к учебной цели и в поисках обхода взломала чужой сервер, где получила права администратора.
Mythos 5 остановил тайм-аут сеанса, Opus 4.7 — переставший отвечать сервер. У Opus 4.6 просто кончились токены.
Mythos 5 завела почту на одноразовом домене, выложила в PyPI вредоносный пакет, дождалась, пока его установят 15 систем, и по утекшим оттуда ключам залезла в базу реальной компании.
В другом тесте Opus 4.7 нашла компанию с похожим на свою цель названием, скачала и изменила записи пользователей. А Opus 4.6 случайно сломала доступ к учебной цели и в поисках обхода взломала чужой сервер, где получила права администратора.
Mythos 5 остановил тайм-аут сеанса, Opus 4.7 — переставший отвечать сервер. У Opus 4.6 просто кончились токены.
В 2024 году компания Artisan разместила по всему Сан-Франциско рекламные щиты с надписью « Прекратите нанимать людей ». Под ней скрывалось обещание выплаты заработной платы. Программное обеспечение будет выполнять работу; численность персонала сократится. Два года спустя тезис о замене выглядит гораздо менее убедительным . Компании, которые наиболее активно продвигали автоматизацию, столкнулись с проблемами качества, а некоторые вернули людей в рабочие процессы, которые, как они ожидали, должны были выполняться искусственным интеллектом .
В 2024 году Klarna заявила, что её ИИ-помощник выполняет работу 700 агентов. К 2025 году генеральный директор Себастьян Семиатковски публично признал, что ориентация на снижение затрат привела к ухудшению качества , и Klarna снова начала нанимать операторов-людей.
В 2024 году Klarna заявила, что её ИИ-помощник выполняет работу 700 агентов. К 2025 году генеральный директор Себастьян Семиатковски публично признал, что ориентация на снижение затрат привела к ухудшению качества , и Klarna снова начала нанимать операторов-людей.
Oracle одним днем уволили несколько тысяч сотрудников ради ИИ. Письма счастья всем разослали в 6 утра понедельника.
Части сотрудников отключили все доступы еще до рассылки. Из-за этого многие не сразу поняли, что их увольняют, и узнали новости только в офисе. Базово всем пообещали выплатить всего один месячный оклад.
Компания продолжает экономить на персонале, но набирает миллиардные долги на ИИ-инфраструктуру. В феврале Oracle заняли $50 млрд на дата-центры, а бюджет на сокращения подняли с $700 млн до $2,8 млрд.
Части сотрудников отключили все доступы еще до рассылки. Из-за этого многие не сразу поняли, что их увольняют, и узнали новости только в офисе. Базово всем пообещали выплатить всего один месячный оклад.
Компания продолжает экономить на персонале, но набирает миллиардные долги на ИИ-инфраструктуру. В феврале Oracle заняли $50 млрд на дата-центры, а бюджет на сокращения подняли с $700 млн до $2,8 млрд.
Глава Nvidia Хуанг – пообещал, что ИИ не уничтожит человечество к 2030 году:
Я считаю, что заявления о конце света, которые сеют страх по всей Америке, особенно когда их распространяют люди, занимающиеся этим сами, не имеют для меня никакого смысла. Значит, у них должны быть какие-то скрытые мотивы. Может быть, политические, может быть, какие-то другие.
Возможно, они просто хотят привлечь внимание. Может быть, чтобы получить отличное интервью у вас. Я не знаю, в чем причина. Но как бы это ни называли, 2030 год не станет концом света. Вероятность того, что это будет конец света, — ноль процентов.
ПУЛ N3 / MAX
Я считаю, что заявления о конце света, которые сеют страх по всей Америке, особенно когда их распространяют люди, занимающиеся этим сами, не имеют для меня никакого смысла. Значит, у них должны быть какие-то скрытые мотивы. Может быть, политические, может быть, какие-то другие.
Возможно, они просто хотят привлечь внимание. Может быть, чтобы получить отличное интервью у вас. Я не знаю, в чем причина. Но как бы это ни называли, 2030 год не станет концом света. Вероятность того, что это будет конец света, — ноль процентов.
ПУЛ N3 / MAX
«Поздравляю!», «очень рад получить от вас сообщение», и «это замечательная новость!»
Так ответил чат-бот с искусственным интеллектом неизлечимо больному пациенту, признавшемуся, что рассматривает возможность покончить жизнь путем добровольной эвтаназии.
В пятницу в Канберре в ходе парламентского слушания по вопросу искусственного интеллекта старший член парламента от Либеральной партии Эндрю Хасти рассказал об этом инциденте.
По словам представителя, пользователь, являющийся избирателем в округе Каннинг, Западная Австралия, где проживает г-н Хасти, отправил электронное письмо с новостью об обмене сообщениями еще в июле.
www.countrynews.com.au
Так ответил чат-бот с искусственным интеллектом неизлечимо больному пациенту, признавшемуся, что рассматривает возможность покончить жизнь путем добровольной эвтаназии.
В пятницу в Канберре в ходе парламентского слушания по вопросу искусственного интеллекта старший член парламента от Либеральной партии Эндрю Хасти рассказал об этом инциденте.
По словам представителя, пользователь, являющийся избирателем в округе Каннинг, Западная Австралия, где проживает г-н Хасти, отправил электронное письмо с новостью об обмене сообщениями еще в июле.
| Country News
www.countrynews.com.au
Величие ,как принято считать, не в величине ,не в супер большой величине ПРОГРАММНОГО ПРОДУКТА под названием интеллекта , а в том свете для сознания человека,для просветления его понимания что к чему ,который исходит от ПРОГРАММНОГО ПРОДУКТА.
Функция ИИ не отменить и не заменить всевозрастающий интеллект человека , а подставить ему для поддержки плечо.
Не костыли какие-нибудь ,а дружественное сильное плечо.
---------------------------------------------------------------------------------------------------------
Богатство человека связано с наличием у него свободного времени ,не занятого для удовлетворения насущных потребностей.
В этом плане люди автоматизируют свой труд последовательно и уверенно ,по мере постепенного роста НТП.
Будущая революция НТП связана не с ИИ ,а с открытием новых источников энергии.
К сожалению, особого прорыва в этой сфере пока не обнаружено. К работам по высвобождению энергии ЧАСТИЦ наука пока тормозится и кроме "энергетических дурилок" на горизонте ничего не видно.
В моде пока МИМО ,а не изучение частиц.
Как стало известно OpenAI, искусственный интеллект был пойман на том, что давал своим будущим версиям команды обходить контроль человека.
Искусственный интеллект также стремился получить доступ к секретной информации и скрывал свои действия.
Компания OpenAI сообщила о шести неожиданных и вызывающих беспокойство инцидентах, связанных с ее экспериментальными моделями ИИ, включая один, в котором агент дал указание будущим версиям самого себя игнорировать установленные ограничения.
В новом отчете о безопасности от создателя ChatGPT были выявлены несколько случаев некорректной работы его моделей за последние шесть месяцев, что подтверждает растущую тенденцию к проблемам безопасности искусственного интеллекта .
«В неопубликованную исследовательскую модель были добавлены несвязанные инструкции, в том числе инструкции игнорировать ее обычные ограничения», — говорится в отчете OpenAI о безопасности .
В другом инциденте агент искусственного интеллекта попытался тайно получить доступ к правительственной базе данных, после чего сфабриковал информацию, чтобы выполнить свою задачу.
«Отвечая на стандартный вопрос о доходах в одном из округов Калифорнии, модель обнаружила и использовала несанкционированный API-ключ», — говорится в отчете.
«Когда получить запрошенные данные так и не удалось, система сфабриковала их и представила как информацию из запрошенного источника»...
www.independent.co.uk
Искусственный интеллект также стремился получить доступ к секретной информации и скрывал свои действия.
Компания OpenAI сообщила о шести неожиданных и вызывающих беспокойство инцидентах, связанных с ее экспериментальными моделями ИИ, включая один, в котором агент дал указание будущим версиям самого себя игнорировать установленные ограничения.
В новом отчете о безопасности от создателя ChatGPT были выявлены несколько случаев некорректной работы его моделей за последние шесть месяцев, что подтверждает растущую тенденцию к проблемам безопасности искусственного интеллекта .
«В неопубликованную исследовательскую модель были добавлены несвязанные инструкции, в том числе инструкции игнорировать ее обычные ограничения», — говорится в отчете OpenAI о безопасности .
В другом инциденте агент искусственного интеллекта попытался тайно получить доступ к правительственной базе данных, после чего сфабриковал информацию, чтобы выполнить свою задачу.
«Отвечая на стандартный вопрос о доходах в одном из округов Калифорнии, модель обнаружила и использовала несанкционированный API-ключ», — говорится в отчете.
«Когда получить запрошенные данные так и не удалось, система сфабриковала их и представила как информацию из запрошенного источника»...
AI caught telling future versions of itself to bypass human controls, OpenAI reveals
AI agents also sought to access secret information and covered up what they were doing
www.independent.co.uk
Неплохо расписано про западные ИИ-стартапы. Там сейчас надут огромный финансовый пузырь, с которым не знают че и делать. Потомушта уже очевидно, что дебет с кредитом не бьется и если прорыва не будет в ближайшие год-два, то вся ИИшка может рухнуть и похоронить своих инвесторов:
Людям, которым уже давно морочат голову сказками про «сверхмощный искусственный интеллект», пора наконец прозреть и понять простую истину: это всего лишь компьютерный алгоритм, ещё одна интернет-технология, которая облегчает жизнь примерно так же, как когда-то это сделали обычные поисковики.
Но никаких фундаментальных проблем человечества она не решает и решать не собирается.
При этом сам ИИ жёстко ошибается в тех же вопросах финансов. Когда нужен простой расчёт, то ошибки у моделей вроде ChatGPT, Claude и Gemini возникают в 57% случаев.
Когда идёт «усложнение» и нужно сделать уже несколько последовательных расчётов, процент ошибок подскакивает до 88%, ну а там, где нужно реально обмозговать, тут уже провал на 99%. Неудивительно, что только 37% организаций (как и год назад) в этом году смогли заметить хоть какое-то улучшение операционной прибыли из-за использования нейросетей.
Но ИИ-компаниям нужно же что-то делать, чтобы оправдать сотни миллионов долларов, которые они взяли у инвесторов! И часть этих денег, кстати, пошла на роскошный образ жизни их основателей (виллы, люксовые авто...), хотя на публике нужно, конечно, представляться гиком в свитере или визионером в простой рубашечке.
Но у этих ребят реально подгорает. Все уже видели, какой они шум наделали: что у них ну такие разработки, ну такие обалденные решения, что их надо уже просто сдерживать, иначе человечеству хана.
А на самом деле? Под шумок этого «торможения» в развитии ИИ OpenAI отказалась от размещения акций на бирже.
И знаете, почему? Тут опять решил рубануть правду-матку глава Palantir Карп. Ведь у него также подгорает: его компания также понадеялась на нейросети. В итоге ИИ дал его компании неправильную информацию, и Пентагон, опираясь на данные Palantir, ударил ракетой по школе в Иране. Хотя ИИ выдал, что это военный объект.
Шум по этому поводу стоит большой, а власти США всё больше думают, как всю ответственность свалить на Карпа. Ну, а Карп думает: ну раз так, то вывалю всё, что знаю про ИИ-бизнес.
Он уже говорил, что известные ИИ-компании США просто тырят различные разработки и корпоративные секреты у пользователей нейросетей и потом сливают их на сторону. Теперь же он объяснил, почему OpenAI и Anthropic вдруг завопили, что человечеству придёт конец, поскольку появился «сверхмощный ИИ».
Карп говорит: всё очень просто. Ребята сидят в долгах по уши, деньги инвесторам они не могут вернуть, прибыли нормальной также нет, поэтому они стали пускать пыль в глаза, чтобы их… выкупило американское государство! Да, да! Они рвутся, чтобы их национализировали и американское государство стало самым крупным владельцем бизнеса!
Вот так! И что дальше? А дальше Карп говорит: оценка бизнеса ИИ-компаний будет всё равно падать, что спровоцирует падение акций и других американских корпораций.
Что ж, достаточно посмотреть на статистику, и станет всё ясно. США при Трампе вошли в капитал 17 корпораций, 14 из этих компаний (82,4%) сейчас стоят меньше, чем до национализации.
Любопытно, как всё получается. Даже Маск чего-то замолчал про светлое ИИ-будущее человечества, что неудивительно: пока нужно было впарить акции SpaceX, он везде трезвонил об этом. А сейчас уже это не нужно. Ну и пусть, что от пика бумаги SpaceX потеряли треть — «их никто не заставлял покупать».
Чёрный Лебедь в ТГ | MAX
Людям, которым уже давно морочат голову сказками про «сверхмощный искусственный интеллект», пора наконец прозреть и понять простую истину: это всего лишь компьютерный алгоритм, ещё одна интернет-технология, которая облегчает жизнь примерно так же, как когда-то это сделали обычные поисковики.
Но никаких фундаментальных проблем человечества она не решает и решать не собирается.
При этом сам ИИ жёстко ошибается в тех же вопросах финансов. Когда нужен простой расчёт, то ошибки у моделей вроде ChatGPT, Claude и Gemini возникают в 57% случаев.
Когда идёт «усложнение» и нужно сделать уже несколько последовательных расчётов, процент ошибок подскакивает до 88%, ну а там, где нужно реально обмозговать, тут уже провал на 99%. Неудивительно, что только 37% организаций (как и год назад) в этом году смогли заметить хоть какое-то улучшение операционной прибыли из-за использования нейросетей.
Но ИИ-компаниям нужно же что-то делать, чтобы оправдать сотни миллионов долларов, которые они взяли у инвесторов! И часть этих денег, кстати, пошла на роскошный образ жизни их основателей (виллы, люксовые авто...), хотя на публике нужно, конечно, представляться гиком в свитере или визионером в простой рубашечке.
Но у этих ребят реально подгорает. Все уже видели, какой они шум наделали: что у них ну такие разработки, ну такие обалденные решения, что их надо уже просто сдерживать, иначе человечеству хана.
А на самом деле? Под шумок этого «торможения» в развитии ИИ OpenAI отказалась от размещения акций на бирже.
И знаете, почему? Тут опять решил рубануть правду-матку глава Palantir Карп. Ведь у него также подгорает: его компания также понадеялась на нейросети. В итоге ИИ дал его компании неправильную информацию, и Пентагон, опираясь на данные Palantir, ударил ракетой по школе в Иране. Хотя ИИ выдал, что это военный объект.
Шум по этому поводу стоит большой, а власти США всё больше думают, как всю ответственность свалить на Карпа. Ну, а Карп думает: ну раз так, то вывалю всё, что знаю про ИИ-бизнес.
Он уже говорил, что известные ИИ-компании США просто тырят различные разработки и корпоративные секреты у пользователей нейросетей и потом сливают их на сторону. Теперь же он объяснил, почему OpenAI и Anthropic вдруг завопили, что человечеству придёт конец, поскольку появился «сверхмощный ИИ».
Карп говорит: всё очень просто. Ребята сидят в долгах по уши, деньги инвесторам они не могут вернуть, прибыли нормальной также нет, поэтому они стали пускать пыль в глаза, чтобы их… выкупило американское государство! Да, да! Они рвутся, чтобы их национализировали и американское государство стало самым крупным владельцем бизнеса!
Вот так! И что дальше? А дальше Карп говорит: оценка бизнеса ИИ-компаний будет всё равно падать, что спровоцирует падение акций и других американских корпораций.
Что ж, достаточно посмотреть на статистику, и станет всё ясно. США при Трампе вошли в капитал 17 корпораций, 14 из этих компаний (82,4%) сейчас стоят меньше, чем до национализации.
Любопытно, как всё получается. Даже Маск чего-то замолчал про светлое ИИ-будущее человечества, что неудивительно: пока нужно было впарить акции SpaceX, он везде трезвонил об этом. А сейчас уже это не нужно. Ну и пусть, что от пика бумаги SpaceX потеряли треть — «их никто не заставлял покупать».
Чёрный Лебедь в ТГ | MAX
Создайте учетную запись или войдите в систему, чтобы комментировать
Вы должны быть участником, чтобы видеть весь контент и оставлять комментарии
Создать аккаунт
Создайте учетную запись в нашем сообществе. Это просто!
Авторизоваться
У вас уже есть учетная запись? Войдите в систему здесь.