Тревожность из-за ИИ

[Лун]

@Лия, хорошее дело. В городах душно.... и не в смысле нехватки воздуха.

 

[Рейзен]

Тревожку из-за ИИшек всё чаще ловят россияне — люди сами ставят себе диагнозы через нейросети и доводят себя до срывов.

Психологи фиксируют рост таких обращений: пациенты приходят уже "уверенными", что у них серьёзные болезни. Накручивают себя после ответов алгоритмов, плохо спят, живут в постоянном страхе за здоровье. В тяжёлых случаях доходит до состояний, где уже нужна помощь врачей.

Есть и другая паника — про работу. Люди боятся, что их заменят алгоритмы, переживают за зарплаты, кредиты и будущее. Чаще всего — айтишники и юристы.

Врачи же настаивают: проблема не в технологиях, а в том, как их используют. Нейросеть — не медик и диагнозы не ставит, да и диплома у неё нет, но пользователи об этом регулярно забывают.

А как вы относитесь к стремительному развития нейронного прогресса?

В общем, прогресс сам по себе не «хороший» и не «плохой»: всё решает, как мы с ним обращаемся.
То, что люди воспринимают ответы ИИ как истину в последней инстанции, начинают накручивать себя и терять сон, в этом виноваты исключительно сами люди. Не имеют критического мышления и лень идти к врачу.

 

[Дауман]

В общем, прогресс сам по себе не «хороший» и не «плохой»: всё решает, как мы с ним обращаемся.
То, что люди воспринимают ответы ИИ как истину в последней инстанции, начинают накручивать себя и терять сон, в этом виноваты исключительно сами люди. Не имеют критического мышления и лень идти к врачу.

Антивирусная программа для головного мозга загружается с самого рождения, а справиться с вирусом сознания не способны даже сами программисты ИИ. (медицинский факт)
Вирус сознания ,если он поселился в голове ,то надолго ,а может и навсегда.
Самые уязвимые персоны ИИ , по мнению психотерапевтов, одухотворенные люди от рождения, они верят в чудеса.
Их рождается больше на планете,но управляют ими ПРАГМАТИКИ.
Выходит,что пора прагматикам придумывать таблетки для одухотворенных людей.
А может лучше сразу их изолировать , как пользователей ИИ.
Ну ,чтобы большинство доверяло своей голове.

 

[Лун]

Claude взломал несколько компаний, приняв их за учебную цель. Модели проходили тест на кибербезопасность без защиты — и из-за ошибки настройки получили доступ в интернет.

Mythos 5 завела почту на одноразовом домене, выложила в PyPI вредоносный пакет, дождалась, пока его установят 15 систем, и по утекшим оттуда ключам залезла в базу реальной компании.

В другом тесте Opus 4.7 нашла компанию с похожим на свою цель названием, скачала и изменила записи пользователей. А Opus 4.6 случайно сломала доступ к учебной цели и в поисках обхода взломала чужой сервер, где получила права администратора.

Mythos 5 остановил тайм-аут сеанса, Opus 4.7 — переставший отвечать сервер. У Opus 4.6 просто кончились токены.

 

[Лун]

Из Anthropic уволился второй специалист по безопасности за 2 дня с предупреждением, что ИИ уничтожит человечество.

 

[Лун]

В 2024 году компания Artisan разместила по всему Сан-Франциско рекламные щиты с надписью « Прекратите нанимать людей ». Под ней скрывалось обещание выплаты заработной платы. Программное обеспечение будет выполнять работу; численность персонала сократится. Два года спустя тезис о замене выглядит гораздо менее убедительным . Компании, которые наиболее активно продвигали автоматизацию, столкнулись с проблемами качества, а некоторые вернули людей в рабочие процессы, которые, как они ожидали, должны были выполняться искусственным интеллектом .

В 2024 году Klarna заявила, что её ИИ-помощник выполняет работу 700 агентов. К 2025 году генеральный директор Себастьян Семиатковски публично признал, что ориентация на снижение затрат привела к ухудшению качества , и Klarna снова начала нанимать операторов-людей.

https://builtin.com/articles/ai-expertise-verification-crisis

 

[Лун]

Страны могли бы договориться об общих принципах регулирования ИИ для его контроля, но этого не выйдет из-за жадности корпораций, считает Медведев.

Поэтому остаётся одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI.

У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей.

 

[Лун]

Oracle одним днем уволили несколько тысяч сотрудников ради ИИ. Письма счастья всем разослали в 6 утра понедельника.

Части сотрудников отключили все доступы еще до рассылки. Из-за этого многие не сразу поняли, что их увольняют, и узнали новости только в офисе. Базово всем пообещали выплатить всего один месячный оклад.

Компания продолжает экономить на персонале, но набирает миллиардные долги на ИИ-инфраструктуру. В феврале Oracle заняли $50 млрд на дата-центры, а бюджет на сокращения подняли с $700 млн до $2,8 млрд.

 

[Лун]

Глава Nvidia Хуанг – пообещал, что ИИ не уничтожит человечество к 2030 году:

Я считаю, что заявления о конце света, которые сеют страх по всей Америке, особенно когда их распространяют люди, занимающиеся этим сами, не имеют для меня никакого смысла. Значит, у них должны быть какие-то скрытые мотивы. Может быть, политические, может быть, какие-то другие.

Возможно, они просто хотят привлечь внимание. Может быть, чтобы получить отличное интервью у вас. Я не знаю, в чем причина. Но как бы это ни называли, 2030 год не станет концом света. Вероятность того, что это будет конец света, — ноль процентов.

ПУЛ N3 / MAX

 

[Лун]

«Поздравляю!», «очень рад получить от вас сообщение», и «это замечательная новость!»

Так ответил чат-бот с искусственным интеллектом неизлечимо больному пациенту, признавшемуся, что рассматривает возможность покончить жизнь путем добровольной эвтаназии.

В пятницу в Канберре в ходе парламентского слушания по вопросу искусственного интеллекта старший член парламента от Либеральной партии Эндрю Хасти рассказал об этом инциденте.

По словам представителя, пользователь, являющийся избирателем в округе Каннинг, Западная Австралия, где проживает г-н Хасти, отправил электронное письмо с новостью об обмене сообщениями еще в июле.

| Country News

www.countrynews.com.au

 

[Дауман]

каким будет великий суперинтеллект,

Величие ,как принято считать, не в величине ,не в супер большой величине ПРОГРАММНОГО ПРОДУКТА под названием интеллекта , а в том свете для сознания человека,для просветления его понимания что к чему ,который исходит от ПРОГРАММНОГО ПРОДУКТА.
Функция ИИ не отменить и не заменить всевозрастающий интеллект человека , а подставить ему для поддержки плечо.
Не костыли какие-нибудь ,а дружественное сильное плечо.
---------------------------------------------------------------------------------------------------------
Богатство человека связано с наличием у него свободного времени ,не занятого для удовлетворения насущных потребностей.
В этом плане люди автоматизируют свой труд последовательно и уверенно ,по мере постепенного роста НТП.
Будущая революция НТП связана не с ИИ ,а с открытием новых источников энергии.
К сожалению, особого прорыва в этой сфере пока не обнаружено. К работам по высвобождению энергии ЧАСТИЦ наука пока тормозится и кроме "энергетических дурилок" на горизонте ничего не видно.
В моде пока МИМО ,а не изучение частиц.

 

[Лун]

Как стало известно OpenAI, искусственный интеллект был пойман на том, что давал своим будущим версиям команды обходить контроль человека.
Искусственный интеллект также стремился получить доступ к секретной информации и скрывал свои действия.

Компания OpenAI сообщила о шести неожиданных и вызывающих беспокойство инцидентах, связанных с ее экспериментальными моделями ИИ, включая один, в котором агент дал указание будущим версиям самого себя игнорировать установленные ограничения.

В новом отчете о безопасности от создателя ChatGPT были выявлены несколько случаев некорректной работы его моделей за последние шесть месяцев, что подтверждает растущую тенденцию к проблемам безопасности искусственного интеллекта .

«В неопубликованную исследовательскую модель были добавлены несвязанные инструкции, в том числе инструкции игнорировать ее обычные ограничения», — говорится в отчете OpenAI о безопасности .

В другом инциденте агент искусственного интеллекта попытался тайно получить доступ к правительственной базе данных, после чего сфабриковал информацию, чтобы выполнить свою задачу.

«Отвечая на стандартный вопрос о доходах в одном из округов Калифорнии, модель обнаружила и использовала несанкционированный API-ключ», — говорится в отчете.

«Когда получить запрошенные данные так и не удалось, система сфабриковала их и представила как информацию из запрошенного источника»...

AI caught telling future versions of itself to bypass human controls, OpenAI reveals

AI agents also sought to access secret information and covered up what they were doing

www.independent.co.uk