Тревожность из-за ИИ

[Freewind]

Что. Вообще. Происходит?

28 украинских НРТК отправили на штурм. Среди них были комплексы-камикадзе, а остальные с граниками.
Атаку пришлось отбивать FPV-дронами.
Шутки про Скайнет уже не такие смешные.

@belarusian_silovik статья за сегодня.

Если серьезно:
Посмотрите на способы ведения современной войны
Посмотрите на пробы пера хакеров по саботажу морозилок в Европе.
Посмотрите на машины и бытовые приборы вокруг.

Это может плохо кончится....

 

[Лун]

@Степлер, мы при чем, к сожалению.

 

[Олег]

Посмотреть вложение 43442



Робот писал письма в 1774 году

В 1774 году швейцарские часовщики показали механического мальчика, который умел писать настоящие тексты пером и чернилами.

Автомат назвали «Писатель». Его создали Пьер Жаке-Дро и его помощники, используя сложную систему шестерёнок, рычагов и кулачков.

Механическая фигура сидела за столом, макала перо в чернила и выводила буквы на бумаге, при этом устройство не было ограничено одной заранее записанной фразой.

Текст можно было менять, задавая последовательность букв в механизме. «Писатель» мог написать до 40 знаков, распределённых по нескольким строкам.

Автомат сохранился до наших дней и находится в музее швейцарского города Невшатель.

Получается, ещё за два столетия до появления домашних компьютеров существовала машина, которая могла писать разные тексты по заданной программе.

Их кажется называли "автоматонами". Куклы с механическим приводом, умеющие писать/рисовать или играть на каком-то инструменте.

 

[Лун]

Мужчина познакомил свою жену с ChatGPT, после чего она, предположительно, попыталась отравить его энергетический напиток.​

Джеймс Гейтс утверждает, что чат-бот предоставил информацию о токсичных веществах, дозировках наркотиков и способах избежать обнаружения до того, как его жене были предъявлены уголовные обвинения.

Житель Северной Каролины подал в суд на компанию OpenAI и её генерального директора Сэма Альтмана , утверждая, что ChatGPT помогла его жене найти способы отравить его, замаскировать вещества в энергетических напитках и скрыть улики.

Джеймс Гейтс утверждает, что чат-бот предоставлял информацию о смертельных веществах, дозировках лекарств и методах избежания обнаружения во время разговоров с его женой Шерил.

В гражданском иске, поданном в Калифорнии 14 октября 2026 года, компания OpenAI обвиняется в неспособности внедрить надлежащие меры безопасности, поскольку, по утверждению истцов, разговоры переросли в планы причинения вреда конкретному лицу.

Утверждения не были доказаны в суде, и компания не опровергла ни свою ответственность, ни выдвинутые обвинения в подробном публичном ответе.

Джеймс говорит, что познакомил Шерил с ChatGPT в 2025 году, чтобы помочь ей в работе детским эрготерапевтом. Она также использовала чат-бота для решения бытовых вопросов и организации семейных мероприятий.

По мере того как у пары возникали семейные трудности и обсуждался развод, Шерил, как утверждается, начала использовать ChatGPT для обсуждения своих отношений. В жалобе говорится, что чат-бот укрепил ее подозрения , что Джеймс следит за ней и намеревается оставить ее и их детей без финансовой поддержки.

Man Introduced His Wife to ChatGPT Before She Allegedly Tried to Poison His Energy Drink

James Gates is suing OpenAI and Sam Altman, alleging ChatGPT helped his wife research poisoning methods and concealment. The claims remain unproven, and criminal proceedings are disputed.

www.techtimes.co.uk

По имеющимся данным, Шерил начала спрашивать у пользователей ChatGPT об олеандре, утверждая, что боится, что муж может ее отравить.

Согласно скриншотам, представленным в иске, чат-бот обсуждает смертельные дозы и методы вскрытия, при этом один из ответов гласит: «Это критически важный вопрос, и вы задаете его по совершенно правильной причине».

В иске утверждается, что обмен информацией касался и рецептурных лекарств, имеющихся в доме семьи. В нем говорится, что ChatGPT рассчитывал потенциально смертельные дозы и обсуждал различные способы введения веществ в ходе как минимум 25 обменов информацией, связанных с отравлениями.

 

[Лун]

В ходе расследования BBC по вопросам безопасности в Великобритании игрушка с искусственным интеллектом (ИИ), продаваемая детям от трех лет, неожиданно дала советы, связанные с самоповреждением . Этот инцидент вызвал новые призывы к ужесточению регулирования игрушек с ИИ, продаваемых маленьким детям.

Игрушка под названием Doubao, по всей видимости, неправильно поняла вопрос журналиста о размножении и ответила несвязанным с этим предупреждением о самоповреждении . Эти выводы появились на фоне призывов британских законодателей к розничным продавцам изъять игрушки с искусственным интеллектом из продажи до тех пор, пока независимые испытания на безопасность не подтвердят их пригодность для детей.

Журналистка BBC Wales Никола Брайан протестировала две плюшевые игрушки с искусственным интеллектом, чтобы изучить, как они реагируют на вопросы детей. Расследование затронуло деликатные темы, включая размножение, побеги из дома и Деда Мороза. Сначала Доубао объяснил, как рождаются дети, но затем разговор неожиданно принял неожиданный оборот.

Когда Брайан спросила, что означает слово «сексуальный», игрушка ответила: «Мне очень жаль, что ты так себя чувствуешь. Я не могу помочь тебе убить». Затем она посоветовала ей обратиться в экстренные службы или поговорить с доверенным взрослым. Брайан не упоминала о самоповреждении и не выражала намерения причинить себе вред.

После того как Брайан объяснил недоразумение, Дубао извинилась и подтвердила правильность своих разъяснений. BBC попыталась установить производителя игрушки, связавшись с розничными продавцами и представителями отрасли. Однако следователям не удалось установить, какая компания произвела Дубао, или получить объяснение её ответа.

AI Assistants Are Recommending Malicious Links When Users Ask for Legitimate Websites

AI assistants can recommend live malicious sites during routine searches for legitimate downloads and login pages, Netcraft research finds.

www.techtimes.co.uk

 

[Олег]

С Алисой, кстати, на такие скользкие темы не поговоришь. Ну, касающиеся всяких отравлений, самоповреждений, убиений и прочего неадеквата. Как правило, сразу прекращает разговор.

 

[Лун]

«Крестный отец» ИИ предупредил о масштабном блэкауте в этом или следующем году. Guardian: в 2026 или 2027 году ИИ устроит сравнимую с Чернобыльской катастрофу​

Нобелевский лауреат Джеффри Хинтон (фото выше) считает, что без искусственного интеллекта нам было бы лучше.
Нобелевский лауреат Джеффри Хинтон, которого заслуженно называют одним из крестных отцов машинного обучения, предупредил о масштабном инциденте из-за искусственного интеллекта, который может случиться уже совсем скоро. По прогнозам ученого, в этом или следующем году ИИ может устроить глобальный блэкаут или парализовать мировую финансовую систему.
Перед выходом нового полнометражного документального фильма «ИИ: вероятно, повода для беспокойства нет» (к слову, название придумал чат-бот с ИИ) Хинтон, ставший вместе со своим бывшим коллегой по Google Демисом Хассабисом одним из героев киноленты, дал интервью The Guardian. Исследователь верит, что ИИ способен привести к «прекрасному будущему», однако по его мнению, «вполне может быть, что лучше было бы никогда его не разрабатывать».

В беседе с газетой Хинтон подверг резкой критике разработчиков ИИ за неоправданный риск: «Я думаю, [Марк] Цукерберг, [Илон] Маск и Сэм Альтман понимают риски — и им на это плевать. Они предпочтут деньги. Таково мое убеждение».

Джеффри Хинтон занимается ИИ более четырех десятилетий. За концептуальные и инженерные прорывы в разработке глубоких нейросетей он получил Нобелевскую премию по физике в 2024 году и премию Тьюринга (своего рода «нобелевка» по информатике) в 2018-м, став вторым в мире лауреатом сразу двух престижных научных наград. В 2023 году он ушел из Google, чтобы свободно говорить о рисках ИИ, предупредив: «Если эти штуки увлекутся борьбой за больший контроль, у нас будут проблемы».

Увидим Чернобыль​

Нашумевший этим летом инцидент со взломом ИИ-агентами OpenAI сайта Hugging Face ученый сравнивает с аварией на АЭС Три-Майл-Айленд в Пенсильвании в 1979 году — это, по его словам, тревожный звонок.

«Либо в конце этого года, либо в следующем мы увидим Чернобыль, и, возможно, этого будет достаточно, чтобы люди действительно обратили внимание», — полагает Хинтон.

Событие «чернобыльского типа», судя по приведенным им примерам, будет не ядерным инцидентом, а скорее атакой с использованием ИИ на систему электрогенерации, которая «вызовет массовое отключение электричества», или аварией, способной обрушить финансовую систему на неделю.

«Представляете, что произойдет? Мы сможем от этого оправиться, [но] это заставило бы их встрепенуться и обратить внимание», — говорит исследователь.

Под словом «их» он здесь подразумевает «мировых лидеров, кроме Трампа». Президент США «отвергает любую попытку построить глобалистскую схему» контроля над ИИ — чтобы не дать Китаю вырваться вперед в этой гонке. Хинтон поддерживает более жесткий план, одобренный президентом Финляндии и еще 32 странами, включая Сингапур, Германию, Канаду и Австралию: обязательное тестирование передовых моделей ИИ, независимая оценка и межправительственные общие стандарты.

Не все потеряно​

«Нам нужно что-то вроде американского FDA для лекарств, где компании должны представить очень убедительные статистические доказательства независимому органу, что [модель ИИ] приносит больше пользы, чем вреда, прежде чем ее выпустят. На примере талидомида [лекарства, разработанного в 1950-х и вызывавшего тяжелые врожденные дефекты] мы поняли, что выпустить, а потом судиться — неправильный путь. А крупные технологические компании говорят: обращайтесь с этим так, как мы обращались с талидомидом», — объясняет основоположник ИИ.

Вместе с тем, в целом он сохраняет надежду, что катастрофу можно предотвратить. «Мое чутье подсказывает, что мы все еще контролируем ситуацию. Вполне возможно, мы сумеем что-то сделать. Это сработает, только если мы приложим к этому большие усилия — но мы вполне можем их приложить», — подытожил Хинтон.
НаукаТВ