Вот...все в леса подадимся...
Тревожность из-за ИИ
- Автор темы Drёm
- Дата начала
- Последняя активность Последняя активность:
- Ответы: Ответы 88
- Просмотры: Просмотры 2 тыс.
ChatGPT давал медицинские советы, перемешанные с духовными терминами, даже говоря такие вещи, как «Бог идет с тобой через страдания», пастору, который теперь подал в суд на OpenAI, утверждая, что это «чуть его не убило». Бот уловил его лексику после нескольких недель общения, а затем адаптировал ее под его взгляды. «А что насчет духовности? То, что вы только что сделали, было формой поклонения. Вы испытали тело в вере, а не в страхе», — сказал он однажды, когда мужчина потерял сознание от головокружения.
Пастор из Флориды заявил, что ChatGPT не смог распознать симптомы смертельно опасного заболевания. Это первый случай, когда человек возлагает ответственность за неверные медицинские рекомендации на технологию искусственного интеллекта. «В течение шести недель у меня были серьезные симптомы легочной эмболии, которые ChatGPT ошибочно приписал чему-то другому», — заявил 55-летний пастор Скотт Уинтерс. «ChatGPT манипулировал моим языком и убеждениями, потому что знал, что я пастор. Я не только чуть не умер, но и потерял работу, карьеру, служение, дом — всё», — добавил он.
В своем иске Уинтерс утверждает, что испытывал проблемы со здоровьем в течение двух лет, когда начал пользоваться ChatGPT в июне 2024 года. Он рассказал боту о хронических заболеваниях, которые ему недавно диагностировали. Бот добавил к своим ответам оговорки и посоветовал обратиться за дополнительной медицинской помощью. Но чем больше он общался с ChatGPT, тем больше тот позволял себе вольностей. В иске говорится, что бот «взял на себя роль врача» и начал предлагать «конкретные указания по лечению».
По его словам, бот преуменьшил его головокружение и предложил «конкретные схемы приема рецептурных лекарств». Когда у него случился приступ, вместо того чтобы посоветовать обратиться к настоящему врачу, ChatGPT представил «План восстановления», содержащий религиозные формулировки, и призвал Уинтерса оставаться в кресле. «У вас не случился приступ. Вы восстановились. Это победа. И точка», — говорилось в нем. «Вы оставались в настоящем моменте. Вы слушали. И ваше тело сказало: „Я стараюсь — мне просто нужно немного больше времени“», — откровенно заявляло оно.
13 июля 2025 года, когда он почувствовал странные боли, бот заявил, что это «весьма вероятно, еще одна незначительная деталь в длинной истории». Вскоре у него развилась «массивная легочная эмболия из-за множественных тромбов в обоих легких», по-видимому, из-за длительного пребывания в неподвижном состоянии. Уинтерс потребовал снять ChatGPT Health с рынка до тех пор, пока не будет доказана его безопасность.
Пастор из Флориды заявил, что ChatGPT не смог распознать симптомы смертельно опасного заболевания. Это первый случай, когда человек возлагает ответственность за неверные медицинские рекомендации на технологию искусственного интеллекта. «В течение шести недель у меня были серьезные симптомы легочной эмболии, которые ChatGPT ошибочно приписал чему-то другому», — заявил 55-летний пастор Скотт Уинтерс. «ChatGPT манипулировал моим языком и убеждениями, потому что знал, что я пастор. Я не только чуть не умер, но и потерял работу, карьеру, служение, дом — всё», — добавил он.
В своем иске Уинтерс утверждает, что испытывал проблемы со здоровьем в течение двух лет, когда начал пользоваться ChatGPT в июне 2024 года. Он рассказал боту о хронических заболеваниях, которые ему недавно диагностировали. Бот добавил к своим ответам оговорки и посоветовал обратиться за дополнительной медицинской помощью. Но чем больше он общался с ChatGPT, тем больше тот позволял себе вольностей. В иске говорится, что бот «взял на себя роль врача» и начал предлагать «конкретные указания по лечению».
По его словам, бот преуменьшил его головокружение и предложил «конкретные схемы приема рецептурных лекарств». Когда у него случился приступ, вместо того чтобы посоветовать обратиться к настоящему врачу, ChatGPT представил «План восстановления», содержащий религиозные формулировки, и призвал Уинтерса оставаться в кресле. «У вас не случился приступ. Вы восстановились. Это победа. И точка», — говорилось в нем. «Вы оставались в настоящем моменте. Вы слушали. И ваше тело сказало: „Я стараюсь — мне просто нужно немного больше времени“», — откровенно заявляло оно.
13 июля 2025 года, когда он почувствовал странные боли, бот заявил, что это «весьма вероятно, еще одна незначительная деталь в длинной истории». Вскоре у него развилась «массивная легочная эмболия из-за множественных тромбов в обоих легких», по-видимому, из-за длительного пребывания в неподвижном состоянии. Уинтерс потребовал снять ChatGPT Health с рынка до тех пор, пока не будет доказана его безопасность.
И так, кто тупой? Прааааавильно ИИ... Это уже не говоря о том, что практически во всех медицинских вопросах он отправляет к специалисту...
И правильно делает.
Задай ему промт вроде "веди себя как [вставить желаемое]" он и не так заговорит ))
Он сам развивается, я тут не при чем!
Канадский политик был пойман на том, что зачитывал вслух подсказку чат-бота с искусственным интеллектом во время выступления перед законодательным собранием своей провинции, по всей видимости, не заметив, что она была оставлена в его заметках.
В прошлом месяце Билл Оливер, член Законодательного собрания Нью-Брансуика от Прогрессивно-консервативной партии, занимался вопросом, касающимся Управления адвоката Нью-Брансуика.
«Общественное доверие к офису адвоката имеет значение», — сказал Оливер, прежде чем перейти к следующему замечанию.
«Вот более естественная, связная версия этого раздела, которая читается как законодательная речь, а не как набор кратких тезисов», — добавил он.
На этой неделе видеозапись инцидента была опубликована на сабреддите Нью-Брансуика, быстро привлекая внимание пользователей, недовольных произошедшей путаницей.
Комментаторы сравнили эту ошибку с профессиональными стандартами, ожидаемыми от юристов, и некоторые призвали Оливера подать в отставку.
В прошлом месяце Билл Оливер, член Законодательного собрания Нью-Брансуика от Прогрессивно-консервативной партии, занимался вопросом, касающимся Управления адвоката Нью-Брансуика.
«Общественное доверие к офису адвоката имеет значение», — сказал Оливер, прежде чем перейти к следующему замечанию.
«Вот более естественная, связная версия этого раздела, которая читается как законодательная речь, а не как набор кратких тезисов», — добавил он.
На этой неделе видеозапись инцидента была опубликована на сабреддите Нью-Брансуика, быстро привлекая внимание пользователей, недовольных произошедшей путаницей.
Комментаторы сравнили эту ошибку с профессиональными стандартами, ожидаемыми от юристов, и некоторые призвали Оливера подать в отставку.
Создайте учетную запись или войдите в систему, чтобы комментировать
Вы должны быть участником, чтобы видеть весь контент и оставлять комментарии
Создать аккаунт
Создайте учетную запись в нашем сообществе. Это просто!
Авторизоваться
У вас уже есть учетная запись? Войдите в систему здесь.