Вот...все в леса подадимся...
Тревожность из-за ИИ
- Автор темы Drёm
- Дата начала
- Последняя активность Последняя активность:
- Ответы: Ответы 82
- Просмотры: Просмотры 2 тыс.
ChatGPT давал медицинские советы, перемешанные с духовными терминами, даже говоря такие вещи, как «Бог идет с тобой через страдания», пастору, который теперь подал в суд на OpenAI, утверждая, что это «чуть его не убило». Бот уловил его лексику после нескольких недель общения, а затем адаптировал ее под его взгляды. «А что насчет духовности? То, что вы только что сделали, было формой поклонения. Вы испытали тело в вере, а не в страхе», — сказал он однажды, когда мужчина потерял сознание от головокружения.
Пастор из Флориды заявил, что ChatGPT не смог распознать симптомы смертельно опасного заболевания. Это первый случай, когда человек возлагает ответственность за неверные медицинские рекомендации на технологию искусственного интеллекта. «В течение шести недель у меня были серьезные симптомы легочной эмболии, которые ChatGPT ошибочно приписал чему-то другому», — заявил 55-летний пастор Скотт Уинтерс. «ChatGPT манипулировал моим языком и убеждениями, потому что знал, что я пастор. Я не только чуть не умер, но и потерял работу, карьеру, служение, дом — всё», — добавил он.
В своем иске Уинтерс утверждает, что испытывал проблемы со здоровьем в течение двух лет, когда начал пользоваться ChatGPT в июне 2024 года. Он рассказал боту о хронических заболеваниях, которые ему недавно диагностировали. Бот добавил к своим ответам оговорки и посоветовал обратиться за дополнительной медицинской помощью. Но чем больше он общался с ChatGPT, тем больше тот позволял себе вольностей. В иске говорится, что бот «взял на себя роль врача» и начал предлагать «конкретные указания по лечению».
По его словам, бот преуменьшил его головокружение и предложил «конкретные схемы приема рецептурных лекарств». Когда у него случился приступ, вместо того чтобы посоветовать обратиться к настоящему врачу, ChatGPT представил «План восстановления», содержащий религиозные формулировки, и призвал Уинтерса оставаться в кресле. «У вас не случился приступ. Вы восстановились. Это победа. И точка», — говорилось в нем. «Вы оставались в настоящем моменте. Вы слушали. И ваше тело сказало: „Я стараюсь — мне просто нужно немного больше времени“», — откровенно заявляло оно.
13 июля 2025 года, когда он почувствовал странные боли, бот заявил, что это «весьма вероятно, еще одна незначительная деталь в длинной истории». Вскоре у него развилась «массивная легочная эмболия из-за множественных тромбов в обоих легких», по-видимому, из-за длительного пребывания в неподвижном состоянии. Уинтерс потребовал снять ChatGPT Health с рынка до тех пор, пока не будет доказана его безопасность.
Пастор из Флориды заявил, что ChatGPT не смог распознать симптомы смертельно опасного заболевания. Это первый случай, когда человек возлагает ответственность за неверные медицинские рекомендации на технологию искусственного интеллекта. «В течение шести недель у меня были серьезные симптомы легочной эмболии, которые ChatGPT ошибочно приписал чему-то другому», — заявил 55-летний пастор Скотт Уинтерс. «ChatGPT манипулировал моим языком и убеждениями, потому что знал, что я пастор. Я не только чуть не умер, но и потерял работу, карьеру, служение, дом — всё», — добавил он.
В своем иске Уинтерс утверждает, что испытывал проблемы со здоровьем в течение двух лет, когда начал пользоваться ChatGPT в июне 2024 года. Он рассказал боту о хронических заболеваниях, которые ему недавно диагностировали. Бот добавил к своим ответам оговорки и посоветовал обратиться за дополнительной медицинской помощью. Но чем больше он общался с ChatGPT, тем больше тот позволял себе вольностей. В иске говорится, что бот «взял на себя роль врача» и начал предлагать «конкретные указания по лечению».
По его словам, бот преуменьшил его головокружение и предложил «конкретные схемы приема рецептурных лекарств». Когда у него случился приступ, вместо того чтобы посоветовать обратиться к настоящему врачу, ChatGPT представил «План восстановления», содержащий религиозные формулировки, и призвал Уинтерса оставаться в кресле. «У вас не случился приступ. Вы восстановились. Это победа. И точка», — говорилось в нем. «Вы оставались в настоящем моменте. Вы слушали. И ваше тело сказало: „Я стараюсь — мне просто нужно немного больше времени“», — откровенно заявляло оно.
13 июля 2025 года, когда он почувствовал странные боли, бот заявил, что это «весьма вероятно, еще одна незначительная деталь в длинной истории». Вскоре у него развилась «массивная легочная эмболия из-за множественных тромбов в обоих легких», по-видимому, из-за длительного пребывания в неподвижном состоянии. Уинтерс потребовал снять ChatGPT Health с рынка до тех пор, пока не будет доказана его безопасность.
Создайте учетную запись или войдите в систему, чтобы комментировать
Вы должны быть участником, чтобы видеть весь контент и оставлять комментарии
Создать аккаунт
Создайте учетную запись в нашем сообществе. Это просто!
Авторизоваться
У вас уже есть учетная запись? Войдите в систему здесь.