Новости из сферы нейросетей

[Desha]

Сабж

 

[Desha]

В ChatGPT отложили запуск «режима для взрослых».

OpenAI рассматривала возможность добавить NSFW-режим, который позволил бы пользователям вести откровенные разговоры с нейросетью, однако во время закрытого тестирования всплыли серьезные проблемы.

По данным The Verge, ИИ в ряде случаев сам начинал генерировать жесткий контент даже без соответствующего запроса. Иногда ответы уходили в темы сексуального насилия и эксплуатации. Отдельное беспокойство вызвала невозможность надежно проверять возраст пользователей.

«OpenAI рискует создать "сексуального консультанта по самоубийствам"», — предупредили советники компанию.

В итоге запуск решили отложить.