Тревожность из-за ИИ

[Дауман]

ИИ-то останется?

ИИ всегда существовал ,другое дело ,что проявлялся в другой форме.
Раньше это были знания ,записанные черным по белому , как текст....
сегодня -это как некая выжимка из текстов...как продукт для личного пользования ... часто с сомнительным запахом...у кого голова на плечах...
Роботы -это другое.Их желательно иметь ... и много...

 

[Лун]

«Еще не поздно предотвратить катастрофу»: Сандерс призывает приостановить разработку ИИ.

«Почти каждый день появляются новые сообщения о том, как ваши компании теряют контроль над разрабатываемыми вами технологиями искусственного интеллекта, что может привести к катастрофическим последствиям», — написал Сандерс (независимый кандидат от штата Вермонт) Сэму Альтману из OpenAI, Дарио Амодеи из Anthropic и Марку Цукербергу из Meta .

Ссылаясь на исследование, опубликованное в четверг в журнале Science , он отметил: «На этой неделе мы с ужасом узнали, что ИИ впервые в истории был использован для создания новых вирусов. Как вы знаете, подобные разработки, попав в неправильные руки, могут привести к созданию нового биологического оружия, которое унесет жизни десятков миллионов людей».

Это разоблачение произошло всего через несколько недель после того, как «мир узнал, что OpenAI потеряла контроль над моделью ИИ», — продолжил сенатор. «Результат? Модель взломала компьютеры другой компании — явное нарушение федерального закона. После проведения внутренних проверок компании Anthropic и Meta сообщили, что их модели также вышли из-под контроля».

Ссылаясь на недавние призывы к действию со стороны Йошуа Бенджио, самого цитируемого из ныне живущих ученых в мире, а также ведущих ученых из различных компаний, занимающихся искусственным интеллектом, Сандерс подчеркнул, что международное сообщество хочет «создать механизм безопасности — кнопку паузы — чтобы избежать катастрофы».

«И все же, в момент, когда мы стали свидетелями потери контроля над собой и создания потенциально опасных вирусов, ваши компании продолжают стремительно развиваться, инвестируя десятки миллиардов долларов в технологии, которые никто не может до конца понять, предсказать или контролировать», — написал он. «Это абсурдно, безответственно и крайне опасно. Это также предательство ваших собственных заявленных обязательств».

Изложив свои обязательства за последние несколько лет, бывший кандидат в президенты заявил, что «возможности ИИ достигли критического порога. Неслучайно глава ЦРУ говорит , что модели ИИ «подобны цифровому ядерному оружию » и «почти являются устройством судного дня»».

'It Is Not Too Late to Avoid Disaster': Sanders Calls for AI Development Pause | Common Dreams

"Your companies are losing control of the AI technology you are developing, with potentially cataclysmic results," Sen. Bernie Sanders wrote to three CEOs, urging a development pause.

www.commondreams.org

 

[Лун]

На LinkedIn уже более миллиона раз нажимали кнопку "Похоже на халтуру от ИИ".
Этот инструмент работает менее месяца, наряду с классификаторами для обнаружения объектов с помощью ИИ.

LinkedIn заявляет, что опция обратной связи «Похоже на некачественную ИИ-публикацию» была использована более 1 миллиона раз с момента ее запуска 30 июля. Такой отклик указывает на высокий интерес пользователей к ограничению низкокачественных автоматизированных публикаций, хотя LinkedIn не сообщила, действительно ли общий объем контента, сгенерированного ИИ на платформе, снижается.

Этот инструмент позволяет пользователям отмечать публикации, которые, по их мнению, были созданы с помощью ИИ или выглядят как низкокачественный автоматизированный контент. Он доступен через меню с тремя точками в любой публикации. Главный директор по продуктам LinkedIn Хари Шринивасан заявил, что эти сообщения , в сочетании с изменениями в системах обнаружения компании, привели к снижению просмотров контента, который LinkedIn классифицирует как созданный с помощью ИИ, на 40% за последние недели.

LinkedIn использует полученные отзывы в рамках более широкой инициативы по борьбе со спамом и шаблонным контентом, созданным с помощью ИИ, в лентах пользователей. Компания обновила свои классификаторы — системы, используемые для идентификации контента, который мог быть создан с помощью ИИ, — и удалила функцию, предлагавшую улучшать публикации с помощью ИИ.

Также компания запускает уведомление для авторов, чьи публикации вызывают подозрения других участников, связанные с использованием ИИ. В сообщении говорится, что некоторые пользователи отметили их публикации как сгенерированные ИИ. LinkedIn заявляет, что цель состоит в том, чтобы предоставить авторам обратную связь, а не обвинять их в размещении спама.

https://www.techspot.com/news/113580-people-have-clicked-like-ai-slop-button-linkedin.html

 

[ЛемпИра]

«Еще не поздно предотвратить катастрофу»: Сандерс призывает приостановить разработку ИИ.

Это палка о двух концах,,, ии помогает решать сложные вычислительные задачи.
Недавно промелькнуло сообщение, что ии доказал теорему которую ученые не могли доказать более 100лет
В органической и неорганической химии помогает в поиске новых свойств материалов, и новых лекарств в медицине....

ps. по мне так ии это очередная ступень технологического прогресса, сравнимая с изобретением двигателя внутреннего сгорания,,, нужно просто правильно это осознать.

 

[Drёm]

На LinkedIn уже более миллиона раз нажимали кнопку "Похоже на халтуру от ИИ".

Не знаю как на Линкедын, а сгенерированные ИИ новости во всех лентах.
Глаз уже на автомате ловит речевые обороты и стилистику ИИ

 

[Drёm]

нужно просто правильно это осознать.

Слишком повсеместным стало использование.
И бесконтрольным, т.е. авторы кидают промты, и публикуют полученный результат часто даже не вычитывая его.
А еще не забываем о военном использовании.. и это никто не ограничит, скорее наоборот, идет гонка между государствами.

 

[ЛемпИра]

Слишком повсеместным стало использование.
И бесконтрольным, т.е. авторы кидают промты, и публикуют полученный результат часто даже не вычитывая его.
А еще не забываем о военном использовании.. и это никто не ограничит, скорее наоборот, идет гонка между государствами.

Если продолжить массово пользоваться ии как обезьяна с гранатой, то итог будет конечно печальный.

 

[Лун]

А еще не забываем о военном использовании.. и это никто не ограничит, скорее наоборот, идет гонка между государствами.

И это уже полностью прикрыто и не известно широким массам.

 

[Дауман]

Если продолжить массово пользоваться ии как обезьяна с гранатой, то итог будет конечно печальный.

Регистрация пользователя через госуслуги ограничит массовость..

 

[Drёm]

Регистрация пользователя через госуслуги ограничит массовость..

ИИ пользуются не только в РФ.
Наоборот, использование в РФ ограничено рядом разработчиков.

 

[Дауман]

ИИ пользуются не только в РФ.
Наоборот, использование в РФ ограничено рядом разработчиков.

это пока они денег просят...

 

[Оборотень]

Мне вспомнился короткометражный фильм конца 60-х годов. Создана ЭВМ, обладающая разумом. Приходят журналисты и им предлагают провести анонимный тест - они должны определить кто человек, а кто машина. Журналисты сидят в изолированной комнате и пытаются с помощью разговора отличить машину от человека, им выводится на экраны изображения двоих - один представляется писателем, другой инженером. Им задают вопросы на логику, знание математики, проверяют эмоции с помощью изображений и т.д. После получасового теста, человек на одном изображении начинает повторять без остановки "я машина". Журналисты радуются, что смогли точно найти ЭВМ. После их ухода техники начинают проверять почему машина зависла и обнаруживают полностью исправную ЭВМ, и человека, который в истерике повторяет "я машина"

 

[Drёm]

это пока они денег просят...

чатом GPT и Джеминай можно пользоваться бесплатно, функционал ограничен, но он есть

 

[Лун]

чатом GPT и Джеминай можно пользоваться бесплатно, функционал ограничен, но он есть

Перплексити тоже бесплатно, и функционал отличается только количеством запросов.
Дипсик тоже самое.