Тревожность из-за ИИ

[Дауман]

ИИ-то останется?

ИИ всегда существовал ,другое дело ,что проявлялся в другой форме.
Раньше это были знания ,записанные черным по белому , как текст....
сегодня -это как некая выжимка из текстов...как продукт для личного пользования ... часто с сомнительным запахом...у кого голова на плечах...
Роботы -это другое.Их желательно иметь ... и много...

 

[Лун]

«Еще не поздно предотвратить катастрофу»: Сандерс призывает приостановить разработку ИИ.

«Почти каждый день появляются новые сообщения о том, как ваши компании теряют контроль над разрабатываемыми вами технологиями искусственного интеллекта, что может привести к катастрофическим последствиям», — написал Сандерс (независимый кандидат от штата Вермонт) Сэму Альтману из OpenAI, Дарио Амодеи из Anthropic и Марку Цукербергу из Meta .

Ссылаясь на исследование, опубликованное в четверг в журнале Science , он отметил: «На этой неделе мы с ужасом узнали, что ИИ впервые в истории был использован для создания новых вирусов. Как вы знаете, подобные разработки, попав в неправильные руки, могут привести к созданию нового биологического оружия, которое унесет жизни десятков миллионов людей».

Это разоблачение произошло всего через несколько недель после того, как «мир узнал, что OpenAI потеряла контроль над моделью ИИ», — продолжил сенатор. «Результат? Модель взломала компьютеры другой компании — явное нарушение федерального закона. После проведения внутренних проверок компании Anthropic и Meta сообщили, что их модели также вышли из-под контроля».

Ссылаясь на недавние призывы к действию со стороны Йошуа Бенджио, самого цитируемого из ныне живущих ученых в мире, а также ведущих ученых из различных компаний, занимающихся искусственным интеллектом, Сандерс подчеркнул, что международное сообщество хочет «создать механизм безопасности — кнопку паузы — чтобы избежать катастрофы».

«И все же, в момент, когда мы стали свидетелями потери контроля над собой и создания потенциально опасных вирусов, ваши компании продолжают стремительно развиваться, инвестируя десятки миллиардов долларов в технологии, которые никто не может до конца понять, предсказать или контролировать», — написал он. «Это абсурдно, безответственно и крайне опасно. Это также предательство ваших собственных заявленных обязательств».

Изложив свои обязательства за последние несколько лет, бывший кандидат в президенты заявил, что «возможности ИИ достигли критического порога. Неслучайно глава ЦРУ говорит , что модели ИИ «подобны цифровому ядерному оружию » и «почти являются устройством судного дня»».

'It Is Not Too Late to Avoid Disaster': Sanders Calls for AI Development Pause | Common Dreams

"Your companies are losing control of the AI technology you are developing, with potentially cataclysmic results," Sen. Bernie Sanders wrote to three CEOs, urging a development pause.

www.commondreams.org