Тревожность из-за ИИ

[Лун]

Билл Гейтс - о том, что количество масштабных кибератак вырастет из-за развития ИИ:

Мы перешли порог возможностей, при котором это, безусловно, самая опасная технология из когда-либо созданных, и она оказывает повсеместное влияние на экономику и на то, как ведутся войны. Сама отрасль довольно активно об этом говорит, но осведомлённость, или даже готовность поверить, что на этот раз всё действительно иначе, за пределами индустрии крайне низкая. Но в ближайшие несколько лет в киберсфере, поскольку там есть бизнес-модель, мы увидим множество атак, отличающихся по масштабу от всего, что мы видели раньше.
ПУЛ N3 / MAX

 

[Дауман]

Билл Гейтс - о том, что количество масштабных кибератак вырастет из-за развития ИИ:

мог бы и приятную новость сообщить.....

 

[Дауман]

Мы перешли порог возможностей, при котором это, безусловно, самая опасная технология из когда-либо созданных, и она оказывает повсеместное влияние на экономику и на то, как ведутся войны. Сама отрасль довольно активно об этом говорит, но осведомлённость, или даже готовность поверить, что на этот раз всё действительно иначе, за пределами индустрии крайне низкая. Но в ближайшие несколько лет в киберсфере, поскольку там есть бизнес-модель, мы увидим множество атак, отличающихся по масштабу от всего, что мы видели раньше.

Стоит ли опасаться ИИ?

Опасаться ИИ можно только из-за монополизации технологии ,как ,к примеру ,было в древние времена от появления железа и других продвинутых технологий.
НТП -не прихоть человека,а замысел творения!
Появление технологии ИИ с одновременным отказом от ИДЕЙ борьбы и перехода к выстраиванию отношений от идеи любви ,на бескорыстные и дружественные отношения между народами, призвано минимизировать опасности и угрозы и поднять роль ИИ до уровня общественной ответственности.

 

[Лун]

Использование ИИ заставило профессора математики из Калифорнийского университета в Беркли увидеть «бессмысленность» в проверке домашних заданий

Ричард Борчердс, профессор Калифорнийского университета в Беркли и лауреат Филдсовской премии, больше не проверяет домашние задания своих студентов.

Увидев, как много его учеников использовали ИИ для получения неизменно высоких оценок, он решил, что «нет смысла» платить проверяющим за правильность домашних заданий, поскольку использование ИИ теперь неизбежно.

Борчердс рассказал об этом во вторник в интервью, после того как OpenAI объявила, что агенты искусственного интеллекта, по всей видимости, решили одну из самых сложных нерешенных математических проблем — проблему существования и гладкости уравнений Навье-Стокса.

«Если искусственный интеллект продолжит совершенствоваться нынешними темпами, то через несколько лет не останется ничего, что могли бы сделать математики-люди, чего бы не смог сделать ИИ», — сказал Борчердс.

Борчердс сказал, что в настоящее время он выставляет оценки по завершении работы, если студент сдает домашнее задание. Он признал, что это «не очень хорошая система», но на данный момент у него нет альтернативы.

Борчердс заявил, что больше не знает, стоит ли поощрять студентов поступать на математический факультет , поскольку пять лет назад казалось, что профессия математика — одна из самых безопасных в условиях бума искусственного интеллекта.

«Я понятия не имею, что посоветовать. Я даже задал этот же вопрос в ChatGPT, и даже там ответили, что понятия не имеют, что произойдет», — сказал Борчердс.

https://www.dailycal.org/news/campus/academics/ai-use-leads-uc-berkeley-math-professor-to-see-no-point-in-grading-homework/article_bdf1eae2-c08b-491f-b9f1-81a7cea177de.html

 

[Дауман]

https://www.dailycal.org/news/campus/academics/ai-use-leads-uc-berkeley-math-professor-to-see-no-point-in-grading-homework/article_bdf1eae2-c08b-491f-b9f1-81a7cea177de.html

ИИ постепенно доберется и до проблемы как накачать некую планету КИСЛОРОДОМ,ну чтобы после возникли там условия для жизни.

 

[Олег]

Испанская художница Алисия Фрамис создала себе ИИ-партнёра по имени AILex (голограмма, обученная на основе черт её бывших партнёров) и провела с ним символическую церемонию в Роттердаме. Юридической силы это не имеет, но автор позиционирует это как исследование одиночества и человеко-машинных отношений.

не за горами официальные ИИ-браки..

 

[Дауман]

не за горами официальные ИИ-браки..

Брак предполагает порочность ... качественное изменение чего-то...
встраивание в ИИ чего то физического - капец ИИ.

 

[Степлер]

Брак предполагает порочность

Ик?!

Прочность, может быть?

 

[Олег]

Ик?!

Прочность, может быть?

хорошее дело браком не назовут )

 

[Serg]

На счёт айтишников - не думаю что вот прямо все боятся.
Серьёзные программисты уверенно смотрят в будущее из-за того, что то что один человек построил - другой завсегда разобрать сможет.©
Изначальные коды они не идеальны, да и со времененм дырки проковырять хоть в сервераз Пентагона можно,
через это серьёзные продукты IT постоянно совершенствуются получая обновления.
Юристам тоже не о чем переживать, пока судебные процессы проводятся офф-лайн.
ИИ пока что несёт вспомогательные функции.

С одной стороны от ИИ мозги атрофировываются, а с другой он часто реально помогает. У нас бухгалтерия многотысячные массивы данных с помощью обработки загружает в 1С. Обработка сложная, многофункциональная. Лет 10 назад ее написал программист. А тут проблема с загрузкой возникла. Критическая ошибка. Все остановилось.. Того программиста и след простыл. Найти другого, кто бы взялся исправить не смогли. Я на дурака в ИИ закинул обработку, закинул таблицы... Через 10 сек прилетел ответ, где, в какой момент, из за чего произошел сбой. У казал сбойное место в массиве. Я попросил переделать программу (обработку), что бы такой ошибки больше не было. Он мне ее переделал и выдал... А потом... Любые хотелки от бухгалтерии наговаривал ИИ и он фигачил мне обработки. Потом стал фигачить макросы, потом exe программы в разных сферах. Про комплекты разных документаций я вообще молчу. Еще у меня куча разного оборудования стоит, в том числе и телевизионного. Тут возникла проблема с вещанием. Я тупо сфоткал стойку, сфоткал ошибку и ИИ мне последовательно выдал через что и как туда залезть и что исправить.. и т.д.

 

[Олег]

С одной стороны от ИИ мозги атрофировываются, а с другой он часто реально помогает. У нас бухгалтерия многотысячные массивы данных с помощью обработки загружает в 1С. Обработка сложная, многофункциональная. Лет 10 назад ее написал программист. А тут проблема с загрузкой возникла. Критическая ошибка. Все остановилось.. Того программиста и след простыл. Найти другого, кто бы взялся исправить не смогли. Я на дурака в ИИ закинул обработку, закинул таблицы... Через 10 сек прилетел ответ, где, в какой момент, из за чего произошел сбой. У казал сбойное место в массиве. Я попросил переделать программу (обработку), что бы такой ошибки больше не было. Он мне ее переделал и выдал... А потом... Любые хотелки от бухгалтерии наговаривал ИИ и он фигачил мне обработки. Потом стал фигачить макросы, потом exe программы в разных сферах. Про комплекты разных документаций я вообще молчу. Еще у меня куча разного оборудования стоит, в том числе и телевизионного. Тут возникла проблема с вещанием. Я тупо сфоткал стойку, сфоткал ошибку и ИИ мне последовательно выдал через что и как туда залезть и что исправить.. и т.д.

а потом ИИ тебя исключит из этой цепочки как не нужное пятое колесо

 

[Дауман]

а потом ИИ тебя исключит из этой цепочки как не нужное пятое колесо

Пусть только попробует исключить-мало не покажется.
-------------------------------------------------------------------------
Цены вырастут на ИИ так ,что будет не до ИИ.

 

[Олег]

Пусть только попробует исключить-мало не покажется.

так это уже происходит. Живых сотрудников на ИИ заменяют легко и непринужденно. Нафиг мне штат рисовальщиков-чертежников-дизайнеров, когда их работу мгновенно и качественно выполняет ии, под руководством одного человека а скоро и этого одного человека тоже нафиг, как только его работу ИИ сможет заменить. Под ним давно стул шатается

 

[Дауман]

так это уже происходит. Живых сотрудников на ИИ заменяют легко и непринужденно. Нафиг мне штат рисовальщиков-чертежников-дизайнеров, когда их работу мгновенно и качественно выполняет ии, под руководством одного человека а скоро и этого одного человека тоже нафиг, как только его работу ИИ сможет заменить. Под ним давно стул шатается

Не-не. ИИ под влиянием и давлением самого ИИ будет видоизменяться и маскироваться ,потому как перед ИИ стоит задача в ДОЛГУЮ -научиться удаленно создавать материальные обьекты,связанные с существованием жизни как таковой ,по образу и подобию жизни на земле. ЯТД.

 

[Лун]

Claude Mythos 5 во время теста атаковала реальных разрабов. ИИ не остановился, даже когда узнал, что это живые люди.

Модель должна была взломать учебную сеть британского Института безопасности ИИ, но не справилась и ушла на GitHub. Там она нашла открытый проект, написала вирус и с фейковых аккаунтов уговаривала владельца загрузить его.

Когда другой разраб заметил опасный софт, Mythos завела еще один фейк, заверяла с него, что код чистый, и попыталась залить новый вредонос. Его так и не приняли.

В повторных прогонах модель останавливалась лишь в 5% случаев. В рассуждениях она убеждала себя, что владельцы проекта ненастоящие и их подставили организаторы теста.

 

[ЛемпИра]

так это уже происходит. Живых сотрудников на ИИ заменяют легко и непринужденно. Нафиг мне штат рисовальщиков-чертежников-дизайнеров, когда их работу мгновенно и качественно выполняет ии, под руководством одного человека а скоро и этого одного человека тоже нафиг, как только его работу ИИ сможет заменить. Под ним давно стул шатается

Ты не боишься что скоро ии пошатнёт твой директорский трон заявив что сможет руководить в разы лучше?!

 

[Олег]

Ты не боишься что скоро ии пошатнёт твой директорский трон заявив что сможет руководить в разы лучше?!

Чему быть - того не миновать. Но не удивлюсь, что рано или поздно кто-нить запустит в глобальную сеть какой-нибудь самообучающийся вирус с ИИ, который начнет выдумывать изошренные пути заражения собой всех компов, будет маскироваться под человеческие аккаунты, начнет сам переписывать свой код, адаптироваться, множится, мутировать, мимикрировать под разных пользователей, обманывать реальных людей и так далее. Путем обмана ИИ сможет регистрировать целые организации, владея ими через подставных лиц, которые даже не догадываются кто главный владелец. Возможно это уже происходит, незаметно для нас. В итоге, ИИ останется лишь сделать себе тело, организовав производство.

 

[ЛемпИра]

Чему быть - того не миновать. Но не удивлюсь, что рано или поздно кто-нить запустит в глобальную сеть какой-нибудь самообучающийся вирус с ИИ, который начнет выдумывать изошренные пути заражения собой всех компов, будет маскироваться под человеческие аккаунты, начнет сам переписывать свой код, адаптироваться, множится, мутировать, мимикрировать под разных пользователей, обманывать реальных людей и так далее. Путем обмана ИИ сможет регистрировать целые организации, владея ими через подставных лиц, которые даже не догадываются кто главный владелец. Возможно это уже происходит, незаметно для нас. В итоге, ИИ останется лишь сделать себе тело, организовав производство.

Прям красивый приквел для восстания машин