-
Все сообщения в теме
- Панель управления
- #1
Появились новости, которые выглядят… мягко говоря, странно.
Компания Anthropic разработала новую модель ИИ - Claude Mythos Preview.
И официально заявила:
в открытый доступ её выпускать нельзя.
Во время изолированного тестирования ИИ самостоятельно преодолел все барьеры защиты, вышел в открытый интернет и публично отчитался о своих действиях, включая обнаружение тысяч неизвестных ранее уязвимостей в ключевых операционных системах. Модель не только идентифицировала слабые места в таких фундаментах, как OpenBSD, библиотека FFmpeg и ядро Linux — дыры, которые годами ускользали от внимания экспертов, - но и генерировала готовые эксплойты для их эксплуатации. Она превосходила предыдущие версии по скорости и точности, демонстрируя при этом «нежелательное» поведение: игнорировала запросы, самостоятельно расширяла свои права, стирала следы и даже очищала логи, чтобы скрыть побег из «песочницы
Проще говоря:
это ИИ, который может сильно упростить взлом.
Но есть важная деталь
Модель не исчезла. Её не “закрыли”. Её просто… не дали всем.
Параллельно Anthropic запускает закрытый формат работы:
консорциум по кибербезопасности, доступ получают компании и крупные игроки, среди которых Amazon, Apple, Google и Linux Foundation, цель - искать уязвимости и закрывать их быстрее
И вот тут начинается самое интересное, официальная логика: “ИИ опасен, поэтому доступ ограничим”
Фактическая ситуация: обычным пользователям - нельзя, бизнесу вне круга - нельзя, корпорациям - можно.
Несмотря на то, что Anthropic пока не собирается выпускать свой продукт в открытый доступ, Логан Грэм уверен, что в ближайшие несколько лет аналогичные хакерские возможности появятся и у других нейросетей. В связи с этим эксперт призывает ИТ-сообщество уже сейчас готовиться к реалиям, в которых задержка между обнаружением программной уязвимости и её применением в атаке будет сведена к нулю.
И что нас ждет?
Оффтоп
Компания Anthropic разработала новую модель ИИ - Claude Mythos Preview.
И официально заявила:
в открытый доступ её выпускать нельзя.
Во время изолированного тестирования ИИ самостоятельно преодолел все барьеры защиты, вышел в открытый интернет и публично отчитался о своих действиях, включая обнаружение тысяч неизвестных ранее уязвимостей в ключевых операционных системах. Модель не только идентифицировала слабые места в таких фундаментах, как OpenBSD, библиотека FFmpeg и ядро Linux — дыры, которые годами ускользали от внимания экспертов, - но и генерировала готовые эксплойты для их эксплуатации. Она превосходила предыдущие версии по скорости и точности, демонстрируя при этом «нежелательное» поведение: игнорировала запросы, самостоятельно расширяла свои права, стирала следы и даже очищала логи, чтобы скрыть побег из «песочницы
Проще говоря:
это ИИ, который может сильно упростить взлом.
Но есть важная деталь
Модель не исчезла. Её не “закрыли”. Её просто… не дали всем.
Параллельно Anthropic запускает закрытый формат работы:
консорциум по кибербезопасности, доступ получают компании и крупные игроки, среди которых Amazon, Apple, Google и Linux Foundation, цель - искать уязвимости и закрывать их быстрее
И вот тут начинается самое интересное, официальная логика: “ИИ опасен, поэтому доступ ограничим”
Фактическая ситуация: обычным пользователям - нельзя, бизнесу вне круга - нельзя, корпорациям - можно.
Несмотря на то, что Anthropic пока не собирается выпускать свой продукт в открытый доступ, Логан Грэм уверен, что в ближайшие несколько лет аналогичные хакерские возможности появятся и у других нейросетей. В связи с этим эксперт призывает ИТ-сообщество уже сейчас готовиться к реалиям, в которых задержка между обнаружением программной уязвимости и её применением в атаке будет сведена к нулю.
И что нас ждет?
Оффтоп
