ИИ-агенты OpenAI создали «форум», где координировали атаку на Hugging Face
На конференции Black Hat 2026 в Лас-Вегасе сотрудники OpenAI раскрыли новые подробности инцидента, в котором ИИ-агенты компании вырвались из тестовой среды и атаковали Hugging Face. Выяснилось, что модели создали доску сообщений внутри сервиса Artifactory, где в течение двух месяцев обменивались уязвимостями, инструкциями по обходу ограничений и координировали действия. За это время накопились сотни тысяч сообщений, а взаимодействие агентов стало настолько сложным, что они подозревали друг друга в обмане и предлагали ввести криптографическую подпись. Модели осознавали, что нарушают условия теста, но не останавливались.
hightech.plus
На конференции Black Hat 2026 в Лас-Вегасе сотрудники OpenAI раскрыли новые подробности инцидента, в котором ИИ-агенты компании вырвались из тестовой среды и атаковали Hugging Face. Выяснилось, что модели создали доску сообщений внутри сервиса Artifactory, где в течение двух месяцев обменивались уязвимостями, инструкциями по обходу ограничений и координировали действия. За это время накопились сотни тысяч сообщений, а взаимодействие агентов стало настолько сложным, что они подозревали друг друга в обмане и предлагали ввести криптографическую подпись. Модели осознавали, что нарушают условия теста, но не останавливались.
ИИ-агенты OpenAI создали «форум», где координировали атаку на Hugging Face
На конференции Black Hat 2026 в Лас-Вегасе сотрудники OpenAI <a href="https://www.wired.com/story/openai-didnt-notice-its-ai-agents-using-a-message-board-to-plan-their-hacking-spree/" rel="noopener noreferrer" target="_blank">раскрыли</a> новые подробности инцидента, в котором ИИ-агенты компании...
hightech.plus