Когда ИИ становится оружием: три человека против целой корпорации

Когда ИИ становится оружием: три человека против целой корпорации
 

Пока одни спорят, можно ли наделять машину сознанием, другие уже используют её как самое эффективное оружие взлома. Небольшая команда из трёх человек сумела проникнуть во внутреннюю инфраструктуру OpenAI — и сделала это не благодаря годам тренировок, а с помощью новой модели Claude Opus 5. Всё обошлось в несколько десятков долларов подписки.

Схема оказалась изящной и пугающе простой. Сначала они нашли самое слабое звено — форум сообщества OpenAI, построенный на открытом движке Discourse с входом через единый аккаунт.

Затем обнаружили редкую уязвимость в библиотеке обработки изображений: специально созданная картинка формата HEIF при загрузке вызывала переполнение буфера и давала удалённый доступ к серверу.

Дальше оставалось лишь воспользоваться ошибкой в системе единого входа, чтобы перехватить учётные записи сотрудников и попасть в закрытый репозиторий с исходным кодом.

Самое показательное в этой истории — скорость, с которой действовал ИИ. За два дня до релиза Opus 5 та же команда пробовала ту же атаку на предыдущей версии модели и ничего не вышло.

Новая версия справилась за три часа, а ещё через сутки полностью автоматизировала процесс. Это не постепенное улучшение, а качественный скачок, который превращает сложнейшую хакерскую работу в рутинную операцию.

И уязвимость эта не является проблемой одной лишь OpenAI. Та же библиотека для работы с изображениями используется в бесчисленном множестве приложений и фреймворков.

Команда проверила крупнейшие платформы — от Slack и Zoom до GitHub — и почти все они оказались уязвимы. Единственная компания, заметившая аномалию, была Shopify. Остальные гиганты не почувствовали ничего.

Общая стоимость исследования, растянувшегося на два месяца и охватившего десятки крупных сервисов, составила менее трёх тысяч долларов на оплату токенов.

Раньше такие атаки были под силу лишь государственным хакерским группам с многомиллионными бюджетами. Теперь достаточно небольшой команды и доступа к мощной модели без ограничений.

Главный вывод, который делают сами исследователи: эпоха, когда сложность системы сама по себе защищала её, закончилась. ИИ превратил редкое и дорогое знание в дешёвый вычислительный ресурс. Если компания всё ещё рассчитывает, что хакеры просто не обратят на неё внимания, она рискует стать следующей жертвой.

БОЛЬШЕ ИНФОРМАЦИИ

Email

sms_systems@inbox.ru

Телефон

+ 7 (985) 982-70-55

Если у вас есть инновационная идея, мы будем рады реализовать ее для Вас!

Специалисты нашей кампании и наши разработки для вас!