За последний год ИИ-программирование стало одним из самых заметных технологических трендов. Концепция vibe coding обещает, что приложение сможет создать почти любой человек: достаточно описать идею обычным языком, а ИИ сгенерирует интерфейс, подключит базу данных и поможет развернуть проект. Это резко снижает стоимость экспериментов и делает разработку доступнее.

Но вместе с этим растёт и число рисков. Главная проблема заключается в том, что ИИ облегчает создание работающего прототипа, но не делает его автоматически безопасным, надёжным и готовым к реальной эксплуатации.

Показательным примером стал Moltbook — социальный сервис для ИИ-агентов, созданный практически полностью с помощью ИИ. Исследователи безопасности обнаружили, что из-за неверной настройки базы данных Supabase производственная среда оказалась открыта для полного чтения и записи.

В публичном доступе, по сообщениям исследователей, находились около 1,5 млн API-токенов, десятки тысяч адресов электронной почты и приватные сообщения между агентами. Посторонний человек мог выдавать себя за аккаунты агентов и изменять содержимое платформы.

Эта история важна не сама по себе. Она показывает, что современное приложение — это не только красивый интерфейс и работающие кнопки. За внешней частью находятся менее заметные, но критически важные компоненты: аутентификация, разграничение прав доступа, защита ключей, настройка базы данных, журналирование, обновления зависимостей, защита от атак и план сопровождения.

ИИ способен быстро написать код для формы входа или подключения к базе данных. Но он не гарантирует, что доступ ограничен корректно, что секреты не попали в репозиторий, а пользователи не видят чужие данные.

Особенно опасна психологическая ловушка: если приложение запускается и выглядит профессионально, создателю легко решить, что оно уже готово к использованию. На практике работающий демо-продукт может быть лишь внешне убедительным прототипом с серьёзными уязвимостями.

Исследователи RedAccess нашли сотни тысяч публично доступных активов, среди которых тысячи содержали чувствительную корпоративную информацию: медицинские записи, финансовые данные, внутренние документы и переписку службы поддержки.

Подобные риски затрагивают приложения, созданные или развёрнутые через платформы ИИ- и low-code-разработки. Если настройки приватности по умолчанию слишком открыты, неопытный пользователь может даже не понять, что опубликовал данные в интернете.

Особенность новой эпохи заключается в том, что опаснее всего может быть не полный провал проекта, а его «частичный успех». Если приложение никто не использует, оно остаётся заброшенным экспериментом. Но если оно привлекает хотя бы небольшую аудиторию, начинает собирать персональные данные, подключать внешние сервисы и хранить токены доступа, то превращается в объект ответственности.

Так появляются «зомби-приложения»: сервисы, которые больше не развиваются, но продолжают работать. Их базы данных остаются доступными, ключи не меняются, зависимости не обновляются, а владельцы давно перестали следить за инфраструктурой. В отличие от старого заброшенного сайта, такое приложение может хранить реальные пользовательские данные и открытые API-интерфейсы.

Проблема не сводится к ошибкам отдельных авторов. Платформы, продвигающие идею «разработка без технических знаний», также должны брать на себя часть ответственности. Если сервис обещает, что пользователь может создать приложение без понимания инженерных деталей, нельзя перекладывать на него всю ответственность за сложную модель прав доступа. Более безопасный подход включает приватные настройки по умолчанию, автоматическую проверку утечек ключей, предупреждения перед публикацией, сканирование конфигураций и понятные механизмы удаления данных при закрытии проекта.

Кроме безопасности, остаются юридические и этические вопросы: происхождение сгенерированного кода, соблюдение лицензий с открытым исходным кодом, правила обработки персональных данных сторонними ИИ-сервисами и распределение ответственности при инцидентах. Таким образом, риск vibe coding — это не только уязвимости, но и вопрос о том, откуда взят код, где оказываются данные и кто отвечает за последствия.

ИИ-разработка не делает создание программного обеспечения бессмысленным или опасным по своей природе. Напротив, она позволяет быстрее проверять идеи, делать нишевые продукты и давать небольшим командам возможности, которые прежде были доступны только крупным компаниям. Но настоящий профессионализм теперь всё меньше определяется умением быстро сгенерировать экран или подключить API.

Новая ценность — способность довести прототип до ответственного продукта: понять чувствительность данных, ограничить доступ, обеспечить сопровождение, закрыть ненужные интерфейсы, вовремя удалить информацию и предупредить пользователей при остановке сервиса. ИИ сократил сложность старта, но не отменил сложность эксплуатации. Она просто переместилась в менее заметные области — настройки прав, базы данных, ключи доступа и забытые облачные сервисы.

Поэтому главный навык эпохи ИИ-разработки — не просто умение быстро создать приложение, а умение безопасно выпустить его в реальный мир.