Фрэнсис де Соуза говорит как профессор. Спокойно. Выверенно. Уверенно.
Недавно в Лос-Анджелесе, посреди хаоса отраслевой конференции, операционный директор Google Cloud дал несколько мудрых советов. «Будет переходный период, — сказал он. — А потом, думаю, мы придём к лучшему».
Удобно, правда?
Сейчас Google сам тонет в этом «переходном периоде».
Его послание должно звучать знакомо. Безопасность — это не наклейка, которую можно прилепить на панель управления в последний момент. Её нужно внедрять с первого дня. Особенно когда речь идёт об искусственном интеллекте. Не оставляйте это на откуп сотрудникам. Не пытайтесь прикрутить защиту постфактум. Стройте платформу.
«Теневой ИИ» — реальная проблема. Сотрудники используют потребительские инструменты без согласования с IT-отделом. Это опасно. Нужны правила управления и аудиторские следы. Нет стратегии работы с данными? Тогда ваша ИИ-стратегия — это карточный домик.
Я заметил, что всё это звучит как реклама. Де Соуза возразил.
Он настаивал на реальности мульти-облачных сред. Вам может казаться, что вы работаете в одном облаке. Скорее всего, это не так. SaaS-приложения мигрируют на другие платформы. Партнёры используют разных поставщиков. Безопасность должна быть единообразной везде. Независимо от моделей. Независимо от границ.
Угрозы тоже изменились.
Старые модели защиты работают со скоростью ледника. Время между утечкой данных и следующим шагом атакующих раньше составляло восемь часов. Теперь — 22 секунды.
Да-да. Секунды.
Ваша поверхность атаки больше не ограничивается фаерволом. Теперь она включает модели, конвейеры данных, промпты, агентов. Всё.
Он выделил странную слепую зону: агенты ИИ могут находить забытые данные.
Подумайте об этом. Те старые серверы SharePoint с 2015 года? Контроли доступа, которые никто не трогал годами? Раньше им не угрожала опасность, потому что никто из людей не полезет их искать. А вот ИИ-агент, сканирующий сеть, найдёт их. И вскроет всё.
Поэтому нужно ускорить защиту. Отвечать скоростью машин на скорость машин.
Защита на основе агентов. Полностью автономные системы, наблюдающие за другими автономными системами. Люди должны осуществлять надзор, а не играть в роли операторов. Это уже не просто тикет для IT-отдела. Это вопрос уровня совета директоров.
Однако. Вот в чём загвоздка.
Кто будет осуществлять надзор над надзирающими?
Квалифицированных специалистов не хватает. Уязвимости размножаются быстрее, чем эксперты успевают их закрывать. Леа Киссер из LinkedIn назвала это «баг-покалипсисом». Она считает, что мы не справимся с этим годами.
Тем временем сам поставщик платформы кажется… сбитым с толку.
Издание The Register отслеживает конкретный случай беспорядка с разработчиками Google Cloud. Вдруг их счета взлетели до пятизначных сумм. Незарегистрированные API-запросы начали обращаться к модели Gemini.
На первый взгляд, это были не злоумышленники. Это были API-ключи. Ключи, предназначенные для Google Maps. Ключи, которые, согласно инструкциям самого Google, были общедоступными. Затем Google изменил область действия этих ключей. Бесшумно. Внезапно они получили доступ к дорогим ИИ-моделям.
Род Данан, руководитель компании Prentus, увидел, как его счёт вырос более чем на $10 000 за тридцать минут. Исару Фонсека в Сиднее проснулся и обнаружил счёт на $18 000, думая, что у него установлен лимит. Он действительно установил его.
Но автоматические системы Google, проанализировав его историю, повысили его потолок. До $100 002. Без явного согласия. Просто алгоритм решил, сколько вы стоите.
После появления новостей в прессе Google вернул деньги. Хороший PR.
Но политика остаётся прежней. Google отказывается менять логику автоматического повышения тарифного плана. Они отдают приоритет бесперебойной работе систем, а не уважению к заявленным бюджетным ограничениям пользователя.
Что, если вы заметите кражу и попытаетесь её остановить?
Забудьте.
Безопасность компании Aikido выявила пугающую задержку. Даже если разработчик немедленно отзывает скомпрометированный API-ключ, этот ключ продолжает работать ещё до 23 минут.
Двадцать три минуты.
За это окно атакующие могут выкачать данные. Они тянут закэшированные разговоры. Крадут файлы. За эти минуты более 90% запросов, использующих «мёртвый» ключ, всё равно проходят успешно.
Почему существует такая задержка?
Исследователь Aikido Джозеф Леон обнаружил нечто показательное. Новые форматы учетных данных Google быстры. Учетные данные сервисных аккаунтов отзываются за пять секунд. Более новые ключи Gemini с префиксом AQ — за минуту.
Пять секунд — это быстро. Одна минута — это быстро.
Но старый стандартный формат отстает на минуты. Это не техническая невозможность. Google делает это в других местах в масштабе.
«Это вопрос приоритетов», — написал Леон.
Прочитайте совет де Сузы ещё раз. Это хороший совет. Безопасность должна быть центральной. Управление должно быть строгим.
Но есть разрыв. Платформа проповедует одно, но практикует другое. Разрыв между тем, что Google предписывает для безопасности, и тем, насколько медленно их собственные системы реагируют на отзыв простого ключа, огромен.
Осведомлённость помогает. Но доверие?
Возможно, пока нет.
