КОНТРОЛЬ АГЕНТОВ ИИ

SIGMA ATG Enterprise

Создан, чтобы останавливать агентов ИИ, пытающихся действовать без подтверждения личности или разрешения.

SIGMA ATG Enterprise предназначен для проверки личности каждого агента и его полномочий до чтения данных, изменения записей или использования инструментов. Если агент не подтвердил личность или разрешение, операция останавливается. Для чувствительных действий можно запросить одобрение человека.

Три концептуальных вида SIGMA Command: операции, агенты и одобрения. Данные иллюстративны; это не снимки развернутого продукта.
Документированная корпоративная архитектура
64 локальные проверки правил
192 накопленных локальных теста
Полную интеграцию предстоит проверить в контролируемом испытании

ПРОБЛЕМА

Агент не должен получать все права человека, вошедшего в систему

Кто этот человек?

Сотрудник может войти в систему для работы, но его сеанс не дает любому агенту права читать, изменять или отправлять все доступные ему данные. Делегирование должно быть конкретным и проверяемым.

Какой агент пытается действовать?

Каждый агент подтверждает личность и получает локальное признание. Планируемая консоль различает внутренних, внешних и неизвестных агентов и связывает их с ответственным лицом. Подлинной подписи самой по себе недостаточно.

Разрешено ли это действие?

Контроль сопоставляет запрос с выданным разрешением: ресурс, действие и ограничения. Доступ к каталогу не разрешает менять цены; чтение дела не разрешает его экспорт.

КАК ЭТО РАБОТАЕТ

Решение принимается до действия

1 · Запрос

Агент запрашивает действие

Внешний агент просит открыть документ. В запросе указано, кто он, что хочет сделать и к каким данным получить доступ.

2 · Проверка

Проверяются личность и разрешение

Система проверяет, признан ли агент организацией и есть ли у него действующее разрешение на просмотр документа.

3 · Решение

Решение до выполнения действия

Запрос поступает в систему только при соблюдении правил. Для важного действия может потребоваться одобрение человека.

  • Разрешить: личность и разрешение подтверждены.
  • Блокировать: агент неизвестен или нет разрешения.
  • Запросить одобрение: ожидание и повторная проверка.

ВОЗМОЖНОСТИ

Больше контроля над действиями каждого агента

Агенты с подтвержденной личностью

Организация определяет, каких агентов признает, кто за них отвечает и когда они могут действовать.

Разрешения для каждой операции

Разрешение можно ограничить задачей, ресурсом и временем. Это не полный доступ ко всей системе.

Одобрение человеком

Чувствительное действие может ждать одобрения человека.

Контроль до выполнения

Запрос проверяется до того, как достигнет приложения или инструмента, вносящего изменение.

Доказательства и аудит

Проект предусматривает запись агента, запроса, решения и его причины для последующего разбора.

SIGMA Command

Планируемая консоль для просмотра операций, прав, решений и оповещений с понятными причинами.

ЭТАЛОННАЯ АРХИТЕКТУРА

Контроль перед приложениями, которые нужно защитить

SIGMA ATG Enterprise размещается на пути запросов к порталу, приложению или инструменту организации. Прежде чем система получит команду, контрольная точка проверяет, какой агент ее отправил, признан ли он организацией и разрешено ли именно это действие. Разрешенное чтение может продолжиться, а несанкционированное изменение останавливается или ожидает одобрения человека, если этого требуют правила.

Предложение использует уже существующие системы организации и определяет место контроля для каждого случая. Оно также охватывает внутренних агентов, работающих с инструментами компании. В контролируемом испытании проверяются подключения, ответственные лица, ограничения и отсутствие обходных путей к приложению. Такая проверка необходима, прежде чем заявлять о защите реальной корпоративной среды.

Концептуальная схема контрольной точки перед приложением и частных служб принятия решений
Эталонная архитектура. Реальные службы и соединения требуют интеграции и проверки.

Контроль будет действенным, только если агент не сможет попасть в приложение по обходному пути.

ВАРИАНТЫ РАЗВЕРТЫВАНИЯ

Четыре способа организации контроля

Защищенный вход

Защита доступа к порталам и сервисам: каждое действие агента проверяется до входа в систему.

Контролируемый выход

Контроль действий внутренних агентов с инструментами и подключениями организации.

Посредник для устаревших систем

Предлагается контролируемый доступ к старым системам. Защита зависит от отсутствия обходного пути.

Работа в частной среде

Для частных или ограниченных сред при условии проверки инфраструктуры и эксплуатации.

ВОЗМОЖНЫЕ ПРИМЕНЕНИЯ

Там, где действуют агенты, нужны конкретные разрешения

Возможные сценарии, а не существующие клиенты или развертывания.

Компании

Агент читает деловые данные или готовит изменения во внутренних системах с разрешением на каждую задачу.

Государственное управление

Работа с порталами и делами с ответственным лицом и прослеживаемостью.

Здравоохранение

Ограниченный доступ к чувствительным данным с учетом цели и обязательного одобрения.

Промышленность

Заказы и операционная поддержка с разделением систем и разрешенных действий.

Энергетика

Автоматизация цифровых активов с усиленным контролем чувствительных изменений.

Логистика

Агенты для учета запасов и координации потоков с заданными рамками и квитанциями.

Торговля

Внешние агенты обращаются к бизнес-сервисам только в пределах разрешенных полномочий.

Образование

Доступ к институциональным хранилищам в пределах идентичности и ресурса.

Начнем с одного измеримого сценария

1. Обследование

Выбираем приложение, агентов и важные действия.

2. План испытания

Согласуем, что разрешать и блокировать и как измерять результат.

3. Контролируемая интеграция

Подключаем контроль в тестовой среде с определенными границами.

4. Негативные испытания

Пробуем действовать без разрешения, превышать лимиты и обходить контроль.

5. Заключение

Оцениваем доказательства и ограничения, затем решаем, что делать дальше.

Концептуальная визуализация пяти этапов оценки и контролируемой PoC
Концептуальный путь оценки. Каждый этап требует технических критериев и проверяемых доказательств.

ОБСУДИМ POC

Определим, какие действия агентов нужно контролировать

Вместе выберем систему, работающих с ней агентов и несколько важных операций. Затем спроектируем испытание, чтобы проверить разрешение, блокировку и одобрение.

Запросить оценку SIGMA ATG