Архитектура безопасности BOM в системах искусственного интеллекта: Графовый подход

24 мая 2024 Экспертный отдел системной архитектуры Информационная безопасность

В отличие от плоского текста, инженерная спецификация (Bill of Materials, BOM) представляет собой сложный направленный граф. В контексте интеграции с большими языковыми моделями (LLM) возникает критическая уязвимость: если у пользователя есть доступ к «Узлу А», но отсутствует разрешение на просмотр «Болта Х», входящего в его состав, стандартная фильтрация документов терпит неудачу.

Проблема: Либо система скрывает весь узел, блокируя производственный процесс, либо модель начинает «галлюцинировать», пытаясь реконструировать механизм без ключевых элементов, что недопустимо в промышленном проектировании.

1. Динамическое управление контекстом через Recursive Security Filters

Для обеспечения безопасности на уровне архитектуры необходимо использовать связку Ontology Engine (движка онтологий) и рекурсивных фильтров доступа. В базе данных это реализуется через рекурсивные обобщенные табличные выражения (CTE).

SQL: Рекурсивный запрос прав доступа
WITH RECURSIVE AccessTree AS (
    -- Базовый случай: явный доступ пользователя
    SELECT part_id, parent_id, access_level
    FROM parts_hierarchy
    WHERE user_role_has_access(part_id, 'user_123')
    
    UNION ALL
    
    -- Рекурсивный спуск по дереву спецификации
    SELECT p.part_id, p.parent_id, p.access_level
    FROM parts_hierarchy p
    JOIN AccessTree at ON p.parent_id = at.part_id
    WHERE user_role_has_access(p.part_id, 'user_123')
)
SELECT * FROM AccessTree;
«При проектировании RAG-пайплайнов (Retrieval-Augmented Generation) контекст для LLM должен собираться динамически только из тех узлов дерева, на которые у пользователя рассчитан Effective Permission — эффективный доступ, подтвержденный по всей цепи от корня до конкретной детали».

2. Проблема логического вывода (Inference Attack)

Специфическая угроза для конструкторских бюро заключается в том, что даже при скрытом названии детали, её физические параметры (вес, габариты, материал) в общем расчете изделия позволяют опытному инженеру или ИИ-взломщику идентифицировать секретный компонент.

Агрегация данных

Если доступ к вложенным элементам ограничен, LLM получает только общие характеристики узла (например, «Вес узла: 15 кг») без детализации состава.

Дифференциальная приватность

Внедрение контролируемого математического «шума» в численные характеристики при выдаче через ИИ, что исключает восстановление точных параметров через серию запросов.

3. Технологический стек "Bridge"

Уровень Технология Функциональная роль
Data Layer PostgreSQL (jsonb, ltree) Хранение «золотого слепка» спецификации и иерархии прав.
Knowledge Layer Ontology Engine (Python/Go) Логика связей и семантическая проверка зависимостей.
Inference Layer vLLM / NVIDIA Triton Генерация ответов на основе отфильтрованного графа данных.

Ключевые компетенции для работы с BOM в AI

  • Permission Inheritance (Наследование разрешений) Автоматическое распространение прав доступа от родительских узлов к дочерним компонентам.
  • Effective Permissions (Эффективные права) Финальный расчет доступности данных после применения всех запрещающих и разрешающих правил.
  • Graph Dependencies (Графовые зависимости) Понимание того, как исключение одного узла влияет на целостность инженерной логики всей цепи.