Архитектура безопасности BOM в системах искусственного интеллекта: Графовый подход
В отличие от плоского текста, инженерная спецификация (Bill of Materials, BOM) представляет собой сложный направленный граф. В контексте интеграции с большими языковыми моделями (LLM) возникает критическая уязвимость: если у пользователя есть доступ к «Узлу А», но отсутствует разрешение на просмотр «Болта Х», входящего в его состав, стандартная фильтрация документов терпит неудачу.
Проблема: Либо система скрывает весь узел, блокируя производственный процесс, либо модель начинает «галлюцинировать», пытаясь реконструировать механизм без ключевых элементов, что недопустимо в промышленном проектировании.
1. Динамическое управление контекстом через Recursive Security Filters
Для обеспечения безопасности на уровне архитектуры необходимо использовать связку Ontology Engine (движка онтологий) и рекурсивных фильтров доступа. В базе данных это реализуется через рекурсивные обобщенные табличные выражения (CTE).
WITH RECURSIVE AccessTree AS (
-- Базовый случай: явный доступ пользователя
SELECT part_id, parent_id, access_level
FROM parts_hierarchy
WHERE user_role_has_access(part_id, 'user_123')
UNION ALL
-- Рекурсивный спуск по дереву спецификации
SELECT p.part_id, p.parent_id, p.access_level
FROM parts_hierarchy p
JOIN AccessTree at ON p.parent_id = at.part_id
WHERE user_role_has_access(p.part_id, 'user_123')
)
SELECT * FROM AccessTree;
«При проектировании RAG-пайплайнов (Retrieval-Augmented Generation) контекст для LLM должен собираться динамически только из тех узлов дерева, на которые у пользователя рассчитан Effective Permission — эффективный доступ, подтвержденный по всей цепи от корня до конкретной детали».
2. Проблема логического вывода (Inference Attack)
Специфическая угроза для конструкторских бюро заключается в том, что даже при скрытом названии детали, её физические параметры (вес, габариты, материал) в общем расчете изделия позволяют опытному инженеру или ИИ-взломщику идентифицировать секретный компонент.
Агрегация данных
Если доступ к вложенным элементам ограничен, LLM получает только общие характеристики узла (например, «Вес узла: 15 кг») без детализации состава.
Дифференциальная приватность
Внедрение контролируемого математического «шума» в численные характеристики при выдаче через ИИ, что исключает восстановление точных параметров через серию запросов.
3. Технологический стек "Bridge"
| Уровень | Технология | Функциональная роль |
|---|---|---|
| Data Layer | PostgreSQL (jsonb, ltree) | Хранение «золотого слепка» спецификации и иерархии прав. |
| Knowledge Layer | Ontology Engine (Python/Go) | Логика связей и семантическая проверка зависимостей. |
| Inference Layer | vLLM / NVIDIA Triton | Генерация ответов на основе отфильтрованного графа данных. |
Ключевые компетенции для работы с BOM в AI
-
Permission Inheritance (Наследование разрешений) Автоматическое распространение прав доступа от родительских узлов к дочерним компонентам.
-
Effective Permissions (Эффективные права) Финальный расчет доступности данных после применения всех запрещающих и разрешающих правил.
-
Graph Dependencies (Графовые зависимости) Понимание того, как исключение одного узла влияет на целостность инженерной логики всей цепи.