Контроль до исполнения

Технология

SentientROUTER — слой контроля. Он стоит перед действиями ИИ и делает полномочия видимыми для людей, которые управляют системой и проверяют её.

Архитектура

Политика отделена от ответа модели

Модель выдаёт результат. Политика определяет, что с ним происходит. SentientROUTER держит их раздельно.

Политика

Правила и версии

Каждая классификация указывает версию политики и область её действия.

Полномочия

Точки решения человека

Действие с серьёзными последствиями ждёт, пока уполномоченное лицо не запишет решение.

Состояние

Осторожное повышение контроля

Расхождение, нехватка контекста или проблема управления сужают автоматизацию. Ничто не расширяет её незаметно.

Доказательства

События для проверки

Классификация и её контекст передаются слою доказательств для последующих проверок.

Механизмы

Четыре механизма контроля

  • Конституция проверяется первой

    Правила встроены в программу как конституция с версией. SentientROUTER проверяет по ней каждый запрос до любого автономного действия и до обращения к любому внешнему источнику.

  • Консенсус источников

    Решение по консенсусу использует не менее трёх независимых источников. Система записывает каждый голос вместе с его хешем. Ни один источник не решает единолично.

  • Обнаружение отклонений

    SentientROUTER следит, как часто запросы попадают в S, D и H, насколько расходятся источники и как меняется состояние контроля. Отклонение сужает полномочия.

  • Работа без связи

    Контроль продолжается при потере связи. Записи синхронизируются, когда связь возвращается.

Модели ИИ

Единый управляемый путь к разным моделям ИИ

SentientROUTER даёт общий путь к разным моделям ИИ. Для каждой модели и каждого инструмента действуют одни и те же правила запросов.

Шлюз содержит
Адаптеры поставщиков, обработку запросов и проверки контракта исполнения.
Каждый сценарий задаёт
Доступ к данным, разрешённых поставщиков и поведение при сбое.

Контроль и доказательство

У контроля и доказательства разные роли

SentientROUTER решает, может ли действие ИИ продолжаться. ProvableCORE создаёт запись о каждом решении.

Слой контроля

SentientROUTER

Направляет запрос по правилам организации и по полномочиям человека.

Слой доказательств

ProvableCORE

Связывает каждое решение с его контекстом, политикой, согласованиями и данными целостности. Запись подписана. Третья сторона может её проверить.

provablecore.eu

В ядре SoulGCI

Один замкнутый контур контроля

SoulGCI — ядро управляемого интеллекта группы. В ядре SentientROUTER служит слоем контроля, а ProvableCORE — слоем доказательств.

Человек с полномочиямиЗадаёт пределы. Одобряет или останавливает.

Слой контроля

SentientROUTERРазрешено ли это действие?

Управляемое исполнение

Разрешённое действиеДействие выполняется в своих пределах.

Слой доказательств

ProvableCOREЧто произошло и по каким правилам?
Проверенные результаты задают пределы будущей автономии.

Семь шагов ядра

  1. Принять данные
  2. Связать данные
  3. Построить понимание
  4. Сформировать решение
  5. Проверить полномочия
  6. Действовать и записать
  7. Проверить и учиться

Шаг 5 выполняет SentientROUTER: действовать автоматически, остановиться для проверки или ждать согласования.

Ядро SoulGCI

Институциональный контекст

Создан с учётом европейских требований к надзору

Контроль со стороны человека, прослеживаемость и управление рисками важны для европейских организаций. SentientROUTER создан с учётом этих трёх потребностей. Применимые обязанности зависят от каждого внедрения и каждого сценария.

  • Определённая ответственность

    Организация определяет, какие роли согласуют значимое действие и по какой политике.

  • Проверяемая история

    Проверяющий видит политику, класс и решение человека по каждому событию.

Вопросы

О чём спрашивают организации

Заменяет ли SentientROUTER порядок согласования в организации?

Нет. Правила согласования остаются за организацией. SentientROUTER хранит разрешённый маршрут для каждого запроса и передаёт запрос уполномоченным лицам.

Может ли уверенность модели расширить её автономию?

Нет. Уверенность не расширяет делегированные полномочия. Автономия меняется только через явную политику и процедуру согласования.

С чего организация начинает работу с SentientROUTER?

Каждый сценарий начинается с оценки технических средств контроля, безопасности, правовых обязанностей и интеграций. Затем организация определяет политику, пороги, уполномоченные роли и требования к доказательствам.

Какова роль ProvableCORE?

ProvableCORE — слой доказательств. SentientROUTER решает, может ли действие продолжаться. ProvableCORE создаёт подписанную запись о решении, и третья сторона может проверить эту запись.