Контроль до исполнения

Классы решений

S, D и H показывают, что процесс с ИИ вправе сделать дальше. Организация задаёт правила. Система их применяет. Полномочия остаются у человека.

S

Разрешённая автоматизация

Действовать в заданных пределах

Запрос исполняется автоматически, только если он соответствует правилам и разрешениям, которые организация установила заранее.

Организация решает
Какие действия выполняются без человека и в каких пределах. Организация задаёт эти правила заранее.
Система делает
Проверяет, что запрос соответствует правилам и разрешениям. Затем действует в пределах и записывает результат.
Человек делает
Человек не согласует вручную каждое действие. Записи остаются открытыми для проверки.
Пример
Обновить показатели района, когда источник опубликовал новые данные.

D

Черновик на проверку человеком

Подготовить и остановиться

Система готовит ответ или рекомендацию. Человек проверяет их до любого значимого действия.

Организация решает
Какую работу готовит система и кто её проверяет.
Система делает
Составляет ответ или рекомендацию. Затем останавливается и передаёт черновик проверяющему. Итогового действия она не совершает.
Человек делает
Проверяющий читает черновик и принимает решение. Каждое значимое действие — решение человека.
Пример
Подготовить отчёт о риске засухи. Агроном или аналитик банка читает его и принимает решение.

H

Согласование человеком

Требуется решение человека

Назначенное уполномоченное лицо одобряет или отклоняет действие. Исполнение ждёт этого решения.

Организация решает
Каким действиям нужен человек с полномочиями, какая роль их согласует и по какой политике.
Система делает
Приостанавливает исполнение и передаёт запрос уполномоченному лицу. По такому запросу она сама не обращается ни к одному внешнему источнику.
Человек делает
Уполномоченное лицо одобряет или отклоняет действие. Система записывает решение.
Пример
Изменить условия кредита. Отправить документ во внешнюю организацию.

Правила для каждого класса

Что не меняется

Одни и те же правила действуют для S, D и H.

  • Уверенность модели не расширяет её разрешения.
  • Отсутствие политики или согласования никогда не означает разрешения действовать.
  • При неясном или неполном контексте запрос переходит в более строгий класс.
  • Несогласованный запрос не переходит в более низкий класс.
  • Если проверка полномочий не прошла или не может быть выполнена, запрос останавливается.
  • Автономию расширяет только организация. Для этого нужны явное изменение политики и согласование.
Как запрос получает свой класс