Человек в контуре управления беспилотной системой: принцип human-in-the-loop

Введение

Human-in-the-loop означает участие человека в значимом цикле принятия решения, а не просто наличие наблюдателя. В модели human-in-the-loop значимое действие зависит от участия человека в цикле решения. При human-on-the-loop человек скорее контролирует автоматизированный процесс и может вмешиваться согласно полномочиям. Это организационные принципы, не выводимые из наличия видеоканала.

Принцип формирования данных

Human-in-the-loop означает участие человека в процессе принятия или подтверждения некоторых решений. В системах управления существуют также модели наблюдения человеком и большей степени автоматизации.

Оператор получает сведения, оценивает их и подтверждает определённое действие; близкие конструкции human-on-the-loop и human-out-of-the-loop отличаются.

Сравнение двух показателей

Человек может задавать цель, утверждать действие или вмешиваться при отклонениях, и это разные формы участия. Просто наличие монитора не раскрывает его реальной роли.

Близкие технические понятия

human-in-the-loop — человек участвует в принятии значимого решения; human-on-the-loop — человек осуществляет надзор за автоматизированным процессом.

Нельзя делать вывод об уровне контроля по маркетинговому обозначению технологии. Требуются документы о процедурах и распределении полномочий.

Что не следует заключать

Сам факт видеотрансляции не доказывает, что конкретное решение принято человеком: нужны правила распределения полномочий.

Human-in-the-loop описывает участие человека в решении

Выражение human-in-the-loop используется для обозначения архитектур, где человек участвует в определённом этапе принятия решения или подтверждения действия. Его смысл необходимо раскрывать с указанием соответствующей функции: наблюдение за состоянием аппарата и разрешение применения оружия относятся к разным решениям.

Важно также отличать человека в контуре от человека, который лишь получает сообщение после выполнения действия. Эти модели ответственности нельзя объединять общим термином «оператор есть».

В справочной статье допустимо рассматривать уровни человеческого контроля и терминологию автоматизации, не описывая боевые процедуры или конкретные сценарии выбора целей.

Что означает участие человека в контуре принятия решений

Human-in-the-loop описывает такой вариант взаимодействия, при котором определённое решение требует участия человека. Этот принцип нужно отличать от human-on-the-loop, где человек осуществляет наблюдение и может вмешиваться в предусмотренных пределах. Различие относится к распределению функций и полномочий, а не к числу мониторов на рабочем месте.

Наличие автоматизированного перемещения не исключает участия человека в других решениях. И наоборот, присутствие оператора в системе не означает, что он вручную регулирует каждый физический параметр движения. Для нейтрального технического текста полезно объяснить уровни контроля, трассируемость событий и нормативные вопросы ответственности. При обсуждении военных технологий нельзя использовать эти общие категории как доказательство фактического устройства конкретного комплекса.

Важно различать техническую возможность наблюдать состояние и реальную обязанность подтверждать решение. Человек, который лишь видит события на экране, не обязательно участвует в контуре конкретного действия. Обратная ситуация также возможна, когда отдельный этап требует явного разрешения. Поэтому термин human-in-the-loop необходимо применять к определённому решению, а не ко всей системе без уточнений.