Свобода действовать.
Ответственность, ставшая видимой.

У нас есть системы почти для всего — кроме того, что связывает слова с ответственностью

Современное общество исключительно хорошо умеет фиксировать деятельность.

Мы сохраняем разговоры.

Мы создаём задачи.

Мы подписываем договоры.

Мы отслеживаем платежи.

Мы измеряем результаты.

Государства публикуют законы, бюджеты, отчёты и статистику. Компании используют электронную почту, мессенджеры, CRM-системы, инструменты управления проектами, бухгалтерские программы и юридические документы.

И всё же, когда что-то идёт не так, одна из самых частых фраз по-прежнему звучит так:

«Я думал, мы договорились».

Кто-то считал, что крайний срок — пятница.

Кто-то другой считал, что пятница подходит, только если материалы поступят в среду.

Одна сторона считала, что работа передана.

Другая считала, что она ещё не прошла приёмку.

Руководитель полагал, что команда приняла ответственность.

Команда полагала, что руководитель всё ещё рассматривает предложение.

Гражданин понимал политическое обещание одним образом.

А давший его чиновник позднее объясняет, что имел в виду другое.

Информация существует.

Но структура ответственности часто отсутствует.

Между разговором и исполнением

Ожидание существует в представлении одного участника об отношениях.

Подтверждённое обязательство существует лишь тогда, когда ответственность достаточно прояснена и признана при соответствующих условиях полномочий и подтверждения.

Есть слой человеческой координации, который обычно существует лишь неявно.

Он включает такие вопросы:

• От кого ожидают действия?
• Для кого?
• Какого результата ожидают?
• К какому сроку?
• При каких условиях?
• Что должно произойти сначала?
• У кого есть полномочия принять обязательство?
• Кто решает, прошёл ли результат приёмку?
• Что зависит от исполнения?
• Что меняется при изменении одного условия?

Ответы на эти вопросы могут быть разбросаны по письмам, встречам, документам, воспоминаниям и предположениям.

Часто ни один участник не видит всей структуры.

А когда структура остаётся неявной, два человека могут выйти из одного разговора с разными представлениями о том, что только что произошло.

Оба могут действовать честно.

Оба могут считать, что поняли договорённость.

И оба впоследствии могут удивиться.

Это не обязательно недостаток интеллекта.

Часто это сбой координации.

Существующие системы фиксируют фрагменты

Системы обмена сообщениями отвечают:

Что было сказано?

Системы управления задачами отвечают:

Что нужно сделать?

Договоры отвечают:

Что было формально закреплено?

Платёжные системы отвечают:

Какая стоимость была передана?

Но ни одна из них не обязательно отвечает на более фундаментальный вопрос:

Кто вправе ожидать чего и от кого, при каких условиях, к какому сроку — и что от этого зависит?

Именно этот слой ObliNet призван сделать явным.

Не ещё один архив сообщений.

Не ещё один список задач.

Не просто ещё одна система управления договорами.

Не платёжный механизм.

А связывающий их слой обязательств, полномочий, условий и зависимостей.

Почему задача — не то же самое, что обязательство

Задача говорит:

«Подготовить отчёт».

Обязательство говорит нечто более определённое:

«Алиса обязалась предоставить Бобу итоговый отчёт к пятнице при условии, что финансовые данные поступят к среде; Боб подтвердит приёмку, после чего может начаться следующий этап».

Разница существенна.

Задача описывает работу.

Подтверждённое обязательство создаёт отношение обоснованного ожидания.

Кто-то несёт ответственность.

Кто-то вправе ожидать результата.

Есть условия.

Есть зависимости.

Есть критерий завершения.

Могут наступить последствия.

Именно эта структура отношений делает подотчётность возможной.

Почему договора недостаточно

Обязательство ≠ Обязанность

Обязанность
Более широкая обязанность или обязывающая ответственность, которая может возникать из подтверждённого обязательства, закона, договора, роли, институционального правила или другого правомерного основания.

Договор может формально закреплять обязанности.

ObliNet сосредоточен на более раннем этапе: как ожидания, предложения и обещания становятся подтверждёнными обязательствами и как эти обязательства связаны с полномочиями и зависимостями.

Проект может сорваться задолго до подключения юристов.

Недопонимание может начаться на пятиминутной встрече.

Срок может стать нереалистичным из-за одной зависимости, которую так и не обозначили явно.

Руководитель может предполагать, что обещание дано, хотя другой участник считает, что они лишь обсуждали возможности.

К тому времени, когда разногласие доходит до формального договора, сбой координации уже мог произойти.

Поэтому ObliNet начинает раньше:

между языком и действием.

Его цель — не просто документировать спор после его возникновения.

Его цель — сделать различия в понимании видимыми, пока их ещё можно устранить с небольшими затратами.

Подотчётность начинается раньше контроля

Мы часто говорим о том, чтобы люди отвечали за свои действия.

Но здесь есть логическая проблема.

Невозможно точно оценить, исполнил ли человек обязанность, если сама обязанность так и не была чётко установлена.

Рассмотрим пример:

«Мы улучшим здравоохранение».

Что значит «улучшим»?

Сократим время ожидания?

Снизим смертность?

Увеличим число врачей?

Улучшим территориальную доступность?

Снизим стоимость?

За какой период?

Под чьим контролем?

В зависимости от каких других институтов?

Без этих разграничений практически любой результат позднее можно трактовать по-разному.

Поэтому подотчётность не может начинаться с наказания.

Она должна начинаться с ясности.

Прежде чем спросить:

«Вы выполнили то, за что отвечали?»

мы должны уметь ответить:

«За что именно вы отвечали?»

Недостающий объект

ObliNet рассматривает обязательство как самостоятельный объект первого уровня.

Содержательное обязательство может включать:

Полномочия
Кто вправе действовать или принимать обязательство и от чьего имени?

Ответственная сторона
Кто принимает на себя обязанность?

Другая сторона
Кто вправе ожидать исполнения?

Результат
Какого результата ожидают?

Время
К какому сроку?

Условия
При каких обстоятельствах действует обязательство?

Зависимости
Что должно произойти сначала и что исполнение позволит сделать затем?

Приёмка
Кто определяет, что результат достигнут полностью?

Свидетельства
Что подтверждает утверждение об исполнении?

Эта структура не устраняет неопределённость.

Она делает неопределённость видимой.

Соразмерная формализация

ObliNet не предполагает, что каждое человеческое взаимодействие нужно превращать в структурированную запись.

Это было бы и излишне, и нежелательно.

Людям нужны неформальные разговоры.

Доверие важно.

Контекст важен.

Неоднозначность иногда полезна.

Но цена неоднозначности меняется в зависимости от того, что поставлено на карту.

Обычная договорённость об ужине не требует формальной инфраструктуры обязательств.

Сделке на миллион долларов она может понадобиться.

Проект общественной инфраструктуры определённо заслуживает большей ясности.

Решение, затрагивающее миллионы граждан, заслуживает ещё большей.

Поэтому принцип не в том, чтобы:

Формализовать всё.

А в том, что:

Чем выше ожидаемая цена неоднозначности или злоупотребления полномочиями, тем весомее основания для структурирования.

Цель — не контроль

Плохо спроектированная система обязательств может превратиться в машину слежки:

«Мы записали всё, что вы сказали, чтобы потом использовать это против вас».

Не в этом цель.

Лучше спросить:

«Одинаково ли мы понимаем следующий шаг?»

Иногда верный результат — не новое обязательство.

Это может быть:

«Мы ещё не договорились».

Или:

«Я не могу обещать этот срок».

Или:

«Я могу согласиться на это, только если выполнено условие X».

Предотвратить нереалистичное обязательство может быть ценнее, чем зафиксировать его.

Цель — не в том, чтобы обещаний стало как можно больше.

А в том, чтобы повысить качество координации.

От неявного ожидания к общей структуре

Ключевой переход можно описать просто:

Ожидание
→ Предложение / Обещание
→ Подтверждённое обязательство
→ Полномочия / Зависимости
→ Исполнение
→ Приёмка
→ Результат / Последствия
→ Обучение

Так появляется то, чего нет в большинстве современных систем:

общая, доступная для проверки модель того, о чём, по мнению участников, они договорились.

Это не гарантирует, что люди сдержат обещания.

Это не гарантирует правильность решения.

Это не гарантирует исчезновения конфликтов.

Но это повышает шансы участников обнаружить разногласие до того, как оно причинит ущерб.

Первый принцип ObliNet

Поэтому первый принцип ObliNet прост:

Ответственность не станет по-настоящему наблюдаемой, пока сами обязательства не будут выражены достаточно явно, чтобы их можно было исследовать.

Для более качественной подотчётности нужен более ясный объект подотчётности.

Прежде подотчётности нужна ясность.

Прежде чем координация сможет улучшиться, нужно увидеть структуру, которая уже существует, но сегодня остаётся в основном невидимой.

Эта невидимая структура и есть недостающий слой.

И ObliNet — попытка сделать его видимым.

Обязательство редко существует само по себе

Большинство значимых обязательств связано с другими обязательствами.

Поставщик соглашается поставить материалы.

Подрядчик может начать только после поступления материалов.

Инспектор может провести проверку только после завершения работы.

Клиент может провести приёмку только после проверки.

Оплата может происходить только после приёмки.

Каждый шаг по отдельности может выглядеть простым.

Но реальная система — не список.

Это сеть.

Одно обязательство часто становится условием для другого.

И когда один узел меняется, последствия могут распространиться далеко за пределы того, кто изначально дал обещание.

Сеть обязательств — это сеть подтверждённых обязательств, связанных зависимостями, полномочиями, приёмкой и последствиями, в которой состояние одного обязательства может влиять на другие.

Координация связана с зависимостями

Предположим, кто-то говорит:

«Я передам работу в пятницу, если материалы поступят к среде».

Это не одно простое обещание.

В нём есть зависимость.

Обязательство на пятницу зависит от события в среду.

Если материалы поступят вовремя, исходное обязательство останется реалистичным.

Если они поступят в четверг, сразу возникнет несколько вопросов:

• Остаётся ли пятница сроком?
• Нарушает ли теперь поставщик договорённость?
• Переносится ли дата передачи автоматически?
• Должны ли стороны пересогласовать условия?
• Что происходит с датой приёмки клиентом?
• Что происходит с оплатой?
• Кого ещё это затрагивает?

В обычном общении эти последствия часто остаются неявными.

Именно здесь начинаются сбои координации.

Условие описывает, когда или как действует обязательство.

Зависимость указывает на состояние на предшествующем этапе, которое существенно влияет на выполнимость или последующие последствия.

Изменившееся условие не должно незаметно переписывать договорённость

Один из самых частых источников конфликта — предположение, что все понимают, как меняется обязательство при изменении реальности.

Часто это не так.

Одна сторона предполагает:

«Задержка, очевидно, переносит мой срок».

Другая предполагает:

«Вы обещали пятницу в любом случае».

Ни одна из этих трактовок могла не получить явного подтверждения.

Исходное обещание было видимым.

Зависимость — нет.

ObliNet призван сделать эту зависимость частью самого обязательства.

Тогда изменение предварительного условия не создаёт новую договорённость незаметно.

существенное изменение
→ затронутые обязательства становятся видимыми
→ пересогласование там, где оно необходимо
→ подтверждение пересмотренных условий

Сеть — не организационная схема

Сеть обязательств не просто показывает, кто кому подчиняется.

Она показывает:

кто чего ждёт;

что позволяет перейти к следующему действию;

какой результат зависит от какого предшествующего результата;

где требуются полномочия;

где происходит приёмка;

где стоимость переходит из рук в руки.

Это другой взгляд на организацию.

Организационная схема показывает иерархию.

Карта процессов показывает рабочий поток.

Доска задач показывает распределённую работу.

Сеть обязательств показывает обоснованные ожидания и зависимости между участниками.

Поэтому она может выявлять проблемы, которые упускают другие системы.

Локальные сбои могут повлиять на всю систему

Пропущенный срок может казаться локальной проблемой.

Но её влияние может быть иным.

Представьте:

материалы поступают на два дня позже;

строительство начинается на два дня позже;

проверка не укладывается в отведённое окно;

следующее время для проверки — через десять дней;

приёмка переносится;

оплата переносится;

другой проект, ожидающий ту же команду, задерживается.

Исходная проблема была небольшой.

Сетевой эффект — нет.

Поэтому значимость обязательства не всегда можно понять, рассматривая только его само.

Нужно также спросить:

Что от него зависит?

Незначительная на вид обязанность может быть критически важной предшествующей зависимостью.

А крупная обязанность иногда может быть изолированной.

Влияние определяет сеть.

Ответственность становится яснее, когда зависимости видимы

Без взгляда на сеть сбой часто вызывает знакомые реакции:

«Это не моя вина».

«Мы ждали их».

«Они изменили условия».

«Мы никогда на это не соглашались».

Иногда это отговорки.

Иногда — точные описания зависимости.

Проблема в том, что различие трудно проверить задним числом.

Если зависимости были видимы с самого начала, можно задать более точные вопросы:

• Было ли предварительное условие выражено явно?
• Была ли известна ответственная сторона?
• Была ли задержка видима в момент её возникновения?
• Были ли уведомлены стороны на последующих этапах?
• Требовалось ли пересогласование?
• Продолжал ли кто-то действовать так, будто ничего не изменилось?
• Сохранилось ли нереалистичное обязательство после того, как его предпосылки перестали выполняться?

Так расплывчатые обвинения превращаются в структурированный анализ.

Сеть позволяет вмешаться раньше

Традиционная подотчётность часто включается после сбоя.

Проект опаздывает.

Деньги уже потрачены.

Клиент сердится.

Политический ущерб уже нанесён.

Сеть зависимостей открывает другую возможность.

Предположим, обязательство на предшествующем этапе оказывается под угрозой.

Тогда система может показать:

какие последующие обязательства подвергаются риску;

кому нужно знать;

какие сроки могут стать нереалистичными;

какие решения требуют пересмотра.

Это создаёт новый вид вмешательства:

не «Кто не справился?» после ущерба, а «Что становится невозможным?» до ущерба.

Этот переход — центральный для ObliNet.

Зависимости — не отговорки

Если зависимости становятся видимыми, это не означает исчезновения ответственности.

Совсем наоборот.

Если человек принимает обязательство, зная, что оно зависит от неопределённого предварительного условия, эта неопределённость — часть решения.

Если зависимость критична, обязательство должно её отражать.

Например:

«Я обязуюсь выполнить к пятнице, если материалы поступят в среду».

отличается от:

«Я обязуюсь выполнить к пятнице».

И оба отличаются от:

«Я рассчитываю на пятницу, но пока не готов принять обязательство».

Ясность зависимостей защищает людей от несправедливых обвинений.

Но также не позволяет прятаться за зависимостями, о которых они так и не сообщили.

Сети включают приёмку, а не только исполнение

Там, где требуется приёмка, исполнение не завершает жизненный цикл отношений до её проведения.

Могут быть также:

• инспекция;
• рассмотрение;
• приёмка;
• одобрение;
• оплата;
• освобождение от другой обязанности.

Например:

Подрядчик завершает работу
→ Инспектор её проверяет
→ Клиент проводит приёмку
→ Возникает обязанность оплатить

Это разные события.

Если приёмка неясна, возникают споры:

«Мы передали результат».

«Мы его не принимали».

Если оплата зависит от приёмки, это различие важно.

Поэтому сеть не должна заканчиваться исполнением.

Она должна включать события, определяющие, было ли исполнение действительно признано.

Полномочия тоже проходят через сеть

Зависимости бывают не только операционными.

Они могут касаться и полномочий.

У руководителя могут быть полномочия одобрять закупку до определённой суммы.

Выше этого порога требуется разрешение другого лица.

Агент AI может быть способен подготовить договор, но не подписать его.

Государственное ведомство может быть вправе предложить проект, но не выделить бюджет.

Поэтому сеть может включать не только:

«Что должно произойти сначала?»

но и:

«Кто должен разрешить следующий шаг?»

Сами полномочия могут стать зависимостью для следующего действия.

Это особенно важно, когда люди и агенты AI работают вместе.

Сети меняются со временем

Ни одна реальная сеть обязательств не остаётся статичной.

Сроки сдвигаются.

Условия меняются.

Участники меняются.

Появляются новые зависимости.

Некоторые обязательства становятся невыполнимыми.

Другие — ненужными.

Здоровая система координации должна допускать изменения.

Но изменения должны оставаться видимыми.

Принцип не в том, что:

«Записанное обязательство уже никогда не может измениться».

Принцип в том, что:

«Когда обязательство меняется, само изменение становится частью общей истории».

Что изменилось?

Почему?

Кто это предложил?

Кто согласился?

Какие последующие обязательства были затронуты?

Так гибкость и подотчётность могут сосуществовать.

Пересогласование — часть координации, а не её сбой

Зрелая система не должна считать каждое изменённое обязательство нарушением.

Иногда пересогласование — ответственное действие.

Предположим, исходный план был разумным.

Затем появляется новая информация.

Следовать прежнему обещанию теперь может быть нерационально.

В таком случае верным шагом может стать:

изменить срок;

изменить объём;

добавить ресурсы;

остановить проект;

передать ответственность.

Важно, чтобы переход был явно выражен.

Стороны знают, что прежнее обязательство изменилось.

Причина видима.

Сеть обновлена.

Ожидания на последующих этапах можно скорректировать до того, как они станут ложными предположениями.

Сеть обязательств — также сеть обучения

Когда результаты связаны с предшествующими обязательствами, сеть становится чем-то большим, чем инструмент координации.

Она становится источником обучения.

Со временем можно спросить:

• Какие зависимости постоянно недооцениваются?
• Какие типы обязательств чаще всего не исполняются?
• Какие передачи работы создают больше всего неоднозначности?
• Где задержки распространяются сильнее всего?
• Какие условия часто отсутствуют?
• Какие участники начинают пересогласование заранее?
• Какие участники ждут, пока сбой станет неизбежным?

Так создаётся институциональная память.

Система начинает учиться не только на отдельных результатах, но и на закономерностях координации.

Соразмерная формализация

Не каждую зависимость нужно фиксировать.

Система, пытающаяся охватить всё, станет непригодной для использования.

Правильный вопрос — не:

«Можем ли мы это записать?»

А:

«Снизит ли явное обозначение этой зависимости риск или недопонимание в существенной степени?»

Чем выше ожидаемая цена неоднозначности или злоупотребления полномочиями, тем весомее основания для структурирования.

ObliNet — не граф задач

Это различие важно.

Граф задач описывает, какую работу необходимо выполнить.

Сеть обязательств описывает, кто вправе ожидать какого результата и от кого, при каких условиях и что зависит от исполнения.

Та же задача может существовать без обязанности.

А одна и та же обязанность может включать множество задач.

Например:

«Передать утверждённый проект к пятнице».

Внутри это может потребовать десятков задач.

Но внешнее обязательство остаётся одним отношением:

ответственная сторона,

другая сторона,

согласованный результат,

условия,

срок,

и приёмка.

ObliNet занимается этим слоем отношений.

Сеть выявляет риск координации

Когда обязательства связаны, становится видимым новый вид риска.

Не только:

«Будет ли эта задача выполнена с опозданием?»

Но и:

«Что ещё окажется уязвимым, если это обязательство не будет исполнено?»

Это другой уровень рассуждения.

Сеть зависимостей может показать:

одну задержку;

пять затронутых обязанностей;

три организации;

два решения, которые теперь требуют пересмотра.

Здесь ObliNet может перейти от ведения записей к интеллектуальной поддержке координации.

Не решая за участников.

А помогая им раньше увидеть последствия.

Почему «Net» важно

Название ObliNet содержит две идеи.

Обязанность
Более широкая обязанность или обязывающая ответственность, которая может возникать из подтверждённого обязательства, закона, договора, роли, институционального правила или другого правомерного основания.

Net указывает на связанность этих объектов.

Без первого мы видим деятельность, но не ответственность.

Без второго — отдельные обещания, но не создаваемую ими систему.

Сочетание важно, потому что реальная координация редко бывает изолированной.

Это:

сеть людей и агентов, принимающих обязательства, исполнение которых позволяет исполнять обязательства других, ограничивает их и меняет.

Второй принцип ObliNet

Поэтому второй принцип таков:

Обязательство следует понимать не только через то, что оно обещает, но и через то, от чего оно зависит и что зависит от него.

Ответственность существует в отношениях.

Координация устроена как сеть.

А сбои распространяются через связи.

Чтобы понять, что произойдёт дальше, нам нужно больше, чем список обещаний.

Нам нужно видеть сеть.

Демократия лучше решила задачу передачи власти, чем наблюдения за властью

Одно из величайших достижений демократии — более мирная передача политических полномочий.

Граждане могут выбирать, кто управляет.

Руководителей можно сменять без наследования власти, переворотов или гражданской войны.

Это достижение нельзя недооценивать.

Но одну проблему выборы решают лучше, чем другую.

Они отвечают:

Кто получает полномочия?

Гораздо менее точно они отвечают:

Насколько хорошо эти полномочия использовались между выборами?

Гражданин голосует время от времени.

Правительство действует непрерывно.

Между одними выборами и следующими принимаются тысячи решений.

Распределяются бюджеты.

Запускаются программы.

Проекты задерживаются.

Правила меняются.

Принимаются риски.

Обещания пересматриваются.

Происходят неожиданные события.

Когда граждане снова голосуют, им предлагается сжать всю эту историю в одно политическое суждение.

Это крайне грубый механизм обратной связи.

Выборы делегируют полномочия. Наблюдаемая подотчётность исследует, как эти полномочия используются между моментами электорального выбора.

Выборы необходимы, но эпизодичны

Проблема не в том, что выборы бесполезны.

Проблема в том, что они эпизодичны.

Политический мандат может действовать годами.

За эти годы качество управления может резко измениться.

Руководитель может начать хорошо, а затем ухудшить работу.

Руководитель может начать плохо и улучшиться.

Кризис может выявить компетентность.

Длительная стабильность может скрывать слабость.

Однако формальная демократическая обратная связь часто появляется лишь на следующих выборах.

Так возникает структурный разрыв:

непрерывное принятие решений

но лишь

периодическая подотчётность.

ObliNet в сфере управления предлагает сократить этот разрыв.

Мандат — не карт-бланш

Избирая руководителя, граждане делегируют полномочия.

Но на что именно они дали полномочия?

Избиратель может поддержать кандидата из-за экономической политики.

Другой — того же кандидата из-за национальной безопасности.

Третий может просто предпочитать его альтернативе.

Один и тот же голос может отражать совершенно разные причины.

Поэтому победа на выборах логически не означает:

«Общество одобрило каждое будущее решение этого руководителя».

Электоральный мандат делегирует широкие политические полномочия; он не даёт заранее разрешения на каждое будущее решение.

Демократическая система должна различать:

полномочия управлять

и

обоснование конкретного решения.

ObliNet не устраняет широкий мандат.

Он добавляет структуру вокруг того, как мандат используется.

Делегированные полномочия должны оставлять видимый след

Если руководитель получает полномочия от общества, значимое использование этих полномочий должно быть наблюдаемым.

Это не означает запись каждого частного разговора или каждого мелкого административного действия.

При принятии публичных решений со значимыми последствиями должны сохраняться снимок на момент принятия решения и создаваемые решением обязательства.

Это означает, что решения со значимыми последствиями должны оставлять структурированный след:

проблема
→ доступная информация
→ альтернативы
→ неопределённость и риски
→ решение
→ обоснование
→ обязательства
→ исполнение
→ результаты

Объект наблюдения — осуществление делегированных публичных полномочий, а не вся жизнь должностного лица.

Это принципиальное различие.

Подотчётности нужно нечто точнее популярности

Руководитель может быть популярным и управлять плохо.

Руководитель может быть непопулярным и управлять хорошо.

Общественные настроения важны в демократии, но это не то же самое, что свидетельства качества решений.

Общественное доверие
Меняющееся общественное суждение о том, как осуществляются делегированные полномочия, опирающееся на наблюдаемые свидетельства, но не сводимое к единому баллу.

Если политическая оценка зависит лишь от популярности, риторики и внимания СМИ, значительная часть управления превращается в представление.

ObliNet вводит ещё один слой:

историю решений и обязательств.

Не:

«Нравится ли мне этот руководитель?»

а:

«Какие обязательства этот руководитель принял, что решил, пересмотрел и чего достиг?»

Это не устраняет политику.

Это даёт политике более прочную фактическую основу.

Публичные обещания часто слишком расплывчаты для оценки

Типичное политическое заявление звучит так:

«Мы улучшим образование».

Но что будет считаться исполнением?

Более высокие результаты тестов?

Меньше учеников в классах?

Сохранение учительских кадров?

Доступность школ?

Результаты профессионального образования?

Благополучие учеников?

И за какой период?

Без предварительного прояснения один и тот же результат можно описать совершенно по-разному.

Правительство может сказать:

«Мы выполнили обещание».

Оппозиция может сказать:

«Обещание нарушено».

Обе стороны могут подбирать разные критерии задним числом.

Поэтому публичная подотчётность должна начинаться до того, как станет известен результат.

Публичное обязательство со значимыми последствиями должно быть достаточно ясным, чтобы определить намеченный результат, соответствующий временной горизонт, существенные зависимости, пределы контроля и критерии последующей проверки исполнения.

Цели не должны переписываться после результата

Один из самых простых способов избежать подотчётности — переопределить успех после того, как результат стал видимым.

До решения:

«Наша главная цель — снизить цены».

После роста цен:

«Настоящей целью было сохранить занятость».

Иногда приоритеты действительно меняются.

Это правомерно.

Но изменившаяся цель должна быть видима именно как изменение.

Система должна показывать:

исходная цель
→ причина пересмотра
→ пересмотренная цель

Пересмотр правомерен; незаметное переписывание прошлого — нет.

Это также защищает руководителей, когда изменение было оправданным.

Суть не в негибкости.

Суть в прослеживаемости.

Подотчётность должна исследовать, что было известно в тот момент

Знание задним числом опасно.

После события его причины часто кажутся очевидными.

Но заранее они могли не быть очевидными.

Снимок на момент принятия решения
Сохранить то, что было известно, предполагалось, оставалось неопределённым и рассматривалось до того, как стал известен результат.

Это важно, потому что управление всегда связано с неполной информацией.

Руководителя не следует наказывать за неспособность предсказать непредсказуемое.

Но и игнорирование явно известного риска не должно его оправдывать.

Наблюдаемый контекст решения позволяет провести это различие.

Публичная подотчётность должна быть непрерывной, а не постоянным наказанием

Непрерывная подотчётность не означает постоянных санкций.

Здоровая система должна различать:

• тревожный сигнал;
• исправимую ошибку;
• устойчивую некомпетентность;
• небрежность;
• намеренный обман.

Цель — не создавать постоянную политическую панику.

Цель — создать систему, способную реагировать до того, как проблемы станут необратимыми.

Например:

обеспокоенность
→ объяснение
→ исправление
→ независимое рассмотрение
→ рассмотрение общественного доверия, когда это уместно

Это гораздо устойчивее любой из крайностей:

годами нет содержательной обратной связи,

или

мгновенное отстранение после каждого негативного события.

Общественное доверие должно допускать обновление

Традиционные политические системы часто рассматривают общественное доверие как нечто, предоставляемое крупными временными блоками.

Проходят выборы.

Начинается мандат.

До следующего формального момента принятия решения могут оставаться годы.

ObliNet в сфере управления предлагает другую идею:

Общественное доверие должно постоянно опираться на наблюдаемую деятельность.

Не постоянно отзываться.

Не постоянно измеряться опросами.

А постоянно получать информационную основу.

По мере того как общество видит использование полномочий, общественное доверие может:

• укрепляться;
• ослабевать;
• оставаться стабильным;
• вести к более тщательному рассмотрению.

Так отношения между обществом и руководством становятся более отзывчивыми.

Наблюдаемая подотчётность не означает прямую демократию по каждому вопросу

Распространённое недопонимание могло бы звучать так:

«Если граждане постоянно наблюдают за правительством, должны ли они голосовать по каждому решению?»

Нет.

Это было бы неуправляемо.

Сложным обществам необходимо делегирование.

Суть не в устранении представителей.

Суть в том, чтобы сделать делегированные полномочия более наблюдаемыми.

Граждане по-прежнему делегируют.

Руководители по-прежнему решают.

Эксперты по-прежнему советуют.

Институты по-прежнему управляют.

Но цепочка от полномочий через решение к последствию становится яснее.

Граждане должны иметь возможность делегировать и наблюдение

Если граждане не могут сами анализировать каждое решение, им нужны доверенные посредники.

Так возникает второй вид делегирования.

Не только:

«Я делегирую полномочия принимать решения».

Но и:

«Я делегирую часть работы по наблюдению за этими полномочиями и их оценке».

Делегированное наблюдение — делегирование аналитического внимания, а не суверенитета.

Гражданин может доверять:

• экономисту в вопросах бюджетной политики;
• медицинской ассоциации в вопросах здравоохранения;
• университету в вопросах образования;
• правозащитной организации в вопросах прав;
• независимому аудитору в вопросах закупок.

Это не устраняет суверенитет граждан.

Это позволяет расширять масштаб надзора.

Наблюдатели не должны становиться новым правящим классом

Делегированные наблюдатели могут сами накапливать влияние.

Поэтому они тоже должны быть наблюдаемыми.

Общество должно иметь возможность видеть:

• кто их финансирует;
• какие методы они используют;
• какие свидетельства подтверждают их выводы;
• насколько точными были их прошлые оценки;
• какие конфликты интересов существуют.

Никто не должен получать постоянные полномочия лишь потому, что его называют независимым.

Наблюдатели не приобретают политических полномочий лишь благодаря наблюдению.

Система подотчётности должна применять свои принципы и к тем, кто обеспечивает подотчётность.

Обществу нужны общие факты, даже когда ценности различаются

Политические разногласия не исчезнут.

И не должны.

Граждане могут разделять факты и при этом расходиться в ценностях.

Например:

Мера сократила расходы на 12%.

и:

Она увеличила среднее время ожидания на 18%.

Оба утверждения могут быть верными.

Один гражданин может считать такой компромисс приемлемым.

Другой — отвергать его.

ObliNet может структурировать произошедшее. Он не может решать, что общество должно ценить.

Зрелая демократия не устраняет разногласия.

Она повышает качество того, о чём люди спорят.

Руководство должно быть сменяемым без кризиса

Устойчивая демократия не должна зависеть от одного человека.

Ни одного незаменимого участника
Ключевые участники и реализации должны оставаться заменяемыми без разрушения институциональной преемственности.

Если смена руководителя угрожает выживанию всей системы, система слишком персонализирована.

Публичная должность должна быть временной функцией.

Руководитель служит определённый период.

Затем его может сменить другой.

Институт остаётся.

Это одна из причин важности наблюдаемой подотчётности.

Если общество раньше видит ухудшение работы, смена может стать:

процедурой

вместо:

разрыва.

Это одно из условий мирного политического развития.

Непрерывная подотчётность может снизить давление в пользу революционного исправления

Системы становятся неустойчивыми, когда теряют способность исправлять себя.

Проблемы накапливаются.

Общественное разочарование растёт.

Институты перестают реагировать.

В конце концов люди приходят к выводу, что лишь резкий разрыв способен привести к переменам.

Система, способная раньше объяснять, исправлять и обеспечивать законную смену, может снизить давление в пользу разрушительных форм политического исправления.

ObliNet не заменяет демократические институты

ObliNet в сфере управления не должен становиться параллельным правительством.

Он не должен заменять:

• выборы;
• конституции;
• суды;
• парламенты;
• независимые СМИ;
• общественные дебаты.

Его роль уже и ближе к инфраструктуре.

Он предоставляет общий слой для:

• делегированных полномочий;
• явно выраженных обязательств;
• контекста решений;
• зависимостей;
• результатов;
• обучения.

Тогда существующие институты смогут работать с более качественной информацией.

Суд получает более ясную запись.

Парламент — более ясную цепочку ответственности.

Журналисты — более ясную историю решений.

Граждане — более ясную основу общественного доверия.

Демократия становится более непрерывной, а не менее демократичной

Цель — не заменить демократию технократией.

И не заменить избирателей AI.

И не заменить политику показателями.

Цель — развиваться от:

эпизодического выбора

к:

непрерывной наблюдаемой подотчётности.

Выборы остаются.

Но они больше не единственный содержательный момент демократической обратной связи.

Между выборами использование полномочий становится видимее.

Третий принцип ObliNet

Поэтому третий принцип таков:

Делегированные полномочия должны оставаться доступными для содержательного наблюдения на протяжении всего периода их осуществления, чтобы объяснение, исправление, обучение и законная смена оставались возможными между выборами.

Граждан не следует вынуждать выбирать между:

слепым доверием на годы

и

политическим кризисом.

Между ними должно быть нечто:

свидетельства,

объяснение,

исправление,

обучение,

и, при необходимости, мирная смена.

В этом переход:

от одних лишь выборов к подотчётности, продолжающейся между выборами.

Решение следует оценивать в том мире, в котором оно было принято

Каждое важное решение принимается до того, как известен результат.

Это кажется очевидным.

Но когда результат становится видимым, мы склонны об этом забывать.

После успеха выигрышный выбор часто выглядит неизбежным.

После неудачи ошибка часто кажется очевидной.

Это создаёт одно из самых опасных искажений подотчётности:

мы судим прошлые решения по информации, которой не существовало в момент их принятия.

Справедливая система должна сопротивляться этому соблазну.

Чтобы оценить решение, нужно восстановить мир таким, каким он представлялся в тот момент.

Что было известно?

Что было неопределённым?

Какие альтернативы существовали?

Какие риски были видимы?

Какие предположения делались?

Лишь тогда можно спросить, было ли решение разумным.

Результат и качество решения — не одно и то же

Хорошее решение может дать плохой результат.

Плохое решение может дать хороший результат.

Предположим, принимающий решение выбирает вариант с вероятностью хорошего результата 80%.

Наступает плохой исход с вероятностью 20%.

Было ли решение обязательно неверным?

Нет.

Теперь представим другого принимающего решение: он выбирает вариант с очень низкой вероятностью успеха, игнорирует серьёзные предупреждения, но ему везёт.

Было ли решение обязательно хорошим?

Снова нет.

Поэтому подотчётность должна различать:

качество решения

и

качество результата.

Оба важны.

Но они не взаимозаменяемы.

Удачу нельзя путать с компетентностью

Организации часто вознаграждают за хорошие результаты и наказывают за плохие.

Это понятно.

Но если делать только это, мы учим людей оптимизировать впечатление вместо качества суждения.

Человек, безрассудно рискнувший и выигравший благодаря удаче, может выглядеть блестяще.

Человек, принявший взвешенное решение в условиях неопределённости и столкнувшийся с редким неблагоприятным событием, может выглядеть некомпетентным.

Со временем это может создавать неверные стимулы.

Целью должно быть выявление:

• качественного рассуждения;
• слабого рассуждения;
• оправданного риска;
• безрассудного риска;
• хорошей адаптации;
• небрежности, которой можно было избежать.

Для этого недостаточно наблюдать конечный результат.

Контекст решения нужно сохранить до появления знания задним числом

ObliNet должен создавать запись, относящуюся к моменту принятия значимого решения.

До того как станет известен результат, система может сохранить:

• решаемую проблему;
• доступные свидетельства;
• недостающую информацию;
• рассмотренные альтернативы;
• предположения;
• ожидаемые выгоды;
• известные риски;
• диапазон прогноза;
• рекомендации AI или экспертов;
• обоснование принимающего решение.

Так создаётся снимок на момент принятия решения: сделанная в тот момент запись того, что было известно, предполагалось, оставалось неопределённым и рассматривалось при принятии решения.

Позднее, когда результат известен, оценка может сравнить:

то, во что верили тогда,

с

тем, что произошло на самом деле.

Это сравнение гораздо информативнее простой метки «успех / неудача».

Неизвестное должно оставаться видимым

Системы принятия решений часто создают ложную уверенность.

Прогноз представлен одним числом.

Рекомендация — одним ответом.

Панель показателей выглядит точной.

Но точность представления не означает определённости реальности.

Зрелая система должна различать:

• известные факты;
• предположения;
• оценки;
• неопределённые переменные;
• неизвестные факторы;
• оспариваемые интерпретации.

Например, вместо:

«Вариант A снизит затраты на 15%».

более удачным представлением может быть:

«При текущих предположениях ожидается, что вариант A снизит затраты примерно на 8–18%; результат сильно зависит от спроса и цен поставщиков».

Неопределённость — не шум.

Она — часть решения.

AI должен показывать неопределённость, а не скрывать её

AI может делать неопределённость особенно опасной, потому что беглая речь звучит уверенно.

Модель может дать убедительное объяснение даже при слабых свидетельствах.

Поэтому AI в ObliNet должен не просто отвечать:

«Выберите вариант A».

Он должен также раскрывать:

• предположения, лежащие в основе рекомендации;
• силу свидетельств;
• альтернативные интерпретации;
• факторы, способные изменить рекомендацию на противоположную;
• области, где информации не хватает.

Полезный AI не только сообщает, что он думает.

Он помогает человеку понять, насколько непрочен этот вывод.

Человек, принимающий решение, сохраняет ответственность

Если AI рекомендует вариант A и принимающий решение выбирает A, ответственность не переходит к AI.

Принимающий решение не может впоследствии сказать:

«AI сказал мне так сделать».

Совет AI — входная информация, а не суверенная власть.

Аналогично, если AI рекомендует A, а человек выбирает B, это решение может быть правомерным.

Но обоснование должно оставаться видимым.

Например:

«AI предпочитает A по экономической эффективности, но я выбираю B, потому что социальный риск A неприемлем».

Это не сбой системы.

Именно такой след решения система и должна сохранять.

Расхождение между человеком и AI — полезное свидетельство

Расхождение может выявить нечто важное.

AI может упускать ценностное суждение.

Человек может упускать статистическую закономерность.

Данные могут быть неполными.

Модель может быть предвзятой.

Принимающий решение может быть излишне уверен.

Поэтому само расхождение может быть информативным.

ObliNet должен сохранять:

рекомендация AI
→ решение человека
→ обоснование расхождения
→ фактический результат

Со временем это становится ресурсом обучения и для человека, и для машины.

Разные модели тоже могут расходиться

Для решений с большим влиянием одной системы AI может быть недостаточно.

Разные модели могут давать разные оценки.

Это расхождение не обязательно недостаток.

Оно может указывать на реальную неопределённость проблемы.

Вместо сокрытия расхождений моделей система может показывать:

• в чём модели согласны;
• в чём расходятся;
• какие предположения различаются;
• какие свидетельства порождают расхождение.

Тогда принимающий решение видит не просто «ответ AI», а карту неопределённости.

Разумная ошибка — не то же самое, что небрежность

Полезная система подотчётности должна различать источники и характер неудач.

Разумная ошибка

Решение использовало доступные свидетельства, учитывало риски и всё же дало плохой результат.

Слабое суждение

Решение опиралось на слабое рассуждение, неполный анализ или чрезмерную уверенность.

Недостаток компетентности

Принимающий решение неоднократно не понимал предметную область или процесс.

Небрежность

Известные риски или значимая информация игнорировались без достаточного обоснования.

Намеренный обман

Принимающий решение сознательно искажал факты, риски или обязательства.

Это не одно и то же.

Система, считающая их одинаковыми, создаст страх вместо обучения.

Система, наказывающая за любые ошибки, научится их скрывать

Это одна из главных опасностей подотчётности.

Если каждая ошибка ведёт к наказанию, участники быстро адаптируются.

Они становятся менее прозрачными.

Они избегают ответственности.

Они скрывают неопределённость.

Они медлят с сообщением о проблемах.

Они манипулируют показателями.

Система, стремящаяся к лучшим решениям, должна оставлять место добросовестной ошибке.

При этом она должна сохранять способность отличать добросовестную ошибку от небрежности или обмана.

Для этого различия нужен сохранённый контекст.

Способность изменить курс — сильная сторона

Политическая и организационная культура часто наказывает за видимые развороты.

Человека, изменившего решение, могут обвинить в непоследовательности.

Это создаёт плохой стимул:

продолжать защищать исходный выбор даже после изменения свидетельств.

Обучающаяся система должна поощрять другое.

Хороший руководитель должен быть способен сказать:

«Мы приняли решение, опираясь на предположение X. Новые свидетельства показали, что X неверно. Мы меняем курс».

Это не слабость.

Это свидетельство того, что обратная связь работает.

Изменённое решение должно иметь видимую причину

Изменение курса не должно означать переписывания истории.

Система должна сохранять:

исходное решение
→ новые свидетельства
→ причина пересмотра
→ пересмотренное решение

Так адаптация становится подотчётной.

Это предотвращает два противоположных сбоя:

• отказ меняться при изменении реальности;
• конъюнктурные изменения с видом, будто исходной позиции никогда не существовало.

Гибкость и прослеживаемость могут сосуществовать.

Прогнозы тоже нужно оценивать

Если принимающий решение или AI регулярно прогнозирует, прогнозы должны становиться частью записи.

Не для создания упрощённого балла.

А для обучения.

Со временем можно спросить:

• Кто постоянно излишне уверен?
• Какие риски систематически недооцениваются?
• Какие модели хорошо откалиброваны?
• Какие эксперты лучше работают в каких областях?
• Какие предположения неоднократно не подтверждаются?

Так история решений превращается в источник институционального знания.

Калибровка важнее уверенности

Зрелому прогнозисту не обязательно быть правым каждый раз.

Никто не бывает.

Важно, соответствует ли уверенность реальности.

Если кто-то говорит:

«Я уверен на 90%»,

а такие прогнозы верны лишь в половине случаев, уверенность плохо откалибрована.

Если кто-то говорит:

«Здесь высокая неопределённость»,

и разброс результатов действительно велик, это может быть признаком хорошего суждения.

Поэтому ObliNet должен сохранять не только прогнозы, но и, где уместно, степень уверенности и неопределённость.

Цель — не ранжировать людей только по точности прогнозов

Качество прогнозов важно.

Но хороший руководитель — не просто человек с лучшим баллом за прогнозирование.

Лидерство также включает:

• ценности;
• компромиссы;
• легитимность;
• координацию;
• исполнение;
• реакцию на новую информацию.

Решение может оставаться разумным, даже если выбранный прогноз оказался неверным.

Показатели — свидетельства.

Они не составляют всего суждения.

Обучение начинается со сравнения ожидания и реальности

Каждое значимое решение создаёт возможность учиться.

До действия:

Чего мы ожидаем?

После действия:

Что произошло?

Затем:

Почему возникло различие?

Возможно:

• данные были неверны;
• предположение не подтвердилось;
• реализация отличалась;
• произошло внешнее событие;
• модель была плохо откалибрована;
• обязательство было понято неверно.

Без этого сравнения институты повторяют те же ошибки, меняя участников.

Система должна учиться на множестве решений

Одно решение сообщает нам кое-что.

Тысяча решений выявляет закономерности.

Со временем ObliNet может помочь обнаружить:

• повторяющиеся недооценённые зависимости;
• повторяющиеся источники задержек;
• систематические ошибки прогнозов;
• типичную неоднозначность обязательств;
• часто игнорируемые предупреждающие сигналы;
• области, где советы AI слабы;
• области, где человеческое суждение добавляет ценность.

Так создаётся иной вид институциональной памяти.

Не только:

«Что произошло?»

Но и:

«Какие виды рассуждений здесь склонны приводить к неудаче?»

Обучение должно включать и неожиданные успехи

Организации часто изучают неудачи, но не неожиданный успех.

Это ошибка.

Результат может превзойти прогноз, потому что:

• зависимость сработала необычно хорошо;
• местная команда творчески адаптировалась;
• модель недооценила положительный эффект;
• сработал неформальный механизм координации.

Эти случаи тоже заслуживают изучения.

Вопрос в том:

Чему научила нас реальность, чего не было в исходной модели?

Обучение должно обновлять и пессимистичные, и оптимистичные предположения.

AI должен учиться на результатах, но не переписывать историю незаметно

Если AI совершенствуется благодаря обратной связи, со временем модель может стать лучше.

Но система всё равно должна сохранять, какая версия модели дала какую рекомендацию.

Иначе историческая запись искажается.

Нам нужно знать:

Версия модели X рекомендовала A.

Не:

«Нынешний AI порекомендовал бы B, следовательно, прежней рекомендации не было».

История должна сохранять версии.

Обучение должно улучшать будущее, не стирая прошлого.

Человеческое суждение на практике тоже должно сохранять версии

Люди тоже меняются.

Принимающий решение может учиться.

Эксперт может пересмотреть метод.

Команда может улучшить процесс.

Это желательно.

Цель записи — не запереть людей в старых ошибках.

А сделать улучшение видимым.

Здоровая история может показывать:

повторяющиеся ранние ошибки
→ лучшая калибровка
→ более быстрое исправление
→ лучшие результаты

Это свидетельство роста.

Качество решения отчасти зависит от процесса

Хороший процесс не гарантирует хорошего результата.

Но процесс всё равно важен.

Среди вопросов:

• Была ли проблема чётко определена?
• Рассматривались ли альтернативы?
• Признавалась ли неопределённость?
• Были ли видимы критические зависимости?
• Были ли услышаны несогласные мнения?
• Были ли полномочия ясны?
• Пересматривалось ли решение при появлении новых свидетельств?

Эти вопросы дают более богатую основу подотчётности, чем один лишь результат.

Цель — не идеальное предсказание

Никакая система управления не может устранить неопределённость.

Никакой AI не предвидит всех последствий.

Ни один принимающий решение не может устранить риск.

Поэтому цель ObliNet — не:

сделать решения безошибочными.

А:

сделать более видимыми рассуждение, неопределённость, последствия и обучение вокруг решений.

Это более реалистичное стремление.

Обучающаяся система должна иметь возможность сказать «мы ошиблись»

Это может быть одним из самых трудных культурных изменений.

Институты часто боятся признавать ошибки, потому что признание считается слабостью.

Но система, которая не может сказать:

«Мы ошиблись»,

не может учиться.

ObliNet должен создать структуру, в которой более полезным станет вопрос:

«Когда мы узнали, что ошиблись, и что сделали дальше?»

Это лучший показатель зрелости.

Четвёртый принцип ObliNet

Поэтому четвёртый принцип таков:

Подотчётность должна оценивать решения в контексте их принятия, честно сохранять неопределённость и признавать способность учиться на результатах.

Зрелая подотчётность не устраняет ошибки; она делает их видимыми, различимыми, объяснимыми, исправимыми и полезными для обучения.

В этом переход от подотчётности как обвинения к подотчётности как обучению.

Власть следует понимать как делегированную работу

Публичную должность часто описывают как власть.

Этот язык понятен.

Руководитель может принимать решения, влияющие на бюджеты, институты, права, приоритеты и миллионы людей.

Но ту же роль можно описать иначе:

руководитель получает временные полномочия выполнять работу от имени других.

Это меняет смысл должности.

Должность — не собственность.

Институт — не руководитель.

Общественные ресурсы — не личные ресурсы.

Полномочия делегируются ради цели.

Поэтому руководитель — не владелец власти.

Руководитель — её временный хранитель.

Мандат
Делегирование полномочий в заданных пределах, определяющее, от чьего имени участник вправе действовать, какие действия или обязательства допустимы и при каких ограничениях, условиях и сроке действия.

Полномочия и собственность различны

Человек может иметь полномочия в отношении публичного института, не владея им.

Это различие кажется очевидным.

Однако политические системы часто его размывают.

Руководитель начинает говорить:

«моё министерство»,

«моя администрация»,

«мои люди»,

«мой бюджет».

Отчасти это просто язык.

Но язык может отражать более глубокую проблему.

Делегированные полномочия постепенно могут начать восприниматься как личная собственность.

ObliNet в сфере управления должен сохранять противоположный принцип:

полномочия принадлежат роли; роль существует ради общественной цели; человек занимает роль временно.

Более высокая должность должна означать большую ответственность

Во многих системах более высокая должность приносит:

• больше престижа;
• больше влияния;
• больше защиты;
• больше доступа;
• больше привилегий.

Но она должна приносить и другое:

более серьёзную обязанность объяснять.

Чем значимее последствия полномочий, тем строже обязанность показывать:

• что было решено;
• почему;
• при каких предположениях;
• с какими рисками;
• с какими обязательствами;
• с какими последствиями.

За решение, затрагивающее весь город, мэр должен быть более подотчётен, чем обычный сотрудник.

За общенациональное решение министр должен быть более подотчётен, чем мэр.

Глава правительства — ещё больше.

Принцип должен быть таким:

больше полномочий → больше наблюдаемости → больше ответственности.

Власть должна стать менее привлекательной как источник статуса

Политическая система создаёт стимулы.

Эти стимулы влияют на то, кто стремится к должности.

Если лидерство предлагает:

статус,

неприкосновенность,

престиж,

контроль,

доступ к ресурсам,

то люди, особенно мотивированные этим, будут непропорционально сильно стремиться к лидерству.

Это не означает, что каждый амбициозный человек коррумпирован.

Амбиции могут быть полезны.

Но устройство институтов не должно превращать само господство в награду.

В более здоровой системе должность привлекала бы по другой причине:

возможностью хорошо решать общественные проблемы.

Делегированные публичные полномочия должны сопровождаться соответствующей обязанностью обеспечивать наблюдаемость.

Если человек хочет полномочий в отношении других людей, он должен согласиться, что значимое использование этих полномочий станет более видимым.

Не его частная жизнь.

Не его семья.

Не каждый неформальный разговор.

А публичные решения, принимаемые в рамках публичных полномочий.

Это меняет договорённость.

Кандидат, по сути, говорит:

«Дайте мне больше полномочий».

Общество вправе ответить:

«Тогда примите большую подотчётность за их использование».

Это не наказание.

Делегированные публичные полномочия должны сопровождаться соответствующей обязанностью обеспечивать наблюдаемость.

Лидерство должно приблизиться к профессии

Мы ожидаем от врачей развития профессиональных знаний.

Мы ожидаем от инженеров понимания систем.

Мы ожидаем от пилотов постоянной подготовки.

Лидерство влияет на системы, которые могут быть не менее сложными.

Но политическое лидерство часто рассматривают прежде всего как предвыборную конкуренцию.

Выиграть должность и хорошо управлять — разные навыки.

Зрелое общество должно серьёзнее относиться к управлению как к профессии.

Это означает развитие компетенций в:

• принятии решений в условиях неопределённости;
• проектировании институтов;
• управлении рисками;
• государственных финансах;
• координации;
• переговорах;
• этике;
• коммуникации;
• обучении на свидетельствах.

Выборы создают легитимность.

Они не создают компетентность автоматически.

Профессиональное лидерство не означает власть экспертов

Это важное различие.

Назвать лидерство профессией — не значит заменить демократию технократией.

Профессионализация означает развитие компетентности и стандартов практики, а не ограничение политической легитимности замкнутым кругом экспертов.

Эксперты могут советовать.

Модели могут анализировать.

Институты могут предоставлять свидетельства.

Но правомерные политические решения часто связаны с ценностями и компромиссами, которые нельзя разрешить одними профессиональными знаниями.

Например:

Какие экономические затраты общество должно принять ради снижения экологического риска?

Чисто технического ответа нет.

Экспертиза может прояснять последствия.

Ценностное суждение по-прежнему выносят граждане и их представители.

Поэтому профессиональное лидерство означает:

лучшую способность осуществлять демократические полномочия, а не устранение демократических полномочий.

Руководитель должен уметь объяснить решение

Одна из простейших проверок ответственных полномочий — способен ли принимающий решение объяснить:

• какая проблема решалась;
• какие альтернативы рассматривались;
• почему выбран этот вариант;
• какие риски были приняты;
• какие свидетельства могли бы привести к изменению решения.

Это не означает, что каждый гражданин должен согласиться.

Это означает, что у решения есть доступное для проверки обоснование.

Руководитель должен иметь возможность сказать:

«Я выбрал этот компромисс».

Но не просто:

«Потому что могу».

Объяснение — часть работы

Во многих институтах объяснение рассматривают как связи с общественностью.

Решение принимается.

Затем специалисты по коммуникациям решают, как его защищать.

ObliNet предлагает другую структуру.

Объяснение должно быть частью записи решения, а не историей, сконструированной после результата.

Так объяснение становится меньше связано с убеждением и больше — с подотчётностью.

Руководитель не обязан быть безошибочным

Решения со значимыми последствиями следует оценивать через доступные свидетельства, неопределённость, риск и качество процесса принятия решения.

Разумная ошибка, хроническая некомпетентность, небрежность и обман не равнозначны. Исправление и обучение важны; признание ошибки не должно автоматически разрушать карьеру.

Повторяющиеся закономерности важны. История решений должна отличать единичную неудачу от устойчивых неудач и показывать, учится ли руководитель и меняет ли курс.

Репутация руководителя должна быть историей, а не лозунгом

Политическая репутация часто сжимается до образов:

«сильный лидер»

«реформатор»

«коррумпированный»

«компетентный»

«неэффективный»

В этих ярлыках может быть правда.

Но они грубы.

Более качественная система репутации возникала бы из видимой истории:

• обязательств;
• решений;
• прогнозов;
• объяснений;
• исправлений;
• результатов;
• обучения.

Не единый балл.

Не алгоритмический рейтинг.

Запись.

Эта запись позволяет гражданам сформировать собственное суждение.

Общественное доверие
Меняющееся общественное суждение о том, как осуществляются делегированные полномочия, опирающееся на наблюдаемые свидетельства, но не сводимое к единому баллу.

Репутация должна оставаться многомерной

Руководитель может:

отлично справляться с кризисами,

но

плохо планировать на длительный срок.

Другой может быть:

прозрачным,

но

слабым в исполнении.

Третий может быть:

экономически эффективным,

но

готовым принять социальные издержки, которые многие граждане отвергают.

Сведение этих различий к одному числу уничтожило бы важную информацию.

Лидерство многомерно.

Подотчётность тоже должна быть многомерной.

Система должна точнее определять и заслуги, и вину

Подотчётность часто обсуждают лишь через неудачи.

Но видимая ответственность также помогает признавать заслуги.

Успешный проект может зависеть от:

• министра;
• государственных служащих;
• местных властей;
• подрядчиков;
• учёных;
• общественных организаций.

Политические системы часто приписывают заслуги самому заметному руководителю.

Заслуги и вина должны отражать реальный вклад, делегированные полномочия и причинное влияние, а не одну лишь заметность.

Это важно, потому что справедливое признание заслуг тоже создаёт лучшие стимулы.

Руководители не должны получать заслуги за работу, которую не контролировали

Если улучшение экономики во многом вызвано глобальными условиями, руководитель не должен приписывать себе всю заслугу.

Если кризис вызван главным образом внешними событиями, руководитель не должен автоматически получать всю вину.

ObliNet может помочь отличить:

то, что находилось под контролем руководителя,

от

внешних факторов.

Это не устраняет политического суждения.

Это затрудняет искажение причинности.

Лидерство — координация, а не личный героизм

Большими системами не управляет один человек.

Национальный руководитель зависит от:

• министерств;
• ведомств;
• местных властей;
• экспертов;
• инфраструктуры;
• бизнеса;
• граждан.

Образ одинокого героического лидера часто вводит в заблуждение.

Настоящая работа — координация.

Может ли руководитель создавать совместимые обязательства между институтами?

Можно ли понять зависимости?

Можно ли разрешить конфликты?

Можно ли ясно делегировать полномочия?

Может ли информация двигаться вверх и вниз?

Это более реалистичная картина управления.

Сильные институты лучше незаменимых руководителей

Ни одного незаменимого участника
Ключевые участники и реализации должны оставаться заменяемыми без разрушения институциональной преемственности.

Ставший незаменимым руководитель может казаться сильным.

Но институт, неспособный работать без одного человека, хрупок.

Хорошее лидерство должно укреплять системы, продолжающие работать после ухода руководителя.

Это означает:

• документированные процессы;
• ясные полномочия;
• институциональную память;
• компетентные команды;
• прозрачные обязательства;
• заменяемые роли.

Высший успех руководителя — не в том, что система без него не выживет.

А в том, что выживет.

Преемственность — часть ответственного лидерства

Публичные полномочия временны.

Каждый руководитель рано или поздно уйдёт.

Поэтому здоровый институт должен быть готов к смене.

Следующий руководитель должен иметь возможность видеть:

какие обязательства остаются открытыми;

какие решения были приняты;

какие предположения ещё действуют;

какие зависимости критичны;

какие риски не разрешены.

Без такой памяти каждый переход уничтожает знания.

ObliNet может сделать преемственность руководства менее зависимой от личностей.

Публичная должность не должна быть путём к извлечению личной выгоды

Один из древнейших рисков власти — превращение публичных полномочий в источник личной выгоды.

Это может происходить через:

• прямую коррупцию;
• покровительство;
• привилегированный доступ;
• выгодные контракты;
• будущее трудоустройство;
• влияние на информацию.

ObliNet сам по себе не может устранить коррупцию.

Но более ясные полномочия, обязательства и следы решений могут сделать некоторые формы извлечения выгоды более видимыми.

Цель — не предполагать, что каждый руководитель коррумпирован.

А сократить пространство, в котором злоупотребление полномочиями может оставаться невидимым.

Система должна защищать руководителей и от показной прозрачности

Сама прозрачность может стать театром.

Правительство может публиковать огромные объёмы информации, делая содержательную подотчётность невозможной.

Тысячи документов могут быть технически публичными, но практически нечитаемыми.

Поэтому цель — не максимум данных.

А содержательная наблюдаемость.

Граждане должны иметь возможность видеть:

что было важным,

кто решил,

что было обещано,

что от этого зависело,

что произошло.

Прозрачность без структуры может стать ещё одной формой непрозрачности.

Лидерство должно привлекать тех, кто хочет управлять

Долгосрочная гипотеза состоит в том, что изменение стимулов вокруг публичных полномочий может изменить состав стремящихся к ним.

Если должность станет:

более наблюдаемой,

более подотчётной,

менее выгодной лично,

менее зависимой от личной мифологии,

то некоторые стремящиеся к власти ради неё самой могут счесть её менее привлекательной.

В то же время люди, мотивированные:

решением проблем,

общественным служением,

улучшением институтов,

могут увидеть в этой роли больше смысла.

Это гипотеза.

Её следует проверять, а не принимать как данность.

Но институциональные стимулы важны.

Система не должна наказывать за сами амбиции

Амбиции — не враг.

Обществу нужны люди, готовые принимать ответственность.

Лидерство часто требует:

• уверенности;
• стойкости;
• соревновательности;
• настойчивости.

Проблема не в амбициях.

Проблема возникает, когда институт вознаграждает амбиции без ответственности.

Здоровая система должна связывать продвижение с:

продемонстрированной способностью хорошо нести ответственность.

Более широкие делегированные полномочия должны означать большую подотчётность перед свидетельствами.

Во многих иерархиях более высокий статус отдаляет от пристального рассмотрения.

ObliNet предлагает противоположное.

По мере роста полномочий:

запись решения должна становиться подробнее;

зависимости должны становиться яснее;

последствия должны становиться видимее.

Более высокая должность не должна означать уход от подотчётности.

Она должна означать переход к более требовательной её форме.

У руководителей должны быть помощники AI, а не хозяева AI

Система управления в духе ObliNet может дать каждому руководителю доступ к поддержке AI.

AI может помогать:

• анализировать альтернативы;
• выявлять зависимости;
• обнаруживать риски;
• сравнивать прогнозы;
• обнаруживать противоречия;
• отслеживать обязательства;
• сохранять историю решений.

Но AI не становится руководителем.

Решение по-прежнему принимает человек.

И человек остаётся подотчётным за использование делегированных полномочий.

AI может анализировать альтернативы, выявлять риски и отслеживать обязательства, но аналитическая компетентность сама по себе не создаёт политических полномочий.

AI тоже нужно оценивать

Если AI неоднократно даёт плохие советы, система должна об этом знать.

Если он хорошо работает в одной области и плохо в другой, это должно быть видимым.

Если его рекомендации меняются после обновлений модели, история должна оставаться прослеживаемой.

Поэтому ответственность — не:

«человек хорош, AI плох»

или:

«AI хорош, человек плох».

Это система нескольких участников, вклад которых можно оценивать.

Лидерство становится видимой практикой

Когда решения, обязательства, объяснения, исправления и результаты сохраняются во времени, лидерство становится менее мистическим.

Граждане видят, как человек действительно управляет.

Не только:

речи,

лозунги,

предвыборные образы,

но:

выборы,

рассуждения,

обязательства,

исправления,

результаты.

Лидерство становится практикой, за которой можно наблюдать.

Служение не означает слабость

Назвать лидерство служением — не значит требовать от руководителей пассивности.

Иногда лидерство требует:

• непопулярных решений;
• быстрых действий;
• конфликта;
• принуждения к исполнению;
• отказа.

Служение означает, что эти полномочия осуществляются ради делегированной цели, а не личного владения.

Сильное решение тоже может быть служением.

Ключевой вопрос:

Чьи полномочия осуществляются, ради какой цели и при какой подотчётности?

Руководитель — временный узел в большей системе

Человек вступает в должность.

Он получает полномочия.

Он принимает обязательства.

Он принимает решения.

Он создаёт последствия.

Он учится.

В конце концов он уходит.

Сеть остаётся.

Институт остаётся.

Общество остаётся.

Это более здоровые отношения человека и власти.

Пятый принцип ObliNet

Поэтому пятый принцип таков:

Публичные полномочия следует рассматривать как временную делегированную ответственность, а не личную собственность. Чем шире делегированные полномочия, тем строже обязанности обеспечивать наблюдаемость, объяснение и подотчётность.

Лидерство должно быть меньше связано с владением властью.

И больше — с тем, чтобы хорошо нести ответственность.

Должность временна.

Ответственность реальна.

Доверитель — общество.

Руководитель служит мандату.

Доверие не должно исчезать между выборами

Доверие
Готовность полагаться на участника в условиях неопределённости в рамках отношений.

Общественное доверие
Меняющееся общественное суждение о том, как осуществляются делегированные полномочия, опирающееся на наблюдаемые свидетельства, но не сводимое к единому баллу.

В большинстве политических систем формальное доверие предоставляется на большие периоды.

Проходят выборы.

Руководитель получает полномочия.

До следующего решающего общественного суждения могут пройти годы.

Но доверие к руководству в действительности не остаётся неизменным всё это время.

Оно меняется постоянно.

Происходит кризис.

Обещание исполняется.

Крупный проект терпит неудачу.

Руководитель хорошо объясняет трудное решение.

Обнаруживается скрытый конфликт интересов.

Политика улучшает результаты.

Новая информация меняет понимание прежних решений.

Общественное доверие меняется, потому что меняется реальность.

Политическая система должна уметь это отражать, не превращая каждый день в выборы.

Непрерывное доверие — не непрерывное голосование

Идея непрерывного доверия не означает, что граждане должны голосовать по каждому решению.

Это привело бы к параличу.

Сложным обществам нужно делегирование.

Руководителям нужно пространство для действий.

Институтам нужна преемственность.

Поэтому непрерывное доверие означает нечто более скромное и практичное:

свидетельства, значимые для общественного доверия, должны быть доступны непрерывно, даже когда формальная передача полномочий остаётся периодической.

Общественное доверие становится более обоснованным информацией.

А не постоянно решается заново.

Общественное доверие должно оставаться многомерным и объяснимым, а не сводиться к единому баллу.

Свести каждого руководителя к одному числу было бы опасным упрощением.

Например:

«Балл доверия: 73».

Это выглядит точно.

Но уничтожает информацию.

Руководитель может быть:

• сильным в управлении кризисами;
• слабым в долгосрочном планировании;
• прозрачным;
• слабым в исполнении;
• дисциплинированным в бюджетных вопросах;
• раскалывающим общество;
• хорошо обучающимся;
• плохим в координации.

Эти измерения не взаимозаменяемы.

Поэтому ObliNet не должен создавать единый политический балл.

Он должен сохранять многомерную запись.

Общественное доверие должно быть объяснимым

Если общественное доверие растёт или падает, общество должно иметь возможность видеть почему.

Не потому, что так говорит непрозрачный алгоритм.

А потому, что видимы лежащие в основе свидетельства.

Например:

исполнение обязательств ухудшилось;

ошибки прогнозов участились;

крупный проект задержался;

руководитель сообщил о проблеме заранее;

были приняты меры исправления;

пересмотренный план оказался успешным.

Разные граждане могут по-разному трактовать эту историю.

Это правомерно.

Система должна поддерживать информированное суждение, а не заменять его.

Наблюдение — это работа

Современное управление слишком сложно, чтобы каждый гражданин мог проверять его напрямую.

Человек не может лично анализировать:

• национальные бюджеты;
• работу больниц;
• инфраструктурные закупки;
• результаты образования;
• экологические модели;
• системы AI;
• оборонную политику;
• денежно-кредитную политику.

Это создаёт практическую проблему.

Граждане остаются источником демократической легитимности.

Но они не могут лично наблюдать за всем, что делается от их имени.

Поэтому само наблюдение должно допускать делегирование.

Граждане должны иметь возможность делегировать наблюдение

Наблюдатель — участник или аналитическая система, оценивающие свидетельства об обязательствах, решениях или результатах без приобретения тем самым полномочий принимать решения в отношении наблюдаемого участника.

Гражданин может выбрать разных наблюдателей для разных областей.

Например:

• экономиста для бюджетной политики;
• медицинскую ассоциацию для здравоохранения;
• университет для образования;
• экологическую исследовательскую группу для климатической политики;
• правозащитную организацию для прав;
• независимого аудитора для закупок;
• аналитический сервис AI для масштабного сравнения данных.

Делегированное наблюдение — делегирование аналитического внимания, а не суверенитета.

Гражданин сохраняет свободу сменить наблюдателя.

Делегирование должно быть отзывным

Ни один наблюдатель не должен становиться постоянным по умолчанию.

Гражданин должен иметь возможность сказать:

«Я больше не доверяю этому институту анализ политики здравоохранения».

и передать эту ответственность другому.

Отзывность важна, потому что наблюдатели могут стать:

• предвзятыми;
• подконтрольными чужим интересам;
• некомпетентными;
• неактуальными;
• имеющими конфликт интересов;
• политически ангажированными.

Система должна облегчать смену.

Зависимость от одного наблюдателя создаёт новую концентрацию власти.

Разные граждане могут выбирать разных наблюдателей

Не нужен один официальный толкователь реальности.

Это было бы опасно.

Один гражданин может полагаться на:

университет.

Другой может предпочитать:

профессиональную ассоциацию.

Третий:

независимого журналиста.

Ещё один:

аналитический сервис AI.

Это многообразие — сильная сторона.

Разные наблюдатели могут сравнивать, критиковать и исправлять друг друга.

Наблюдатели тоже должны быть видимыми

Наблюдатель влияет на то, как граждане понимают полномочия.

Это создаёт ответственность.

Поэтому наблюдатель должен раскрывать:

• финансирование;
• структуру собственности;
• методологию;
• конфликты интересов;
• источники свидетельств;
• версии моделей;
• неопределённость;
• историю исправлений.

Наблюдатель, требующий прозрачности от руководителей, но сам остающийся непрозрачным, воспроизводит ту же проблему на другом слое.

Кто наблюдает за наблюдателями?

Каждая система подотчётности рано или поздно сталкивается с этим вопросом.

Если наблюдатели оценивают руководителей:

кто оценивает наблюдателей?

Нет окончательного наблюдателя, чью надёжность можно просто принять как данность.

Поэтому ответом не может быть:

«Доверьтесь этому единому центральному органу».

Лучший ответ — структурный:

несколько независимых наблюдателей, конкурирующий анализ, открытые методы, возможность аудита и заменяемость.

Ни один наблюдатель не должен быть незаменимым.

Разногласия наблюдателей должны оставаться видимыми

Два серьёзных наблюдателя могут прийти к разным выводам.

Это не означает автоматически, что один из них коррумпирован.

Они могут:

• использовать разные предположения;
• по-разному взвешивать риски;
• по-разному ценить результаты;
• по-разному трактовать неполные свидетельства.

ObliNet не должен принудительно сводить разногласия к одному обобщённому числу.

Вместо этого он должен делать разногласие понятным.

Например:

Наблюдатель A видит улучшение бюджетных показателей.

Наблюдатель B видит неприемлемые социальные издержки.

Оба согласны с исходными данными о расходах.

Это различие важно.

Факты и ценности должны оставаться раздельными

Одна из важнейших гарантий — различать:

что произошло

и

было ли это хорошо.

Предположим, мера:

снизила расходы на 10%

и

увеличила среднее время ожидания на 20%.

Оба могут быть фактическими наблюдениями.

Приемлем ли такой компромисс — ценностное суждение.

ObliNet может структурировать произошедшее. Он не может решать, что общество должно ценить.

Наблюдатели должны объяснять свои ценностные предпосылки

Иногда анализ не может избежать ценностей.

Это допустимо.

Но ценности должны быть видимыми.

Например:

«Мы ставим на первое место минимизацию государственных расходов».

или:

«Мы ставим на первое место равный доступ даже при более высоких затратах».

Это делает разногласия честнее.

Вместо того чтобы изображать каждый вывод чисто объективным, наблюдатели показывают, где появляется суждение.

Наблюдатели AI не должны считаться нейтральными по умолчанию

Система AI может обрабатывать огромные объёмы публичной информации.

Это делает её полезной.

Она может сравнивать:

• обязательства;
• бюджеты;
• сроки;
• прогнозы;
• результаты;
• исторические закономерности.

Но анализ AI не нейтрален автоматически.

Его результаты зависят от:

• обучающих данных;
• запросов;
• целей;
• устройства модели;
• доступных свидетельств;
• скрытых предположений.

Поэтому наблюдатель AI тоже должен быть наблюдаемым.

Выводы наблюдателя AI должны оставаться доступными для проверки и оспаривания.

Несколько моделей AI могут снизить зависимость от одной интерпретации

В публичном анализе со значительным влиянием опора на одну модель создаёт риск концентрации.

Разные модели могут расходиться.

Это расхождение может быть полезным.

Система может сравнивать:

оценку модели A
оценку модели B
оценку модели C

Затем выявлять:

• области согласия;
• области расхождения;
• предположения, стоящие за расхождением.

Многообразие может снижать зависимость от одной интерпретации там, где механизмы сбоев систем достаточно независимы.

Гражданин должен сохранять свободу не согласиться со всеми наблюдателями

Делегированное наблюдение — не делегированная совесть.

Гражданин может прочитать:

объяснение правительства;

оценку эксперта;

критику общественной организации;

анализ AI;

и отвергнуть всё это.

Эта свобода должна сохраняться.

Цель наблюдения — улучшить понимание.

А не создавать обязательное единодушие.

Общественное доверие должно сначала привлекать внимание, а не наказывать

Предположим, накапливаются тревожные сигналы.

Система не должна сразу заключать:

«Отстранить руководителя».

Более здоровой может быть последовательность:

предупреждение
→ объяснение
→ исправление
→ независимое рассмотрение
→ рассмотрение общественного доверия

Лишь затем, через законные институты, могут последовать последствия.

Это сохраняет устойчивость.

И даёт руководителям возможность исправить проблемы.

Автоматическое отстранение было бы опасной ошибкой проектирования

Система AI никогда не должна иметь возможности автоматически отстранять публичное должностное лицо.

Числовой порог тоже не должен этого делать.

Например:

«Балл доверия ниже 40 → прекращение полномочий».

Это передало бы политические полномочия механизму оценки.

Это создало бы огромные стимулы манипулировать показателем.

И превратило бы управление в алгоритмическое правление.

ObliNet должен явно это отвергать.

Показатели должны информировать институты, а не заменять их

Измерения могут быть ценными.

Например:

• доля исполненных обязательств;
• отклонение бюджета;
• задержка проекта;
• калибровка прогнозов;
• скорость исправления;
• прозрачность решений.

Но показатели должны оставаться свидетельствами.

Они должны служить основой для:

• общественных дебатов;
• парламентского рассмотрения;
• аудита;
• выборов;
• законных процедур отстранения.

Они не должны становиться автономными суверенами.

Ни показатель, ни наблюдатель, ни система AI не должны автоматически приобретать суверенные полномочия благодаря оценке.

Общественное доверие должно реагировать на исправление

Предположим, руководитель ошибается.

Система это обнаруживает.

Руководитель это объясняет.

Политика корректируется.

Результат улучшается.

Зрелая система подотчётности должна это признавать.

Иначе руководители усваивают:

«Как только ошибка стала видимой, нет пользы в её признании или исправлении».

Это было бы разрушительно.

Общественное доверие должно иметь возможность восстанавливаться.

Общественное доверие должно реагировать и на сокрытие

Теперь представим противоположное.

Руководитель ошибается.

Появляются свидетельства.

Руководитель их скрывает.

Независимые наблюдатели их раскрывают.

Затем руководитель меняет свою версию.

Такой характер действий должен иметь значение.

Не потому, что произошла ошибка.

А потому, что сокрытие изменило характер события.

Система должна различать:

ошибку

и

обман.

История важнее отдельных снимков

Один плохой месяц может мало что значить.

Устойчивая закономерность может значить очень много.

Поэтому общественное доверие должно опираться на историю.

Например:

неоднократно неисполненные обязательства;

неоднократные необъяснённые развороты;

неоднократное подавление предупреждений;

неоднократное улучшение после обратной связи.

Закономерности дают контекст.

Отдельный снимок может ввести в заблуждение.

Краткосрочная популярность не должна перевешивать долгосрочную ответственность

Руководитель может принять необходимое решение, временно непопулярное.

Система общественного доверия не должна становиться машиной мгновенного популизма.

Поэтому общественное суждение должно оставаться многомерным.

Вопрос не только в том:

«Довольны ли люди сегодня?»

Но и:

Были ли обязательства ясны?

Было ли решение разумным?

Были ли раскрыты риски?

Улучшился ли долгосрочный результат?

Это защищает руководство от постоянного краткосрочного давления.

Права меньшинств не должны зависеть от доверия большинства

Демократическое большинство не должно иметь возможности отнимать основные права через механизм популярности.

Общественное доверие относится к делегированным полномочиям.

Оно не стирает конституционные ограничения.

Права, суды и правовые гарантии остаются необходимыми.

Система никогда не должна превращаться в:

«Если вы не нравитесь достаточному числу людей, ваши права исчезают».

Это не было бы подотчётной демократией.

Это было бы принуждением большинства.

Наблюдаемость должна расти там, где растёт публичная власть

Самое строгое требование прозрачности должно действовать там, где публичные полномочия наибольшие.

Частная жизнь гражданина должна оставаться частной.

Влиятельное публичное решение должно становиться более наблюдаемым.

Это создаёт асимметрию:

публичная власть → больше прозрачности

но

частная жизнь → больше защиты

Это необходимая гарантия.

Журналисты остаются необходимыми

Система в духе ObliNet не устраняет журналистику.

Она может усилить её.

Журналисты могут использовать структурированные истории, чтобы расследовать:

• изменяющиеся обещания;
• скрытые зависимости;
• противоречия;
• необъяснённые пересмотры;
• конфликты интересов.

Данные не заменяют расследование.

Они дают ему лучшую основу.

Аудиторы тоже остаются необходимыми

Наблюдатель интерпретирует и анализирует. Аудитор имеет формальный мандат на проверку определённых записей, свидетельств или процессов по заданным критериям.

Уполномоченные аудиторы могут проверять:

• соответствуют ли записи свидетельствам;
• были ли полномочия действительными;
• соблюдались ли правила закупок;
• точно ли сообщены результаты.

ObliNet должен дополнять аудит.

А не притворяться, что одно программное обеспечение может проверить реальность.

Свидетельства должны допускать оспаривание

Никакая запись не должна становиться бесспорной лишь потому, что она структурирована.

Обязательство может быть записано неверно.

Показатель может быть ошибочным.

AI может неверно истолковать разговор.

Наблюдатель может использовать ошибочные данные.

Поэтому участники должны иметь право оспаривать:

• факты;
• приписывание;
• интерпретацию;
• свидетельства.

Прозрачная система без возможности обжалования всё равно была бы несправедливой.

Исправления не должны стирать исходную запись

Если запись исправлена, обе версии могут иметь значение.

Например:

исходное утверждение
→ оспаривание
→ свидетельства
→ исправление

Так сохраняется подотчётность самого процесса исправления.

Незаметное редактирование сделало бы историю ненадёжной.

Наблюдатели должны строить репутацию на истории

Подобно руководителям, наблюдатели тоже должны формировать историю.

Со временем граждане смогут видеть:

• какие прогнозы были точными;
• какие исправления сделаны;
• какие конфликты раскрыты;
• какие методы улучшились;
• какие анализы неоднократно оказывались неудачными.

Это позволяет доверию возникать из свидетельств, а не только из брендинга.

Репутация никогда не должна создавать постоянную касту

Даже наблюдатель с высоким доверием может ухудшить работу.

Уважаемый институт может оказаться под чужим контролем.

Хорошая модель может устареть.

Знаменитый эксперт может стать излишне уверенным.

Поэтому никакая репутация не должна становиться постоянными полномочиями.

История должна давать доверию основу.

А не замораживать его.

Общественное доверие — система обратной связи

Полный цикл может выглядеть так:

делегированные полномочия
→ наблюдаемые решения
→ явно выраженные обязательства
→ исполнение
→ свидетельства
→ независимое наблюдение
→ объяснение
→ исправление
→ обновлённое общественное доверие

Затем цикл продолжается.

Это адаптивнее, чем годами ждать одного бинарного суждения.

Цель — не постоянное политическое возбуждение

Здоровая система часто должна быть тихой.

Если институты работают хорошо, большинству граждан не должно требоваться ежедневно следить за каждой деталью.

Делегированные наблюдатели, оповещения и сводки должны снижать затраты внимания.

Цель — не превратить политику в постоянную систему тревог.

А сделать содержательное внимание возможным, когда оно нужно.

Гражданин должен управлять своим вниманием

Человек может хотеть:

еженедельную сводку;

оповещения лишь о крупных отклонениях;

анализ здравоохранения от одного наблюдателя;

экономический анализ от другого.

Это делает демократическое наблюдение более практичным.

Людям не нужно становиться политическими аналитиками на полную ставку.

Общественное доверие становится живыми отношениями

В этой модели общественное доверие не слепо и не отзывается постоянно.

Оно становится динамичным.

Руководитель действует.

Общество наблюдает напрямую или через доверенных посредников.

Свидетельства накапливаются.

Даются объяснения.

Происходят исправления.

Общественное доверие меняется.

Это более реалистичные отношения между гражданами и делегированными полномочиями.

Шестой принцип ObliNet

Поэтому шестой принцип таков:

Общественное доверие должно постоянно опираться на наблюдаемые свидетельства и многообразное наблюдение, открытое для оспаривания, при этом политическое суждение остаётся человеческим и ограниченным институтами.

Граждане могут делегировать наблюдение.

Наблюдатели сами должны оставаться наблюдаемыми.

AI может анализировать.

AI не должен править.

Показатели могут информировать.

Показатели не должны определять суверенитет.

Общественное доверие может укрепляться.

Общественное доверие может ослабевать.

Общественное доверие может восстанавливаться.

И ни один единый балл никогда не должен становиться правительством.

Организации строятся из ожиданий раньше, чем из схем

Организацию можно изобразить как иерархию.

Блоки.

Отделы.

Линии подчинения.

Но организация, которую люди переживают на практике, устроена иначе.

Она состоит из ожиданий.

Кто-то ожидает отчёт.

Кто-то ожидает одобрение.

Кто-то ожидает поставку.

Кто-то ожидает оплату.

Кто-то ожидает, что другая команда закончит первой.

Кто-то предполагает, что руководитель разрешил решение.

Кто-то считает срок фиксированным.

Кто-то другой считает, что он зависит от другого события.

Формальная схема показывает структуру.

Организация в повседневном опыте — сеть ожиданий.

Многие организационные сбои начинаются с двух разумных трактовок

Сбой координации не всегда начинается с небрежности.

Иногда все действуют добросовестно.

Рассмотрим:

«Нам нужен прототип к пятнице».

Одна команда слышит:

«Пятница — окончательное обязательство».

Другая слышит:

«Пятница — ориентир, если проект утвердят к вторнику».

Руководитель слышит:

«Команда приняла срок».

Команда слышит:

«Нас спросили, возможно ли это».

Не обязательно кто-то лжёт.

Проблема в том, что разные люди выходят из одного взаимодействия с разными внутренними договорённостями.

Этот разрыв дорого стоит.

Общим ожиданиям нужно общее представление

Ожидание в голове одного человека — ещё не координация.

Чтобы координация стала надёжной, соответствующим участникам нужно знать, одинаково ли они понимают ситуацию.

Полезная структура может запрашивать:

• Ответственная сторона
• Другая сторона
• Результат
• крайний срок
• Условия
• Зависимости
• Полномочия
• Критерии приёмки
• Свидетельства

Эти вопросы звучат просто.

Но организации часто терпят неудачу именно потому, что их так и не выразили явно.

Неопределённость передаётся на стыке работ

Передача — переход, при котором ответственность, информация, работа или полномочия передаются от одного участника или роли к другим.

Многие сбои происходят не внутри команды, а между командами.

Разработка передаёт работу контролю качества.

Продажи передают требования исполнителям.

Закупки передают материалы производству.

Юристы передают одобрение операционной команде.

Финансы проводят оплату после приёмки.

Каждая передача несёт больше, чем объект.

Она несёт предположения.

Например:

«Это готово».

Готово к чему?

К внутреннему рассмотрению?

Для клиента?

К производству?

Готово при условии окончательного одобрения?

Слово может быть одним.

Обязательство — нет.

Каждая передача может создавать скрытую зависимость

Передача становится частью сети обязательств, когда исполнение одного участника становится зависимостью для обязательства другого.

Предположим, команда B обещала результат к пятнице.

Но команда B зависит от входных материалов команды A к среде.

Если зависимость остаётся неявной, команда B может выглядеть опоздавшей, хотя реальная проблема началась раньше по цепочке.

Так возникает знакомый организационный конфликт:

«Они пропустили срок».

«Мы так и не получили необходимое».

«Это не входило в договорённость».

«Все знали».

«Все знали» — одна из самых опасных фраз в координации.

Если все знали, зависимость было бы легко обозначить явно.

Зависимости не должны незаметно переносить ответственность

При задержке одной команды другая не должна автоматически наследовать невыполнимое обязательство.

Предположим:

Утверждение проекта — во вторник
→ Начало производства — в среду
→ Передача — в пятницу

Если одобрение приходит в четверг, исходный план передачи уже может быть нереалистичным.

Система не должна молча предполагать ни:

«Пятница остаётся»,

ни:

«Пятница автоматически переносится».

Затронутые стороны должны увидеть изменение и подтвердить дальнейшее.

Пересогласование должно происходить там, где меняется зависимость

Организации часто откладывают пересогласование, пока неудача не станет очевидной.

Это слишком поздно.

Более удачная модель:

Зависимость меняется
→ затронутые обязательства становятся видимыми
→ соответствующие стороны оценивают влияние
→ при необходимости происходит пересогласование
→ пересмотренные условия подтверждаются

Так пересогласование становится обычным механизмом координации.

А не признанием провала.

Обязательство — не то же самое, что внутренний список задач

Внутренние задачи описывают, как организована работа.

Подтверждённое обязательство описывает ответственность в отношениях, на которую другой участник вправе полагаться.

Одно обязательство может требовать множества задач.

Внутренняя работа и внешняя ответственность — разные слои

Команда может организовать внутреннюю работу по своему выбору.

Канбан.

Скрам.

Контрольные списки.

Электронные таблицы.

Автоматизация.

Агенты AI.

Но когда один участник создаёт обоснованное ожидание у другого, появляется иной слой.

Это слой обязательств.

Поэтому ObliNet дополняет управление задачами, а не заменяет его.

Для многих проблем координации договоры появляются слишком поздно

Организации часто предполагают, что важные обязанности должны быть в договорах.

Но многие недопонимания возникают задолго до перехода в правовую плоскость.

Руководитель говорит:

«Можете взять это на себя?»

Поставщик говорит:

«Это должно быть возможно».

Клиент говорит:

«Отлично, тогда ждём в пятницу».

Сформировалось ли обязательство в действительности?

Разные участники могут ответить по-разному.

Многие сбои координации происходят до юридического оформления.

ObliNet сосредоточен на более ранней границе, где обсуждение становится предложением, обещанием или подтверждённым обязательством.

Переход к обязательству важен

Не каждое высказывание должно становиться обязанностью.

Есть различие между:

Желание
→ Намерение
→ Предложение
→ Обещание
→ Подтверждённое обязательство

Оценка может помогать на этих этапах, но сама не является этапом обязательства.

Например:

«Мы хотели бы отправить в пятницу».

не то же самое, что:

«Мы рассчитываем отправить в пятницу».

а это не обязательно то же самое, что:

«Мы обязуемся отправить в пятницу».

Переход важен, потому что на этой границе начинает меняться ответственность.

AI может помочь обнаружить переход, но не должен придумывать согласие

AI может заметить формулировку, которая, по-видимому, создаёт обязательство.

Например:

«Да, мы можем передать это к пятнице».

AI может сказать:

«Похоже, здесь есть возможное обязательство. Подтвердить?»

Но не должен молча создавать его.

Правильная последовательность:

AI замечает
→ человек проясняет
→ соответствующие стороны подтверждают
→ ObliNet фиксирует

Так сохраняется согласие человека.

Организациям нужны явно выраженные полномочия не меньше, чем явно выраженные обязательства

Обязательство может быть ясным и всё же недействительным, если у принявшего его не было полномочий.

Сотрудник продаж может обещать скидку.

Но был ли он уполномочен?

Руководитель проекта может принять срок.

Но мог ли он принять обязательство за другой отдел?

Агент AI может разместить заказ.

Но в пределах какого лимита расходов?

Каждое обязательство со значимыми последствиями поднимает два разных вопроса: какое обязательство было принято? На основании каких полномочий?

Оба важны.

У полномочий должны быть границы

Мандат может ограничивать делегированные полномочия суммой, сроком, юрисдикцией, ролью, уровнем риска или типом действия.

Например:

руководитель может одобрять расходы до 10 000 долларов;

агент по закупкам может заказывать у одобренных поставщиков;

агент AI может составлять черновик, но не подписывать;

местное подразделение может вести переговоры, но не менять корпоративную политику.

Эти границы должны быть явно выражены.

Приёмка тоже должна быть явно определена

На удивление распространённый спор:

«Мы передали результат».

«Мы не приняли».

Передача результата и приёмка — разные события.

Приёмка должна определять уполномоченную принимающую сторону или механизм, критерии приёмки и необходимые свидетельства.

Это особенно важно, когда оплата зависит от приёмки.

Оплата должна следовать согласованному событию

Многие бизнес-процессы неявно связывают оплату с передачей результата.

Но реальная связь может быть сложнее:

передача
→ проверка
→ приёмка
→ счёт
→ оплата

Если эти события объединить в одно расплывчатое «готово», конфликт становится вероятным.

ObliNet может сделать эти зависимости явными, не заменяя саму платёжную систему.

Организации должны видеть последующее влияние до распространения сбоя

Предположим, поставщик сообщает о задержке.

Важный вопрос не только:

«Насколько?»

Но и:

Кого ещё это теперь затрагивает?

Возможно, задержка влияет на:

• производство;
• передачу клиенту;
• денежный поток;
• другого поставщика;
• регуляторный этап.

Сеть обязательств может выявить это раньше.

Раннее предупреждение ценнее позднего обвинения

Многие организационные системы хорошо сообщают о сбоях.

Красная панель показателей.

Просроченная задача.

Письмо с передачей вопроса на уполномоченный уровень.

Но к тому моменту ущерб уже может быть реальным.

Более хорошая система спрашивает раньше:

«Какое обязательство становится нереалистичным?»

Это полезнее, чем:

«Какое обязательство уже не исполнено?»

Нереалистичные обещания сами по себе — сбой координации

Организации часто вознаграждают за согласие.

Это создаёт давление принимать сроки или условия, которые никогда не были реалистичными.

Внешне обязательство выглядит продуктивным.

Но оно может лишь переносить конфликт в будущее.

Зрелая система должна допускать:

«Я не могу принять обязательство на пятницу при текущих зависимостях».

Для организации это может быть лучше ложного «да».

Отказ может быть ответственной координацией

Не каждое предложение должно стать обязательством.

Иногда правильный ответ:

«Нет».

Или:

«Пока нет».

Или:

«Только если выполнено условие X».

Система, считающая любой отказ неудачей, будет создавать нечестные обязательства.

ObliNet должен ценить ясность выше вынужденного согласия.

Общие ожидания уменьшают долг координации

Организации накапливают своего рода скрытый долг.

Неясная ответственность.

Неразрешённые предположения.

Незаписанные зависимости.

Неоднозначные полномочия.

Каждый элемент может казаться безобидным.

Но они накапливаются.

В итоге организация платит через:

• задержки;
• конфликт;
• переделки;
• дублирование усилий;
• сбои передачи работы.

Долг координации — накопленный риск, создаваемый неразрешённой неоднозначностью ответственности, полномочий, зависимостей, приёмки или общих ожиданий.

Долг координации растёт, когда неоднозначность откладывают

Расплывчатое обязательство может сэкономить пять минут сегодня.

А затем стоить пяти дней.

Например:

«Разберёмся с приёмкой в конце».

Это может казаться эффективным.

Пока стороны не разойдутся во мнениях, завершена ли работа.

У ясности есть цена.

У неоднозначности тоже есть цена.

Вопрос в том, где проходит баланс.

Соразмерная формализация

Чем выше ожидаемая цена неоднозначности или злоупотребления полномочиями, тем весомее основания для структурирования.

Цель — не бюрократия

При плохом проектировании слой координации может стать бюрократическим.

Слишком много подтверждений.

Слишком много полей.

Слишком много предупреждений.

Тогда люди обходят систему.

Поэтому ObliNet должен стремиться к минимальной структуре, необходимой для устранения значимой неоднозначности.

AI может помочь, извлекая структуру из естественного разговора вместо принуждения к форме при каждом взаимодействии.

Естественный язык должен оставаться интерфейсом человека

Люди должны иметь возможность говорить обычным образом.

Например:

«Я могу передать в пятницу, если получу итоговые файлы в среду».

Система может вывести:

ответственную сторону;

ожидаемый результат;

срок;

условие;

зависимость;

затем запросить подтверждение.

Пользователю не должно требоваться мыслить как база данных.

Организацию легче понять через отношения

Традиционные организационные системы часто спрашивают:

Кто кому подчиняется?

ObliNet спрашивает:

Кто от кого зависит?

Это разные вопросы.

Младший сотрудник может быть критической зависимостью для высшего руководителя.

Небольшой поставщик может заблокировать проект стоимостью миллиард долларов.

Разрешение регулятора может определять весь график.

Сеть зависимостей часто выявляет реальную структуру работы лучше одной лишь иерархии.

Общие ожидания улучшают координацию через границы организаций

Многие важные обязательства проходят между организациями.

Поставщик ↔ производитель.

Консультант ↔ клиент.

Государство ↔ подрядчик.

Платформа ↔ разработчик.

Человек ↔ сервис AI.

На этих границах предположения особенно часто расходятся.

Каждая сторона использует разные инструменты, терминологию и процессы.

Слой обязательств даёт общую структуру отношений поверх этих различий.

Та же структура может связывать людей и агентов AI

По мере внедрения автономных агентов передачи работы будут всё чаще включать машины.

Например:

Руководитель-человек уполномочивает агента A.

Агент A запрашивает работу у агента B.

Агент B обязуется произвести результат.

Человек, проверяющий результат, проводит приёмку.

Вопросы остаются прежними:

• Кто разрешил действие?
• Что было обещано?
• Каковы были ограничения?
• Какие зависимости существовали?
• Кто подтвердил приёмку?

Участники меняются.

Проблема координации остаётся.

Компания может учиться на истории своих обязательств

Со временем записи обязательств могут выявлять закономерности.

Например:

• какие отделы регулярно недооценивают сроки;
• какие зависимости неоднократно подводят;
• какие поставщики заранее пересогласовывают условия;
• какие клиенты создают неоднозначность приёмки;
• какие руководители принимают чрезмерные обязательства;
• какие рабочие процессы порождают больше всего переделок.

Так история координации становится организационным обучением.

Обучение должно улучшать следующее обязательство

Цель истории — не только назначать виновных.

Предположим, все проекты с определённой процедурой одобрения опаздывают.

Полезный вывод не только:

«Эти проекты терпят неудачу».

А:

«Эту зависимость следует иначе представлять в будущих обязательствах».

Обучение должно менять структуру будущей координации.

Организациям нужна память при смене сотрудников

Сотрудники уходят.

Руководители меняются.

Поставщики меняются.

Без структурированной истории та же неоднозначность появляется снова.

Новый руководитель спрашивает:

«Почему этот срок всегда нарушается?»

Ответ может существовать лишь в памяти уже ушедшего человека.

История обязательств сохраняет институциональные знания.

Ответственность должна сохраняться при смене кадров

Если человек уходит с роли, открытые обязательства не обязательно исчезают.

Организация по-прежнему может быть обязана предоставить результат.

Это означает, что ответственность может отчасти принадлежать роли или институту, а не только человеку.

ObliNet должен различать:

человека;

роль;

организацию;

делегированные полномочия.

Это важно для преемственности.

Хорошая координация создаёт более справедливую подотчётность

Когда обязательства выражены явно, людей реже обвиняют в сбоях вне их контроля.

Команда может показать:

«Наше обязательство зависело от одобрения к среде. Одобрение пришло в пятницу».

Одновременно ответственность на предшествующих этапах становится яснее.

Это делает подотчётность точнее.

Не мягче.

Более верной.

Справедливое признание заслуг тоже важно

Видимая координация должна также выявлять вклад.

Успешный результат может зависеть от нескольких участников.

Без взгляда на сеть всю заслугу может получить самый заметный человек.

Сеть обязательств может показать:

кто сделал результат возможным;

кто устранил риск;

кто исправил зависимость;

кто принял ответственность.

Справедливое признание заслуг улучшает стимулы, как и справедливое определение вины.

ObliNet должен дополнять существующие корпоративные системы

В организациях уже есть:

• переписка;
• управление проектами;
• CRM;
• ERP;
• управление документами;
• договоры;
• платежи.

ObliNet не должен пытаться заменить их все.

Его роль уже:

связывать обязательства, полномочия, условия и зависимости между ними.

Сеть — недостающий слой отношений.

Интеграция важнее ещё одного изолированного инструмента

Если ObliNet станет ещё одним местом, где пользователи должны дублировать работу, принятие будет трудным.

Более естественная модель:

разговор идёт там, где люди уже общаются;

задачи остаются там, где команды уже управляют задачами;

договоры остаются в юридических системах;

платежи остаются в финансовых системах;

ObliNet связывает обязательства между ними.

Это инфраструктура, а не ещё один изолированный отсек.

Организация становится наблюдаемой, не становясь негибкой

Частое опасение: явная координация сделает организации негибкими.

Этого не должно происходить.

Обязательства могут меняться.

Условия могут меняться.

Зависимости могут меняться.

Важно, чтобы изменение стало видимым и одинаково понятым сторонами.

Цель — не негибкость.

А совместная адаптация.

Одна и та же проблема координации существует в любом масштабе

Маленькая команда спрашивает:

«Кто принял какие обязательства?»

Корпорация задаёт тот же вопрос между отделами.

Правительство — между министерствами.

Сеть агентов AI — между автономными системами.

Масштаб меняется.

Лежащая в основе проблема остаётся удивительно похожей.

Поэтому ObliNet можно понимать как общий слой координации, а не инструмент одной области.

Седьмой принцип ObliNet

Поэтому седьмой принцип таков:

Организации координируются надёжнее, когда значимые ожидания становятся подтверждёнными обязательствами, делегированные полномочия выражены явно, зависимости видимы, приёмка определена, а существенные изменения пересогласовываются, а не подразумеваются.

Цель — не формализовать каждое взаимодействие.

А сделать значимые взаимодействия достаточно ясными для координации вокруг них.

Хорошая организация — не просто набор людей, выполняющих задачи.

Это сеть участников, понимающих, чего они вправе ожидать друг от друга.

И знающих, что происходит при изменении реальности.

Возможности — не полномочия

Агент AI может быть способен отправить сообщение.

Разместить заказ.

Перевести деньги.

Изменить базу данных.

Вызвать API.

Подписать документ.

Вести переговоры с другим агентом.

Создать черновик договора.

Одобрить рабочий процесс.

Но технические возможности не отвечают на важнейший вопрос:

Был ли агент уполномочен это сделать?

Это основополагающее различие.

Система, путающая возможности с полномочиями, небезопасна по своему устройству.

Доступ — не разрешение

Доступ ≠ Возможности ≠ Полномочия

Доступ = до системы можно обратиться.

Возможности = участник способен выполнить действие.

Полномочия = участник правомерно допущен к выполнению действия.

Программные системы часто предоставляют доступ через учётные данные.

Если у агента есть токен, ключ, учётная запись или разрешение API, он может быть технически способен действовать.

Но доступ не обязательно означает правомерные полномочия.

Например:

у сотрудника может быть доступ к платёжной системе;

это не значит, что он вправе перевести любую сумму кому угодно.

Тот же принцип относится к агентам AI.

Технический доступ — механизм.

Полномочия — отношение.

Агенту нужен мандат

Прежде чем агент действует от имени доверителя, ему нужен мандат.

Доверитель — человек, организация, институт или легитимная роль, от которых происходят делегированные полномочия агента.

Полномочия — правомерное разрешение действовать или принимать обязательства.

Мандат — делегирование этих полномочий конкретному участнику в заданных пределах, на определённый срок и при определённых условиях.

Мандат должен отвечать:

• От чьего имени я действую?
• Что я вправе делать?
• Что я вправе обещать?
• Сколько я вправе тратить?
• К каким системам я могу обращаться?
• С какими другими сторонами я вправе взаимодействовать?
• При каких условиях?
• До какого момента?
• Что требует одобрения?
• Когда я обязан остановиться?

Без этих границ автономия становится неоднозначностью.

Мандат — больше, чем название роли

Сказать:

«Ты агент по закупкам»

недостаточно.

Полезный мандат может требовать определения:

категории поставщиков;

лимита расходов;

разрешённых юрисдикций;

срока договора;

порога передачи вопроса на уполномоченный уровень;

исключённых действий;

даты истечения.

Чем яснее мандат, тем безопаснее автономия.

Полномочия должны быть явно определены до обязательства

Агент не должен сначала создавать обязывающее обязательство, а потом спрашивать, было ли это разрешено.

Последовательность должна быть такой:

Доверитель
→ Мандат / Полномочия
→ Предложение
→ Подтверждённое обязательство
→ Исполнение
→ Приёмка
→ Последствия

Это безопаснее, чем:

действие
→ неожиданность
→ спор.

Агент может быть способен обещать больше, чем ему разрешено

Представьте агента AI по продажам.

Он умеет естественно вести переговоры.

Он умеет формировать цены.

Он умеет предлагать сроки поставки.

Он умеет отвечать мгновенно.

Но если он предлагает:

скидку 40%,

а мандат допускает лишь 10%,

проблема не в том, что модель не поняла язык.

Проблема в том, что границы полномочий не соблюдались.

Возможности превысили мандат.

Агент не может создавать правомерные полномочия, просто действуя за пределами мандата.

Если агент соглашается на условия вне действительного мандата, результат следует считать неуполномоченным предложением или действием, требующим утверждения доверителем, а не молча признавать действительным обязательством доверителя.

Система должна различать идею и обязательство

Высказанная идея выражает возможный вариант.

Предложение предлагает условия.

Подтверждённое обязательство создаёт обоснованное ожидание при действительных полномочиях.

Агент может высказать идею:

«Вероятно, мы могли бы передать в пятницу».

Это не обязательно обязательство.

Он может предложить:

«Вам подойдёт пятница?»

Это всё ещё не подтверждённое обязательство.

Лишь когда выполнены соответствующие условия полномочий и подтверждения, система должна признать:

теперь обязательство существует.

Этот же переход важен в человеческой координации.

AI должен обнаруживать возможные обязательства, а не молча создавать их

Языковые модели хорошо выявляют высказывания, похожие на обязательства.

Это может быть полезным.

Например, агент может сказать:

«Похоже, это создаёт обязательство передать в пятницу. Подтвердить?»

Но агент не должен выводить согласие за пределами своего мандата.

Правило остаётся прежним:

AI интерпретирует. Люди или легитимные институты уполномочивают там, где это требуется.

Полномочия можно делегировать агентам

Людям не нужно одобрять каждое действие.

Это лишило бы автономию смысла.

Человек или организация могут сознательно делегировать полномочия.

Например:

«Вы можете повторно заказывать стандартные канцелярские товары у одобренных поставщиков на сумму до 2 000 долларов в месяц».

В этих пределах агент может действовать автономно.

Это настоящее делегирование.

Но оно ограничено.

Делегированные полномочия должны быть доступны для проверки

Другой стороне, взаимодействующей с агентом, может понадобиться знать, вправе ли агент принимать обязательства.

Например:

«Уполномочен ли этот агент соглашаться на эту цену?»

«Уполномочен ли он подписывать?»

«Уполномочен ли он проводить приёмку поставки?»

Действующий мандат агента должен быть доступен для проверки в объёме, необходимом другой стороне для проверки соответствующих полномочий.

Мандат может быть условным

Мандат агента может зависеть от контекста.

Например:

менее 5 000 долларов → автономно;

5 000–20 000 долларов → одобрение руководителя;

свыше 20 000 долларов → одобрение финансов и юристов.

Это означает, что полномочия могут быть динамическими.

А не просто включёнными или выключенными.

Полномочия могут зависеть от риска, а не только от суммы

Денежные пороги — лишь один пример.

Передача вопроса на уполномоченный уровень может также зависеть от:

• правового риска;
• влияния на безопасность;
• приватности;
• общественных последствий;
• репутационного риска;
• обратимости.

Недорогое действие всё равно может требовать рассмотрения человеком, если создаёт высокий правовой или этический риск.

Агент должен знать, когда остановиться

Способный агент часто может продолжать.

Это не означает, что он должен.

Автономия в заданных пределах требует, чтобы агент распознавал, когда мандат уже не охватывает следующее действие.

Одно из важнейших свойств надёжного агента — способность распознать:

«У меня больше недостаточно полномочий продолжать».

Тогда правильное действие — передать вопрос на уполномоченный уровень.

Передача вопроса на уполномоченный уровень — часть автономии

Передача вопроса на уполномоченный уровень — передача решения или действия другому уполномоченному участнику, когда текущий участник достигает пределов мандата, информации, уверенности или допустимого риска.

Передачу вопроса иногда описывают как неудачу автоматизации.

Её следует понимать иначе.

Зрелая автономная система знает, когда не действовать.

Например:

«Поставщик изменил условие о возмещении убытков. Это выходит за пределы моего договорного мандата. Требуется одобрение человека».

Это хорошее автономное поведение.

Отказ может быть правильным действием агента

Агент должен иметь возможность отказать:

«Я не уполномочен принимать это обязательство».

Или:

«Эта сумма превышает мой лимит».

Или:

«Запрошенное действие противоречит существующему обязательству».

Способность сказать «нет» — часть безопасного делегирования.

Агентам нужно выявление конфликтов

У агента может быть несколько обязательств.

Они могут стать несовместимыми.

Например:

передать проект A к пятнице;

передать проект B к пятнице;

оба требуют одного ограниченного ресурса.

Хорошая система должна обнаруживать конфликт обязательств до сбоя исполнения.

Агенты не должны молча обещать больше ресурсов, чем доступно

Люди тоже часто совершают эту ошибку.

Агенты AI могут совершать её с машинной скоростью.

Если агент продолжает принимать обязательства по отдельности, он может создать набор, который невозможно исполнить.

Поэтому перед подтверждением нового обязательства ему следует оценить:

• доступную мощность;
• существующие обязательства;
• зависимости;
• сроки;
• пределы полномочий.

Это создаёт персональный ObliNet для агента.

Персональный ObliNet предшествует внешнему обязательству

Прежде чем обещать что-то вовне, агент должен спросить:

Могу ли я реалистично принять эту обязанность?

Это означает проверку:

• текущей нагрузки;
• зависимостей;
• доступности ресурсов;
• полномочий;
• конфликтующих обязанностей.

Лишь затем ему следует создавать внешнее обязательство.

Внешний ObliNet начинается после обязательства

После подтверждения обязательства вопрос меняется.

Теперь система спрашивает:

О чём мы действительно договорились?

Обязательство становится частью общей сети.

Его зависимости становятся видимыми.

Его критерии приёмки становятся видимыми.

Его последствия становятся видимыми.

Агентам нужны идентичность и представительство

Полномочия требуют знания того, кого представляет агент.

Агент может действовать:

за человека;

за компанию;

за отдел;

за другого агента.

Это разные отношения.

Другой стороне нужно знать:

кто в конечном счёте стоит за обязательством?

Представительство должно быть явно выражено

Предположим, агент A ведёт переговоры с агентом B.

Агент A может представлять компанию X.

Агент B может представлять компанию Y.

Обязательство должно фиксировать не только:

Агент A ↔ Агент B.

Оно должно также фиксировать отношение доверителя:

Компания X,
представленная агентом A,

и

компания Y,
представленная агентом B.

Так подотчётность сохраняется за пределами конкретного экземпляра программы.

Полномочия агента должны передаваться лишь при разрешении

Агенту может быть разрешено делегировать работу субагентам.

Но он не должен автоматически получать возможность делегировать полномочия.

Например:

Агент A может нанять агента B для анализа данных.

Это не обязательно означает:

Агент B вправе подписывать договоры от имени организации.

Делегирование работы и делегирование полномочий различны.

Субагентам нужны производные мандаты

Если агенту A разрешено делегировать полномочия, производный мандат должен оставаться в пределах исходного.

Агент не должен иметь возможности создавать больше полномочий, чем получил.

Если агент A вправе потратить 10 000 долларов, он не должен иметь возможности дать агенту B полномочия потратить 100 000 долларов.

Переделегирование может сужать полномочия, но не должно незаметно расширять их.

Полномочия_B ⊆ Полномочия_A

где агент A делегирует агенту B.

Полномочия должны быть отзывными

Человек или организация должны иметь возможность отозвать полномочия агента.

Например:

сотрудник уходит;

модель становится ненадёжной;

происходит инцидент безопасности;

условия бизнеса меняются.

Отзыв должен распространяться на активных агентов, делегированных субагентов и ожидающие действия, зависящие от отозванных полномочий.

Агент с отозванными полномочиями не должен продолжать принимать обязательства на основании устаревших полномочий.

Существующие обязательства могут сохраняться после отзыва

Отзыв будущих полномочий не обязательно стирает прошлые обязательства.

Если агент правомерно принял обязательство до отзыва, доверитель может оставаться связан им.

Поэтому система должна различать:

полномочия создавать новые обязательства

и

ответственность за уже созданные обязательства.

Время важно

Мандаты агентов могут истекать.

Например:

действует до пятницы;

действует для этого проекта;

действует для этой сделки;

действует, пока владелец-человек недоступен.

Истёкшие полномочия не должны молча оставаться активными.

Версии тоже важны

Если мандат меняется, система должна сохранять, какая версия действовала в момент действия агента.

Иначе споры станет невозможно разрешить.

Вопрос не в том:

«Что агенту разрешено сейчас?»

Он может быть таким:

«Что было разрешено агенту, когда создавалось это обязательство?»

История важна.

Возможности могут меняться независимо от полномочий

Обновление модели может расширить возможности агента.

У него могут появиться новые инструменты.

Он может научиться лучше вести переговоры.

Но полномочия не должны расширяться автоматически.

Более широкие возможности не означают более широких полномочий.

Рост возможностей и рост полномочий должны оставаться раздельными.

Полномочия могут меняться независимо от возможностей

Верно и обратное.

Организация может расширить мандат агента, не меняя модель.

Например:

тот же агент;

те же инструменты;

более высокий лимит расходов.

Поэтому система должна рассматривать возможности и полномочия как разные объекты.

Доступ к инструментам должен учитывать контекст

У агента может быть доступ к нескольким инструментам.

Но право использовать инструмент должно зависеть от текущего обязательства и мандата.

Например:

доступ к CRM может быть разрешён для продаж;

доступ к платежам может требовать разрешения финансовой службы;

подписание документов может требовать отдельной роли.

Доступ к инструментам должен отражать контекст полномочий.

MCP и инструменты позволяют действовать; они не определяют легитимность

Протоколы инструментов могут сообщать агенту, как обращаться к системам.

Они отвечают:

«Как мне действовать?»

Но не обязательно отвечают:

«Разрешено ли мне действовать?»

Это отдельный слой.

Здесь ObliNet может найти место в будущей архитектуре агентов.

Инструменты предоставляют возможности. Мандаты ограничивают полномочия.

У слоёв разные сферы ответственности

Упрощённая архитектура может выглядеть так:

Доверитель / Мандат — определяет делегированные полномочия

Идентичность — устанавливает, кто или что действует

Модель / LLM — интерпретирует и рассуждает

Вычисления — выполняют вывод

Инструменты / MCP — позволяют совершать действия

ObliNet — представляет обязательства, условия и зависимости

Платежи — передают стоимость

Аудит — исследует свидетельства и результаты

Ни один слой не должен претендовать на замену остальных.

Обязательства между агентами требуют принятия

Агент не должен предполагать, что другой агент принял обязательство лишь потому, что сообщение отправлено.

Применяется тот же принцип, что и у людей.

Предложение — не принятие.

Например:

Агент A: «Можешь передать отчёт к пятнице?»

Агент B: «Наверное, смогу».

Это всё ещё может быть неоднозначным.

Система должна прояснить это до признания подтверждённым.

Обязательствам между агентами нужна общая семантика

Два агента могут использовать разные модели, инструменты и внутренние представления.

Поэтому общий слой обязательств должен сохранять общий смысл отношений.

Как минимум:

• кто отвечает;
• кто ожидает результат;
• какой результат;
• срок;
• условия;
• зависимости;
• приёмка;
• полномочия.

Так возникает протокол координации над отдельными моделями.

Агентам нужно знать, что зависит от их обязательства

Если агент B обязуется передать результат, ему следует знать, позволяет ли этот результат:

оплату;

задачу другого агента;

передачу клиенту;

подачу регулятору.

Этот контекст влияет на риск.

У небольшой задачи могут быть большие последующие последствия.

Принимая обязательства, агенты должны раскрывать неопределённость

Агент не должен представлять неопределённые оценки как гарантированные обязательства.

Например:

«Завершение ожидается в пятницу с высокой уверенностью»

отличается от:

«Гарантированно в пятницу».

Система должна сохранять это различие.

Это снижает принятие чрезмерных обязательств.

Уверенность не должна молча становиться обязанностью

AI часто создаёт вероятностные прогнозы.

Прогноз — не обещание.

Например:

«Вероятность прибытия груза в пятницу — 90%».

Это не то же самое, что:

«Я обязуюсь доставить в пятницу».

Это различие существенно для координации агентов.

Прогноз, предложение и обязательство должны оставаться раздельными

Экономика агентов станет небезопасной, если эти категории размоются.

Система должна различать:

прогноз;

идею;

предложение;

обязательство.

Каждая несёт разные последствия.

Агенты должны сохранять свидетельства действий

Если агент утверждает:

«Работа завершена»,

должны быть свидетельства.

В зависимости от контекста:

• созданный файл;
• выполненная транзакция;
• результат API;
• подтверждение человека;
• данные датчика;
• подписанная запись.

Завершение не должно опираться лишь на самоотчёт.

Приёмка может оставаться за человеком

Некоторые результаты могут требовать приёмки человеком.

Например:

творческая работа;

стратегический совет;

результат, критичный для безопасности;

правовое толкование.

Агент может передать результат.

Человек всё ещё может решать, приемлем ли он.

Приёмку тоже можно делегировать

В других процессах приёмка может быть автоматизирована.

Например:

файл данных соответствует схеме;

оплата получена;

набор тестов пройден;

сканирование отправления подтверждает прибытие.

Система должна указывать, кто или что уполномочено проводить приёмку.

Агентам нужна подотчётность без притворства, будто они моральные личности

Агент AI не обязательно является моральным или юридическим лицом.

Но его действия могут иметь реальные последствия.

Поэтому подотчётность должна связывать агента с:

• его доверителем;
• его мандатом;
• его моделью;
• его инструментами;
• его операторами;
• его историей решений.

Это позволяет избежать опасной фикции:

«Это сделал AI, поэтому ни человек, ни организация не отвечают».

Ответственность может быть многоуровневой

Сбой агента может затрагивать несколько слоёв.

Например:

разработчик создал небезопасную логику;

организация предоставила чрезмерные полномочия;

оператор проигнорировал предупреждения;

модель сделала неверный вывод;

аудит не обнаружил этого.

Подотчётность должна прослеживать ответственность в соответствии с вкладом, контролем, делегированными полномочиями и возможностью предотвратить или исправить сбой.

А не сводиться к одному козлу отпущения.

Агенты AI должны быть заменяемыми

Ни одного незаменимого участника
Ключевые участники и реализации должны оставаться заменяемыми без разрушения институциональной преемственности.

Ни одна организация не должна зависеть от одного незаменимого агента или модели.

Если агент становится ненадёжным, мандат и история обязательств должны быть переносимыми.

Другой агент должен иметь возможность принять работу.

Это требует разделять:

идентичность роли

и

идентичность реализации.

Протокол важнее поставщика агента

Обязательство, созданное через одну модель, не должно становиться нечитаемым при смене поставщика.

История:

• полномочий;
• обязательств;
• зависимостей;
• приёмки;
• результатов

должна переживать конкретную модель.

Это ключевой инфраструктурный принцип.

Ни один AI не должен становиться скрытым сувереном

Если одна система AI контролирует:

анализ;

полномочия;

действие;

запись;

аудит,

то архитектура опасно сконцентрирована.

Более безопасное устройство разделяет эти функции.

AI может советовать.

Полномочия исходят от доверителя.

Слой обязательств фиксирует.

Независимые системы могут проводить аудит.

Это создаёт технологическое разделение властей.

Автономия должна расти лишь при продемонстрированной надёжности

Агенты могут начинать с узких полномочий.

По мере демонстрации результатов мандаты могут расширяться.

Например:

только наблюдать
→ предлагать
→ действовать с одобрением
→ действовать автономно в пределах

Это создаёт постепенный путь к доверию.

Доверие должно опираться на свидетельства, а не на магию

Вопрос не должен быть:

«Доверяем ли мы AI?»

Это слишком широко.

Лучше спросить:

Какому агенту?

Для какой задачи?

При каком мандате?

С какими ограничениями?

С какой историей работы?

Доверие становится контекстным.

Цель — автономия в заданных пределах

Цель инфраструктуры агентов — не максимальная автономия.

А полезная автономия в понятных границах.

Агент должен иметь возможность действовать без постоянного надзора там, где это уместно.

Но он также должен знать:

что вправе делать;

что вправе обещать;

что требует подтверждения;

когда остановиться.

Это автономия в заданных пределах.

Экономике агентов нужен слой обязательств

Когда агенты AI начнут взаимодействовать друг с другом, инфраструктуре потребуется больше, чем сообщения и платежи.

Переписка отвечает:

что было сообщено?

Платежи отвечают:

какая стоимость переместилась?

Инструменты отвечают:

какое действие можно выполнить?

Но экономике агентов нужно также знать:

кто был уполномочен обещать что и кому, при каких условиях и что зависело от исполнения.

Именно такой слой координации предлагает ObliNet.

Восьмой принцип ObliNet

Поэтому восьмой принцип таков:

Возможности никогда нельзя путать с полномочиями. Автономные агенты должны действовать на основании явно выраженных, ограниченных и отзывных мандатов, источник которых прослеживается до легитимного доверителя; обязательства, ограничения и пути передачи вопроса на уполномоченный уровень должны быть видимы соответствующим сторонам.

Возможности позволяют действовать.

Полномочия делают действие правомерным.

Обязательства создают ожидания.

ObliNet связывает их.

И автономия становится безопаснее, когда система знает, где заканчиваются полномочия.

Координация заслуживает изучения как самостоятельная проблема

Интеллект помогает участнику рассуждать.

Координация определяет, могут ли многие участники действовать вместе.

Это разные проблемы.

Очень умный человек может плохо координировать свои действия с другими.

Способная команда может потерпеть неудачу из-за различий в ожиданиях.

Два агента AI могут каждый хорошо рассуждать и при этом создавать несовместимые обязательства.

В институте могут работать талантливые люди, и при этом в нём могут постоянно возникать сбои координации.

Поэтому координация заслуживает непосредственного изучения.

Наука о координации предлагается здесь как исследовательская программа

Наука о координации — предлагаемая междисциплинарная исследовательская программа, изучающая, как автономные участники формируют, интерпретируют, исполняют, пересматривают обязательства и зависимости и учатся на их основе при различающихся целях, информации, полномочиях и ограничениях.

Здесь не утверждается, что новая академическая дисциплина уже сформировалась.

Цель скромнее:

определить согласованный круг исследовательских вопросов об обязательствах, полномочиях, зависимостях, адаптации и подотчётности людей, организаций и агентов AI.

Если эти вопросы окажутся полезными, программа сможет развиваться.

Если нет, идею следует пересмотреть.

Единица анализа — отношение

Многие существующие области изучают людей, организации, рынки или институты.

Наука о координации сосредоточилась бы на отношениях между участниками.

В частности:

• кто чего ожидает;
• кто какое обязательство принял;
• при каких условиях;
• с какими полномочиями;
• что зависит от исполнения;
• как выявляются разногласия;
• как пересматриваются обязательства;
• как результаты влияют на дальнейшую координацию.

Основная единица анализа: отношение обязательства между участниками.

Вторичная единица анализа: сеть обязательств, соединяющая отношения через зависимости, полномочия, приёмку и последствия.

Обязательства следует рассматривать как наблюдаемые объекты исследования

Минимальная схема обязательства

• Ответственная сторона
• Результат
• Другая сторона
• Условия
• Время
• Зависимости
• Приёмка

Эту структуру можно анализировать.

Её можно сравнивать в разных условиях.

В ней возможны разные виды сбоев.

Она может порождать измеримые последствия.

Это делает сети обязательств подходящими для эмпирического изучения.

Сбои координации следует классифицировать

Не все сбои одинаковы.

Исследовательская программа должна различать как минимум несколько категорий:

• сбой интерпретации;
• сбой полномочий;
• сбой зависимостей;
• сбой исполнения;
• сбой приёмки;
• сбой пересогласования;
• информационный сбой;
• сбой стимулов.

Эти категории аналитические и не исключают друг друга. Один сбой координации может одновременно включать несколько механизмов.

Без классификации любой плохой результат выглядит одной и той же общей проблемой.

Это мешает учиться.

Сбой интерпретации

Два участника могут по-разному понимать, какие обязательства существуют.

Например:

Участник A считает пятницу фиксированным сроком.

Участник B считает, что пятница зависит от получения исходных данных в среду.

Проблема исполнения проявляется позже.

Сбой координации существовал раньше.

Измеримая переменная здесь:

Расхождение интерпретаций.

Сбой полномочий

Человек или агент может принять обязательство без достаточных полномочий.

Например:

сотрудник обещает скидку за пределами своего мандата;

агент AI соглашается на условие договора, которое не был уполномочен принимать.

Проблема не в интерпретации.

Она в легитимности формирования обязательства.

Сбой зависимостей

Обязательство может зависеть от предшествующего события, которое не было сделано видимым.

Например:

Команда B обязуется выполнить работу к пятнице.

Но:

команда A должна предоставить исходные данные в среду.

Если этой зависимости нет в общей модели, планирование последующих действий становится ненадёжным.

Сбой исполнения

Обязательство ясно.

Полномочия действительны.

Зависимости известны.

Но ответственный участник не исполняет обязательство.

Это ещё одна отдельная категория.

Её не следует путать с неоднозначностью.

Сбой приёмки

Работа передана.

Но стороны не согласны, соответствует ли результат обязательству.

Это может указывать на неясные критерии приёмки.

И здесь сбой координации структурно отличается от непоставки.

Сбой пересогласования

Условия меняются.

Первоначальное обязательство становится нереалистичным.

Но стороны не пересматривают его явно.

В результате остаётся устаревшее обязательство, уже не соответствующее реальности.

Это серьёзная, но недостаточно изученная проблема координации.

Исследовательской программе нужны операциональные определения

Такие понятия, как:

ясность;

доверие;

ответственность;

качество координации,

звучат полезно.

Но для исследования они слишком расплывчаты.

Их нужно определить в измеримых терминах.

Например:

Расхождение интерпретаций
Степень разногласия по заранее определённым атрибутам обязательства.

Видимость зависимостей
Доля критических зависимостей, представленных до исполнения.

Задержка пересогласования
Время от обнаружения существенного изменения до подтверждённого пересмотра.

Неоднозначность приёмки
Разногласие относительно выполнения критериев приёмки.

Это примеры, а не окончательные стандарты.

Качество координации не следует сводить к одной метрике

Система может улучшать ясность, но увеличивать затруднения во взаимодействии.

Она может сокращать споры, но замедлять решения.

Она может улучшать подотчётность, но создавать избыточную формализацию.

Поэтому оценка должна оставаться многомерной.

Возможные измерения включают:

• ясность;
• исполнение;
• скорость;
• адаптацию;
• затруднения во взаимодействии;
• справедливость;
• обратимость;
• доверие;
• затраты.

Любой серьёзный эксперимент должен изучать компромиссы.

Здесь не предлагается валидированный сводный показатель качества координации.

Затраты на формализацию необходимо измерять

ObliNet предполагает, что явное выражение некоторых обязательств может улучшать координацию.

Но структура не бесплатна.

Затраты на формализацию
Время, нагрузка взаимодействия, когнитивная нагрузка и затруднения процесса, вызванные добавленной структурой.

Она требует:

• внимания;
• времени;
• когнитивных усилий;
• усложнения интерфейса;
• организационной дисциплины.

Исследовательская программа должна измерять эти затраты.

Иначе утверждения об улучшениях будут неполными.

Одна из центральных гипотез: раннее прояснение уменьшает последующие расхождения

Базовая гипотеза может быть такой:

H1 — Интерпретация
Структурированное прояснение до подтверждения уменьшит расхождение интерпретаций по сравнению с обычным общением.

Это можно проверить.

Сначала участники могут общаться как обычно.

Затем каждый независимо описывает, что, по его мнению, было согласовано.

После структурированного прояснения упражнение повторяют.

Разницу можно измерить.

Другая гипотеза касается зависимостей

Вторая гипотеза может быть такой:

H2 — Зависимости
Явное представление существенных зависимостей уменьшит число упущенных предпосылок и сократит время обнаружения риска для последующих обязательств.

Это можно проверить на сопоставимых сценариях координации.

Одна группа использует обычные списки задач.

Другая — явные записи зависимостей.

Исследователи сравнивают:

• упущенные предпосылки;
• нереалистичные сроки;
• время обнаружения затронутых сторон;
• пересогласования на поздних этапах.

Третья гипотеза касается предотвращения обязательств

ObliNet не следует оценивать только по успешно исполненным обязательствам.

Иногда лучший результат — нереалистичное обязательство вообще не принимается.

Поэтому ещё одна гипотеза:

H3 — Предотвращение обязательств
Видимость доступных ресурсов и зависимостей до принятия обязательства увеличит число пересмотров нереалистичных обязательств или отказов от них до подтверждения.

Это важно, поскольку обычные системы управления продуктивностью могут считать каждую принятую задачу прогрессом.

Предотвращению нужна другая метрика успеха

Предположим, агент говорит:

«Я не могу взять обязательство на пятницу, потому что критическая зависимость не разрешена».

Обязательство не создаётся.

Срок не нарушается.

Традиционные системы могут ничего не зафиксировать.

Но с точки зрения координации это может быть успехом.

Поэтому в исследования следует включить:

Доля предотвращённых нереалистичных обязательств — кандидатная метрика

Другая гипотеза касается пересогласования

Полезная система должна облегчать изменения, а не затруднять их.

Поэтому:

H4 — Пересогласование
Видимые зависимости и история изменений с версиями сократят задержку пересогласования после существенных изменений условий.

Исследователи могут измерять:

время от изменения зависимости
до общего осознания
и до пересмотра обязательства.

Другая гипотеза касается подотчётности

Если обязательство и контекст решения яснее, последующая оценка может стать точнее.

Например:

H5 — Ретроспективная оценка
Снимки на момент принятия решения уменьшат искажение задним числом при ретроспективной оценке по сравнению с разбором только по результату.

Участники могут оценить решение дважды:

сначала только с информацией, доступной в тот момент,

затем после раскрытия результата.

Разницу в суждении можно изучить.

Координация людей и AI требует отдельных экспериментов

AI ставит новые вопросы.

Например:

• Может ли AI надёжно обнаруживать возможные обязательства?
• Как часто он выводит наличие обязательства там, где его нет?
• Как часто он пропускает существующее обязательство?
• Не слишком ли пользователи доверяют интерпретациям AI?
• Повышает ли подтверждение точность?
• Уменьшает ли AI неоднозначность настолько, чтобы оправдать дополнительные затраты на взаимодействие?

Это эмпирические вопросы.

Не допущения.

Полномочия агентов тоже можно проверить

Ещё одна область исследований — автономия в заданных пределах.

Например:

H6 — Полномочия агентов
Явные ограничения мандата уменьшат число несанкционированных обязательств агентов, сохраняя полезный уровень легитимных автономных действий.

Доля несанкционированных обязательств
Доля обязательств, созданных за пределами действительных полномочий.

Доля ошибочных ограничений
Легитимные действия, без необходимости заблокированные средствами контроля полномочий.

Для этого нужно измерять и то и другое:

• предотвращённые несанкционированные действия;
• легитимные действия, заблокированные без необходимости.

Безопасная система, которая запрещает всё, бесполезна.

Полезная система, которая разрешает всё, небезопасна.

Компромисс имеет значение.

Качество передачи вопроса на уполномоченный уровень должно быть измеримым

Агент AI должен знать, когда обращаться за помощью.

Точность передачи вопроса на уполномоченный уровень
Доля таких передач, оправданных применимым мандатом.

Полнота передачи вопроса на уполномоченный уровень
Доля ситуаций, требовавших такой передачи, в которых она действительно состоялась.

Возможные показатели включают:

• долю ненужных передач вопроса;
• долю пропущенных необходимых передач;
• задержку передачи вопроса;
• долю вмешательств человека с отменой решения;
• вред, предотвращённый благодаря передаче вопроса.

Это делает умение «знать, когда остановиться» проверяемым.

Эксперименты по координации должны включать сравнение с базовыми вариантами

Утверждение вроде:

«ObliNet улучшает координацию»

мало что значит без сравнения.

Базовым вариантом может быть:

• обычная переписка;
• управление задачами;
• процесс работы с договорами;
• процесс с участием только людей;
• помощник AI без структуры обязательств.

Эксперименты должны сравнивать с реалистичными альтернативами.

В некоторых условиях возможны рандомизированные испытания

В контролируемых бизнес-процессах команды можно распределять между:

стандартным процессом

или

процессом со структурированными обязательствами.

Затем исследователи сравнивают результаты.

Это было бы более весомым свидетельством, чем отдельные истории успеха.

Не каждая область допускает рандомизированные испытания.

Но там, где они осуществимы и этически допустимы, их следует рассматривать.

Квазиэкспериментальные, наблюдательные и продольные дизайны исследований.

Полевые исследования важны: лабораторная ясность может вводить в заблуждение

Координация в лаборатории проще, чем в реальных организациях.

В реальной среде есть:

• различия во власти;
• неполные данные;
• стимулы;
• прерывания;
• смена сотрудников;
• стратегическое поведение.

Поэтому контролируемые эксперименты следует дополнять полевыми исследованиями.

Особенно важны продольные исследования

Многие эффекты координации проявляются только со временем.

Например:

• повторяющееся обучение;
• изменения доверия;
• улучшение калибровки;
• сокращение долга координации;
• улучшение передачи работы.

Короткий эксперимент может их не обнаружить.

Поэтому важно длительное наблюдение.

Отрицательные результаты тоже следует публиковать

Исследовательская программа заслуживает доверия, только если способна сообщать о неудачах.

Если структурированные обязательства:

• не уменьшают неоднозначность;
• слишком увеличивают затруднения во взаимодействии;
• создают возможности манипулировать системой;
• снижают гибкость;

эти результаты важны.

Цель — не доказать правоту ObliNet.

Цель — выяснить, в каких условиях подход работает, а в каких нет.

Нулевые и неблагоприятные результаты — это свидетельства, а не неудачи публикации.

Неблагоприятные эффекты следует изучать отдельно и явно

Возможные неблагоприятные эффекты включают:

• давление наблюдения;
• избыточное документирование;
• страх принимать обязательства;
• стратегическое манипулирование метриками;
• бюрократические задержки;
• концентрацию власти у администраторов системы.

Это не второстепенные замечания.

Это часть исследовательской повестки.

У формализации может быть оптимальный уровень

Слишком мало структуры создаёт неоднозначность.

Слишком много структуры создаёт бюрократию.

Концептуальная модель — не валидированная метрика.

Чистая ценность координации
≈
Выгода от уменьшения неоднозначности
−
Затраты на добавленную структуру

Точная функция неизвестна.

Поиск полезного диапазона — эмпирическая задача.

Риск может определять подходящий уровень структуры

Одна из возможных гипотез:

H7 — Соразмерная формализация
Чистая ценность формализации будет расти с увеличением ожидаемых затрат, связанных с неоднозначностью.

Взаимодействию с низким риском может быть полезно почти полное отсутствие структуры.

Координация с высоким риском может оправдывать гораздо больше структуры.

Это можно изучать в разных областях.

Положение в сети может предсказывать риск координации

Обязательство в центре множества зависимостей может иметь большее системное влияние.

Это подсказывает направление исследований на основе теории графов.

Возможные переменные включают:

• число последующих зависимых обязательств;
• глубину зависимостей;
• центральность;
• задержку распространения;
• концентрацию полномочий.

Сама сеть может выявлять закономерности риска.

Небольшое обязательство может сильно влиять на последующие

Концептуальная модель — не валидированная метрика.

Влияние на координацию
≈
Прямая ценность обязательства
×
Подверженность последующих зависимостей

Это гипотеза о системной подверженности риску, а не валидированная формула оценки.

Важно, что влияние нельзя вывести только из локального масштаба.

Контекст сети имеет значение.

Координацию следует изучать для разных типов участников

Одна и та же модель может подходить для:

• людей;
• команд;
• компаний;
• правительств;
• агентов AI.

Но не следует предполагать одинаковое поведение.

Исследования должны проверять, где аналогия работает, а где перестаёт работать.

В человеческой координации есть нормы, которые агенты могут не разделять

Люди используют:

• доверие;
• социальный контекст;
• неявные нормы;
• эмоции;
• репутацию.

Агенты AI могут действовать иначе.

Поэтому протокол координации не должен предполагать, что работающее для людей автоматически работает и для машин.

Агенты AI могут выявить скрытые допущения человеческих систем

Парадоксально, но машинная координация может заставить нас формализовать понятия, которые люди обычно оставляют неявными.

Например:

полномочия;

приёмка;

делегирование;

условия;

отзыв.

Это может улучшить и наше понимание человеческой координации.

Исследования должны различать описательные и нормативные вопросы

Одни вопросы описательные:

Как часто участники расходятся во мнениях о том, что было обещано?

Другие — нормативные:

Что должно считаться легитимными полномочиями?

Это разные вопросы.

Наука о координации не должна их смешивать.

Эмпирические исследования могут описывать механизмы и последствия координации; сами по себе они не могут определять легитимные полномочия, права или общественные ценности.

Из исследований управления нельзя устранить ценности

Например:

одна политика максимизирует эффективность;

другая усиливает равенство.

Данные могут описать компромисс.

Они не могут определить, какая ценность должна преобладать.

Строгая исследовательская программа должна обозначать, где заканчивается эмпирический анализ и начинается нормативное суждение.

Исследования координации должны оставаться междисциплинарными

К релевантным областям могут относиться:

• экономика;
• наука об организациях;
• политология;
• информатика;
• распределённые системы;
• безопасность AI;
• право;
• психология;
• наука о сетях;
• взаимодействие человека и компьютера.

Проблемы координации пересекают границы дисциплин.

Это и сильная сторона, и трудность.

Необходима общая терминология

Разные области используют такие слова, как:

обязанность;

обязательство;

полномочия;

делегирование;

доверие;

подотчётность,

по-разному.

Исследовательской программе нужны явные определения.

Иначе исследователи могут использовать одни слова для разных явлений.

Сам ObliNet следует рассматривать как инфраструктуру для выдвижения гипотез

ObliNet не следует представлять как доказательство науки о координации.

ObliNet — один из возможных вариантов реализации исследовательской программы, а не определение самой области.

Он скорее может служить:

предложением по формализации;

платформой измерения;

экспериментальным вмешательством.

Если он даёт полезные данные и проверяемые эффекты, исследовательская программа получает содержательную основу.

Если нет, устройство системы следует менять.

Хорошая исследовательская программа должна допускать опровержение

Идея, которая не может оказаться несостоятельной, не может учиться.

Поэтому утверждения, связанные с ObliNet, должны указывать, какие свидетельства будут говорить против них.

Например:

Если структурированное прояснение постоянно увеличивает затруднения во взаимодействии, не уменьшая расхождение интерпретаций, это ставит подход под сомнение.

Если отображение зависимостей не улучшает раннее обнаружение рисков, это ставит под сомнение сетевую гипотезу.

Если обнаружение обязательств с помощью AI создаёт больше ложных обязательств, чем предотвращает, это ставит под сомнение устройство интерфейса.

Для исследования это здоровые результаты.

Успех следует определять до начала экспериментов

Исследователи не должны решать задним числом, что считать успехом.

Каждое исследование должно заранее определять:

• гипотезу;
• выборку;
• базовый вариант сравнения;
• вмешательство;
• метрики;
• период наблюдения;
• критерии успеха;
• ограничения.

Это уменьшает переинтерпретацию задним числом.

Свидетельства должны включать нулевые результаты

Нулевой результат — тоже результат.

Например:

нет измеримого уменьшения неоднозначности.

Это может означать:

• гипотеза неверна;
• вмешательство слабо;
• метрика неудачна;
• контекст не подходит.

Каждая возможность чему-то учит.

Воспроизведение результатов важно

Результата одной компании или одной страны недостаточно.

Механизмы координации могут сильно зависеть от культуры, стимулов и институтов.

Важные результаты следует воспроизводить в разных условиях.

Исследования должны отделять механизм от результата

Предположим, после введения структурированных обязательств стало меньше споров.

Почему?

Возможные причины:

• более ясные ожидания;
• более осторожное принятие обязательств;
• повышенное внимание;
• эффект новизны;
• давление руководства.

Понимать механизм важно.

Иначе результат может не переноситься на другие условия.

Координация — не то же самое, что соблюдение правил

Система может идеально соблюдать правила и при этом плохо координироваться.

Например:

все следуют правилу,

но правило порождает несовместимые действия.

Поэтому исследования координации должны сосредоточиться на совместимости и адаптации, а не только на послушании.

Цель — не максимальное согласие

Система, в которой все всегда согласны, может быть нездоровой.

Разногласия могут выявлять:

• конфликтующие ценности;
• невыполнимые обязательства;
• скрытые риски;
• неудачные допущения.

Цель — не устранить разногласия.

Цель — сделать их видимыми и дать возможность действовать по ним.

Иногда правильный результат — отсутствие обязательства

Это должно оставаться центральным исследовательским принципом.

Система, создающая меньше обязательств, всё же может улучшать координацию, если предотвращает нереалистичные.

Поэтому успех нельзя измерять только:

числом созданных обязательств.

Иногда:

лучшее обязательство — то, которое не было принято.

Исследования координации должны спрашивать, оправдывает ли ясность свои затраты

Главный практический вопрос не в том:

«Можем ли мы сделать обязательства более явными?»

Можем.

Настоящий вопрос:

«Оправдывает ли улучшение координации затраты на явное выражение обязательств?»

Это эмпирический вопрос.

Исследовательская программа должна оставаться открытой

Наука о координации не должна становиться доктриной вокруг ObliNet.

Другие модели могут работать лучше.

Могут появиться другие способы представления.

Другие протоколы могут превзойти графы обязательств.

Исследовательская программа должна оставаться открытой к замене.

Девятый принцип ObliNet

Поэтому девятый принцип таков:

Координацию следует изучать как эмпирическую исследовательскую проблему, допускающую опровержение: понятия должны быть определены, гипотезы — проверены в сравнении с реалистичными базовыми вариантами, выгоды и затраты — измерены, а нулевые или неблагоприятные результаты должны иметь возможность поставить модель под сомнение.

ObliNet не является свидетельством собственного успеха.

Это предложение.

Утверждения следует проверять.

Метрики следует подвергать сомнению.

Устройство системы должно меняться, когда реальность ему противоречит.

И наука о координации должна развиваться лишь в той мере, в какой это оправдывают свидетельства.

Влиятельные системы не должны зависеть от одного центра

Чем больше возможностей у системы, тем опаснее концентрация.

Это верно в политике.

Это верно в организациях.

И всё больше — в инфраструктуре AI.

Один участник может контролировать:

решения;

данные;

модели;

вычисления;

инструменты;

обязательства;

аудит.

Это может быть эффективно.

Но может быть и уязвимо.

Если один центр может действовать, определять правила, фиксировать произошедшее и судить о допустимости действия, подотчётность ослабевает.

Концентрация создаёт риск захвата контроля

Захват контроля — состояние, при котором один участник получает достаточно контроля над критическими функциями, записями, инфраструктурой или интерпретацией, чтобы продвигать собственные интересы, ослабляя реальные возможности оспаривания, выхода или замены.

Захват контроля не всегда выглядит драматично.

Он может происходить постепенно.

Поставщик становится незаменимым.

Институт становится единственным источником записей.

Модель AI становится единственным признанным интерпретатором.

Аудитор зависит от проверяемой организации.

Руководитель контролирует и исполнение, и информацию, используемую для его оценки.

Каждый случай создаёт структурную проблему:

участник, которому доверяют, контролирует также слишком большую часть механизма, создающего доверие.

Разделение властей — архитектурный принцип

Политические системы выработали разделение властей, потому что концентрация полномочий опасна.

Ту же логику можно распространить на технологии.

Аналогия с конституционным разделением властей архитектурная, а не буквальная.

Будущей системе координации могут потребоваться отдельные уровни для:

• полномочий принимать решения;
• советов AI;
• данных;
• вычислений;
• идентификации;
• инструментов и исполнения;
• обязательств;
• платежей;
• аудита;
• общественного надзора или надзора заинтересованных сторон.

Эти функции не должны автоматически принадлежать одному поставщику.

Ни один уровень не должен случайно становиться суверенным

Технический компонент может приобрести политическую власть, даже если его не создавали как политический институт.

Например:

тот, кто контролирует модель, может влиять на интерпретацию;

тот, кто контролирует вычисления, может решать, какие модели могут работать;

тот, кто контролирует идентификацию, может решать, кто вправе действовать;

тот, кто контролирует записи обязательств, может формировать историю;

тот, кто контролирует аудит, может определять, что считается допустимым свидетельством.

Поэтому решения об инфраструктуре становятся решениями об управлении.

Модель AI не должна контролировать полномочия

AI может рекомендовать действие.

Он не должен самостоятельно решать, имеет ли право её совершить.

Мандат
Ограниченное делегирование полномочий, определяющее, от чьего имени участник может действовать, какие действия или обязательства разрешены и при каких ограничениях, условиях и сроке действия.

Так сохраняется принцип:

возможности ≠ полномочия.

Участник не должен контролировать единственную запись собственных действий

Предположим, агент совершает транзакцию и контролирует её единственную запись.

Тогда след для аудита полностью зависит от проверяемого участника.

Это слабая подотчётность.

Важные записи должны допускать независимую проверку там, где это уместно.

Аудитор не должен структурно зависеть от проверяемого участника

Аудитор может быть формально независимым, но зависеть экономически или технически.

Например:

та же платформа финансирует аудитора;

аудитор получает доступ к свидетельствам только через платформу;

проверяемая организация может отозвать этот доступ.

Формальной независимости недостаточно.

Реальная независимость требует практической возможности проверять и оспаривать.

Уровень обязательств не должен становиться новой монополией

Сам ObliNet должен подчиняться тому же принципу защиты от захвата контроля.

Если вся история обязательств существует только внутри одной закрытой реализации, ObliNet может стать именно тем центром концентрации, который призван ослаблять.

Протокол должен быть важнее платформы.

Переносимость — часть подотчётности

Переносимость
→ Выход
→ Заменяемость
→ Устойчивость

Переносимость = записи, семантика и значимая история могут перемещаться.

Выход = участники могут уйти или сменить поставщика без разрушительной привязки.

Заменяемость = другой участник или поставщик может взять на себя функцию.

Устойчивость = непрерывность сохраняется при замене.

Участники должны иметь возможность переносить:

• историю обязательств;
• записи полномочий;
• структуры зависимостей;
• историю приёмки;
• ссылки на свидетельства;

в другую совместимую реализацию, когда это осуществимо.

Иначе выход становится дорогим.

А дорогой выход создаёт зависимость.

Выход — механизм управления

Выход служит механизмом управления, когда участники могут уйти или сменить поставщика, не теряя правомерной истории, прав или непрерывности.

Это относится к:

поставщикам AI;

поставщикам вычислений;

аудиторам;

платформам координации.

Возможность выхода ограничивает власть.

Заменяемость — форма устойчивости

Здоровая система должна исходить из того, что любой компонент может отказать.

Руководитель может стать коррумпированным.

Модель AI может стать ненадёжной.

Поставщик вычислений может стать недоступным.

Аудитор может попасть под чужой контроль.

Платформа координации может ошибаться.

Поэтому систему следует проектировать с расчётом на замену.

Ни одного незаменимого участника

Система становится уязвимой, когда одного человека, компанию, модель или платформу нельзя заменить без краха.

• Руководители: институты должны переживать смену руководства, сохраняя обязательства, допущения, риски и неразрешённые зависимости.
• Модели AI: смена моделей должна сохранять историю мандатов, обязательства, свидетельства и контекст решений.
• Поставщики вычислений: распределённые вычисления или несколько поставщиков могут уменьшать зависимость от одного поставщика.
• Поставщики аудита: методы должны оставаться сопоставимыми, а второе мнение — доступным.
• Реализации ObliNet: участники должны иметь возможность перейти на другую реализацию, не закрепляя один продукт навсегда.

Заменяемость не означает постоянного переключения. Она означает, что переключение остаётся возможным.

Непрерывность протокола важнее непрерывности поставщика

Протокол может пережить компанию, которая первой его реализовала.

Это более здоровая форма инфраструктуры.

Например:

стандарты связи переживают отдельные приложения;

платёжные стандарты переживают отдельные банки;

веб-стандарты переживают отдельные браузеры.

Уровень обязательств должен стремиться к подобной переносимости.

Переносимость должна сохранять семантику, а не только обеспечивать экспорт файлов.

История должна допускать независимую проверку

Если один поставщик может незаметно переписывать исторические записи, подотчётность становится уязвимой.

Важные изменения должны оставлять след.

Например:

исходное обязательство
→ пересмотр
→ причина
→ подтверждение

История может развиваться.

Но она не должна исчезать незаметно.

Возможность проверки не подразумевает публичного доступа.

Необходимо соблюдать границы приватности и конфиденциальности.

Независимая проверка должна быть возможна, когда значимость последствий её оправдывает

Не каждому обязательству нужна криптографическая или институциональная проверка.

Но координация с серьёзными последствиями может оправдывать более сильные гарантии.

Например:

государственные закупки;

регулируемые транзакции;

торговля агентов на крупные суммы;

значимые публичные решения.

Строгость проверки должна быть соразмерна последствиям.

В зависимости от контекста проверка может быть криптографической, институциональной, процедурной или основанной на свидетельствах.

Данные и интерпретация должны оставаться разделимыми

Одна система может хранить данные.

Другая — интерпретировать их.

Такое разделение может быть полезным.

Если один участник контролирует и свидетельства, и единственную интерпретацию, несогласие становится затруднительным.

Множественный анализ требует доступа к общей исходной базе свидетельств там, где это правомерно.

Контроль над свидетельствами не должен автоматически означать контроль над интерпретацией.

Полномочия интерпретировать не должны разрешать незаметное изменение свидетельств.

Моделям следует позволять не соглашаться

Система не должна навязывать одну интерпретацию AI как каноническую лишь потому, что одна модель доминирует.

Разные модели могут анализировать одни свидетельства.

Разногласия могут выявлять:

• неопределённость;
• скрытые допущения;
• смещение модели;
• неполные данные.

Многообразие может повышать устойчивость, если модели действительно достаточно независимы и имеют разные механизмы сбоев.

Советы AI должны оставаться советами

Даже согласие нескольких моделей не даёт им автоматически политических или юридических полномочий.

Консенсус моделей — всё ещё анализ.

Полномочия остаются у легитимных человеческих или институциональных процессов.

Власть над данными тоже требует ограничений

Тот, кто контролирует данные, может влиять на то, что другие способны узнать.

Поэтому архитектура защиты от захвата контроля должна учитывать:

• доступ к данным;
• владение данными;
• переносимость данных;
• выборочное раскрытие;
• права аудита.

Одного распределения вычислений недостаточно.

Децентрализация инфраструктуры не создаёт подотчётное управление автоматически

Система может иметь децентрализованные вычисления и при этом централизованные полномочия.

Она также может иметь распределённые данные, но централизованную интерпретацию.

Поэтому децентрализацию следует рассматривать как один уровень.

А не как полное решение задачи управления.

Gonka и ObliNet относятся к разным уровням

В обсуждаемом здесь архитектурном предложении:

Gonka представляет распределённые вычисления для AI и уменьшение зависимости от централизованной инфраструктуры.

ObliNet представляет наблюдаемые полномочия, обязательства, зависимости и подотчётность.

Это разные функции.

Взаимодополняемость концептуальная и архитектурная

Связь не в том, что Gonka и ObliNet — одна система.

Это не так.

Предлагаемая связь в том, что оба подходят к концентрации на разных уровнях.

Gonka касается:

концентрации вычислительных мощностей.

ObliNet касается:

концентрации и непрозрачности полномочий и ответственности.

Поэтому такое сочетание — гипотеза о взаимодополняющей инфраструктуре.

А не утверждение о существующем партнёрстве или интеграции.

Распределение вычислений без видимости полномочий неполно

Представим, что децентрализованные вычисления обеспечивают работу агента AI.

Но никто не может сказать:

кто уполномочил агента;

что он вправе обещать;

кто несёт ответственность;

какие обязательства он создал.

Вычисления распределены.

Проблема управления остаётся.

Видимость полномочий без многообразия инфраструктуры тоже неполна

Теперь представим, что обязательства и полномочия полностью наблюдаемы.

Но один поставщик контролирует:

все модели;

все вычисления;

все записи.

В такой системе всё ещё есть риск концентрации.

Поэтому важны и управление, и архитектура инфраструктуры.

Технологическое разделение властей

Поэтому возможная архитектура может разделять:

Полномочия принимать решения
кто легитимно вправе решать

Совещательные возможности AI
системы, которые анализируют и рекомендуют

Идентификация

Данные
свидетельства и состояние

Вычисления
инфраструктура, на которой работают модели

Уровень обязательств
полномочия, обязательства, условия и зависимости

Исполнение
инструменты, выполняющие действия

Аудит
независимая проверка

Общественный надзор или надзор заинтересованных сторон
легитимное рассмотрение людьми

Ни один уровень не должен автоматически доминировать над всеми остальными.

Разделение не означает изоляции

Эти уровни должны взаимодействовать.

Полномочия определяют рамки исполнения.

AI анализирует данные.

Обязательства запускают действия.

Аудит проверяет свидетельства.

Надзор рассматривает последствия.

Цель — не фрагментация.

Цель — взаимозависимость без полного контроля одного участника.

Между уровнями должны существовать сдерживающие механизмы

Например:

Совет предлагает. Полномочия придают легитимность. Исполнение действует. Записи сохраняют. Аудит оспаривает. Надзор оценивает.

Каждый уровень ограничивает другие.

Власть должна быть наблюдаема на всех уровнях

Вопрос должен быть не только:

«Кто руководитель?»

Нужно также спрашивать:

«Кто контролирует модель?»

«Кто контролирует вычисления?»

«Кто контролирует доступ к данным?»

«Кто контролирует записи?»

«Кто проводит аудит?»

Власть может скрываться внутри инфраструктуры.

Концентрация зависимостей должна быть измеримой

Система может выглядеть децентрализованной и при этом сильно зависеть от одного поставщика.

Например:

пять приложений

могут все зависеть от:

одного API модели.

Это создаёт скрытую концентрацию.

Граф обязательств и зависимостей может помочь выявить такую структурную зависимость.

При оценке концентрации зависимостей следует учитывать видимое владение и скрытые общие зависимости.

Защита от захвата контроля требует отслеживания концентрации во времени

Здоровая сегодня архитектура завтра может стать концентрированной.

Поставщик растёт.

Происходит слияние.

Стандарт становится закрытым.

Аудитор теряет независимость.

Поэтому защита от захвата контроля — не разовое проектное решение.

Это непрерывный процесс.

Захват контроля возможен и через стандарты

Стандарт может быть открытым по названию, но контролируемым на практике.

Например:

одна организация контролирует спецификацию;

одна реализация становится неизбежной;

условия лицензирования меняются;

совместимость становится избирательной.

Поэтому важно управление самим протоколом.

Стандартам нужно плюралистическое управление

Зрелому стандарту координации могут потребоваться:

• публичные спецификации;
• независимые реализации;
• ведение версий;
• прозрачные процессы изменений;
• ясные правила совместимости.

Публичные спецификации, независимые реализации, ведение версий, прозрачные процессы изменений и правила совместимости должны уменьшать контроль одного участника.

Обратная совместимость может защищать непрерывность

Если протокол развивается, старые записи должны оставаться интерпретируемыми.

Иначе техническое изменение может стереть историческую подотчётность.

Это особенно важно для долговечных институтов.

Возможность ответвления может служить гарантией

Возможность ответвления или реальная альтернативная реализация может служить гарантией в некоторых системах.

Если управление становится неприемлемым, альтернативная реализация может продолжить историю.

Возможность ответвления не всегда желательна.

Но реальная возможность выхода может сдерживать централизованный контроль.

Одной конкуренции недостаточно

Несколько поставщиков всё равно могут образовать высокую концентрацию.

Они также могут иметь общие зависимости.

Поэтому проектирование защиты от захвата контроля должно изучать структуру, а не бренды.

Пять сервисов на одной модели, в одном облаке и с одной системой идентификации всё ещё могут представлять одну практическую точку отказа.

Разнообразие важно

Устойчивость может требовать разнообразия:

• моделей;
• поставщиков вычислений;
• аудиторов;
• источников данных;
• реализаций.

Разные механизмы сбоев уменьшают коррелированный риск.

Коррелированный сбой — системная опасность

Если все наблюдатели используют одну модель, они могут воспроизводить одну ошибку.

Если все платформы используют одного поставщика вычислений, один отказ затронет всех.

Если каждый аудит зависит от одного набора данных, одна ошибка данных распространяется повсюду.

Независимость должна быть реальной, а не косметической.

Защита от захвата контроля должна учитывать экономические стимулы

Одной технической архитектуры недостаточно для предотвращения концентрации.

Рынки создают стимулы к масштабу.

Сетевые эффекты создают привязку.

Закупки закрепляют действующих поставщиков.

Поэтому управление должно также спрашивать:

какие стимулы делают одного участника всё более незаменимым?

Защита от захвата контроля отчасти экономическая.

Защита от захвата контроля должна включать экономическую структуру: затраты на переход, сетевые эффекты, зависимость через закупки и финансовые конфликты интересов.

Прозрачность финансирования важна

У наблюдателей, аудиторов и поставщиков инфраструктуры могут быть конфликты интересов.

Эти конфликты должны быть видимыми.

Предположительно независимый оценщик может финансово зависеть от оцениваемого участника.

Эта зависимость имеет значение.

Управление должно включать управление самим ObliNet

Кто меняет протокол?

Кто решает, какие функции становятся стандартными?

Кто контролирует эталонные реализации?

Кто может получать доступ к историческим записям?

Кто может исключить реализацию?

Эти вопросы нельзя откладывать бесконечно.

Система подотчётности должна допускать управление по тем же принципам защиты от захвата контроля, которые применяет к другим.

ObliNet не должен становиться источником тех полномочий, которые фиксирует

Это различие принципиально.

ObliNet может фиксировать:

у кого были полномочия.

Он не должен автоматически решать:

кто заслуживает полномочий.

Он может показывать:

какое обязательство было принято.

Он не должен становиться сувереном, самостоятельно создающим легитимность.

Уровень обязательств должен описывать полномочия, а не производить их

Легитимные полномочия могут происходить из:

• закона;
• договора;
• организационного мандата;
• демократического делегирования;
• явного согласия.

ObliNet может представлять полномочия; одна лишь запись не делает его источником легитимности.

Аудит должен оспаривать записи

Система аудита должна иметь возможность сказать:

«Запись утверждает X, но свидетельства подтверждают Y».

Уровень обязательств не должен становиться неуязвимым для опровержения.

Структурированные записи остаются утверждениями, пока не подкреплены свидетельствами там, где они требуются.

Человеческие институты остаются необходимыми

Суды.

Парламенты.

Советы директоров.

Регуляторы.

Независимые СМИ.

Профессиональные объединения.

Эти институты по-прежнему важны.

Технологическое разделение властей дополняет институциональное разделение властей.

Оно его не заменяет.

Архитектура должна затруднять злоупотребления, а не делать их невозможными

Никакая архитектура не может полностью устранить злоупотребления.

Честная цель скромнее:

сделать концентрацию видимой;

затруднить захват контроля;

сделать выход возможным;

сделать замену возможной;

сохранить свидетельства;

сократить единые точки контроля.

Это значимо и без совершенства.

Защита от захвата контроля иногда снижает эффективность

Централизация может быть эффективной.

Один поставщик может быть быстрее.

Одна модель может быть дешевле.

Одна база данных может быть проще.

Поэтому у защиты от захвата контроля есть цена.

Система должна искать баланс между:

эффективностью

и

устойчивостью и подотчётностью.

Это проектный компромисс.

Системы с серьёзными последствиями оправдывают более строгое разделение

Более строгое разделение имеет операционные затраты и должно быть соразмерно последствиям, риску концентрации и обратимости.

Внутренний процесс с низким риском может допускать централизованную архитектуру.

Система, влияющая на:

управление государством;

критическую инфраструктуру;

крупномасштабные финансовые потоки;

автономных агентов AI,

может оправдывать гораздо более сильную независимость уровней.

Чем сильнее власть, тем больше потребность в сдерживающих механизмах

Это тот же принцип соразмерности, который действует и в других частях ObliNet.

Более серьёзные последствия должны означать:

более строгие границы полномочий;

более сильную наблюдаемость;

более строгий аудит;

более надёжную заменяемость.

Не потому, что каждый влиятельный участник злонамерен.

Потому, что концентрированный сбой дорого обходится.

Распределённое будущее должно оставаться управляемым

Распределение само по себе тоже может создавать проблемы.

Слишком много независимых участников могут создавать:

• фрагментацию;
• несовместимые стандарты;
• неясную ответственность;
• медленную координацию.

Поэтому цель — не децентрализация любой ценой.

Цель:

распределённая власть с явно выраженной координацией.

Координация не даёт децентрализации превратиться в хаос

Здесь уровень обязательств становится важным.

Распределённой системе всё равно нужно знать:

кто вправе действовать;

кто принял обязательство;

что от чего зависит;

кто проводит приёмку;

кто несёт ответственность.

Децентрализация без координации создаёт фрагментацию.

Координация без децентрализации может создавать захват контроля.

Архитектура должна уравновешивать оба аспекта.

Устойчивость возникает из распределённых возможностей и наблюдаемой ответственности

Это подсказывает более широкий принцип проектирования:

возможности должны быть распределены достаточно, чтобы избегать зависимости; ответственность должна быть достаточно явной, чтобы сохранять подотчётность.

Эти две цели усиливают друг друга.

Система должна переживать отказ любого одного участника

Практический тест устойчивости:

Что произойдёт, если этот участник исчезнет завтра?

Если ответ:

«Вся система остановится»,

то эта зависимость заслуживает внимания.

Этот тест можно применять к:

• руководителям;
• моделям;
• вычислениям;
• идентификации;
• аудиторам;
• платформам координации.

Десятый принцип ObliNet

Поэтому десятый принцип таков:

Системы с существенными последствиями должны разделять полномочия, советы, инфраструктуру, исполнение, записи и аудит, чтобы ни один участник не мог контролировать всю цепочку осуществления и оценки власти. Критические участники и реализации должны оставаться наблюдаемыми, проверяемыми аудитом и заменяемыми.

Распределённые вычисления могут уменьшать концентрацию инфраструктуры.

Наблюдаемые обязательства могут уменьшать непрозрачность управления.

Независимый аудит может оспаривать и то и другое.

Протоколы могут сохранять непрерывность при смене поставщиков.

И ни одна реализация — включая сам ObliNet — не должна становиться незаменимой.

Цель — не мир без власти.

Цель — мир, в котором власть труднее захватить, потому что она разделена, видима и заменяема.

Подотчётность не должна требовать полной видимости

Система, призванная делать ответственность наблюдаемой, может стать опасной, если предполагает, что наблюдаемым должно быть всё.

Это было бы ошибкой.

Людям нужно личное пространство.

Организациям нужно конфиденциальное пространство.

Государствам иногда нужна правомерная секретность.

Переговоры часто требуют временной неопределённости.

Творчеству нужна незавершённая мысль.

Доверию нужны разговоры, которые не остаются навсегда открытыми.

Поэтому цель ObliNet — не:

сделать всё видимым.

А:

сделать значимую структуру ответственности с существенными последствиями видимой для тех, кто легитимно вправе её видеть.

Это основополагающее различие.

Прозрачность и приватность не противоположности

Прозрачность отвечает:

Что должно быть наблюдаемым?

Приватность отвечает:

Что должно оставаться защищённым, от кого и как долго?

Зрелой системе нужно и то и другое.

Слишком мало прозрачности позволяет власти скрываться.

Слишком мало приватности позволяет власти вторгаться.

Задача не в выборе одного.

Она в проектировании границы.

Для публичной власти и частной жизни нужны разные настройки по умолчанию

Гражданин, ведущий частную жизнь, не должен раскрывать себя лишь потому, что публичные институты используют ObliNet.

Должностное лицо, осуществляющее делегированные полномочия, находится в другом положении.

Это создаёт намеренную асимметрию:

частное лицо → сильная защита приватности по умолчанию

осуществление публичных полномочий с существенными последствиями → более сильная наблюдаемость по умолчанию

Различие определяется властью, а не только статусом.

Прозрачность должна следовать за полномочиями

Чем больше делегированной власти над другими осуществляет участник, тем весомее основания для наблюдаемости. Чем более личный и чувствительный контекст, тем сильнее защита по умолчанию.

Частный гражданин, решающий, где поесть, не обязан объясняться перед обществом.

Должностное лицо, распределяющее миллиарды общественных средств, обязано.

Руководителю, принимающему небольшое внутреннее решение, может требоваться мало документации.

Руководителю, чьё решение затрагивает тысячи сотрудников, может требоваться гораздо больше.

Поэтому наблюдаемость должна расти вместе с:

• полномочиями;
• влиянием;
• риском;
• необратимостью;
• общественными последствиями.

Частные граждане не должны становиться прозрачными объектами

Одним из самых ясных ограничений ObliNet должно быть:

прозрачность публичной власти не должна превращаться в прозрачность частных граждан.

Система управления не должна создавать постоянные публичные профили:

• личных отношений;
• обычных разговоров;
• личных убеждений;
• неформальных намерений;
• повседневного поведения.

Это перевернуло бы назначение подотчётности.

Более наблюдаемыми должны становиться обладающие властью.

А не лишённые её.

Обязательству не нужно быть публичным, чтобы быть явно выраженным

Двум людям может требоваться ясное обязательство без необходимости раскрывать его кому-либо ещё.

Например:

сотрудник ↔ руководитель;

клиент ↔ консультант;

пациент ↔ поставщик услуг;

человек ↔ агент AI.

Явно выраженный ≠ Публичный.

Ясность касается общего смысла. Видимость касается легитимного доступа.

Область видимости

Область видимости определяет, кто легитимно вправе видеть обязательство или подтверждающие свидетельства.

Например:

Личная
видимо только участнику или личному агенту

Совместная
видимо сторонам обязательства

Организационная
видимо уполномоченным ролям внутри института

Доступная аудиту
доступно уполномоченному аудитору при определённых условиях

Публичная
видимо обществу

Не все обязательства относятся к одному уровню.

Публичность никогда не должна быть настройкой по умолчанию для всего

Публикация всего может казаться максимальной прозрачностью.

Но неизбирательная публикация может создавать:

• вред приватности;
• риск безопасности;
• травлю;
• стратегические манипуляции;
• эффект самоограничения из страха;
• информационную перегрузку.

Прозрачность должна иметь цель.

А не быть автоматической.

Ограничение целью + минимизация данных

Собирайте и раскрывайте только информацию, необходимую для легитимной цели координации, проверки или подотчётности.

Обязательству могут требоваться результат, ответственная сторона, срок и условия, но не весь разговор, каждый черновик или несвязанные личные данные.

Запись, созданная для подтверждения делового обязательства, не должна автоматически становиться материалом для несвязанного профилирования.

Можно сохранить обязательство, не сохраняя каждое слово

Предположим, два человека разговаривают двадцать минут.

Важен только один результат:

«Поставщик обязуется поставить 100 единиц к пятнице, если платёж поступит к среде».

Подтверждённое обязательство может стоить сохранения, даже если окружающий разговор — нет. Объект координации и исходные свидетельства не обязаны иметь одинаковые правила хранения или доступа.

Исходные свидетельства и структурированные записи различаются

Структурированная запись может говорить:

срок: пятница.

Подтверждающим свидетельством может быть:

подписанный документ;

сообщение;

подтверждение по итогам встречи.

Системе не обязательно раскрывать свидетельства всем, кто может видеть структурированную запись.

Видимость обязательства и видимость свидетельств должны настраиваться независимо там, где это легитимно.

Выборочное раскрытие должно быть возможным

Выборочное раскрытие позволяет участнику доказать значимый факт, например объём полномочий, не раскрывая несвязанную информацию.

Например:

«Этот агент имел полномочия на закупки до $10,000».

Другой стороне может не требоваться видеть:

зарплату сотрудника;

внутреннюю стратегию;

все остальные разрешения.

Хорошие системы координации должны поддерживать выборочное раскрытие там, где это практически осуществимо.

Полномочия можно проверить, не раскрывая лишних идентификационных данных

Иногда вопрос:

«Уполномочен ли этот участник?»

а не:

«Расскажите мне об этом участнике всё».

Агенту или сотруднику может требоваться доказать:

действительность полномочий;

их объём;

срок окончания;

не раскрывая несвязанной личной информации.

Этот принцип становится важным в крупных экосистемах агентов.

Приватность должна существовать и между уровнями

Сеть обязательств может включать несколько организаций.

Каждой организации может требоваться разная информация.

Например:

поставщик видит обязанность поставки;

аудитор видит свидетельства;

финансовый отдел видит условие запуска платежа;

общественный наблюдатель видит совокупные показатели работы.

Ни одному участнику не нужна автоматически вся сеть.

Сеть не должна становиться универсальным социальным графом

Опасная реализация выводила бы связи каждого человека и навсегда соединяла их.

Для ObliNet это не нужно.

Сеть касается значимых обязательств и зависимостей.

А не реконструкции всей социальной жизни человека.

Персональный ObliNet по умолчанию должен оставаться личным

Прежде чем принять внешнее обязательство, человек может использовать личный ObliNet, чтобы обдумать:

Могу ли я реалистично согласиться на это?

Это может включать:

• нагрузку;
• приоритеты;
• личные ограничения;
• предварительные планы.

Эти внутренние соображения не должны автоматически становиться видимыми другой стороне.

Внешнему уровню нужно подтверждённое обязательство.

А не весь ход внутренних рассуждений человека.

Личное обдумывание выполнимости ≠ Внешняя запись обязательства.

Человек может объяснить границу, не раскрывая её причину

Кто-то может сказать:

«Я не могу взять обязательство раньше понедельника».

Другой стороне может не требоваться знать почему.

Ограничение может быть связано с:

здоровьем;

семьёй;

другим конфиденциальным проектом.

Координация может уважать границы, не требуя раскрытия личных причин.

Условия должны раскрывать только необходимое для координации

Предположим, настоящее условие:

«Я могу поставить в пятницу, только если решится вопрос с личным медицинским приёмом».

Внешнему обязательству может быть достаточно:

«Поставка в пятницу при условии подтверждения в среду».

Система не должна вынуждать раскрывать лежащую в основе личную подробность, если она действительно не необходима и не сообщается добровольно или на законном основании.

Публичная подотчётность не требует публичного доступа ко всем исходным данным

Публичная подотчётность может требовать видимости решения, полномочий, обоснования и последствий без публичного раскрытия всех лежащих в основе данных.

Чувствительные свидетельства могут оставаться ограниченными, пока уполномоченные аудиторы или институты проверяют их по установленным правилам.

Подотчётность не требует неизбирательной публикации.

Сама секретность должна быть подотчётной

Приватностью и конфиденциальностью тоже можно злоупотреблять.

Правительство не должно иметь возможности помечать каждый неудобный факт:

«конфиденциально».

Поэтому, когда информация не раскрывается, система всё равно может фиксировать:

• что информация не была раскрыта;
• на основании каких полномочий;
• по какой причине;
• кто одобрил ограничение;
• когда ограничение следует пересмотреть.

Содержание может быть секретным; основания, полномочия и срок секретности должны по возможности оставаться подотчётными.

У конфиденциальности должны быть объём и срок

Запись может требовать конфиденциальности сейчас.

Это не означает навсегда.

Возможные правила:

ограничено до завершения договора;

ограничено на время судебного разбирательства;

ограничено на установленный законом срок;

пересматривается ежегодно.

Постоянная секретность должна требовать более веского обоснования, чем временная.

Хранение тоже должно быть соразмерным

Не каждой записи нужно существовать вечно.

Долговременное хранение создаёт риск.

Сроки хранения должны зависеть от категории и быть соразмерны юридической обязанности, ценности для подотчётности, чувствительности и риску спора.

Удаление и целостность истории могут конфликтовать

Приватность может обосновывать удаление.

Подотчётность может обосновывать сохранение.

Эти ценности могут конфликтовать.

Например:

личную заметку может быть разумно удалить;

юридически обязательную запись о госзакупке может быть необходимо сохранить.

Универсального правила нет.

Системе нужна явная политика хранения по категориям.

Исправления должны быть возможны без незаметного переписывания

Приватность не оправдывает незаметное изменение исторической ответственности.

Если фактическая запись неверна, её должно быть возможно исправить.

Система с высокой целостностью может сохранять:

исходную запись;

оспаривание;

исправленную запись;

при этом надлежащим образом ограничивая доступ к чувствительным подробностям.

Исправление и целостность истории могут сосуществовать.

Людям нужно право оспаривать записи о себе

AI может неверно интерпретировать язык.

Люди могут вносить неверные данные.

Свидетельства могут быть неполными.

Поэтому участники должны иметь возможность оспаривать:

• существовало ли обязательство;
• были ли они ответственной стороной;
• были ли полномочия действительными;
• состоялось ли исполнение;
• содержит ли запись неверную личную информацию.

Система без возможности оспаривания была бы опасной.

Вывод AI никогда не должен незаметно становиться фактом

Выводы, сформированные AI, остаются отличимыми от подтверждённых фактов.

Предположим, AI обнаруживает:

«Алиса взяла обязательство на пятницу».

Это вывод.

До надлежащего подтверждения система должна сохранять различие:

возможное обязательство

а не:

установленная обязанность.

Это защищает и точность, и приватность.

Выведенные личные характеристики не должны по умолчанию становиться частью ObliNet

Система AI может делать множество выводов о человеке.

Политические убеждения.

Состояние здоровья.

Личность.

Эмоции.

Отношения.

Эти выводы обычно не относятся к уровню обязательств.

Чувствительные выведенные характеристики не должны становиться частью уровня обязательств, если они не необходимы на легитимном основании для цели координации.

ObliNet не должен становиться системой социального рейтинга

Одну из самых ясных границ нужно выразить явно.

ObliNet не предназначен для создания:

единого универсального балла, представляющего ценность, надёжность или социальный статус человека.

История обязательств может давать контекст.

Но сведение человека к глобальному числу создаёт огромные риски.

Контекстуальная целостность

Пропущенное бронирование в ресторане не должно влиять на возможность человека получить ипотеку.

Неисполненное рабочее обязательство с низким риском не должно становиться универсальным репутационным наказанием.

Контекст важен.

Информация, уместная в одних отношениях, не должна автоматически переходить в несвязанные области.

Переносимость репутации может стать опасной

Предыдущие главы обосновывали переносимость истории обязательств между системами.

Это не означает неограниченной переносимости каждого сигнала о личной репутации.

Техническая переносимость и социальная переносимость различаются.

Возможность экспортировать запись не должна подразумевать, что у каждого получателя есть легитимная причина её использовать.

По возможности подотчётность следует связывать с ролями

В организациях и государстве ответственность часто частично относится к роли.

Например:

специалист по закупкам;

министр;

руководитель проекта.

Это может уменьшать ненужное раскрытие несвязанной частной жизни.

Значимый вопрос:

как исполнялась роль?

а не:

что можно узнать о человеке вне этой роли?

Разделение ролей защищает приватность

Один человек может быть:

должностным лицом;

родителем;

пациентом;

покупателем;

другом.

Эти контексты не должны сливаться в один постоянный профиль.

Зрелая система должна сохранять границы контекстов.

Частная жизнь не должна использоваться как свидетельство без легитимной связи с вопросом

Личные действия должностного лица иногда могут относиться к его публичным обязанностям.

Например:

нераскрытый конфликт интересов.

Но значимость должна быть показана.

Личная информация не должна становиться общедоступной мишенью лишь потому, что человек занимает должность.

Члены семьи не должны наследовать обязанности публичной прозрачности

Руководитель принимает более высокую наблюдаемость при осуществлении публичных полномочий.

Его семья не делает этого автоматически.

Публичная подотчётность не должна становиться коллективным раскрытием.

Информаторам о нарушениях нужна особая защита

Наблюдаемая подотчётность может не сработать, если сообщение о нарушении раскрывает сообщившего.

В некоторых случаях личность источника должна оставаться защищённой, пока свидетельства проверяются независимо.

Иначе прозрачность парадоксально может уменьшить поток правдивой информации.

Несогласию может требоваться защищённое пространство

Организациям нужны места, где люди могут ставить решения под сомнение до публичного выступления.

Если каждое предварительное несогласие немедленно раскрывается, люди могут прибегать к самоцензуре.

Здоровая система подотчётности должна сохранять защищённые каналы для:

• несогласия;
• предварительного анализа;
• сообщений о нарушениях;
• конфиденциальных советов.

Обсуждение и решение различаются

Не каждая мысль, рассмотренная в ходе обсуждения, должна становиться постоянной публичной записью.

Системе может требоваться сохранить:

рассмотренные альтернативы;

ключевые свидетельства;

окончательное обоснование;

не публикуя каждый поисковый разговор.

Иначе принятие решений может превратиться в представление.

Подотчётность решений не требует постоянной публикации каждого шага обсуждения.

Приватность может улучшать качество решений

Люди рассуждают иначе, когда каждая незавершённая мысль может навсегда стать публичной.

Избыточное наблюдение может создавать:

• конформизм;
• страх;
• избегание;
• стратегическую речь.

Поэтому приватность — не только защита от вреда.

Она может быть и условием хорошего рассуждения.

Соразмерная формализация

Этот принцип повторяется, потому что он центральный.

Полезное приближение:

более серьёзные последствия → более строгая структура

но также:

более высокая чувствительность → более сильная защита

Оба измерения важны.

Риск и приватность следует оценивать вместе

Публичное действие с большим влиянием может оправдывать больше прозрачности.

Очень чувствительная личная запись может оправдывать больше приватности.

Когда присутствует и то и другое, могут потребоваться многоуровневое раскрытие и независимый аудит.

Нет единого ползунка под названием «прозрачность».

У соразмерности несколько измерений

Прежде чем собирать или раскрывать информацию, спросите:

• Насколько существенны последствия обязательства?
• Какой объём полномочий осуществляется?
• Насколько чувствительна информация?
• Кому действительно нужен доступ?
• Для какой цели?
• На какой срок?
• Какой вред последует от раскрытия?
• Какой вред последует от секретности?

Это лучше, чем схема «публичное или личное».

Доступ к данным должен следовать потребности, а не любопытству

Сам факт существования записи не даёт права её просматривать.

Доступ должен зависеть от роли и цели.

Например:

другая сторона → условия, относящиеся к обязательству;

аудитор → свидетельства, необходимые для аудита;

регулятор → объём, разрешённый законом;

общество → информация, необходимая для публичной подотчётности.

Агенты AI должны получать минимально необходимый доступ

Агенту AI могут требоваться данные для выполнения задачи.

Он не должен автоматически получать всё, что доступно организации.

Агент AI должен получать только доступ к данным, необходимый для действующего мандата и задачи.

Это следует из того же принципа, что и ограниченные полномочия.

Полномочия в отношении данных — тоже полномочия

Сам доступ к данным — форма полномочий.

Агент AI, способный читать конфиденциальную информацию, обладает властью, даже если не может выполнять внешние действия.

Поэтому доступ к данным следует считать частью мандата.

Возможность чтения — тоже возможность, требующая разрешения.

Производные данные тоже могут быть чувствительными

Даже когда исходные данные защищены, AI может выводить чувствительную информацию из сочетаний записей.

Поэтому приватность не может сосредоточиться только на хранимых полях.

Она должна учитывать и:

то, что можно обоснованно вывести.

Сами журналы аудита могут становиться инструментами слежки

Журналирование полезно для подотчётности.

Но неограниченное журналирование может раскрывать:

• модели поведения;
• отношения;
• местоположения;
• распорядок.

Поэтому журналам тоже нужны контроль доступа, правила хранения и ограничение целью.

Больше свидетельств не всегда означает лучшие свидетельства

Система может собирать огромные объёмы данных, потому что хранение дёшево.

Это не обязательно улучшает подотчётность.

Избыток данных может затруднить поиск важных свидетельств.

Цель — не максимальная фиксация.

Цель — достаточные свидетельства для легитимной координации и рассмотрения.

Агрегирование может защищать людей

Общественному надзору часто может требоваться совокупная информация, а не раскрытие отдельных людей.

Например:

средняя доля исполнения;

отклонение от бюджета;

распределение задержек проектов;

могут быть достаточны для некоторых видов анализа.

Личности отдельных людей могут быть нужны не всегда.

Анонимизация полезна, но не всесильна

Агрегированные или анонимизированные данные могут поддерживать надзор, уменьшая раскрытие людей, но анонимизация не гарантирует защиты от повторной идентификации.

Публичная статистика и индивидуальная подотчётность — разные уровни

Обществу может требоваться знать:

время ожидания в больнице выросло на 15%.

Это не означает, что каждая запись о пациенте должна быть публичной.

Так же оценка министерства не требует публикации истории работы каждого сотрудника.

Совокупные показатели работы и индивидуальная подотчётность — отдельные уровни.

Приватность должна выдерживать масштаб AI

Человеческие проверяющие ограничены вниманием.

AI не ограничен тем же образом.

Набор данных, прежде слишком большой для анализа, теперь можно мгновенно обыскать.

Это меняет риск для приватности.

Информация, технически публичная, но практически малозаметная, может стать легко обнаружимой.

Поэтому прежних допущений о «публичных данных» может уже быть недостаточно.

Возможность поиска меняет смысл раскрытия

Запись, доступная лишь после часов ручного поиска, отличается от записи, мгновенно находимой в поиске по всей жизни человека.

ObliNet должен учитывать не только:

доступны ли данные,

но и:

насколько легко их агрегировать, искать и использовать для профилирования.

Машиночитаемая подотчётность не должна становиться машиночитаемой слежкой

Структурированные данные ценны, потому что позволяют анализ.

То же свойство создаёт риск.

Поэтому публичным структурированным записям могут требоваться:

• ограничение объёма;
• агрегирование;
• ограничения частоты запросов;
• разделение контекстов;
• средства противодействия злоупотреблениям.

Инфраструктуре подотчётности тоже нужна устойчивость к злоупотреблениям.

Публичные записи должны раскрывать ответственность, а не помогать травле

Имя человека, ответственного за публичное решение, может быть правомерно названо.

Это не оправдывает ненужное раскрытие:

домашних адресов;

информации о семье;

личных контактных данных;

несвязанных личных данных.

Запись должна раскрывать роль и ответственность.

А не создавать механизм преследования.

Безопасность — часть приватности

Гарантии приватности требуют технического обеспечения: аутентификации, контроля доступа, шифрования там, где уместно, отзыва доступа и реагирования на инциденты.

Последствия утечки следует минимизировать самим устройством системы

Предположим, некоторые нарушения безопасности произойдут.

Тогда спросим:

Что сможет узнать атакующий, если один компонент будет скомпрометирован?

Хорошо спроектированная система ограничивает масштаб ущерба.

Это усиливает разделение властей.

Децентрализация может помогать приватности — или вредить ей

Распределённая архитектура может уменьшать зависимость от одной базы данных.

Но репликация может также создавать больше копий чувствительной информации.

Поэтому децентрализация не сохраняет приватность автоматически.

Архитектуру данных нужно проектировать осознанно.

Неизменяемое хранение может конфликтовать с приватностью

Постоянные записи могут укреплять целостность.

Они также могут делать удаление чувствительных ошибок невозможным.

Это серьёзное противоречие при проектировании.

Не каждая запись ObliNet должна автоматически быть неизменяемой.

Целостность иногда можно обеспечить через:

историю изменений только с добавлением;

криптографические доказательства;

ограниченные хранилища свидетельств;

не делая все личные данные публичными навсегда.

Криптографическое доказательство не следует путать с истиной

Криптографическая система может доказать:

запись существовала;

она была подписана;

она не была изменена.

Она не может сама по себе доказать:

лежащее в основе утверждение было фактически истинным.

Проверка целостности записи и проверка реальности различаются.

Согласие важно, но одного согласия недостаточно

Две стороны могут согласиться поделиться информацией.

Это важно.

Но при неравенстве власти согласие может быть слабым.

Сотрудник может «согласиться», потому что отказ угрожает его работе.

Гражданин может «согласиться», потому что иначе государственная услуга недоступна.

Поэтому проектированию приватности нужны и структурные гарантии, а не только флажки согласия.

Дисбаланс власти важен

Более сильная сторона отношений не должна иметь возможности требовать неограниченной прозрачности от более слабой под предлогом подотчётности.

Например:

работодатель ↔ сотрудник;

государство ↔ гражданин;

платформа ↔ пользователь.

Соразмерность должна учитывать, у кого есть переговорная сила.

Слежка не должна быть ценой участия

Человек не должен раскрывать несвязанные стороны своей жизни лишь для того, чтобы:

работать;

получать государственные услуги;

заключить договор;

взаимодействовать с агентом AI.

Сбор данных должен оставаться связанным с целью координации.

Чувствительным областям нужны более сильные гарантии

Некоторые области заслуживают особенно осторожного обращения.

Например:

• здоровье;
• юридические вопросы;
• дети;
• финансовые трудности;
• интимные отношения;
• защищённые коммуникации.

Структура обязательств всё ещё может быть полезна.

Но правила видимости должны быть строже.

Детям нужен другой стандарт

Система, спроектированная для организационных обязательств взрослых, не должна автоматически применять к детям те же механизмы прозрачности или репутации.

Контекст развития, опека и долгосрочные последствия требуют отдельных гарантий.

Право на контекст важно

Запись без контекста может вводить в заблуждение.

Например:

«Обязательство не исполнено».

Но, возможно:

предпосылка не была выполнена;

обязательство оспаривалось;

участник был госпитализирован;

срок позже официально пересмотрели.

Людей не следует судить по отдельным фрагментам, когда существует значимый контекст.

Контекстуальная целостность — часть справедливости

Информация, уместная в одних отношениях, может быть неуместна в других.

Запись о результатах работы, переданная руководителю проекта, может быть неуместна в публичной базе данных.

Медицинское ограничение, раскрытое отделу кадров, может быть неуместно передавать клиенту.

Хорошая координация сохраняет контекст.

Граф обязательств не должен становиться графом человеческой ценности

Это различие должно оставаться явно выраженным.

Сеть представляет:

обязательства;

полномочия;

зависимости.

Она не представляет:

полную ценность людей внутри неё.

Люди больше своих зафиксированных обязанностей.

Система должна допускать жизнь вне записей

Не каждое обещание.

Не каждый разговор.

Не каждое одолжение.

Не каждая ошибка.

Не каждые отношения.

должны попадать в ObliNet.

Система должна оставаться инструментом координации с существенными последствиями.

А не универсальным реестром человеческого существования.

Приватность должна быть требованием к проектированию, а не поздней функцией

Если приватность добавляют только после построения графа обязательств, архитектура уже может предполагать избыточную централизацию данных.

Поэтому приватность должна формировать:

• модель данных;
• модель доступа;
• хранение;
• идентификацию;
• аудит;
• совместимость;

с самого начала.

Гарантии приватности должны быть проверяемыми

Как проверяются утверждения о координации, так должны проверяться и утверждения о приватности.

Например:

• Могут ли неуполномоченные роли получить доступ к записи?
• Может ли поставщик вывести несвязанные чувствительные отношения?
• Можно ли всё ещё восстановить удалённые данные?
• Получает ли агент AI больше контекста, чем требует его мандат?
• Можно ли массово профилировать публичные записи за пределами их предназначения?

Приватности нужна оценка, а не лозунги.

Нарушения приватности должны считаться сбоями системы

Если ObliNet улучшает координацию, но создаёт неприемлемый риск слежки, это не успех.

Исследовательская программа должна включать издержки для приватности как явный результат.

Подходящий объём видимости может различаться по областям

Не должно быть одной универсальной модели раскрытия ObliNet.

Бизнес.

Государство.

Личная координация.

Агенты AI.

Исследования.

Каждой области могут требоваться разные настройки по умолчанию.

Протокол должен поддерживать эти различия.

Публичная власть заслуживает самой сильной подотчётности

Когда полномочия осуществляются от имени граждан, может требоваться сделать публичной больше информации.

Но даже там раскрытие должно сосредоточиться на:

• полномочиях;
• обязательствах;
• обосновании решений;
• использовании общественных ресурсов;
• результатах.

А не на несвязанной частной жизни.

Цель — подотчётная власть и защищённые люди

Эти принципы могут сосуществовать.

Мы можем проектировать системы, в которых:

полномочия становятся видимее;

обязательства становятся яснее;

институты становятся подотчётнее;

при этом:

границы использования личных данных становятся строже;

ненужный сбор сокращается;

частная жизнь остаётся защищённой.

Это и должно быть целью.

Одиннадцатый принцип ObliNet

Поэтому одиннадцатый принцип таков:

Наблюдаемость должна расти вместе с делегированными полномочиями и возможными последствиями; защита приватности должна усиливаться с ростом личной чувствительности, контекстной уязвимости и при отсутствии публичной власти.

Подотчётность не требует тотальной слежки.

Ясность не требует полной записи всего.

Проверка не требует всеобщей публикации.

Обладающие властью должны быть более наблюдаемы при её осуществлении.

Частные граждане должны оставаться защищёнными в частной жизни.

Формализация должна быть соразмерной.

Доступ должен иметь цель.

И уровень координации должен раскрывать то, чего требует ответственность, — не больше необходимого.

Одного интеллекта недостаточно

Человечество быстро наращивает способность рассуждать и действовать. У людей лучшие инструменты, у организаций больше данных, а системы AI могут анализировать, создавать, планировать и исполнять в беспрецедентном масштабе. Но интеллект не создаёт координацию автоматически.

Человек может быть умным и всё же неверно понимать другого.

В компании могут работать прекрасные специалисты, и всё же передача работы может давать сбои.

Правительство может обладать обширной экспертизой и всё же создавать неясную ответственность.

Два мощных агента AI могут хорошо рассуждать каждый и всё же принимать несовместимые обязательства.

Поэтому одна из центральных проблем следующей эпохи может быть не в том:

Как создать больше интеллекта?

Всё чаще она может быть в том:

Как интеллектуальным участникам координироваться, не теряя свободы, подотчётности или контроля?

С ростом возможностей координация становится важнее

Слабые участники могут создавать ограниченные последствия.

Сильные — более масштабные.

По мере роста возможностей людей и систем AI цена сбоя координации растёт.

Непонимание между двумя людьми может стоить дня.

Непонимание между двумя организациями может стоить миллионов.

Непонимание между автономными системами может распространяться с машинной скоростью.

Поэтому большие возможности увеличивают ценность ясной координации.

Интеллект и координация

Интеллект прежде всего касается понимания, прогнозирования и выбора. Координация касается совместимых действий участников с разными целями, знаниями, ограничениями и полномочиями.

Следующий уровень инфраструктуры может быть уровнем отношений

Современная цифровая инфраструктура содержит много зрелых уровней.

У нас есть системы для:

• коммуникации;
• идентификации;
• вычислений;
• хранения;
• платежей;
• договоров;
• исполнения.

Но отношения между этими уровнями часто остаются неявными.

Участник может общаться.

AI может рассуждать.

Инструмент может исполнять.

Платёж может перемещать ценность.

И всё же система может не знать:

какая обязанность связывала эти действия.

Именно этот пробел ObliNet предлагает исследовать.

Обязательство — мост от языка к ответственности

Обязательство — мост от языка к ответственности, потому что связывает участника, ожидаемый результат, действительные полномочия, условия, зависимости и приёмку.

Сеть важна не меньше обязательства

Отдельное обязательство редко важно само по себе. Одно обещание делает возможным другое, одна задержка создаёт риск для последующих действий, одна приёмка может запускать платёж. Поэтому значимый объект — не просто обязательство, а сеть обязательств.

Сеть и есть продукт.

Координация должна начинаться до сбоя

ObliNet вмешивается до сбоя, делая значимую неоднозначность видимой, пока исправить её ещё дёшево.

Лучшим спором может быть тот, который так и не стал спором.

Лучшая координация не максимизирует обязательства. Иногда прогресс означает «нет», «пока нет» или «только если X».

Предотвращение невыполнимого обязательства может создавать больше ценности, чем фиксация неисполненного.

Граница между возможностью, предложением и подтверждённым обязательством остаётся критичной, потому что при этом переходе меняется ответственность.

AI должен помогать делать структуру видимой

AI может обнаруживать структуру; он не создаёт легитимность.

AI замечает. Соответствующие участники проясняют и подтверждают. ObliNet фиксирует.

AI не должен становиться сувереном координации

То, что AI может понять разговор, не означает, что он должен решать, о чём стороны договорились.

То, что AI может оценить руководителя, не означает, что он должен его отстранять.

То, что AI может ранжировать варианты, не означает, что он должен определять ценности общества.

Компетентность — не легитимность. Прогноз — не суверенитет. Возможности — не полномочия.

Возможности и полномочия должны оставаться раздельными

Возможности ≠ Полномочия остаётся центральным правилом автономных систем. Агенты могут действовать только в рамках явных, ограниченных и отзывных мандатов, прослеживаемых до легитимного доверителя.

Сами полномочия должны стать самостоятельным объектом системы

Кто вправе действовать?

От чьего имени?

В каких пределах?

До какого момента?

При каких условиях?

Кто может отозвать мандат?

Эти вопросы не могут оставаться погребёнными в учётных данных или неформальных допущениях.

Будущая экономика агентов должна понимать полномочия столь же явно, как понимает API.

Цель — не агент, который действует всегда.

Цель — агент, который знает, когда действие легитимно.

Человеческие институты сталкиваются с той же проблемой

Проблема полномочий не уникальна для AI.

Министр.

Руководитель.

Специалист по закупкам.

Совет директоров.

Регулятор.

Каждый действует в рамках мандата.

Во многих системах эти мандаты частично явные, частично предполагаемые.

ObliNet предлагает применять одну грамматику координации к людям и машинам.

Управление как координация

Выборы устанавливают легитимность и делегируют полномочия; наблюдаемая подотчётность делает значимые способы их использования понятнее между выборами. Лидерство становится временной публичной ответственностью, а не личной собственностью, а общественное доверие может реагировать на свидетельства, объяснения, исправления и обучение, не передавая суверенитет метрикам или AI.

Обучение и институциональная память

Подотчётность должна отличать ошибку от небрежности и обмана, сохранять снимки на момент принятия решения и считать исправление и обучение частью ответственной работы.

Институциональная память должна переживать отдельных людей

Институциональная память должна переживать людей, модели и поставщиков. Обязательства, мандаты, пересмотры, результаты и свидетельства должны оставаться интерпретируемыми при преемственности и замене.

Протокол должен пережить продукт

ObliNet не должен становиться ценным потому, что одна компания владеет единственной пригодной реализацией.

Это противоречило бы принципу защиты от захвата контроля.

Если уровень координации окажется полезным, его история и семантика должны оставаться достаточно переносимыми, чтобы:

реализации могли меняться;

поставщики могли меняться;

модели могли меняться.

Непрерывность должна принадлежать участникам и семантике уровня координации, а не одному поставщику.

Ни один участник не должен становиться незаменимым

Руководители, модели, поставщики вычислений, аудиторы и реализации могут давать сбои или попадать под захват контроля. Поэтому архитектура должна сохранять принцип «Ни одного незаменимого участника».

Одного распределения недостаточно

Децентрализация без координации создаёт фрагментацию.

Координация без значимого распределения может создавать захват контроля.

Цель — распределённые возможности с явно выраженной ответственностью.

Приватность — часть координации

Система координации не должна нуждаться в полной видимости.

Людям нужны личные мысли.

Организациям нужно конфиденциальное пространство.

Некоторые публичные процессы требуют защищённой информации.

Поэтому ясность обязательств нужно отделять от всеобщего раскрытия.

Явно выраженный ≠ Публичный. Публичная власть должна становиться более наблюдаемой; частная и чувствительная жизнь должна оставаться защищённой. Формализация должна оставаться соразмерной.

Наука о координации — исследовательский вопрос, стоящий за системой

Более широкий вопрос не в том, верен ли сам ObliNet.

Он в том:

Как автономные участники с разными целями, знаниями, стимулами и ограничениями формируют совместимые обязательства и адаптируют их через обратную связь?

Этот вопрос относится к:

людям;

командам;

компаниям;

правительствам;

агентам AI.

Это предлагаемая область науки о координации.

Идея должна быть проверяемой.

Если структурированные обязательства увеличивают затруднения во взаимодействии, не уменьшая неоднозначность, это важно.

Если графы зависимостей не улучшают раннее обнаружение риска, это важно.

Если обнаружение обязательств с помощью AI создаёт больше путаницы, это важно.

Исследовательская программа завоёвывает доверие своей способностью оказаться несостоятельной.

Наука о координации рассматривает эти утверждения как гипотезы для проверки, а не доктрины для защиты. ObliNet — один из предлагаемых вариантов формализации и экспериментальной инфраструктуры, а не доказательство собственного успеха.

Система должна учиться на собственных сбоях

ObliNet должен оставаться подотчётным собственным принципам. Если он становится бюрократическим, вторгающимся в частную жизнь, централизованным, неоспоримым или зависимым от одного незаменимого поставщика, проектирование потерпело неудачу.

Система должна быть открыта исправлениям.

Глубинная цель — не усиление контроля

Уровень обязательств можно использовать во зло как механизм контроля.

Это не должно стать его назначением.

Более глубокая цель:

лучшее взаимное понимание ответственности.

Знать:

что я взял на себя;

что вы взяли на себя;

от чего мы зависим;

что изменилось;

что происходит дальше.

Это и есть координация.

Свобода и ответственность должны усиливать друг друга

Свобода без ответственности может перекладывать вред на других. Ответственность без свободы может становиться принуждением.

Здоровая система координации должна сохранять свободу отказывать, не соглашаться и оспаривать, делая сознательно принятую ответственность яснее.

Системы с непрерывным прояснением, исправлением и законной заменой могут уменьшать потребность в разрушительных формах институциональной коррекции.

Долгосрочная миссия

Долгосрочное направление ObliNet можно выразить просто.

Для людей:

от «Я думал, мы договорились»
к
«Мы оба видим, какие обязательства приняли, от чего они зависят и что произошло дальше».

Для организаций:

от разрозненных задач и скрытых зависимостей
к видимой координации через границы.

Для управления:

от демократии, которая главным образом может выбирать власть,
к демократии, которая также может непрерывно наблюдать, оценивать, исправлять и мирно сменять власть.

Для AI:

от систем, которые могут действовать,
к системам, понимающим пределы своих полномочий и обязательств.

Для цивилизации:

обеспечить, чтобы рост интеллекта не приводил автоматически к росту концентрации власти.

Интеллект не должен становиться суверенитетом

По мере роста возможностей AI одна из опасностей — компетентность начинают путать с легитимностью.

Модель может знать больше. Это не означает, что она должна править.

Система может лучше прогнозировать. Это не означает, что она должна определять ценности.

Агент может быстрее исполнять. Это не означает, что полномочия принадлежат ему.

Интеллект — возможность. Суверенитет — вопрос легитимности.

Координация — уровень между интеллектом и коллективным действием

Интеллектуальный участник может думать.

Скоординированная система может действовать совместно.

Мост между ними содержит:

полномочия;

обязательства;

зависимости;

приёмку;

свидетельства;

обратную связь.

Именно это пространство ObliNet пытается формализовать.

В будущем могут существовать миллиарды интеллектуальных участников

Люди.

Организации.

Личные агенты.

Корпоративные агенты.

Агенты публичного сектора.

Независимые модели.

Автономные сервисы.

Задача будет не только в том, интеллектуален ли каждый из них.

Задача будет в том, смогут ли они взаимодействовать, не создавая неконтролируемых цепочек неоднозначной ответственности.

Действия с машинной скоростью требуют машиночитаемой ответственности

Действия с машинной скоростью требуют машиночитаемой ответственности, но машиночитаемая ответственность не должна становиться легитимностью, определяемой машиной.

Протокол может представлять:

полномочия;

обязательство;

зависимость;

приёмку.

Люди и легитимные институты по-прежнему определяют, откуда происходят полномочия.

Уровень обязательств может стать инфраструктурой многоагентного мира

Обмен сообщениями передаёт коммуникацию. Инструменты исполняют действия. Платежи перемещают ценность. Идентификация определяет участников. Вычисления обеспечивают работу моделей.

Недостающий вопрос остаётся:

Кто был уполномочен обещать что и кому, при каких условиях и что зависело от исполнения?

Это инфраструктурный тезис, лежащий в основе ObliNet.

Координация — не послушание / консенсус / централизация / слежка

Координация — не послушание, консенсус, централизация или слежка. Она допускает несогласие, отказ, переговоры и многообразие ценностей. Её цель — не единообразие, а совместимость: достаточно общей структуры, чтобы автономные участники могли действовать, не опираясь на несовместимые допущения.

Координация — не совершенство. Она стремится раньше выявлять разногласия, делать ответственность яснее, изменения — явными и поддерживать обучение.

Цивилизации интеллекта нужна цивилизация координации

Индустриальное общество создало институты производства. Интернет создал инфраструктуру коммуникации. AI масштабирует интеллект. Следующей задачей может стать координация интеллектуальных участников.

Не через подчинение всего одному контролёру.

А через прояснение отношений полномочий и ответственности.

От интеллекта к координации

Поэтому центральный переход таков:

Интеллект спрашивает:
Что я могу понять и сделать?

Координация спрашивает:
Чего мы вправе легитимно ожидать друг от друга и как адаптируемся, когда реальность меняется?

Важно и то и другое.

По мере изобилия интеллекта координация может становиться более дефицитной возможностью.

Двенадцатый принцип ObliNet

Поэтому двенадцатый принцип таков:

Рост интеллекта должен сопровождаться ростом координации: легитимными и явно выраженными полномочиями, ясными обязательствами, видимыми зависимостями, защищённой приватностью, распределённой и заменяемой властью и непрерывным обучением.

Цель — не формализовать каждые отношения.

Не сделать каждое решение публичным.

Не дать AI суверенитет.

Не создать единую универсальную систему контроля.

Цель — сделать значимое сотрудничество понятнее и затруднить захват контроля над ним.

Люди остаются свободными.

Агенты остаются ограниченными легитимными полномочиями.

Руководители остаются служащими делегированных мандатов.

Институты остаются заменяемыми.

Власть остаётся разделённой.

Приватность остаётся защищённой.

Обязательства становятся яснее.

Системы учатся.

И интеллект становится не только более способным,

но и более способным координироваться ответственно.

Таково направление:

от интеллекта к координации.