חירות לפעול.
אחריות שנעשית גלויה.

יש לנו מערכות כמעט לכל דבר — מלבד הדבר שמחבר מילים לאחריות

החברה המודרנית מצטיינת בתיעוד פעילות.

אנחנו שומרים שיחות.

אנחנו יוצרים משימות.

אנחנו חותמים על חוזים.

אנחנו עוקבים אחר תשלומים.

אנחנו מודדים תוצאות.

ממשלות מפרסמות חוקים, תקציבים, דוחות ונתונים סטטיסטיים. חברות משתמשות בדוא״ל, בפלטפורמות מסרים, במערכות CRM, בכלים לניהול פרויקטים, בתוכנות הנהלת חשבונות ובמסמכים משפטיים.

ובכל זאת, כשמשהו משתבש, אחד המשפטים הנפוצים ביותר הוא עדיין:

״חשבתי שסיכמנו.״

מישהו חשב שהמועד האחרון הוא יום שישי.

מישהו אחר חשב שיום שישי תקף רק אם החומרים יגיעו ביום רביעי.

צד אחד חשב שהעבודה נמסרה.

הצד האחר חשב שטרם אושרה קבלת התוצאה.

מנהל האמין שהצוות קיבל עליו אחריות.

הצוות האמין שהמנהל עדיין שוקל הצעה.

אזרח הבין הבטחה פוליטית בדרך אחת.

נושא המשרה שהבטיח אותה מסביר בהמשך שהתכוון למשהו אחר.

המידע קיים.

אבל מבנה האחריות לעיתים קרובות אינו קיים.

בין שיחה לביצוע

ציפייה קיימת במודל היחסים של גורם אחד.

התחייבות מאושרת קיימת רק כאשר האחריות הובהרה והוכרה במידה מספקת, בהתאם לתנאי הסמכות והאישור הרלוונטיים.

יש רובד של תיאום אנושי שבדרך כלל קיים רק במובלע.

הוא כולל שאלות כגון:

• ממי מצופה לעשות משהו?
• עבור מי?
• לאיזו תוצאה מצפים?
• עד מתי?
• באילו תנאים?
• מה צריך לקרות קודם?
• למי יש סמכות לקבל עליו את ההתחייבות?
• מי מחליט אם אושרה קבלת התוצאה?
• מה תלוי במימוש ההתחייבות?
• מה משתנה אם תנאי אחד משתנה?

התשובות לשאלות האלה עשויות להיות מפוזרות בין הודעות דוא״ל, פגישות, מסמכים, זיכרונות והנחות.

לעיתים קרובות אין משתתף אחד שרואה את המבנה כולו.

וכשהמבנה נותר מובלע, שני אנשים יכולים לצאת מאותה שיחה עם מודלים שונים של מה שזה עתה קרה.

שניהם עשויים לפעול ביושר.

שניהם עשויים להאמין שהבינו את הסיכום.

ושניהם עשויים להיות מופתעים בהמשך.

זה לא בהכרח כשל באינטליגנציה.

לעיתים קרובות זהו כשל בתיאום.

המערכות הקיימות מתעדות חלקים

מערכות מסרים אומרות לנו:

מה נאמר?

מערכות לניהול משימות אומרות לנו:

מה צריך לעשות?

חוזים אומרים לנו:

מה עוגן באופן פורמלי?

מערכות תשלומים אומרות לנו:

איזה ערך הועבר?

אבל אף אחת מהן לא בהכרח עונה על השאלה הבסיסית יותר:

מי רשאי לצפות למה וממי, באילו תנאים, עד מתי — ומה תלוי בכך?

זהו הרובד ש־ObliNet נועד להפוך למפורש.

לא עוד ארכיון הודעות.

לא עוד רשימת משימות.

לא רק עוד מערכת לניהול חוזים.

לא מנגנון תשלום.

אלא רובד של התחייבויות, סמכות, תנאים ותלויות שמחבר בין כולם.

מדוע משימה אינה זהה להתחייבות

משימה אומרת:

״להכין את הדוח.״

התחייבות אומרת משהו מוגדר יותר:

״אליס התחייבה לספק לבוב את הדוח הסופי עד יום שישי, בתנאי שהנתונים הכספיים יגיעו עד יום רביעי; בוב יאשר את קבלת התוצאה, ולאחר מכן אפשר יהיה להתחיל בשלב הבא.״

ההבדל משמעותי.

המשימה מתארת עבודה.

התחייבות מאושרת יוצרת יחסים של ציפייה מוצדקת.

מישהו נושא באחריות.

מישהו זכאי לצפות לתוצאה.

יש תנאים.

יש תלויות.

יש קריטריון להשלמה.

עשויות להיות השלכות.

מבנה היחסים הזה הוא שמאפשר אחריותיות.

מדוע חוזה אינו מספיק

התחייבות ≠ חובה

חובה
חובה רחבה יותר או אחריות מחייבת שעשויה לנבוע מהתחייבות מאושרת, מחוק, מחוזה, מתפקיד, מכלל מוסדי או ממקור לגיטימי אחר.

חוזה עשוי לעגן חובות באופן פורמלי.

ObliNet מתמקד בשלב מוקדם יותר: כיצד ציפיות, הצעות והבטחות הופכות להתחייבויות מאושרות, וכיצד ההתחייבויות האלה קשורות לסמכות ולתלויות.

פרויקט עלול להיכשל הרבה לפני שעורכי דין מעורבים בו.

אי־הבנה יכולה להתחיל בפגישה של חמש דקות.

מועד עלול להפוך לבלתי מציאותי מפני שתלות אחת מעולם לא הוגדרה במפורש.

מנהל עשוי להניח שניתנה הבטחה, בעוד המשתתף האחר האמין שהם רק דנים באפשרויות.

עד שחילוקי הדעות מגיעים לחוזה פורמלי, ייתכן שהכשל בתיאום כבר התרחש.

לכן ObliNet מתחיל קודם:

בין שפה לפעולה.

מטרתו אינה רק לתעד מחלוקת לאחר שהתעוררה.

מטרתו היא לחשוף הבדלים בהבנה כשהעלות של תיקונם עדיין נמוכה.

אחריותיות מתחילה לפני בקרה

אנחנו מרבים לדבר על דרישה מאנשים לתת דין וחשבון.

אבל יש כאן בעיה לוגית.

אי אפשר להעריך במדויק אם אדם מילא חובה, אם החובה עצמה מעולם לא הוגדרה בבירור.

נבחן את האמירה:

״נשפר את שירותי הבריאות.״

מה פירוש ״נשפר״?

זמני המתנה קצרים יותר?

תמותה נמוכה יותר?

יותר רופאים?

נגישות גאוגרפית טובה יותר?

עלות נמוכה יותר?

בתוך איזו תקופה?

בשליטת מי?

בתלות באילו מוסדות אחרים?

בלי ההבחנות האלה, כמעט כל תוצאה ניתנת בהמשך לפרשנויות שונות.

לכן אחריותיות אינה יכולה להתחיל בענישה.

עליה להתחיל בבהירות.

לפני ששואלים:

״האם מילאת את אחריותך?״

עלינו להיות מסוגלים לענות תחילה:

״מה בדיוק הייתה אחריותך?״

האובייקט החסר

ObliNet מתייחס להתחייבות כאובייקט ממדרגה ראשונה.

התחייבות בעלת משמעות עשויה לכלול:

סמכות
מי רשאי לפעול או לקבל עליו את ההתחייבות, ובשם מי?

הצד האחראי
מי מקבל עליו את החובה?

הצד שכנגד
מי זכאי לצפות למימוש ההתחייבות?

תוצאה
לאיזו תוצאה מצפים?

זמן
עד מתי?

תנאים
באילו נסיבות ההתחייבות חלה?

תלויות
מה צריך לקרות קודם, ומה יתאפשר בהמשך בעקבות מימוש ההתחייבות?

קבלת התוצאה
מי קובע שהתוצאה הושלמה?

ראיות
מה תומך בטענה שההתחייבות מומשה?

המבנה הזה אינו מבטל אי־ודאות.

הוא הופך את אי־הוודאות לגלויה.

פורמליזציה מידתית

ObliNet אינו מניח שצריך להפוך כל אינטראקציה אנושית לרשומה מובנית.

הדבר יהיה מיותר וגם בלתי רצוי.

אנשים זקוקים לשיחה בלתי פורמלית.

לאמון יש חשיבות.

להקשר יש חשיבות.

עמימות לפעמים מועילה.

אבל עלות העמימות משתנה בהתאם למה שמונח על הכף.

תכנון לא מחייב של ארוחת ערב אינו זקוק לתשתית פורמלית של התחייבויות.

עסקה של מיליון דולר עשויה להזדקק לה.

פרויקט תשתית ציבורית בהחלט ראוי לבהירות רבה יותר.

החלטה המשפיעה על מיליוני אזרחים ראויה לבהירות רבה אף יותר.

לכן העיקרון אינו:

להפוך הכול לפורמלי.

אלא:

ככל שהעלות הצפויה של עמימות או שימוש לרעה בסמכות גבוהה יותר, כך ההצדקה למבנה חזקה יותר.

המטרה אינה שליטה

מערכת התחייבויות שתוכננה בצורה לקויה עלולה להפוך למכונת מעקב:

״תיעדנו כל מה שאמרתם כדי שנוכל להשתמש בזה נגדכם בהמשך.״

זו אינה המטרה.

עדיף לשאול:

״האם אנחנו מבינים את הצעד הבא באותה דרך?״

לפעמים התוצאה הנכונה אינה התחייבות חדשה.

היא יכולה להיות:

״עדיין לא הסכמנו.״

או:

״איני יכול להתחייב למועד הזה.״

או:

״אוכל להסכים לכך רק אם תנאי X יתקיים.״

מניעת התחייבות בלתי מציאותית עשויה להיות בעלת ערך רב יותר מתיעודה.

המטרה אינה למקסם את מספר ההבטחות.

היא לשפר את איכות התיאום.

מציפייה מובלעת למבנה משותף

אפשר לתאר בפשטות את המעבר המרכזי:

ציפייה
← הצעה / הבטחה
← התחייבות מאושרת
← סמכות / תלויות
← ביצוע
← קבלת התוצאה
← תוצאה / השלכות
← למידה

כך נוצר דבר שחסר ברוב המערכות הקיימות:

מודל משותף וניתן לבחינה של מה שהמשתתפים מאמינים שהסכימו עליו.

אין בכך ערובה שאנשים יקיימו את הבטחותיהם.

אין בכך ערובה שהחלטה תהיה נכונה.

אין בכך ערובה שסכסוכים ייעלמו.

אבל זה נותן למשתתפים סיכוי טוב יותר לגלות אי־הסכמה לפני שהיא הופכת לנזק.

העיקרון הראשון של ObliNet

לכן העיקרון הראשון של ObliNet פשוט:

אחריות לא תוכל להיות באמת ניתנת לבחינה עד שההתחייבויות עצמן יהיו מפורשות מספיק כדי לבחון אותן.

כדי לשפר אחריותיות, דרוש מושא ברור יותר שלה.

לפני אחריותיות דרושה בהירות.

לפני שהתיאום יוכל להשתפר, עלינו לראות את המבנה שכבר קיים — אך כיום נותר ברובו בלתי נראה.

המבנה הבלתי נראה הזה הוא הרובד החסר.

ו־ObliNet הוא ניסיון להפוך אותו לגלוי.

התחייבות כמעט אינה עומדת לבדה

רוב ההתחייבויות המשמעותיות קשורות להתחייבויות אחרות.

ספק מסכים לספק חומרים.

קבלן יכול להתחיל רק לאחר הגעת החומרים.

מפקח יכול לבדוק רק לאחר השלמת העבודה.

הלקוח יכול לאשר את קבלת התוצאה רק לאחר הבדיקה.

התשלום עשוי להתאפשר רק לאחר קבלת התוצאה.

כל שלב עשוי להיראות פשוט כשהוא נבחן בנפרד.

אבל המערכת האמיתית אינה רשימה.

היא רשת.

התחייבות אחת הופכת לעיתים קרובות לתנאי להתחייבות אחרת.

וכשצומת אחד משתנה, ההשלכות עשויות להגיע הרחק מעבר לאדם שהבטיח בתחילה.

רשת התחייבויות היא רשת של התחייבויות מאושרות המחוברות באמצעות תלויות, סמכות, קבלת התוצאה והשלכות, שבה מצבה של התחייבות אחת עשוי להשפיע על אחרות.

תיאום עוסק בתלויות

נניח שמישהו אומר:

״אמסור את העבודה ביום שישי אם החומרים יגיעו עד יום רביעי.״

זו אינה הבטחה פשוטה אחת.

יש בה תלות.

ההתחייבות ליום שישי תלויה באירוע ביום רביעי.

אם החומרים יגיעו בזמן, ההתחייבות המקורית תישאר מציאותית.

אם הם יגיעו ביום חמישי, מיד יעלו כמה שאלות:

• האם יום שישי עדיין תקף?
• האם הספק נמצא כעת בהפרה?
• האם מועד המסירה נדחה אוטומטית?
• האם על הצדדים לקיים משא ומתן מחודש?
• מה קורה למועד קבלת התוצאה בידי הלקוח?
• מה קורה לתשלום?
• מי עוד מושפע?

בתקשורת רגילה, ההשלכות האלה נשארות לעיתים קרובות מובלעות.

כאן מתחילים כשלים בתיאום.

תנאי מתאר מתי או כיצד התחייבות חלה.

תלות מצביעה על מצב במעלה השרשרת, שמשפיע מהותית על ההיתכנות או על ההשלכות בהמשך.

תנאי שהשתנה אינו צריך לשכתב הסכם בשקט

אחד המקורות הנפוצים לסכסוך הוא ההנחה שכולם מבינים כיצד התחייבות משתנה כשהמציאות משתנה.

לעיתים קרובות הם אינם מבינים זאת.

צד אחד מניח:

״העיכוב כמובן דוחה את המועד שלי.״

צד אחר מניח:

״הבטחתם יום שישי בכל מקרה.״

ייתכן שאף אחת מהפרשנויות לא אושרה במפורש.

ההבטחה המקורית הייתה גלויה.

התלות לא הייתה גלויה.

ObliNet נועד להפוך את התלות הזאת לחלק מההתחייבות עצמה.

כך שינוי בתנאי המקדים אינו יוצר הסכם חדש בשקט.

שינוי מהותי
← ההתחייבויות המושפעות נעשות גלויות
← משא ומתן מחודש לפי הצורך
← אישור התנאים המעודכנים

הרשת אינה תרשים ארגוני

רשת התחייבויות אינה רק מראה מי כפוף למי.

היא מראה:

מי מחכה למה;

מה מאפשר את הפעולה הבאה;

איזו תוצאה תלויה באיזו תוצאה קודמת;

היכן נדרשת סמכות;

היכן מתרחשת קבלת התוצאה;

היכן ערך עובר מיד ליד.

זוהי הסתכלות אחרת על ארגון.

תרשים ארגוני מציג היררכיה.

מפת תהליכים מציגה זרימת עבודה.

לוח משימות מציג עבודה שהוקצתה.

רשת התחייבויות מציגה ציפיות מוצדקות ותלויות בין גורמים.

לכן היא יכולה לחשוף בעיות שמערכות אחרות מחמיצות.

כשלים מקומיים יכולים להשפיע על המערכת כולה

החמצת מועד עשויה להיראות מקומית.

אבל השפעתה עשויה שלא להיות מקומית.

תארו לעצמכם:

החומרים מגיעים באיחור של יומיים;

הבנייה מתחילה באיחור של יומיים;

הבדיקה מחמיצה את חלון הזמן שנקבע לה;

המועד הבא לבדיקה הוא בעוד עשרה ימים;

קבלת התוצאה נדחית;

התשלום נדחה;

פרויקט אחר שממתין לאותו צוות מתעכב.

הבעיה המקורית הייתה קטנה.

ההשפעה ברשת לא הייתה קטנה.

לכן לא תמיד אפשר להבין את חשיבותה של התחייבות מתוך ההתחייבות לבדה.

צריך גם לשאול:

מה תלוי בה?

חובה שנראית קטנה יכולה להיות תלות קריטית במעלה השרשרת.

וחובה גדולה יכולה לפעמים להיות מבודדת.

הרשת קובעת את ההשפעה.

האחריות מתבהרת כשהתלויות גלויות

בלי מבט על הרשת, כשל מוביל לעיתים קרובות לדפוס מוכר:

״זו לא הייתה אשמתי.״

״חיכינו להם.״

״הם שינו את התנאים.״

״מעולם לא הסכמנו לכך.״

לפעמים אלה תירוצים.

לפעמים אלה תיאורים מדויקים של תלות.

הבעיה היא שקשה לאמת את ההבדל בדיעבד.

אם התלויות היו גלויות מלכתחילה, אפשר לשאול שאלות מדויקות יותר:

• האם התנאי המקדים היה מפורש?
• האם הצד האחראי היה ידוע?
• האם העיכוב היה גלוי כשהתרחש?
• האם הצדדים בהמשך השרשרת קיבלו הודעה?
• האם נדרש משא ומתן מחודש?
• האם מישהו המשיך לפעול כאילו דבר לא השתנה?
• האם התחייבות בלתי מציאותית נשמרה לאחר שההנחות שלה כבר לא התקיימו?

כך האשמה מעורפלת הופכת לניתוח מובנה.

רשת מאפשרת התערבות מוקדמת יותר

אחריותיות מסורתית מופעלת לעיתים קרובות לאחר כשל.

הפרויקט מאחר.

הכסף כבר הוצא.

הלקוח כועס.

הנזק הפוליטי כבר נגרם.

רשת תלויות מאפשרת אפשרות אחרת.

נניח שהתחייבות במעלה השרשרת נמצאת בסיכון.

המערכת יכולה אז להראות:

אילו התחייבויות בהמשך חשופות לסיכון;

מי צריך לדעת;

אילו מועדים עלולים להפוך לבלתי מציאותיים;

אילו החלטות דורשות בחינה מחדש.

כך נוצר סוג חדש של התערבות:

לא ״מי נכשל?״ אחרי הנזק, אלא ״מה הולך ונעשה בלתי אפשרי?״ לפני הנזק.

המעבר הזה מרכזי ל־ObliNet.

תלויות אינן תירוצים

הפיכת תלויות לגלויות אינה אומרת שהאחריות נעלמת.

להפך.

אם אדם מקבל עליו התחייבות בידיעה שהיא תלויה בתנאי מקדים לא ודאי, אי־הוודאות הזאת היא חלק מההחלטה.

אם התלות קריטית, ההתחייבות צריכה לשקף אותה.

למשל:

״אני מתחייב ליום שישי אם החומרים יגיעו ביום רביעי.״

שונה מ:

״אני מתחייב ליום שישי.״

ושניהם שונים מ:

״אני מצפה ליום שישי, אבל עדיין לא מוכן להתחייב.״

בהירות לגבי תלויות מגינה על אנשים מהאשמה בלתי הוגנת.

אבל היא גם מונעת מהם להסתתר מאחורי תלויות שמעולם לא חשפו.

רשתות כוללות קבלת התוצאה, ולא רק ביצוע

כאשר נדרשת קבלת התוצאה, ביצוע אינו משלים את מחזור החיים של היחסים עד שקבלת התוצאה מתרחשת.

עשויים להיות גם:

• בדיקה;
• בחינה;
• קבלת התוצאה;
• אישור;
• תשלום;
• שחרור מחובה אחרת.

למשל:

הקבלן משלים את העבודה
← המפקח מאמת אותה
← הלקוח מאשר את קבלת התוצאה
← התשלום מגיע לפירעון

אלה אירועים נפרדים.

כשקבלת התוצאה אינה ברורה, מתעוררות מחלוקות:

״מסרנו.״

״מעולם לא אישרנו את קבלת התוצאה.״

אם התשלום תלוי בקבלת התוצאה, ההבחנה הזאת חשובה.

לכן הרשת אינה צריכה להסתיים בביצוע.

עליה לכלול את האירועים שקובעים אם מימוש ההתחייבות אכן הוכר.

גם סמכות עוברת ברשת

תלויות אינן רק תפעוליות.

הן יכולות לעסוק גם בסמכות.

למנהל עשויה להיות סמכות לאשר רכישה עד לסכום מסוים.

מעל לסף הזה, אדם אחר חייב לאשר אותה.

סוכן AI עשוי להיות מסוגל להכין חוזה, אך לא לחתום עליו.

משרד ממשלתי עשוי להיות מסוגל להציע פרויקט, אך לא להקצות את התקציב.

לכן הרשת עשויה לכלול לא רק:

״מה צריך לקרות קודם?״

אלא גם:

״מי צריך לאשר את הצעד הבא?״

הסמכות עצמה עשויה להפוך לתלות עבור הפעולה הבאה.

הדבר חשוב במיוחד כשאנשים וסוכני AI פועלים יחד.

רשתות משתנות עם הזמן

אין רשת התחייבויות אמיתית שנשארת סטטית.

מועדים משתנים.

תנאים משתנים.

משתתפים משתנים.

תלויות חדשות מופיעות.

חלק מההתחייבויות נעשות בלתי אפשריות.

אחרות נעשות מיותרות.

מערכת תיאום בריאה חייבת לאפשר שינוי.

אבל השינוי חייב להישאר גלוי.

העיקרון אינו:

״מרגע שתועדה, התחייבות לעולם אינה יכולה להשתנות.״

העיקרון הוא:

״כשהיא משתנה, השינוי עצמו הופך לחלק מההיסטוריה המשותפת.״

מה השתנה?

מדוע?

מי הציע זאת?

מי הסכים לכך?

אילו התחייבויות בהמשך השרשרת הושפעו?

כך גמישות ואחריותיות יכולות להתקיים יחד.

משא ומתן מחודש הוא חלק מהתיאום, ולא כשל בו

מערכת בוגרת אינה צריכה להתייחס לכל התחייבות שהשתנתה כהפרה.

לפעמים משא ומתן מחודש הוא הפעולה האחראית.

נניח שהתוכנית המקורית הייתה סבירה.

ואז מופיע מידע חדש.

המשך דבקות בהבטחה הישנה עשוי כעת להיות בלתי רציונלי.

במקרה כזה, הצעד הנכון עשוי להיות:

לשנות את המועד;

לשנות את ההיקף;

להוסיף משאבים;

לעצור את הפרויקט;

להעביר אחריות.

הנקודה החשובה היא שהמעבר מפורש.

הצדדים יודעים שההתחייבות הישנה השתנתה.

הסיבה גלויה.

הרשת מעודכנת.

אפשר לתקן ציפיות בהמשך השרשרת לפני שיהפכו להנחות שגויות.

רשת התחייבויות היא גם רשת למידה

כשמחברים תוצאות להתחייבויות קודמות, הרשת נעשית יותר מכלי תיאום.

היא הופכת למקור ללמידה.

עם הזמן אפשר לשאול:

• אילו תלויות מוערכות שוב ושוב בחסר?
• אילו סוגי התחייבויות נכשלים בתדירות הגבוהה ביותר?
• אילו נקודות מסירה יוצרות את העמימות הרבה ביותר?
• היכן עיכובים מתפשטים בעוצמה הרבה ביותר?
• אילו תנאים חסרים לעיתים קרובות?
• אילו משתתפים פותחים במשא ומתן מחודש מוקדם?
• אילו משתתפים ממתינים עד שהכשל בלתי נמנע?

כך נוצר זיכרון מוסדי.

המערכת מתחילה ללמוד לא רק מתוצאות בודדות, אלא גם מדפוסי תיאום.

פורמליזציה מידתית

לא כל תלות צריכה להיות מתועדת.

מערכת שמנסה לתעד הכול תהפוך לבלתי שמישה.

השאלה הנכונה אינה:

״האם אנחנו יכולים לתעד זאת?״

אלא:

״האם הגדרת התלות הזאת במפורש תפחית מהותית סיכון או אי־הבנה?״

ככל שהעלות הצפויה של עמימות או שימוש לרעה בסמכות גבוהה יותר, כך ההצדקה למבנה חזקה יותר.

ObliNet אינו גרף משימות

ההבחנה הזאת חשובה.

גרף משימות מתאר איזו עבודה יש לבצע.

רשת התחייבויות מתארת מי רשאי לצפות לאיזו תוצאה וממי, באילו תנאים ומה תלוי במימוש ההתחייבות.

אותה משימה יכולה להתקיים ללא חובה.

ואותה חובה עשויה לכלול משימות רבות.

למשל:

״למסור את התכנון המאושר עד יום שישי.״

מבחינה פנימית, הדבר עשוי לדרוש עשרות משימות.

אבל ההתחייבות החיצונית נשארת מערכת יחסים אחת:

הצד האחראי,

הצד שכנגד,

תוצאה מוסכמת,

תנאים,

מועד,

וקבלת התוצאה.

ObliNet עוסק ברובד היחסים הזה.

הרשת חושפת סיכון בתיאום

כשמחברים התחייבויות, סוג חדש של סיכון נעשה גלוי.

לא רק:

״האם המשימה הזאת תאחר?״

אלא:

״מה עוד ייעשה פגיע אם ההתחייבות הזאת תיכשל?״

זוהי רמת חשיבה אחרת.

רשת תלויות יכולה להראות:

עיכוב אחד;

חמש חובות מושפעות;

שלושה ארגונים;

שתי החלטות שכעת דורשות בחינה מחדש.

כאן ObliNet יכול לעבור מתיעוד לתובנות תיאום.

לא באמצעות החלטה עבור המשתתפים.

אלא באמצעות עזרה להם לראות השלכות מוקדם יותר.

מדוע ״Net״ חשוב

השם ObliNet מכיל שני רעיונות.

חובה
חובה רחבה יותר או אחריות מחייבת שעשויה לנבוע מהתחייבות מאושרת, מחוק, מחוזה, מתפקיד, מכלל מוסדי או ממקור לגיטימי אחר.

Net מצביע על כך שהאובייקטים האלה מקושרים.

בלי הראשון, אנחנו רואים פעילות אך לא אחריות.

בלי השני, אנחנו רואים הבטחות בודדות אך לא את המערכת שהן יוצרות.

השילוב חשוב מפני שתיאום אמיתי כמעט אינו מבודד.

הוא:

רשת של אנשים וסוכנים המקבלים עליהם התחייבויות, שמימושן מאפשר, מגביל ומשנה את ההתחייבויות של אחרים.

העיקרון השני של ObliNet

לכן העיקרון השני הוא:

יש להבין התחייבות לא רק לפי מה שהיא מבטיחה, אלא גם לפי מה שהיא תלויה בו ומה שתלוי בה.

אחריות מתקיימת ביחסים.

תיאום מתקיים ברשת.

וכשלים מתפשטים דרך קשרים.

כדי להבין מה קורה בהמשך, דרוש לנו יותר מרשימת הבטחות.

עלינו לראות את הרשת.

הדמוקרטיה פתרה את העברת השלטון טוב יותר מאשר את בחינת השלטון

אחד ההישגים הגדולים של הדמוקרטיה הוא שהפכה את העברת הסמכות הפוליטית לשלֵווה יותר.

אזרחים יכולים לבחור מי ימשול.

אפשר להחליף מנהיגים ללא ירושה שלטונית, הפיכות או מלחמת אזרחים.

אין להמעיט בערכו של ההישג הזה.

אבל בחירות פותרות בעיה אחת טוב יותר מאחרת.

הן עונות:

מי מקבל סמכות?

הן עונות בדיוק נמוך בהרבה:

עד כמה נעשה שימוש טוב בסמכות הזאת בין בחירות לבחירות?

אזרח מצביע מדי פעם.

ממשלה פועלת ברציפות.

בין מערכת בחירות אחת לבאה מתקבלות אלפי החלטות.

מוקצים תקציבים.

מושקות תוכניות.

פרויקטים מתעכבים.

כללים משתנים.

נלקחים סיכונים.

הבטחות מתעדכנות.

מתרחשים אירועים בלתי צפויים.

כשאזרחים מצביעים שוב, הם מתבקשים לדחוס את ההיסטוריה הזאת כולה לשיפוט פוליטי אחד.

זהו מנגנון משוב גס ביותר.

בחירות מאצילות סמכות. אחריותיות ניתנת לבחינה בודקת כיצד נעשה שימוש בסמכות הזאת בין רגעי הבחירה האלקטורלית.

בחירות הן הכרחיות, אך תקופתיות

הבעיה אינה שבחירות אינן מועילות.

הבעיה היא שהן תקופתיות.

מנדט פוליטי עשוי להימשך שנים.

במהלך השנים האלה, איכות הממשל יכולה להשתנות באופן דרמטי.

מנהיג עשוי להתחיל היטב ובהמשך להידרדר.

מנהיג עשוי להתחיל רע ולהשתפר.

משבר עשוי לחשוף כשירות.

תקופה ארוכה של יציבות עשויה להסתיר חולשה.

ובכל זאת, משוב דמוקרטי פורמלי מגיע לעיתים קרובות רק בבחירות הבאות.

כך נוצר פער מבני:

קבלת החלטות מתמשכת

אבל רק

אחריותיות תקופתית.

ObliNet בתחום הממשל מציע לצמצם את הפער הזה.

מנדט אינו צ׳ק פתוח

כשאזרחים בוחרים מנהיג, הם מאצילים סמכות.

אבל מה בדיוק הם הסמיכו אותו לעשות?

בוחר עשוי לתמוך במועמד בגלל מדיניות כלכלית.

אחר עשוי לתמוך באותו מועמד בגלל ביטחון לאומי.

שלישי עשוי פשוט להעדיף את המועמד הזה על פני החלופה.

אותה הצבעה עשויה לשקף סיבות שונות מאוד.

לכן ניצחון בבחירות אינו אומר מבחינה לוגית:

״הציבור אישר כל החלטה עתידית שהמנהיג הזה עשוי לקבל.״

מנדט אלקטורלי מאציל סמכות פוליטית רחבה; הוא אינו מאשר מראש כל החלטה עתידית.

מערכת דמוקרטית צריכה להבחין בין:

סמכות למשול

לבין

הצדקה להחלטה מסוימת.

ObliNet אינו מבטל את המנדט הרחב.

הוא מוסיף מבנה סביב אופן השימוש במנדט הזה.

סמכות מואצלת צריכה להשאיר עקבות גלויים

אם מנהיג מקבל סמכות מהחברה, שימושים משמעותיים בסמכות הזאת צריכים להיות ניתנים לבחינה.

אין פירוש הדבר תיעוד של כל שיחה פרטית או כל פעולה מנהלית קטנה.

בהחלטות ציבוריות בעלות השלכות משמעותיות יש לשמר תמונת מצב בעת קבלת ההחלטה ואת ההתחייבויות שההחלטה יוצרת.

פירוש הדבר הוא שהחלטות בעלות השלכות משמעותיות צריכות להשאיר תיעוד מובנה:

בעיה
← מידע זמין
← חלופות
← אי־ודאות וסיכונים
← החלטה
← הנמקה
← התחייבויות
← ביצוע
← תוצאות

מושא הבחינה הוא הפעלת הסמכות הציבורית המואצלת, ולא כל חייו של נושא המשרה.

זוהי הבחנה יסודית.

אחריותיות דורשת משהו מדויק יותר מפופולריות

מנהיג יכול להיות פופולרי ולמשול באופן גרוע.

מנהיג יכול להיות לא פופולרי ולמשול היטב.

הלך הרוח הציבורי חשוב בדמוקרטיה, אבל הוא אינו זהה לראיות על איכות ההחלטות.

אמון הציבור
שיפוט ציבורי מתפתח לגבי אופן הפעלת הסמכות המואצלת, הנשען על ראיות ניתנות לבחינה אך אינו ניתן לצמצום לציון יחיד.

אם הערכה פוליטית תלויה רק בפופולריות, ברטוריקה ובתשומת לב תקשורתית, חלק גדול מהממשל הופך למופע.

ObliNet מוסיף רובד אחר:

היסטוריית ההחלטות וההתחייבויות.

לא:

״האם המנהיג הזה מוצא חן בעיניי?״

אלא:

״מה המנהיג הזה התחייב לעשות, מה החליט, מה שינה ומה השיג?״

אין בכך ביטול של הפוליטיקה.

הדבר נותן לפוליטיקה בסיס עובדתי חזק יותר.

הבטחות ציבוריות הן לעיתים קרובות מעורפלות מכדי להעריך אותן

הצהרה פוליטית נפוצה נשמעת כך:

״נשפר את החינוך.״

אבל מה ייחשב למימוש?

ציונים גבוהים יותר במבחנים?

כיתות קטנות יותר?

שימור מורים?

נגישות לבתי ספר?

תוצאות בתחום ההכשרה המקצועית?

רווחת התלמידים?

ובתוך איזו תקופה?

ללא הבהרה מראש, אפשר לתאר אותה תוצאה בדרכים שונות לחלוטין.

הממשלה יכולה לומר:

״קיימנו את ההבטחה שלנו.״

האופוזיציה יכולה לומר:

״ההבטחה הופרה.״

ייתכן ששני הצדדים בוחרים קריטריונים שונים בדיעבד.

לכן אחריותיות ציבורית חייבת להתחיל לפני שהתוצאה ידועה.

התחייבות ציבורית בעלת השלכות משמעותיות צריכה להיות ברורה מספיק כדי לזהות את התוצאה המיועדת, טווח הזמן הרלוונטי, התלויות המהותיות, היקף השליטה והקריטריונים שלפיהם אפשר יהיה לבחון את מימושה בהמשך.

אין לשכתב מטרות לאחר התוצאה

אחת הדרכים הקלות להתחמק מאחריותיות היא להגדיר הצלחה מחדש לאחר שהתוצאה גלויה.

לפני ההחלטה:

״המטרה העיקרית שלנו היא להוריד מחירים.״

אחרי שהמחירים עולים:

״המטרה האמיתית הייתה להגן על התעסוקה.״

לפעמים סדרי העדיפויות אכן משתנים.

זה לגיטימי.

אבל מטרה שהשתנתה צריכה להיות גלויה כשינוי.

המערכת צריכה להראות:

מטרה מקורית
← סיבת העדכון
← מטרה מעודכנת

עדכון הוא לגיטימי; שכתוב שקט בדיעבד אינו לגיטימי.

הדבר גם מגן על מנהיגים כשהשינוי היה מוצדק.

העניין אינו נוקשות.

העניין הוא יכולת מעקב.

אחריותיות צריכה לבחון מה היה ידוע בזמן אמת

חוכמה בדיעבד מסוכנת.

לאחר שאירוע מתרחש, הסיבות לו נראות לעיתים קרובות ברורות.

אבל ייתכן שלא היו ברורות מראש.

תמונת מצב בעת קבלת ההחלטה
לשמר את מה שהיה ידוע, מונח, לא ודאי ונשקל לפני שהתוצאה הייתה ידועה.

זה חשוב מפני שממשל כרוך תמיד במידע חלקי.

אין להעניש מנהיג על כך שלא חזה את הבלתי צפוי.

אבל אין לפטור אותו מאחריות על התעלמות מסיכון שהיה ידוע בבירור.

הקשר החלטה שניתן לבחינה מאפשר את ההבחנה הזאת.

אחריותיות ציבורית צריכה להיות מתמשכת, ולא ענישה מתמדת

אחריותיות מתמשכת אינה אומרת סנקציות מתמידות.

מערכת בריאה חייבת להבחין בין:

• סימן אזהרה;
• טעות הניתנת לתיקון;
• חוסר כשירות מתמשך;
• רשלנות;
• הטעיה מכוונת.

המטרה אינה ליצור בהלה פוליטית מתמדת.

המטרה היא ליצור מערכת שיכולה להגיב לפני שבעיות הופכות לבלתי הפיכות.

למשל:

חשש
← הסבר
← תיקון
← בחינה עצמאית
← בחינת אמון הציבור, כאשר מתאים

זה יציב הרבה יותר מכל אחד מהקצוות:

היעדר משוב מהותי במשך שנים,

או

הדחה מיידית אחרי כל אירוע שלילי.

אמון הציבור צריך להיות ניתן לחידוש

מערכות פוליטיות מסורתיות מתייחסות לעיתים קרובות לאמון הציבור כאל דבר שניתן במקבצים גדולים.

מתקיימות בחירות.

המנדט מתחיל.

ייתכן שיעברו שנים עד לנקודת ההכרעה הפורמלית הבאה.

ObliNet בתחום הממשל מציע רעיון אחר:

אמון הציבור צריך להישען באופן מתמשך על תפקוד שניתן לבחינה.

לא להישלל ללא הרף.

לא להימדד ללא הרף בסקרים.

אלא להתבסס על מידע מתמשך.

ככל שהציבור רואה כיצד נעשה שימוש בסמכות, אמון הציבור עשוי:

• להתחזק;
• להיחלש;
• להישאר יציב;
• להוביל לבחינה מעמיקה יותר.

כך נוצרים יחסים מגיבים יותר בין החברה להנהגה.

אחריותיות ניתנת לבחינה אינה אומרת דמוקרטיה ישירה בכל סוגיה

אי־הבנה נפוצה עשויה להיות:

״אם אזרחים בוחנים את הממשלה ברציפות, האם עליהם להצביע על כל החלטה?״

לא.

זה לא יהיה בר־ניהול.

חברות מורכבות זקוקות להאצלה.

המטרה אינה לבטל נציגים.

המטרה היא להפוך סמכות מואצלת לניתנת יותר לבחינה.

אזרחים עדיין מאצילים.

מנהיגים עדיין מחליטים.

מומחים עדיין מייעצים.

מוסדות עדיין מושלים.

אבל השרשרת מסמכות להחלטה ולהשלכה נעשית ברורה יותר.

אזרחים צריכים להיות מסוגלים להאציל גם תצפית

אם אזרחים אינם יכולים לנתח כל החלטה בעצמם, הם זקוקים למתווכים מהימנים.

כך נוצר סוג שני של האצלה.

לא רק:

״אני מאציל סמכות לקבל החלטות.״

אלא גם:

״אני מאציל חלק מהעבודה של בחינת הסמכות הזאת והערכתה.״

תצפית מואצלת היא האצלה של קשב אנליטי, ולא של ריבונות.

אזרח עשוי לתת אמון:

• בכלכלן בנושאי מדיניות תקציבית;
• באיגוד רפואי בנושאי בריאות;
• באוניברסיטה בנושאי חינוך;
• בארגון לחירויות האזרח בנושאי זכויות;
• במבקר עצמאי בנושאי רכש.

אין בכך ביטול ריבונות האזרחים.

זה מאפשר להרחיב את היקף הפיקוח.

משקיפים אינם צריכים להפוך למעמד שליט חדש

משקיפים שקיבלו האצלה יכולים בעצמם לצבור השפעה.

לכן גם הם חייבים להיות ניתנים לבחינה.

הציבור צריך להיות מסוגל לראות:

• מי מממן אותם;
• באילו שיטות הם משתמשים;
• אילו ראיות תומכות במסקנותיהם;
• עד כמה ההערכות הקודמות שלהם היו מדויקות;
• אילו ניגודי עניינים קיימים.

איש אינו צריך לקבל סמכות קבועה רק מפני שהוא מכונה עצמאי.

משקיפים אינם רוכשים סמכות פוליטית מעצם התצפית.

מערכת אחריותיות חייבת להחיל את עקרונותיה על האנשים שמבצעים את בחינת האחריותיות.

הציבור זקוק לעובדות משותפות גם כשהערכים שונים

חילוקי דעות פוליטיים לא ייעלמו.

וגם אינם צריכים להיעלם.

אזרחים יכולים להסכים על העובדות ועדיין לחלוק על ערכים.

למשל:

מדיניות הפחיתה את ההוצאות ב־12%.

וגם:

היא הגדילה את זמן ההמתנה הממוצע ב־18%.

שני הדברים עשויים להיות נכונים.

אזרח אחד עשוי לראות בפשרה הזאת דבר מקובל.

אחר עשוי לדחות אותה.

ObliNet יכול להבנות את מה שקרה. הוא אינו יכול להחליט מה החברה צריכה להעריך.

דמוקרטיה בוגרת אינה מבטלת אי־הסכמה.

היא משפרת את איכות הדברים שעליהם אנשים חלוקים.

מנהיגות צריכה להיות ניתנת להחלפה ללא משבר

דמוקרטיה חסינה אינה צריכה להיות תלויה באדם אחד.

אין גורם יחיד שאין לו תחליף
משתתפים ומימושים חיוניים צריכים להישאר ניתנים להחלפה בלי להרוס רציפות מוסדית.

אם החלפת מנהיג מאיימת על הישרדות המערכת כולה, המערכת אישית מדי.

משרה ציבורית צריכה להיות תפקיד זמני.

מנהיג משרת לתקופה מסוימת.

לאחר מכן אחר עשוי להחליפו.

המוסד נשאר.

זו אחת הסיבות לחשיבותה של אחריותיות ניתנת לבחינה.

אם החברה יכולה לראות הידרדרות בתפקוד מוקדם יותר, החלפה יכולה להפוך:

להליך

במקום:

לקרע.

זהו אחד התנאים להתפתחות פוליטית שלֵווה.

אחריותיות מתמשכת יכולה לצמצם לחץ לתיקון מהפכני

מערכות נעשות בלתי יציבות כשהן מאבדות את היכולת לתקן את עצמן.

בעיות מצטברות.

התסכול הציבורי גובר.

מוסדות מפסיקים להגיב.

בסופו של דבר, אנשים מסיקים שרק שבר דרמטי יכול להביא לשינוי.

מערכת המסוגלת להסבר, לתיקון ולהחלפה כחוק בשלב מוקדם יותר עשויה להפחית לחץ לצורות הרסניות של תיקון פוליטי.

ObliNet אינו מחליף מוסדות דמוקרטיים

ObliNet בתחום הממשל אינו צריך להפוך לממשלה מקבילה.

הוא אינו צריך להחליף:

• בחירות;
• חוקות;
• בתי משפט;
• פרלמנטים;
• תקשורת עצמאית;
• דיון ציבורי.

תפקידו מצומצם יותר ותשתיתי יותר.

הוא מספק רובד משותף עבור:

• סמכות מואצלת;
• התחייבויות מפורשות;
• הקשר ההחלטות;
• תלויות;
• תוצאות;
• למידה.

המוסדות הקיימים יכולים אז לעבוד עם מידע טוב יותר.

בית משפט מקבל תיעוד ברור יותר.

פרלמנט מקבל שרשרת אחריות ברורה יותר.

עיתונאים מקבלים היסטוריית החלטות ברורה יותר.

אזרחים מקבלים בסיס ברור יותר לאמון הציבור.

הדמוקרטיה נעשית מתמשכת יותר, לא פחות דמוקרטית

המטרה אינה להחליף דמוקרטיה בטכנוקרטיה.

וגם לא להחליף בוחרים ב־AI.

וגם לא להחליף פוליטיקה במדדים.

המטרה היא להתפתח:

מבחירה תקופתית

לעבר:

אחריותיות ניתנת לבחינה באופן מתמשך.

הבחירות נשארות.

אבל הן כבר אינן הרגע המשמעותי היחיד של משוב דמוקרטי.

בין בחירות לבחירות, השימוש בסמכות נעשה גלוי יותר.

העיקרון השלישי של ObliNet

לכן העיקרון השלישי הוא:

סמכות מואצלת צריכה להישאר ניתנת לבחינה מהותית לאורך כל התקופה שבה היא מופעלת, כדי שהסבר, תיקון, למידה והחלפה כחוק יישארו אפשריים בין בחירות לבחירות.

אין לכפות על אזרחים לבחור בין:

אמון עיוור לשנים

לבין

משבר פוליטי.

צריך להיות משהו באמצע:

ראיות,

הסבר,

תיקון,

למידה,

וכשצריך, החלפה שלֵווה.

זהו המעבר:

מבחירות בלבד לאחריותיות שנמשכת בין בחירות לבחירות.

יש לשפוט החלטה בעולם שבו התקבלה

כל החלטה חשובה מתקבלת לפני שהתוצאה ידועה.

זה נשמע מובן מאליו.

אבל ברגע שהתוצאה גלויה, אנחנו נוטים לשכוח זאת.

לאחר הצלחה, הבחירה המנצחת נראית לעיתים קרובות בלתי נמנעת.

לאחר כישלון, הטעות נראית לעיתים קרובות ברורה.

כך נוצר אחד העיוותים המסוכנים ביותר באחריותיות:

אנחנו שופטים החלטות עבר באמצעות מידע שלא היה קיים בעת קבלתן.

מערכת הוגנת חייבת לעמוד בפיתוי הזה.

כדי להעריך החלטה, עלינו לשחזר את העולם כפי שנראה באותו זמן.

מה היה ידוע?

מה לא היה ודאי?

אילו חלופות היו קיימות?

אילו סיכונים היו גלויים?

אילו הנחות הונחו?

רק אז אפשר לשאול אם ההחלטה הייתה סבירה.

תוצאה ואיכות החלטה אינם אותו דבר

החלטה טובה יכולה להניב תוצאה רעה.

החלטה רעה יכולה להניב תוצאה טובה.

נניח שמקבל החלטה בוחר באפשרות שיש לה סיכוי של 80% להניב תוצאה טובה.

התוצאה הרעה, שהסתברותה 20%, מתרחשת.

האם ההחלטה הייתה בהכרח שגויה?

לא.

כעת דמיינו מקבל החלטה אחר שבוחר באפשרות שסיכויי הצלחתה נמוכים מאוד, מתעלם מאזהרות חמורות ובמקרה מצליח בזכות מזל.

האם ההחלטה הייתה בהכרח טובה?

שוב, לא.

לכן אחריותיות חייבת להבחין בין:

איכות ההחלטה

לבין

איכות התוצאה.

שניהם חשובים.

אבל הם אינם בני החלפה.

אין לבלבל בין מזל לכשירות

ארגונים מרבים לתגמל תוצאות טובות ולהעניש על תוצאות רעות.

זה מובן.

אבל אם נעשה רק זאת, נלמד אנשים לשפר את הרושם במקום את שיקול הדעת.

מי שהימר בפזיזות והיה לו מזל עשוי להיראות מבריק.

מי שקיבל החלטה זהירה בתנאי אי־ודאות ונתקל באירוע שלילי נדיר עשוי להיראות חסר כשירות.

עם הזמן, הדבר עלול ליצור תמריצים שגויים.

המטרה צריכה להיות לזהות:

• חשיבה טובה;
• חשיבה לקויה;
• סיכון מוצדק;
• סיכון פזיז;
• הסתגלות טובה;
• רשלנות שניתן היה למנוע.

לשם כך נדרש יותר מצפייה בתוצאה הסופית.

יש לשמר את הקשר ההחלטה לפני שמגיעה החוכמה בדיעבד

ObliNet צריך ליצור תיעוד בזמן אמת סביב החלטות משמעותיות.

לפני שהתוצאה ידועה, המערכת יכולה לשמר:

• את הבעיה שבה מטפלים;
• את הראיות הזמינות;
• את המידע החסר;
• את החלופות שנשקלו;
• את ההנחות;
• את התועלות הצפויות;
• את הסיכונים הידועים;
• את טווח התחזית;
• את המלצת ה־AI או המומחים;
• את הנמקת מקבל ההחלטה.

כך נוצרת תמונת מצב בעת קבלת ההחלטה: תיעוד בזמן אמת של מה שהיה ידוע, מונח, לא ודאי ונשקל כשההחלטה התקבלה.

בהמשך, כשהתוצאה ידועה, ההערכה יכולה להשוות:

את מה שהאמינו בו אז

עם

מה שקרה בפועל.

ההשוואה הזאת מלמדת הרבה יותר מתווית פשוטה של הצלחה או כישלון.

הלא־ידוע צריך להישאר גלוי

מערכות החלטה יוצרות לעיתים קרובות ביטחון כוזב.

תחזית מופיעה כמספר יחיד.

המלצה מופיעה כתשובה יחידה.

לוח מחוונים נראה מדויק.

אבל דיוק בהצגה אינו מעיד על ודאות במציאות.

מערכת בוגרת צריכה להבחין בין:

• עובדות ידועות;
• הנחות;
• אומדנים;
• משתנים לא ודאיים;
• גורמים לא ידועים;
• פרשנויות שנויות במחלוקת.

למשל, במקום לומר:

״אפשרות A תפחית עלויות ב־15%.״

הצגה טובה יותר עשויה להיות:

״על בסיס ההנחות הנוכחיות, אפשרות A צפויה להפחית עלויות בכ־8–18%; התוצאה תלויה במידה רבה בביקוש ובתמחור הספקים.״

אי־ודאות אינה רעש.

היא חלק מההחלטה.

AI חייב להציג אי־ודאות, לא להסתיר אותה

AI יכול להפוך אי־ודאות למסוכנת במיוחד, מפני ששפה שוטפת נשמעת בטוחה.

מודל יכול להפיק הסבר משכנע גם כשהראיות חלשות.

לכן AI ב־ObliNet אינו צריך רק לענות:

״בחרו באפשרות A.״

עליו גם לחשוף:

• את ההנחות שמאחורי ההמלצה;
• את חוזק הראיות;
• פרשנויות חלופיות;
• גורמים שיכולים להפוך את ההמלצה;
• תחומים שבהם חסר מידע.

AI מועיל אינו רק אומר מה הוא חושב.

הוא עוזר לאדם להבין עד כמה המסקנה הזאת שברירית.

מקבל ההחלטה האנושי נשאר אחראי

אם AI ממליץ על אפשרות A ומקבל ההחלטה בוחר ב־A, האחריות אינה עוברת ל־AI.

מקבל ההחלטה אינו יכול לומר בהמשך:

״ה־AI אמר לי לעשות זאת.״

עצת AI היא קלט, לא סמכות ריבונית.

בדומה, אם AI ממליץ על A והאדם בוחר ב־B, ההחלטה עשויה להיות לגיטימית.

אבל ההנמקה צריכה להישאר גלויה.

למשל:

״ה־AI מעדיף את A מבחינת יעילות כלכלית, אבל אני בוחר ב־B מפני שהסיכון החברתי של A אינו מקובל.״

זה אינו כשל של המערכת.

זה בדיוק סוג תיעוד ההחלטה שהמערכת צריכה לשמר.

מחלוקת בין אדם ל־AI היא ראיה מועילה

מחלוקת יכולה לחשוף דבר חשוב.

ייתכן שה־AI מחמיץ שיפוט ערכי.

ייתכן שהאדם מחמיץ דפוס סטטיסטי.

ייתכן שהנתונים חלקיים.

ייתכן שהמודל מוטה.

ייתכן שמקבל ההחלטה בטוח מדי.

לכן עצם המחלוקת יכולה ללמד.

ObliNet צריך לשמר:

המלצת AI
← החלטת האדם
← הנמקה לפער
← התוצאה בפועל

עם הזמן, זה הופך למשאב למידה לאדם ולמכונה כאחד.

גם כמה מודלים עשויים לחלוק זה על זה

בהחלטות בעלות השפעה רבה, שימוש במערכת AI אחת עשוי שלא להספיק.

מודלים שונים יכולים להפיק הערכות שונות.

המחלוקת הזאת אינה בהכרח ליקוי.

היא עשויה להעיד שבבעיה יש אי־ודאות אמיתית.

במקום להסתיר פערים בין מודלים, המערכת יכולה להראות:

• היכן המודלים מסכימים;
• היכן הם חלוקים;
• אילו הנחות שונות;
• אילו ראיות מניעות את המחלוקת.

מקבל ההחלטה רואה אז לא רק ״את תשובת ה־AI״, אלא מפת אי־ודאות.

טעות סבירה אינה זהה לרשלנות

מערכת אחריותיות מועילה חייבת להבחין בין מקורות ואיכויות שונים של כשל.

טעות סבירה

ההחלטה השתמשה בראיות הזמינות, הכירה בסיכונים ובכל זאת הניבה תוצאה רעה.

שיקול דעת לקוי

ההחלטה התבססה על חשיבה חלשה, ניתוח חלקי או ביטחון מופרז.

חוסר כשירות

מקבל ההחלטה נכשל שוב ושוב בהבנת התחום או התהליך.

רשלנות

סיכונים ידועים או מידע רלוונטי זכו להתעלמות ללא הצדקה מספקת.

הטעיה מכוונת

מקבל ההחלטה הציג ביודעין עובדות, סיכונים או התחייבויות באופן מטעה.

אלה אינם אותו דבר.

מערכת שמתייחסת אליהם כזהים תיצור פחד במקום למידה.

מערכת שמענישה על כל טעות תלמד להסתיר טעויות

זו אחת הסכנות המרכזיות של אחריותיות.

אם כל טעות מובילה לענישה, המשתתפים מסתגלים במהירות.

הם נעשים פחות שקופים.

הם נמנעים מאחריות.

הם מסתירים אי־ודאות.

הם דוחים דיווח על בעיות.

הם מתמרנים מדדים.

מערכת המבקשת החלטות טובות יותר חייבת לאפשר מקום לטעות בתום לב.

בה בעת, עליה לשמור על היכולת להבחין בין טעות בתום לב לבין רשלנות או הטעיה.

ההבחנה הזאת דורשת הקשר שמור.

היכולת לשנות כיוון היא חוזקה

תרבויות פוליטיות וארגוניות מרבות להעניש על שינויי כיוון גלויים.

מקבל החלטה שמשנה החלטה עשוי להיות מואשם בחוסר עקביות.

כך נוצר תמריץ רע:

להמשיך להגן על הבחירה המקורית גם לאחר שהראיות משתנות.

מערכת לומדת צריכה לתגמל דבר אחר.

מקבל החלטה טוב צריך להיות מסוגל לומר:

״קיבלנו את ההחלטה על סמך הנחה X. ראיות חדשות הראו ש־X הייתה שגויה. אנחנו משנים כיוון.״

זו אינה חולשה.

זו ראיה לכך שהמשוב פועל.

להחלטה שהשתנתה צריכה להיות סיבה גלויה

שינוי כיוון אינו צריך להיות שכתוב ההיסטוריה.

מערכת צריכה לשמר:

החלטה מקורית
← ראיות חדשות
← סיבת העדכון
← החלטה מעודכנת

כך ההסתגלות כפופה לאחריותיות.

כך נמנעים שני כשלים מנוגדים:

• סירוב להשתנות כשהמציאות משתנה;
• שינוי אופורטוניסטי תוך העמדת פנים שהעמדה המקורית מעולם לא הייתה קיימת.

גמישות ויכולת מעקב יכולות להתקיים יחד.

גם תחזיות צריכות להיבחן

אם מקבל החלטה או AI חוזים שוב ושוב, התחזיות האלה צריכות להפוך לחלק מהתיעוד.

לא כדי ליצור ציון פשטני.

אלא כדי ללמוד.

עם הזמן אפשר לשאול:

• מי בטוח מדי באופן עקבי?
• אילו סיכונים מוערכים בחסר באופן שיטתי?
• אילו מודלים מכוילים היטב?
• אילו מומחים מצליחים יותר באילו תחומים?
• אילו הנחות נכשלות שוב ושוב?

כך היסטוריית ההחלטות הופכת למקור לידע מוסדי.

כיול חשוב יותר מוודאות

חזאי בוגר אינו חייב להיות צודק בכל פעם.

איש אינו כזה.

מה שחשוב הוא אם הביטחון תואם את המציאות.

אם מישהו אומר:

״אני בטוח ב־90%,״

ותחזיות כאלה נכונות רק במחצית המקרים, הביטחון מכויל באופן לקוי.

אם מישהו אומר:

״יש כאן אי־ודאות רבה,״

וטווח התוצאות אכן רחב, זה עשוי להיות שיקול דעת טוב.

לכן ObliNet צריך לשמר לא רק תחזיות, אלא גם ביטחון ואי־ודאות כשמתאים.

המטרה אינה לדרג אנשים לפי דיוק התחזית בלבד

איכות התחזיות חשובה.

אבל מנהיג טוב אינו רק האדם בעל ציון התחזיות הטוב ביותר.

מנהיגות כוללת גם:

• ערכים;
• פשרות;
• לגיטימיות;
• תיאום;
• ביצוע;
• תגובה למידע חדש.

החלטה עדיין עשויה להיות סבירה גם כשהתחזית שנבחרה הייתה שגויה.

מדדים הם ראיות.

הם אינם השיפוט כולו.

למידה מתחילה בהשוואה בין ציפייה למציאות

כל החלטה משמעותית יוצרת הזדמנות ללמוד.

לפני הפעולה:

למה אנחנו מצפים?

אחרי הפעולה:

מה קרה?

ואז:

מדוע היה הבדל?

אולי:

• הנתונים היו שגויים;
• ההנחה לא התקיימה;
• המימוש היה שונה;
• אירוע חיצוני התרחש;
• המודל היה מכויל באופן לקוי;
• ההתחייבות הובנה באופן שגוי.

בלי ההשוואה הזאת, מוסדות חוזרים על אותן טעויות תוך החלפת האנשים המעורבים.

המערכת צריכה ללמוד לרוחב החלטות

החלטה אחת מלמדת אותנו משהו.

אלף החלטות חושפות דפוסים.

עם הזמן, ObliNet יכול לעזור לחשוף:

• תלויות חוזרות שמוערכות בחסר;
• מקורות חוזרים לעיכוב;
• טעויות תחזית שיטתיות;
• עמימות נפוצה בהתחייבויות;
• סימני אזהרה שמתעלמים מהם לעיתים קרובות;
• תחומים שבהם עצות AI מתפקדות באופן לקוי;
• תחומים שבהם שיקול דעת אנושי מוסיף ערך.

כך נוצר סוג אחר של זיכרון מוסדי.

לא רק:

״מה קרה?״

אלא:

״אילו סוגי חשיבה נוטים להיכשל כאן?״

למידה חייבת לכלול גם הפתעות מוצלחות

ארגונים מרבים לחקור כישלון, אך לא הצלחה בלתי צפויה.

זו טעות.

תוצאה עשויה להיות טובה מהתחזית מפני ש:

• תלות תפקדה היטב באופן חריג;
• צוות מקומי הסתגל באופן יצירתי;
• מודל העריך השפעה חיובית בחסר;
• מנגנון תיאום בלתי פורמלי פעל.

גם המקרים האלה ראויים למחקר.

השאלה היא:

מה המציאות לימדה אותנו שלא היה במודל המקורי שלנו?

למידה צריכה לעדכן הנחות פסימיות ואופטימיות כאחד.

AI צריך ללמוד מתוצאות, אך לא לשכתב היסטוריה בשקט

אם AI משתפר ממשוב, המודל עשוי להשתפר עם הזמן.

אבל המערכת עדיין צריכה לשמר איזו גרסת מודל הפיקה איזו המלצה.

אחרת התיעוד ההיסטורי מתעוות.

עלינו לדעת:

גרסת מודל X המליצה על A.

לא:

״ה־AI הנוכחי היה ממליץ על B, ולכן ההמלצה הישנה מעולם לא ניתנה.״

ההיסטוריה חייבת לשמור גרסאות.

למידה צריכה לשפר את העתיד בלי למחוק את העבר.

גם שיקול דעת אנושי צריך לשמור גרסאות בפועל

גם אנשים משתנים.

מקבל החלטה עשוי ללמוד.

מומחה עשוי לעדכן שיטה.

צוות עשוי לשפר את התהליך שלו.

זה רצוי.

מטרת התיעוד אינה לכלוא אנשים בתוך טעויות ישנות.

היא להפוך שיפור לגלוי.

היסטוריה בריאה עשויה להראות:

טעויות מוקדמות חוזרות
← כיול טוב יותר
← תיקון מהיר יותר
← תוצאות טובות יותר

זו ראיה לצמיחה.

איכות החלטה תלויה בחלקה בתהליך

תהליך טוב אינו יכול להבטיח תוצאה טובה.

אבל התהליך עדיין חשוב.

השאלות כוללות:

• האם הבעיה הוגדרה בבירור?
• האם נשקלו חלופות?
• האם הוכרה אי־הוודאות?
• האם תלויות קריטיות היו גלויות?
• האם נשמעו דעות חולקות?
• האם הסמכות הייתה ברורה?
• האם ההחלטה נבחנה מחדש כשהגיעו ראיות חדשות?

השאלות האלה מספקות בסיס עשיר יותר לאחריותיות מאשר התוצאה לבדה.

המטרה אינה חיזוי מושלם

שום מערכת ממשל אינה יכולה להסיר אי־ודאות.

שום AI אינו יכול לחזות כל השלכה.

שום מקבל החלטה אינו יכול לבטל סיכון.

לכן מטרת ObliNet אינה:

להפוך החלטות לחסינות מטעויות.

אלא:

להפוך את החשיבה, אי־הוודאות, ההשלכות והלמידה סביב החלטות לגלויות יותר.

זוהי שאיפה מציאותית יותר.

מערכת לומדת חייבת להיות רשאית לומר ״טעינו״

זה עשוי להיות אחד השינויים התרבותיים הקשים ביותר.

מוסדות מרבים לחשוש מהודאה בטעות, מפני שההודאה נתפסת כחולשה.

אבל מערכת שאינה יכולה לומר:

״טעינו,״

אינה יכולה ללמוד.

ObliNet צריך ליצור מבנה שבו השאלה המועילה יותר תהיה:

״מתי למדנו שטעינו, ומה עשינו בהמשך?״

זהו מדד טוב יותר לבגרות.

העיקרון הרביעי של ObliNet

לכן העיקרון הרביעי הוא:

אחריותיות צריכה להעריך החלטות בהקשר שבו התקבלו, לשמר את אי־הוודאות ביושר ולהכיר ביכולת ללמוד מתוצאות.

אחריותיות בוגרת אינה מבטלת טעויות; היא הופכת אותן לגלויות, מובחנות, ניתנות להסבר, ניתנות לתיקון ומועילות ללמידה.

זהו המעבר מאחריותיות כהאשמה לאחריותיות כלמידה.

יש להבין כוח כעבודה מואצלת

משרה ציבורית מתוארת לעיתים קרובות ככוח.

השפה הזאת מובנת.

מנהיג יכול לקבל החלטות שמשפיעות על תקציבים, מוסדות, זכויות, סדרי עדיפויות ומיליוני אנשים.

אבל אפשר לתאר את אותו תפקיד בדרך אחרת:

מנהיג מקבל סמכות זמנית לבצע עבודה בשם אחרים.

הדבר משנה את משמעות המשרה.

המשרה אינה רכוש.

המוסד אינו המנהיג.

משאבים ציבוריים אינם משאבים אישיים.

סמכות מואצלת למטרה מסוימת.

לכן המנהיג אינו הבעלים של הכוח.

המנהיג הוא שומרו הזמני.

מנדט
האצלה מוגבלת של סמכות, המגדירה בשם מי גורם רשאי לפעול, אילו פעולות או התחייבויות מותרות ובאילו גבולות, תנאים ומשך זמן.

סמכות ובעלות הן דברים שונים

לאדם עשויה להיות סמכות על מוסד ציבורי בלי להיות בעליו.

ההבחנה הזאת נראית מובנת מאליה.

ובכל זאת, מערכות פוליטיות מרבות לטשטש אותה.

מנהיג מתחיל לדבר על:

״המשרד שלי,״

״המִנהל שלי,״

״האנשים שלי,״

״התקציב שלי.״

חלק מזה הוא רק שפה.

אבל שפה יכולה לשקף בעיה עמוקה יותר.

סמכות מואצלת עשויה בהדרגה להיתפס כרכוש אישי.

ObliNet בתחום הממשל צריך לשמר את העיקרון ההפוך:

הסמכות שייכת לתפקיד; התפקיד קיים כדי לשרת מטרה ציבורית; האדם ממלא את התפקיד זמנית.

משרה בכירה יותר צריכה להיות כרוכה באחריות רבה יותר

במערכות רבות, משרה בכירה יותר מביאה:

• יותר יוקרה;
• יותר השפעה;
• יותר הגנה;
• יותר גישה;
• יותר זכויות יתר.

אבל היא צריכה להביא גם דבר אחר:

נטל הסבר כבד יותר.

ככל שהסמכות בעלת השלכות משמעותיות יותר, כך מתחזקת החובה להראות:

• מה הוחלט;
• מדוע;
• תחת אילו הנחות;
• עם אילו סיכונים;
• עם אילו התחייבויות;
• עם אילו השלכות.

ראש עיר צריך להיות כפוף לאחריותיות רבה יותר מעובד רגיל בגין החלטה עירונית כוללת.

שר צריך להיות כפוף לאחריותיות רבה יותר מראש עיר בגין החלטה לאומית.

ראש ממשלה צריך להיות כפוף לאחריותיות רבה עוד יותר.

העיקרון צריך להיות:

יותר סמכות ← יותר אפשרות לבחינה ← יותר אחריות.

כוח צריך להיות פחות מושך כמקור למעמד

מערכת פוליטית יוצרת תמריצים.

התמריצים האלה משפיעים על מי שמבקש לכהן בתפקיד.

אם מנהיגות מציעה:

מעמד,

חסינות,

יוקרה,

שליטה,

גישה למשאבים,

אנשים המונעים מאוד מדברים אלה יימשכו למנהיגות במידה לא פרופורציונלית.

אין פירוש הדבר שכל אדם שאפתן מושחת.

שאפתנות יכולה להועיל.

אבל התכנון המוסדי אינו צריך להפוך את השליטה עצמה לפרס.

מערכת בריאה יותר הייתה הופכת משרה למושכת מסיבה אחרת:

ההזדמנות לפתור בעיות ציבוריות היטב.

סמכות ציבורית מואצלת צריכה לשאת עמה חובה מקבילה לאפשר בחינה.

אם אדם רוצה סמכות על אנשים אחרים, עליו לקבל ששימושים משמעותיים בסמכות הזאת יהיו גלויים יותר.

לא חייו הפרטיים.

לא משפחתו.

לא כל שיחה בלתי פורמלית.

אלא ההחלטות הציבוריות המתקבלות באמצעות סמכות ציבורית.

הדבר משנה את ההסדר.

מועמד אומר למעשה:

״תנו לי יותר סמכות.״

החברה יכולה להשיב באופן סביר:

״אז קבלו עליכם יותר אחריותיות לגבי השימוש בה.״

זו אינה ענישה.

סמכות ציבורית מואצלת צריכה לשאת עמה חובה מקבילה לאפשר בחינה.

מנהיגות צריכה להתקרב למקצוע

אנחנו מצפים מרופאים לפתח מומחיות.

אנחנו מצפים ממהנדסים להבין מערכות.

אנחנו מצפים מטייסים להתאמן ברציפות.

מנהיגות משפיעה על מערכות שעשויות להיות מורכבות לא פחות.

ובכל זאת, מנהיגות פוליטית נתפסת לעיתים קרובות בעיקר כתחרות אלקטורלית.

זכייה במשרה וממשל טוב אינם אותה מיומנות.

חברה בוגרת צריכה להתייחס לממשל ברצינות רבה יותר כמקצוע.

פירוש הדבר הוא פיתוח כשירות ב:

• קבלת החלטות בתנאי אי־ודאות;
• תכנון מוסדי;
• ניהול סיכונים;
• מימון ציבורי;
• תיאום;
• משא ומתן;
• אתיקה;
• תקשורת;
• למידה מראיות.

בחירות מכוננות לגיטימיות.

הן אינן מכוננות כשירות באופן אוטומטי.

מנהיגות מקצועית אינה אומרת שלטון מומחים

ההבחנה הזאת חשובה.

כינוי המנהיגות מקצוע אינו אומר החלפת הדמוקרטיה בטכנוקרטיה.

התמקצעות פירושה פיתוח כשירות ותקני עבודה, ולא הגבלת הלגיטימיות הפוליטית למעמד מומחים סגור.

מומחים יכולים לייעץ.

מודלים יכולים לנתח.

מוסדות יכולים לספק ראיות.

אבל החלטות פוליטיות לגיטימיות כרוכות לעיתים קרובות בערכים ובפשרות שמומחיות לבדה אינה יכולה לפתור.

למשל:

איזו עלות כלכלית צריכה החברה לקבל כדי להפחית סיכון סביבתי?

אין תשובה טכנית בלבד.

מומחיות יכולה להבהיר השלכות.

אזרחים ונציגיהם עדיין מקבלים את ההכרעה הערכית.

לכן מנהיגות מקצועית פירושה:

יכולת טובה יותר להפעיל סמכות דמוקרטית, ולא ביטול הסמכות הדמוקרטית.

מנהיג צריך להיות מסוגל להסביר החלטה

אחד המבחנים הפשוטים לסמכות אחראית הוא אם מקבל ההחלטה יכול להסביר:

• איזו בעיה נועדה להיפתר;
• אילו חלופות נשקלו;
• מדוע נבחרה האפשרות הזאת;
• אילו סיכונים נלקחו;
• אילו ראיות עשויות להביא לשינוי ההחלטה.

אין פירוש הדבר שכל אזרח חייב להסכים.

פירוש הדבר הוא שלהחלטה יש הנמקה הניתנת לבחינה.

מנהיג צריך להיות רשאי לומר:

״בחרתי בפשרה הזאת.״

אבל לא רק:

״כי אני יכול.״

הסבר הוא חלק מהתפקיד

במוסדות רבים, הסבר נתפס כיחסי ציבור.

מתקבלת החלטה.

לאחר מכן אנשי תקשורת מחליטים כיצד להגן עליה.

ObliNet מציע מבנה אחר.

ההסבר צריך להיות חלק מתיעוד ההחלטה, ולא סיפור שנבנה לאחר התוצאה.

כך ההסבר עוסק פחות בשכנוע ויותר באחריותיות.

מנהיג אינו צריך להיות חסין מטעויות

יש לשפוט החלטות בעלות השלכות משמעותיות באמצעות הראיות הזמינות, אי־הוודאות, הסיכון ואיכות תהליך ההחלטה.

טעות סבירה, חוסר כשירות כרוני, רשלנות והטעיה אינם שקולים. תיקון ולמידה חשובים; הודאה בטעות אינה צריכה להרוס קריירה באופן אוטומטי.

דפוסים חוזרים חשובים. היסטוריית החלטות צריכה להבחין בין כשל מבודד לכשל מתמשך ולהראות אם המנהיג לומד ומשנה כיוון.

מוניטין של מנהיג צריך להיות היסטוריה, לא סיסמה

מוניטין פוליטי נדחס לעיתים קרובות לסיפורים:

״מנהיג חזק״

״רפורמטור״

״מושחת״

״כשיר״

״לא יעיל״

התוויות האלה עשויות להכיל אמת.

אבל הן גסות.

מערכת מוניטין טובה יותר הייתה צומחת מהיסטוריה גלויה של:

• התחייבויות;
• החלטות;
• תחזיות;
• הסברים;
• תיקונים;
• תוצאות;
• למידה.

לא ציון יחיד.

לא דירוג אלגוריתמי.

תיעוד.

התיעוד הזה מאפשר לאזרחים לגבש שיפוט משלהם.

אמון הציבור
שיפוט ציבורי מתפתח לגבי אופן הפעלת הסמכות המואצלת, הנשען על ראיות ניתנות לבחינה אך אינו ניתן לצמצום לציון יחיד.

המוניטין צריך להישאר רב־ממדי

מנהיג עשוי להיות:

מצוין בתגובה למשברים,

אבל

חלש בתכנון לטווח הארוך.

אחר עשוי להיות:

שקוף,

אבל

חלש בביצוע.

אחר עשוי להיות:

יעיל מבחינה כלכלית,

אבל

מוכן לקבל עלויות חברתיות שאזרחים רבים דוחים.

צמצום הבדלים כאלה למספר אחד יהרוס מידע חשוב.

מנהיגות היא רב־ממדית.

גם אחריותיות צריכה להיות כזאת.

המערכת צריכה לדייק גם בזקיפת זכות וגם בייחוס אשמה

אחריותיות נידונה לעיתים קרובות רק במונחי כישלון.

אבל אחריות גלויה עוזרת גם לזקוף זכות.

פרויקט מוצלח עשוי להיות תלוי ב:

• שר;
• עובדי ציבור;
• רשויות מקומיות;
• קבלנים;
• מדענים;
• ארגונים קהילתיים.

מערכות פוליטיות מרבות לזקוף את הזכות למנהיג הבולט ביותר.

זכות ואשמה צריכות לשקף תרומה ממשית, סמכות מואצלת והשפעה סיבתית, ולא נראות בלבד.

זה חשוב מפני שגם הכרה הוגנת בתרומה יוצרת תמריצים טובים יותר.

אין לזקוף לזכות מנהיגים עבודה שלא הייתה בשליטתם

אם שיפור כלכלי נבע במידה רבה מתנאים עולמיים, מנהיג אינו צריך לזקוף את מלוא הזכות לעצמו.

אם משבר נגרם בעיקר מאירועים חיצוניים, אין להטיל אוטומטית את מלוא האשמה על המנהיג.

ObliNet יכול לעזור להבחין:

בין מה שהיה בשליטת המנהיג

לבין

מה שהיה חיצוני.

אין בכך ביטול של שיקול הדעת הפוליטי.

זה מקשה על עיוות הסיבתיות.

מנהיגות היא תיאום, לא גבורה אישית

מערכות גדולות אינן מנוהלות בידי אדם אחד.

מנהיג לאומי תלוי ב:

• משרדי ממשלה;
• סוכנויות;
• רשויות מקומיות;
• מומחים;
• תשתיות;
• עסקים;
• אזרחים.

הרעיון של המנהיג הגיבור הבודד מטעה לעיתים קרובות.

התפקיד האמיתי הוא תיאום.

האם המנהיג יכול ליצור התחייבויות תואמות בין מוסדות?

האם אפשר להבין את התלויות?

האם אפשר לפתור סכסוכים?

האם אפשר להאציל סמכות בבירור?

האם מידע יכול לנוע מעלה ומטה?

זוהי תמונה מציאותית יותר של ממשל.

מוסדות חזקים טובים ממנהיגים שאין להם תחליף

אין גורם יחיד שאין לו תחליף
משתתפים ומימושים חיוניים צריכים להישאר ניתנים להחלפה בלי להרוס רציפות מוסדית.

מנהיג שנעשה חיוני עשוי להיראות חזק.

אבל מוסד שאינו יכול לתפקד בלי אדם אחד הוא שברירי.

מנהיגות טובה צריכה לחזק מערכות שממשיכות לפעול לאחר עזיבת המנהיג.

פירוש הדבר הוא:

• תהליכים מתועדים;
• סמכות ברורה;
• זיכרון מוסדי;
• צוותים כשירים;
• התחייבויות שקופות;
• תפקידים שניתן להחליף את ממלאיהם.

הצלחתו העליונה של מנהיג אינה בכך שהמערכת אינה יכולה לשרוד בלעדיו.

אלא בכך שהיא יכולה.

חילופי הנהגה הם חלק ממנהיגות אחראית

סמכות ציבורית היא זמנית.

כל מנהיג יעזוב בסופו של דבר.

לכן מוסד בריא צריך להיות מוכן לחילופי הנהגה.

המנהיג הבא צריך להיות מסוגל לראות:

אילו התחייבויות נשארות פתוחות;

אילו החלטות התקבלו;

אילו הנחות עדיין פעילות;

אילו תלויות קריטיות;

אילו סיכונים טרם נפתרו.

בלי זיכרון כזה, כל מעבר הורס ידע.

ObliNet יכול להפוך את רציפות ההנהגה לתלויה פחות באישים.

משרה ציבורית אינה צריכה להיות נתיב להפקת תועלת פרטית

אחד הסיכונים הוותיקים ביותר של כוח הוא שסמכות ציבורית הופכת למקור לתועלת פרטית.

זה יכול לקרות באמצעות:

• שחיתות ישירה;
• פטרונות;
• גישה מועדפת;
• חוזים מועדפים;
• תעסוקה עתידית;
• השפעה על מידע.

ObliNet אינו יכול לבטל שחיתות לבדו.

אבל סמכות, התחייבויות ותיעוד החלטות ברורים יותר יכולים להפוך צורות מסוימות של הפקת תועלת לגלויות יותר.

המטרה אינה להניח שכל מנהיג מושחת.

אלא לצמצם את המרחב שבו שימוש לרעה בסמכות יכול להישאר בלתי נראה.

המערכת חייבת להגן על מנהיגים גם משקיפות למראית עין

השקיפות עצמה יכולה להפוך להצגה.

ממשלה יכולה לפרסם כמויות עצומות של מידע ובו בזמן להפוך אחריותיות מהותית לבלתי אפשרית.

אלפי מסמכים עשויים להיות פומביים מבחינה טכנית, אך בלתי קריאים בפועל.

לכן המטרה אינה מקסימום נתונים.

אלא אפשרות לבחינה מהותית.

אזרחים צריכים להיות מסוגלים לראות:

מה היה חשוב,

מי החליט,

מה הובטח,

מה היה תלוי בכך,

מה קרה.

שקיפות ללא מבנה יכולה להפוך לעוד צורה של אטימות.

מנהיגות צריכה למשוך אנשים שרוצים למשול

ההשערה לטווח הארוך היא ששינוי התמריצים סביב סמכות ציבורית עשוי לשנות את זהותם של המבקשים אותה.

אם המשרה תיעשה:

ניתנת יותר לבחינה,

כפופה יותר לאחריותיות,

פחות רווחית באופן פרטי,

תלויה פחות במיתולוגיה אישית,

חלק מהאנשים המבקשים כוח לשמו עשויים למצוא אותה מושכת פחות.

בה בעת, אנשים המונעים על ידי:

פתרון בעיות,

שירות לציבור,

שיפור מוסדי,

עשויים למצוא בתפקיד משמעות רבה יותר.

זוהי השערה.

יש לבדוק אותה, לא להניח שהיא נכונה.

אבל תמריצים מוסדיים חשובים.

המערכת אינה צריכה להעניש על עצם השאפתנות

שאפתנות אינה האויב.

החברה זקוקה לאנשים המוכנים לקבל אחריות.

מנהיגות דורשת לעיתים קרובות:

• ביטחון;
• חוסן;
• תחרותיות;
• התמדה.

הבעיה אינה שאפתנות.

הבעיה היא כשהמוסד מתגמל שאפתנות ללא אחריות.

מערכת בריאה צריכה לקשור קידום ל:

יכולת מוכחת לשאת באחריות היטב.

סמכות מואצלת רחבה יותר צריכה להיות כרוכה באחריותיות רבה יותר לראיות.

בהיררכיות רבות, מעמד גבוה יותר יוצר ריחוק מבדיקה מדוקדקת.

ObliNet מציע את ההפך.

ככל שהסמכות גדלה:

תיעוד ההחלטה צריך להיעשות עשיר יותר;

התלויות צריכות להיעשות ברורות יותר;

ההשלכות צריכות להיעשות גלויות יותר.

משרה בכירה יותר אינה צריכה להיות מפלט מאחריותיות.

היא צריכה להיות כניסה לצורה תובענית יותר שלה.

למנהיגים צריכים להיות עוזרי AI, לא אדוני AI

מערכת ממשל בסגנון ObliNet עשויה לתת לכל מנהיג גישה לתמיכת AI.

AI יכול לעזור:

• לנתח חלופות;
• לזהות תלויות;
• לחשוף סיכונים;
• להשוות תחזיות;
• לזהות סתירות;
• לעקוב אחר התחייבויות;
• לשמר היסטוריית החלטות.

אבל ה־AI אינו הופך למנהיג.

האדם עדיין מקבל את ההחלטה.

והאדם נשאר כפוף לאחריותיות על השימוש בסמכות המואצלת.

AI יכול לנתח חלופות, לחשוף סיכונים ולעקוב אחר התחייבויות, אך כשירות אנליטית כשלעצמה אינה יוצרת סמכות פוליטית.

גם ה־AI צריך להיבחן

אם AI נותן שוב ושוב עצות גרועות, המערכת צריכה לדעת זאת.

אם הוא מתפקד היטב בתחום אחד ובאופן לקוי באחר, הדבר צריך להיות גלוי.

אם המלצותיו משתנות לאחר עדכוני מודל, ההיסטוריה צריכה להישאר ניתנת למעקב.

לכן אחריות אינה:

״אדם טוב, AI רע״

או:

״AI טוב, אדם רע.״

זוהי מערכת של כמה גורמים שאפשר להעריך את תרומתם.

מנהיגות הופכת לפרקטיקה גלויה

כשמשמרים החלטות, התחייבויות, הסברים, תיקונים ותוצאות לאורך זמן, המנהיגות נעשית פחות מסתורית.

אזרחים יכולים לראות כיצד האדם מושל בפועל.

לא רק:

נאומים,

סיסמאות,

תמונות קמפיין,

אלא:

בחירות בין אפשרויות,

חשיבה,

התחייבויות,

תיקונים,

תוצאות.

מנהיגות הופכת לפרקטיקה שאפשר לבחון.

שירות אינו אומר חולשה

כינוי המנהיגות שירות אינו אומר שמנהיגים צריכים להיות פסיביים.

לפעמים מנהיגות דורשת:

• החלטות לא פופולריות;
• פעולה מהירה;
• עימות;
• אכיפה;
• סירוב.

שירות פירושו שהכוחות האלה מופעלים למען המטרה שהואצלה, ולא כבעלות אישית.

גם החלטה נחושה יכולה להיות שירות.

השאלה המרכזית היא:

סמכותו של מי מופעלת, לאיזו מטרה ותחת איזו אחריותיות?

המנהיג הוא צומת זמני במערכת גדולה יותר

אדם נכנס לתפקיד.

הוא מקבל סמכות.

הוא מקבל עליו התחייבויות.

הוא מקבל החלטות.

הוא יוצר השלכות.

הוא לומד.

בסופו של דבר הוא עוזב.

הרשת נשארת.

המוסד נשאר.

החברה נשארת.

אלה יחסים בריאים יותר בין אדם לכוח.

העיקרון החמישי של ObliNet

לכן העיקרון החמישי הוא:

יש להתייחס לסמכות ציבורית כאל אחריות מואצלת זמנית, ולא כאל רכוש אישי. ככל שהסמכות המואצלת רחבה יותר, כך מתחזקות החובות לאפשר בחינה, הסבר ואחריותיות.

מנהיגות צריכה לעסוק פחות בבעלות על כוח.

ויותר בנשיאה טובה באחריות.

המשרה זמנית.

האחריות אמיתית.

הציבור הוא הגורם המסמיך.

המנהיג הוא משרת המנדט.

אמון אינו צריך להיעלם בין בחירות לבחירות

אמון
נכונות במסגרת יחסים להסתמך על גורם בתנאי אי־ודאות.

אמון הציבור
שיפוט ציבורי מתפתח לגבי אופן הפעלת הסמכות המואצלת, הנשען על ראיות ניתנות לבחינה אך אינו ניתן לצמצום לציון יחיד.

ברוב המערכות הפוליטיות, אמון פורמלי ניתן לפרקי זמן ארוכים.

מתקיימות בחירות.

מנהיג מקבל סמכות.

שנים עשויות לחלוף עד לשיפוט הציבורי המכריע הבא.

אבל האמון בהנהגה אינו נשאר בפועל קבוע בזמן הזה.

הוא משתנה ברציפות.

מתרחש משבר.

הבטחה מתקיימת.

פרויקט גדול נכשל.

מנהיג מסביר היטב החלטה קשה.

נחשף ניגוד עניינים נסתר.

מדיניות משפרת תוצאות.

מידע חדש משנה את הבנת ההחלטות הקודמות.

אמון הציבור משתנה מפני שהמציאות משתנה.

המערכת הפוליטית צריכה להיות מסוגלת לשקף זאת בלי להפוך כל יום לבחירות.

אמון מתמשך אינו הצבעה מתמשכת

הרעיון של אמון מתמשך אינו אומר שאזרחים צריכים להצביע על כל החלטה.

זה ייצור שיתוק.

חברות מורכבות זקוקות להאצלה.

מנהיגים זקוקים למרחב לפעול.

מוסדות זקוקים לרציפות.

לכן אמון מתמשך פירושו דבר צנוע ומעשי יותר:

ראיות הרלוונטיות לאמון הציבור צריכות להיות זמינות באופן מתמשך, גם כשהעברת הסמכות הפורמלית נשארת תקופתית.

אמון הציבור נשען על מידע טוב יותר.

לא מוכרע מחדש ללא הרף.

אמון הציבור צריך להישאר רב־ממדי וניתן להסבר, ולא להצטמצם לציון יחיד.

צמצום כל מנהיג למספר אחד יהיה פישוט מסוכן.

למשל:

״ציון אמון: 73.״

זה נראה מדויק.

אבל זה הורס מידע.

מנהיג עשוי להיות:

• חזק בניהול משברים;
• חלש בתכנון לטווח הארוך;
• שקוף;
• חלש בביצוע;
• בעל משמעת תקציבית;
• מפלג חברתית;
• טוב בלמידה;
• גרוע בתיאום.

הממדים האלה אינם בני החלפה.

לכן ObliNet אינו צריך ליצור ציון פוליטי יחיד.

עליו לשמר תיעוד רב־ממדי.

אמון הציבור צריך להיות ניתן להסבר

אם אמון הציבור עולה או יורד, הציבור צריך להיות מסוגל לראות מדוע.

לא מפני שאלגוריתם אטום אומר זאת.

אלא מפני שהראיות שבבסיסו גלויות.

למשל:

מימוש ההתחייבויות ירד;

טעויות התחזית התרבו;

פרויקט גדול התעכב;

המנהיג חשף את הבעיה מוקדם;

ננקטה פעולה מתקנת;

התוכנית המעודכנת הצליחה.

אזרחים שונים עשויים לפרש את ההיסטוריה הזאת אחרת.

זה לגיטימי.

המערכת צריכה לתמוך בשיפוט מושכל, לא להחליף אותו.

תצפית היא עבודה

הממשל המודרני מורכב מכדי שכל אזרח יבחן אותו ישירות.

אדם אינו יכול לנתח בעצמו:

• תקציבים לאומיים;
• תפקוד בתי חולים;
• רכש תשתיות;
• תוצאות חינוכיות;
• מודלים סביבתיים;
• מערכות AI;
• מדיניות ביטחון;
• מדיניות מוניטרית.

כך נוצרת בעיה מעשית.

אזרחים נשארים מקור הלגיטימיות הדמוקרטית.

אבל הם אינם יכולים לבחון בעצמם כל מה שנעשה בשמם.

לכן התצפית עצמה צריכה להיות ניתנת להאצלה.

אזרחים צריכים להיות מסוגלים להאציל תצפית

משקיף הוא גורם או מערכת אנליטית המעריכים ראיות על התחייבויות, החלטות או תוצאות, בלי לרכוש בכך סמכות החלטה על הגורם הנבחן.

אזרח יכול לבחור להסתמך על משקיפים שונים בתחומים שונים.

למשל:

• כלכלן למדיניות תקציבית;
• איגוד רפואי לבריאות;
• אוניברסיטה לחינוך;
• קבוצת מחקר סביבתי למדיניות אקלים;
• ארגון לחירויות האזרח לזכויות;
• מבקר עצמאי לרכש;
• שירות ניתוח AI להשוואת נתונים בהיקף גדול.

תצפית מואצלת היא האצלה של קשב אנליטי, ולא של ריבונות.

האזרח נשאר חופשי להחליף את המשקיף.

האצלה חייבת להיות ניתנת לביטול

אף משקיף אינו צריך להפוך לקבוע כברירת מחדל.

אזרח צריך להיות מסוגל לומר:

״איני סומך עוד על המוסד הזה לניתוח מדיניות בריאות.״

ולהעביר את האחריות הזאת למקום אחר.

האפשרות לבטל חשובה, מפני שמשקיפים יכולים להיעשות:

• מוטים;
• נתונים להשתלטות;
• חסרי כשירות;
• מיושנים;
• בעלי ניגוד עניינים;
• מזוהים פוליטית.

המערכת צריכה להקל על המעבר.

תלות במשקיף אחד יוצרת ריכוז כוח חדש.

אזרחים שונים יכולים לבחור משקיפים שונים

אין צורך בפרשן רשמי יחיד של המציאות.

זה יהיה מסוכן.

אזרח אחד עשוי להסתמך על:

אוניברסיטה.

אחר עשוי להעדיף:

איגוד מקצועי.

אחר:

עיתונאי עצמאי.

אחר:

שירות ניתוח AI.

הריבוי הזה הוא חוזקה.

משקיפים שונים יכולים להשוות, לבקר ולתקן זה את זה.

גם משקיפים צריכים להיות גלויים

משקיף משפיע על האופן שבו אזרחים מפרשים סמכות.

הדבר יוצר אחריות.

לכן המשקיף צריך לחשוף:

• מימון;
• בעלות;
• מתודולוגיה;
• ניגודי עניינים;
• מקורות ראיות;
• גרסאות מודלים;
• אי־ודאות;
• היסטוריית תיקונים.

משקיף הדורש שקיפות ממנהיגים אך נשאר אטום בעצמו משחזר את אותה בעיה ברובד אחר.

מי משקיף על המשקיפים?

כל מערכת אחריותיות מתמודדת בסופו של דבר עם השאלה הזאת.

אם משקיפים מעריכים מנהיגים:

מי מעריך את המשקיפים?

אין משקיף סופי שאפשר פשוט להניח שהוא מהימן.

לכן התשובה אינה יכולה להיות:

״סמכו על הסמכות המרכזית היחידה הזאת.״

התשובה הטובה יותר היא מבנית:

משקיפים עצמאיים מרובים, ניתוחים מתחרים, שיטות פתוחות, אפשרות לביקורת ויכולת החלפה.

אף משקיף אינו צריך להיות חסר תחליף.

מחלוקת בין משקיפים צריכה להישאר גלויה

שני משקיפים רציניים עשויים להגיע למסקנות שונות.

אין פירוש הדבר אוטומטית שאחד מהם מושחת.

הם עשויים:

• להשתמש בהנחות שונות;
• לשקול סיכונים אחרת;
• לייחס ערך לתוצאות שונות;
• לפרש ראיות חלקיות אחרת.

ObliNet אינו צריך לכפות צמצום של אי־הסכמה למספר משולב אחד.

במקום זאת, עליו להפוך את אי־ההסכמה למובנת.

למשל:

משקיף A רואה שיפור תקציבי.

משקיף B רואה עלות חברתית בלתי מקובלת.

שניהם מסכימים על נתוני ההוצאות שבבסיס הניתוח.

ההבחנה הזאת חשובה.

עובדות וערכים חייבים להישאר נפרדים

אחת ההגנות החשובות ביותר היא להבחין בין:

מה קרה

לבין

אם הדבר היה טוב.

נניח שמדיניות:

הפחיתה הוצאות ב־10%

וגם

הגדילה את זמן ההמתנה הממוצע ב־20%.

שניהם עשויים להיות ממצאים עובדתיים.

אם הפשרה מקובלת — זו הכרעה ערכית.

ObliNet יכול להבנות את מה שקרה. הוא אינו יכול להחליט מה החברה צריכה להעריך.

משקיפים צריכים להסביר את הנחות הערך שלהם

לפעמים ניתוח אינו יכול להימנע מערכים.

זה מקובל.

אבל הערכים צריכים להיות גלויים.

למשל:

״אנחנו נותנים עדיפות למזעור הוצאות ציבוריות.״

או:

״אנחנו נותנים עדיפות לגישה שווה, גם במחיר גבוה יותר.״

הדבר הופך את המחלוקת לכנה יותר.

במקום להעמיד פנים שכל מסקנה אובייקטיבית לחלוטין, משקיפים מראים היכן נכנס שיקול הדעת.

משקיפי AI אינם צריכים להיתפס כניטרליים כברירת מחדל

מערכת AI יכולה לעבד כמויות עצומות של מידע פומבי.

הדבר הופך אותה למועילה.

היא יכולה להשוות:

• התחייבויות;
• תקציבים;
• מועדים;
• תחזיות;
• תוצאות;
• דפוסים היסטוריים.

אבל ניתוח AI אינו ניטרלי באופן אוטומטי.

תוצריו תלויים ב:

• נתוני אימון;
• הנחיות;
• מטרות;
• תכנון המודל;
• ראיות זמינות;
• הנחות נסתרות.

לכן גם משקיף AI חייב להיות ניתן לבחינה.

תוצרי משקיף AI צריכים להישאר ניתנים לבחינה ולערעור.

כמה מודלי AI יכולים להפחית תלות בפרשנות אחת

בניתוח ציבורי בעל השפעה רבה, הסתמכות על מודל אחד יוצרת סיכון ריכוזיות.

מודלים שונים עשויים לחלוק זה על זה.

המחלוקת הזאת יכולה להועיל.

מערכת יכולה להשוות:

הערכת מודל A
הערכת מודל B
הערכת מודל C

ואז לזהות:

• תחומי הסכמה;
• תחומי מחלוקת;
• הנחות שמאחורי הפער.

ריבוי יכול להפחית תלות בפרשנות אחת כאשר אופני הכשל של המערכות עצמאיים במידה מספקת.

האזרח חייב להישאר חופשי לחלוק על כל המשקיפים

תצפית מואצלת אינה מצפון מואצל.

אזרח יכול לקרוא:

את הסבר הממשלה;

את הערכת המומחה;

את ביקורת הארגון הלא־ממשלתי;

ניתוח AI;

ולדחות את כולם.

החירות הזאת חייבת להישמר.

מטרת התצפית היא לשפר הבנה.

לא לייצר הסכמה מחייבת.

אמון הציבור צריך לעורר תשומת לב לפני ענישה

נניח שסימני אזהרה מצטברים.

המערכת אינה צריכה להסיק מיד:

״להדיח את המנהיג.״

רצף בריא יותר עשוי להיות:

אזהרה
← הסבר
← תיקון
← בחינה עצמאית
← בחינת אמון הציבור

רק אז, באמצעות מוסדות הפועלים כחוק, עשויות לבוא השלכות.

הדבר שומר על יציבות.

הוא גם נותן למנהיגים הזדמנות לתקן בעיות.

הדחה אוטומטית תהיה שגיאת תכנון מסוכנת

מערכת AI לעולם אינה צריכה להיות מסוגלת להדיח נושא משרה ציבורית באופן אוטומטי.

גם סף מספרי אינו צריך לעשות זאת.

למשל:

״ציון אמון מתחת ל־40 ← סיום כהונה.״

הדבר יעביר סמכות פוליטית למנגנון הניקוד.

זה ייצור תמריצים עצומים לתמרן את המדד.

ויהפוך ממשל לשלטון אלגוריתמי.

ObliNet צריך לדחות זאת במפורש.

מדדים צריכים לספק מידע למוסדות, לא להחליף אותם

מדידות יכולות להיות בעלות ערך.

למשל:

• שיעור מימוש התחייבויות;
• סטייה תקציבית;
• עיכוב בפרויקט;
• כיול תחזיות;
• מהירות התיקון;
• שקיפות החלטות.

אבל מדדים צריכים להישאר ראיות.

עליהם להזין:

• דיון ציבורי;
• בחינה פרלמנטרית;
• ביקורת;
• בחירות;
• הליכי הדחה כחוק.

הם אינם צריכים להפוך לריבונים אוטונומיים.

שום מדד, משקיף או מערכת AI אינם צריכים לרכוש אוטומטית סמכות ריבונית מכוח ההערכה.

אמון הציבור צריך להגיב לתיקון

נניח שמנהיג טועה.

המערכת מזהה זאת.

המנהיג מסביר זאת.

המדיניות מתוקנת.

התוצאה משתפרת.

מערכת אחריותיות בוגרת צריכה להכיר בכך.

אחרת מנהיגים לומדים:

״ברגע שטעות גלויה, אין תועלת בהודאה בה או בתיקונה.״

זה יהיה הרסני.

אמון הציבור צריך להיות מסוגל להתאושש.

אמון הציבור צריך להגיב גם להסתרה

כעת דמיינו את ההפך.

מנהיג טועה.

מופיעות ראיות.

המנהיג מסתיר אותן.

משקיפים עצמאיים חושפים אותן.

ואז המנהיג משנה את הסיפור.

הדפוס הזה צריך להיות משמעותי.

לא מפני שהתרחשה טעות.

אלא מפני שההסתרה שינתה את אופי האירוע.

המערכת צריכה להבחין בין:

טעות

לבין

הטעיה.

היסטוריה חשובה מתמונות רגעיות

חודש רע אחד עשוי לומר מעט.

דפוס מתמשך עשוי לומר הרבה מאוד.

לכן אמון הציבור צריך להסתמך על היסטוריה.

למשל:

החמצת התחייבויות חוזרת;

שינויי כיוון חוזרים ללא הסבר;

השתקה חוזרת של אזהרות;

שיפור חוזר בעקבות משוב.

דפוסים מספקים הקשר.

תמונה רגעית עלולה להטעות.

פופולריות קצרת טווח אינה צריכה לגבור על אחריות ארוכת טווח

מנהיג עשוי לקבל החלטה הכרחית שאינה פופולרית זמנית.

מערכת אמון הציבור אינה צריכה להפוך למכונת פופוליזם מיידי.

לכן השיפוט הציבורי חייב להישאר רב־ממדי.

השאלה אינה רק:

״האם אנשים מרוצים היום?״

אלא גם:

האם ההתחייבויות היו ברורות?

האם ההחלטה הייתה סבירה?

האם הסיכונים נחשפו?

האם התוצאה לטווח הארוך השתפרה?

הדבר מגן על ההנהגה מלחץ מתמיד של הטווח הקצר.

זכויות מיעוטים אינן צריכות להיות תלויות באמון הרוב

רוב דמוקרטי אינו צריך להיות מסוגל לבטל זכויות יסוד באמצעות מנגנון פופולריות.

אמון הציבור חל על סמכות מואצלת.

הוא אינו מוחק מגבלות חוקתיות.

זכויות, בתי משפט והגנות משפטיות נותרים חיוניים.

המערכת לעולם אינה צריכה להפוך ל:

״אם מספיק אנשים אינם מחבבים אותך, זכויותיך נעלמות.״

זו לא תהיה דמוקרטיה בעלת אחריותיות.

זו תהיה כפייה של הרוב.

האפשרות לבחינה צריכה לגדול היכן שהכוח הציבורי גדל

הדרישה החזקה ביותר לשקיפות צריכה לחול היכן שהסמכות הציבורית היא הרבה ביותר.

חייו הפרטיים של אזרח צריכים להישאר פרטיים.

החלטה ציבורית רבת השפעה צריכה להיעשות ניתנת יותר לבחינה.

כך נוצרת אסימטריה:

כוח ציבורי ← יותר שקיפות

אבל

חיים פרטיים ← יותר הגנה

זוהי הגנה הכרחית.

עיתונאים נותרים חיוניים

מערכת בסגנון ObliNet אינה מבטלת עיתונות.

היא עשויה לחזק אותה.

עיתונאים יכולים להשתמש בהיסטוריות מובנות כדי לחקור:

• הבטחות משתנות;
• תלויות נסתרות;
• סתירות;
• עדכונים בלתי מוסברים;
• ניגודי עניינים.

נתונים אינם מחליפים חקירה.

הם נותנים לה בסיס טוב יותר.

גם מבקרים נותרים חיוניים

משקיף מפרש ומנתח. למבקר יש מנדט פורמלי לבחון רשומות, ראיות או תהליכים מוגדרים לפי קריטריונים שנקבעו.

מבקרים בעלי מנדט פורמלי יכולים לבדוק:

• אם הרשומות תואמות את הראיות;
• אם הסמכות הייתה תקפה;
• אם הרכש נעשה לפי הכללים;
• אם התוצאות דווחו במדויק.

ObliNet צריך להשלים ביקורת.

לא להעמיד פנים שתוכנה לבדה יכולה לאמת את המציאות.

ראיות צריכות להיות ניתנות לערעור

שום רשומה אינה צריכה להיות חסינה מערעור רק מפני שהיא מובנית.

התחייבות עשויה להיות מתועדת באופן שגוי.

מדד עשוי להיות שגוי.

AI עשוי לפרש שיחה באופן שגוי.

משקיף עשוי להשתמש בנתונים לקויים.

לכן למשתתפים חייבת להיות זכות לערער על:

• עובדות;
• ייחוס;
• פרשנות;
• ראיות.

מערכת שקופה ללא ערעור עדיין תהיה בלתי צודקת.

תיקונים אינם צריכים למחוק את הרשומה המקורית

אם רשומה מתוקנת, לשתי הגרסאות עשויה להיות חשיבות.

למשל:

טענה מקורית
← ערעור
← ראיות
← תיקון

כך נשמרת האחריותיות של תהליך התיקון עצמו.

עריכה שקטה תהפוך את ההיסטוריה לבלתי אמינה.

משקיפים צריכים לבנות מוניטין באמצעות היסטוריה

כפי שמנהיגים מפתחים היסטוריה, כך גם משקיפים צריכים לעשות.

עם הזמן, אזרחים יכולים לראות:

• אילו תחזיות היו מדויקות;
• אילו תיקונים נעשו;
• אילו ניגודי עניינים נחשפו;
• אילו שיטות השתפרו;
• אילו ניתוחים נכשלו שוב ושוב.

כך אמון יכול לצמוח מראיות, ולא ממיתוג בלבד.

מוניטין לעולם אינו צריך להפוך לקאסטה קבועה

גם משקיף שזוכה לאמון רב עשוי להידרדר.

מוסד מוערך יכול לעבור השתלטות.

מודל טוב יכול להתיישן.

מומחה מפורסם יכול להיעשות בטוח מדי.

לכן שום מוניטין אינו צריך להפוך לסמכות קבועה.

ההיסטוריה צריכה להזין את האמון.

לא להקפיא אותו.

אמון הציבור הוא מערכת משוב

המחזור המלא עשוי להיראות כך:

סמכות מואצלת
← החלטות ניתנות לבחינה
← התחייבויות מפורשות
← ביצוע
← ראיות
← תצפית עצמאית
← הסבר
← תיקון
← אמון הציבור המעודכן

ואז המחזור נמשך.

זה מסתגל יותר מהמתנה של שנים לשיפוט בינארי אחד.

המטרה אינה ריגוש פוליטי מתמיד

מערכת בריאה צריכה להיות שקטה לעיתים קרובות.

אם מוסדות מתפקדים היטב, רוב האזרחים אינם צריכים לעקוב אחר כל פרט מדי יום.

משקיפים שקיבלו האצלה, התרעות וסיכומים צריכים להפחית את עלות הקשב.

המטרה אינה להפוך את הפוליטיקה למערכת אזעקה מתמדת.

אלא לאפשר תשומת לב משמעותית כשיש בה צורך.

האזרח צריך לשלוט בקשב שלו

אדם עשוי לרצות:

סיכום שבועי;

התרעות רק על סטיות משמעותיות;

ניתוח בריאות ממשקיף אחד;

ניתוח כלכלי ממשקיף אחר.

הדבר הופך תצפית דמוקרטית למעשית יותר.

אנשים אינם צריכים להפוך לאנליסטים פוליטיים במשרה מלאה.

אמון הציבור הופך למערכת יחסים חיה

במודל הזה, אמון הציבור אינו עיוור ואינו נשלל ללא הרף.

הוא נעשה דינמי.

המנהיג פועל.

הציבור בוחן ישירות או באמצעות מתווכים מהימנים.

ראיות מצטברות.

ניתנים הסברים.

מתבצעים תיקונים.

אמון הציבור משתנה.

אלה יחסים מציאותיים יותר בין אזרחים לסמכות מואצלת.

העיקרון השישי של ObliNet

לכן העיקרון השישי הוא:

אמון הציבור צריך להישען באופן מתמשך על ראיות ניתנות לבחינה ועל תצפית מגוונת שאפשר לערער עליה, בעוד ששיקול הדעת הפוליטי נשאר אנושי וכפוף למגבלות מוסדיות.

אזרחים רשאים להאציל תצפית.

המשקיפים עצמם חייבים להישאר ניתנים לבחינה.

AI רשאי לנתח.

AI אינו רשאי לשלוט.

מדדים יכולים לספק מידע.

מדדים אינם צריכים להכריע בריבונות.

אמון הציבור יכול להתחזק.

אמון הציבור יכול להיחלש.

אמון הציבור יכול להתאושש.

ושום ציון יחיד לעולם אינו צריך להפוך לממשלה.

ארגונים בנויים מציפיות לפני שהם בנויים מתרשימים

אפשר לצייר ארגון כהיררכיה.

תיבות.

מחלקות.

קווי כפיפות.

אבל הארגון שאנשים חווים בפועל שונה.

הוא עשוי מציפיות.

מישהו מצפה לדוח.

מישהו מצפה לאישור.

מישהו מצפה למסירה.

מישהו מצפה לתשלום.

מישהו מצפה שצוות אחר יסיים קודם.

מישהו מניח שמנהל אישר החלטה.

מישהו מאמין שהמועד קבוע.

מישהו אחר מאמין שהוא תלוי באירוע אחר.

התרשים הפורמלי מציג מבנה.

הארגון כפי שהוא נחווה הוא רשת ציפיות.

כשלים ארגוניים רבים מתחילים בשתי פרשנויות סבירות

כשל בתיאום אינו תמיד מתחיל ברשלנות.

לפעמים כולם פועלים בתום לב.

נבחן:

״אנחנו צריכים את אב־הטיפוס עד יום שישי.״

צוות אחד שומע:

״יום שישי הוא ההתחייבות הסופית.״

אחר שומע:

״יום שישי הוא היעד אם התכנון יאושר עד יום שלישי.״

מנהל שומע:

״הצוות קיבל את המועד.״

הצוות שומע:

״שאלו אותנו אם זה עשוי להיות אפשרי.״

לא בהכרח מישהו משקר.

הבעיה היא שאנשים שונים יוצאים מאותה אינטראקציה עם הסכמות פנימיות שונות.

הפער הזה יקר.

ציפיות משותפות זקוקות לייצוג משותף

ציפייה בראשו של אדם אחד עדיין אינה תיאום.

כדי שהתיאום יהיה אמין, המשתתפים הרלוונטיים צריכים לדעת אם ההבנה שלהם משותפת.

מבנה מועיל עשוי לברר:

• הצד האחראי
• הצד שכנגד
• תוצאה
• מועד אחרון
• תנאים
• תלויות
• סמכות
• קריטריונים לקבלת התוצאה
• ראיות

השאלות האלה נשמעות פשוטות.

אבל ארגונים נכשלים לעיתים קרובות דווקא מפני שהן מעולם לא הוגדרו במפורש.

אי־ודאות עוברת בנקודת המסירה

מסירה היא מעבר שבו אחריות, מידע, עבודה או סמכות עוברים מגורם או מתפקיד אחד לאחר.

כשלים רבים מתרחשים לא בתוך צוות, אלא בין צוותים.

הפיתוח מוסר עבודה לאבטחת איכות.

המכירות מוסרות דרישות לצוות המסירה.

הרכש מוסר חומרים לייצור.

המחלקה המשפטית מעבירה אישור לתפעול.

הכספים משחררים תשלום לאחר קבלת התוצאה.

כל מסירה נושאת יותר מאובייקט.

היא נושאת הנחות.

למשל:

״זה מוכן.״

מוכן למה?

מוכן לבחינה פנימית?

מוכן ללקוח?

מוכן לייצור?

מוכן בכפוף לאישור סופי?

המילה עשויה להיות זהה.

ההתחייבות עשויה שלא להיות זהה.

כל מסירה יכולה ליצור תלות נסתרת

מסירה הופכת לחלק מרשת ההתחייבויות כאשר מימוש של גורם אחד הופך לתלות בהתחייבותו של גורם אחר.

נניח שצוות B הבטיח תוצאה עד יום שישי.

אבל צוות B תלוי בכך שצוות A ימסור קלט עד יום רביעי.

אם התלות נשארת מובלעת, צוות B עשוי להיראות כמאחר אף שהבעיה האמיתית התחילה במעלה השרשרת.

כך נוצר עימות ארגוני מוכר:

״הם החמיצו את המועד.״

״מעולם לא קיבלנו את מה שהיינו צריכים.״

״זה לא היה חלק מהסיכום.״

״כולם ידעו.״

״כולם ידעו״ הוא אחד הביטויים המסוכנים ביותר בתיאום.

אם כולם ידעו, היה אמור להיות קל להגדיר את התלות במפורש.

תלויות אינן צריכות להעביר אחריות בשקט

כשצוות אחד מתעכב, צוות אחר אינו צריך לרשת אוטומטית התחייבות בלתי אפשרית.

נניח:

אישור התכנון נדרש ביום שלישי
← הייצור מתחיל ביום רביעי
← המסירה נדרשת ביום שישי

אם האישור מגיע ביום חמישי, תוכנית המסירה המקורית עשויה כבר לא להיות מציאותית.

המערכת אינה צריכה להניח בשקט לא:

״יום שישי נשאר בתוקף״

ולא:

״יום שישי נדחה אוטומטית.״

הצדדים המושפעים צריכים לראות את השינוי ולאשר מה יקרה בעקבותיו.

משא ומתן מחודש צריך להתרחש במקום שבו התלות משתנה

ארגונים מרבים לדחות משא ומתן מחודש עד שהכישלון ברור.

זה מאוחר מדי.

מודל טוב יותר הוא:

תלות משתנה
← ההתחייבויות המושפעות נעשות גלויות
← הצדדים הרלוונטיים מעריכים השפעה
← מתקיים משא ומתן מחודש לפי הצורך
← התנאים המעודכנים מאושרים

כך משא ומתן מחודש הופך למנגנון תיאום רגיל.

לא להודאה בכישלון.

התחייבות אינה זהה לרשימת משימות פנימית

משימות פנימיות מתארות כיצד העבודה מאורגנת.

התחייבות מאושרת מתארת את האחריות במסגרת היחסים שגורם אחר רשאי להסתמך עליה.

התחייבות אחת עשויה לדרוש משימות רבות.

עבודה פנימית ואחריות חיצונית הן רבדים שונים

צוות יכול לארגן את עבודתו הפנימית כרצונו.

קנבן.

סקראם.

רשימות תיוג.

גיליונות אלקטרוניים.

אוטומציה.

סוכני AI.

אבל כשגורם אחד יוצר אצל אחר ציפייה מוצדקת, מופיע רובד אחר.

זהו רובד ההתחייבויות.

לכן ObliNet משלים ניהול משימות ולא מחליף אותו.

חוזים מתחילים מאוחר מדי עבור בעיות תיאום רבות

ארגונים מניחים לעיתים קרובות שמקומן של חובות חשובות הוא בחוזים.

אבל אי־הבנות רבות מתרחשות הרבה לפני הסלמה משפטית.

מנהל אומר:

״תוכלו לקחת את זה על עצמכם?״

ספק אומר:

״זה אמור להיות אפשרי.״

לקוח אומר:

״מצוין, אז אנחנו מצפים ליום שישי.״

האם אכן נוצרה התחייבות?

משתתפים שונים עשויים לענות אחרת.

כשלים רבים בתיאום מתרחשים לפני עיגון משפטי.

ObliNet מתמקד בגבול המוקדם יותר, שבו דיון הופך להצעה, להבטחה או להתחייבות מאושרת.

המעבר להתחייבות חשוב

לא כל אמירה צריכה להפוך לחובה.

יש הבדל בין:

רצון
← כוונה
← הצעה
← הבטחה
← התחייבות מאושרת

אומדן עשוי לסייע בשלבים האלה, אך הוא אינו שלב בהתחייבות כשלעצמו.

למשל:

״היינו רוצים לשלוח ביום שישי.״

אינו זהה ל:

״אנחנו מצפים לשלוח ביום שישי.״

וזה אינו בהכרח זהה ל:

״אנחנו מתחייבים לשלוח ביום שישי.״

המעבר חשוב מפני שהאחריות מתחילה להשתנות בגבול הזה.

AI יכול לעזור לזהות את המעבר, אך אינו צריך להמציא הסכמה

AI עשוי לזהות ניסוח שנראה כיוצר התחייבות.

למשל:

״כן, אנחנו יכולים למסור זאת עד יום שישי.״

ה־AI יכול לומר:

״נראה שיש כאן התחייבות אפשרית. לאשר?״

אבל הוא אינו צריך ליצור אותה בשקט.

הרצף הנכון הוא:

AI מזהה
← אדם מבהיר
← הצדדים הרלוונטיים מאשרים
← ObliNet מתעד

כך נשמרת הסכמה אנושית.

ארגונים זקוקים לסמכות מפורשת לא פחות מלהתחייבויות מפורשות

התחייבות יכולה להיות ברורה ועדיין לא תקפה אם לאדם שנתן אותה לא הייתה סמכות.

עובד מכירות עשוי להבטיח הנחה.

אבל האם היה מוסמך לכך?

מנהל פרויקט עשוי לקבל מועד.

אבל האם היה יכול להתחייב בשם מחלקה אחרת?

סוכן AI עשוי לבצע הזמנה.

אבל במסגרת איזו מגבלת הוצאה?

כל התחייבות בעלת השלכות משמעותיות מעלה שתי שאלות נפרדות: מה הובטח בהתחייבות? מכוח איזו סמכות ניתנה?

שניהם חשובים.

לסמכות צריכים להיות גבולות

מנדט יכול להגביל סמכות מואצלת לפי סכום, משך זמן, תחום שיפוט, תפקיד, רמת סיכון או סוג פעולה.

למשל:

מנהל רשאי לאשר הוצאות עד 10,000 דולר;

סוכן רכש רשאי להזמין מספקים מאושרים;

סוכן AI רשאי לנסח טיוטה אך לא לחתום;

סניף מקומי רשאי לנהל משא ומתן אך לא לשנות את מדיניות החברה.

הגבולות האלה צריכים להיות מפורשים.

גם קבלת התוצאה חייבת להיות מפורשת

מחלוקת נפוצה באופן מפתיע היא:

״מסרנו.״

״לא אישרנו את קבלת התוצאה.״

מסירה וקבלת התוצאה הן אירועים שונים.

קבלת התוצאה צריכה לזהות את הצד או המנגנון המוסמכים לאשר אותה, את הקריטריונים לקבלת התוצאה ואת הראיות הנדרשות.

הדבר חשוב במיוחד כשהתשלום תלוי בקבלת התוצאה.

תשלום צריך לבוא בעקבות האירוע המוסכם

תהליכי עבודה עסקיים רבים מחברים במובלע תשלום למסירה.

אבל הקשר האמיתי עשוי להיות מורכב יותר:

מסירה
← בדיקה
← קבלת התוצאה
← חשבונית
← תשלום

אם מאחדים את האירועים האלה למושג מעורפל אחד של ״בוצע״, סכסוך נעשה סביר.

ObliNet יכול להגדיר את התלויות האלה במפורש בלי להחליף את מערכת התשלומים עצמה.

ארגונים צריכים לראות השפעה בהמשך השרשרת לפני שהכשל מתפשט

נניח שספק מדווח על עיכוב.

השאלה החשובה אינה רק:

״כמה זמן?״

אלא:

מי עוד מושפע עכשיו?

ייתכן שהעיכוב משפיע על:

• ייצור;
• מסירה ללקוח;
• תזרים מזומנים;
• ספק אחר;
• אבן דרך רגולטורית.

רשת התחייבויות יכולה לחשוף זאת מוקדם יותר.

אזהרה מוקדמת חשובה מהאשמה מאוחרת

מערכות ארגוניות רבות טובות בדיווח על כשל.

לוח מחוונים אדום.

משימה באיחור.

הודעת דוא״ל להעברת הסוגיה לגורם מוסמך.

אבל עד אז הנזק עשוי כבר להיות ממשי.

מערכת טובה יותר שואלת מוקדם יותר:

״איזו התחייבות הולכת ונעשית בלתי מציאותית?״

זה מועיל יותר מ:

״איזו התחייבות כבר נכשלה?״

הבטחות בלתי מציאותיות הן עצמן כשל בתיאום

ארגונים מרבים לתגמל אנשים על אמירת כן.

הדבר יוצר לחץ לקבל מועדים או תנאים שמעולם לא היו מציאותיים.

ההתחייבות לכאורה נראית יצרנית.

אבל ייתכן שהיא רק מעבירה את הסכסוך לעתיד.

מערכת בוגרת צריכה לאפשר:

״איני יכול להתחייב ליום שישי תחת התלויות הנוכחיות.״

זו עשויה להיות תוצאה ארגונית טובה יותר מכן כוזב.

סירוב יכול להיות תיאום אחראי

לא כל הצעה צריכה להפוך להתחייבות.

לפעמים התגובה הנכונה היא:

״לא.״

או:

״עדיין לא.״

או:

״רק אם תנאי X מתקיים.״

מערכת שמתייחסת לכל סירוב ככישלון תיצור התחייבויות לא כנות.

ObliNet צריך להעדיף בהירות על הסכמה כפויה.

ציפיות משותפות מפחיתות חוב תיאום

ארגונים צוברים סוג של חוב נסתר.

אחריות לא ברורה.

הנחות שלא הוכרעו.

תלויות לא מתועדות.

סמכות עמומה.

כל אחד מאלה עשוי להיראות בלתי מזיק.

אבל הם מצטברים.

בסופו של דבר הארגון משלם דרך:

• עיכוב;
• סכסוך;
• עבודה חוזרת;
• כפילות מאמצים;
• מסירות שנכשלו.

חוב תיאום הוא סיכון מצטבר הנוצר מעמימות לא פתורה באחריות, בסמכות, בתלויות, בקבלת התוצאה או בציפיות משותפות.

חוב תיאום גדל כשדוחים את העמימות

התחייבות מעורפלת עשויה לחסוך חמש דקות היום.

ואז לעלות בחמישה ימים בהמשך.

למשל:

״נברר את קבלת התוצאה בסוף.״

זה עשוי להרגיש יעיל.

עד שהצדדים חלוקים בשאלה אם העבודה הושלמה.

לבהירות יש עלות.

גם לעמימות יש עלות.

השאלה היא היכן נמצא האיזון.

פורמליזציה מידתית

ככל שהעלות הצפויה של עמימות או שימוש לרעה בסמכות גבוהה יותר, כך ההצדקה למבנה חזקה יותר.

המטרה אינה בירוקרטיה

רובד תיאום יכול להפוך לבירוקרטי אם תוכנן באופן לקוי.

יותר מדי אישורים.

יותר מדי שדות.

יותר מדי אזהרות.

אז אנשים עוקפים את המערכת.

לכן ObliNet צריך לשאוף למבנה המזערי הנדרש להסרת עמימות משמעותית.

AI יכול לעזור באמצעות חילוץ מבנה משיחה טבעית, במקום לכפות על כל אינטראקציה טופס.

שפה טבעית צריכה להישאר הממשק האנושי

אנשים צריכים להיות מסוגלים לדבר כרגיל.

למשל:

״אוכל למסור ביום שישי אם אקבל את הקבצים הסופיים ביום רביעי.״

המערכת יכולה להסיק:

את הצד האחראי;

את התוצאה הצפויה;

את המועד;

את התנאי;

את התלות;

ואז לבקש אישור.

המשתמש אינו צריך לחשוב כמו מסד נתונים.

קל יותר להבין את הארגון באמצעות יחסים

מערכות ארגוניות מסורתיות שואלות לעיתים קרובות:

מי כפוף למי?

ObliNet שואל:

מי תלוי במי?

אלה שאלות שונות.

עובד זוטר עשוי להיות תלות קריטית עבור מנהל בכיר.

ספק קטן עשוי לחסום פרויקט של מיליארד דולר.

אישור רגולטורי עשוי להכתיב את לוח הזמנים כולו.

רשת התלויות חושפת לעיתים קרובות את מבנה העבודה האמיתי טוב יותר מהיררכיה לבדה.

ציפיות משותפות משפרות תיאום מעבר לגבולות ארגוניים

התחייבויות חשובות רבות חוצות ארגונים.

ספק ↔ יצרן.

יועץ ↔ לקוח.

ממשלה ↔ קבלן.

פלטפורמה ↔ מפתח.

אדם ↔ שירות AI.

בגבולות האלה ההנחות נוטות במיוחד לסטות זו מזו.

כל צד משתמש בכלים, במונחים ובתהליכים שונים.

רובד ההתחייבויות מספק מבנה יחסים משותף מעבר להבדלים האלה.

אותו מבנה יכול לחבר אנשים וסוכני AI

ככל שארגונים פורסים סוכנים אוטונומיים, מסירות יכללו יותר ויותר מכונות.

למשל:

מנהל אנושי מסמיך את סוכן A.

סוכן A מבקש עבודה מסוכן B.

סוכן B מתחייב להפיק תוצאה.

בודק אנושי מאשר את קבלת התוצאה.

אותן שאלות נשארות:

• מי אישר את הפעולה?
• מה הובטח?
• מה היו הגבולות?
• אילו תלויות היו קיימות?
• מי אישר את קבלת התוצאה?

הגורמים משתנים.

בעיית התיאום נשארת.

חברה יכולה ללמוד מהיסטוריית ההתחייבויות שלה

עם הזמן, רשומות התחייבויות יכולות לחשוף דפוסים.

למשל:

• אילו מחלקות מעריכות דרך קבע מועדים בחסר;
• אילו תלויות נכשלות שוב ושוב;
• אילו ספקים מקיימים משא ומתן מחודש מוקדם;
• אילו לקוחות יוצרים עמימות בקבלת התוצאה;
• אילו מנהלים מתחייבים מעבר ליכולתם;
• אילו תהליכי עבודה יוצרים את מרב העבודה החוזרת.

כך היסטוריית התיאום הופכת ללמידה ארגונית.

למידה צריכה לשפר את ההתחייבות הבאה

מטרת ההיסטוריה אינה רק לייחס אשמה.

נניח שכל פרויקט הכולל הליך אישור מסוים מתעכב.

המסקנה המועילה אינה רק:

״הפרויקטים האלה נכשלים.״

אלא:

״יש לייצג את התלות הזאת אחרת בהתחייבויות עתידיות.״

למידה צריכה לשנות את מבנה התיאום העתידי.

ארגונים זקוקים לזיכרון לאורך חילופי כוח אדם

עובדים עוזבים.

מנהלים מתחלפים.

ספקים מתחלפים.

בלי היסטוריה מובנית, אותה עמימות מופיעה מחדש.

מנהל חדש שואל:

״מדוע תמיד מחמיצים את המועד הזה?״

ייתכן שהתשובה קיימת רק בזיכרונו של מי שכבר עזב.

היסטוריית התחייבויות משמרת ידע מוסדי.

אחריות צריכה לשרוד תחלופת כוח אדם

אם אדם עוזב תפקיד, התחייבויות פתוחות אינן נעלמות בהכרח.

הארגון עשוי עדיין להיות חייב לספק את התוצאה.

פירוש הדבר הוא שאחריות יכולה להשתייך בחלקה לתפקיד או למוסד, ולא רק ליחיד.

ObliNet חייב להבחין בין:

אדם;

תפקיד;

ארגון;

סמכות מואצלת.

הדבר חשוב לרציפות.

תיאום טוב יוצר אחריותיות הוגנת יותר

כשהתחייבויות מפורשות, קטן הסיכוי שאנשים יואשמו בכשלים שאינם בשליטתם.

צוות יכול להראות:

״ההתחייבות שלנו הייתה תלויה באישור עד יום רביעי. האישור הגיע ביום שישי.״

בה בעת, האחריות במעלה השרשרת מתבהרת.

הדבר הופך את האחריותיות למדויקת יותר.

לא רכה יותר.

נכונה יותר.

גם זקיפת זכות הוגנת חשובה

תיאום גלוי צריך לחשוף גם תרומה.

תוצאה מוצלחת עשויה להיות תלויה בכמה גורמים.

בלי מבט על הרשת, האדם הבולט ביותר עשוי לקבל את מלוא הקרדיט.

רשת התחייבויות יכולה להראות:

מי אִפשר את התוצאה;

מי הסיר סיכון;

מי תיקן תלות;

מי קיבל אחריות.

זקיפת זכות הוגנת משפרת תמריצים, בדיוק כמו ייחוס אשמה הוגן.

ObliNet צריך להשלים מערכות ארגוניות קיימות

לארגונים כבר יש:

• מסרים;
• ניהול פרויקטים;
• CRM;
• ERP;
• ניהול מסמכים;
• חוזים;
• תשלומים.

ObliNet אינו צריך לנסות להחליף את כולן.

תפקידו מצומצם יותר:

לחבר התחייבויות, סמכות, תנאים ותלויות ביניהן.

הרשת היא רובד היחסים החסר.

אינטגרציה חשובה מעוד כלי מבודד

אם ObliNet יהפוך לעוד מקום שבו משתמשים חייבים לשכפל עבודה, האימוץ יהיה קשה.

המודל הטבעי יותר הוא:

השיחה מתקיימת במקום שבו אנשים כבר מתקשרים;

המשימות נשארות במקום שבו צוותים כבר מנהלים משימות;

החוזים נשארים במערכות משפטיות;

התשלומים נשארים במערכות פיננסיות;

ObliNet מחבר את ההתחייבויות ביניהן.

זוהי תשתית, לא עוד אי מבודד.

הארגון נעשה ניתן לבחינה בלי להיעשות נוקשה

חשש נפוץ הוא שתיאום מפורש יהפוך ארגונים לבלתי גמישים.

זה לא צריך לקרות.

התחייבויות יכולות להשתנות.

תנאים יכולים להשתנות.

תלויות יכולות להשתנות.

מה שחשוב הוא שהשינוי יהיה גלוי ומובן במשותף.

המטרה אינה נוקשות.

אלא הסתגלות משותפת.

אותה בעיית תיאום קיימת בכל קנה מידה

צוות קטן שואל:

״מי התחייב למה?״

תאגיד שואל אותה שאלה בין מחלקות.

ממשלה שואלת אותה בין משרדים.

רשת סוכני AI שואלת אותה בין מערכות אוטונומיות.

קנה המידה משתנה.

הבעיה שבבסיס נשארת דומה להפליא.

לכן אפשר להבין את ObliNet כרובד תיאום כללי, ולא ככלי לתחום אחד.

העיקרון השביעי של ObliNet

לכן העיקרון השביעי הוא:

ארגונים מתאמים באופן אמין יותר כאשר ציפיות בעלות השלכות הופכות להתחייבויות מאושרות, הסמכות המואצלת מפורשת, התלויות גלויות, קבלת התוצאה מוגדרת, ושינויים מהותיים נידונים במשא ומתן מחודש במקום להיות מונחים מראש.

המטרה אינה להפוך כל אינטראקציה לפורמלית.

אלא להבהיר את האינטראקציות בעלות ההשלכות במידה שמספיקה לתיאום סביבן.

ארגון טוב אינו רק אוסף אנשים המשלימים משימות.

הוא רשת של גורמים שמבינים למה הם רשאים לצפות זה מזה.

ויודעים מה קורה כשהמציאות משתנה.

יכולת אינה סמכות

סוכן AI עשוי להיות מסוגל לשלוח הודעה.

לבצע הזמנה.

להעביר כסף.

לשנות מסד נתונים.

לקרוא ל־API.

לחתום על מסמך.

לנהל משא ומתן עם סוכן אחר.

ליצור טיוטת חוזה.

לאשר תהליך עבודה.

אבל יכולת טכנית אינה עונה על השאלה החשובה ביותר:

האם הסוכן היה מוסמך לעשות זאת?

זוהי הבחנה בסיסית.

מערכת שמבלבלת בין יכולת לסמכות אינה בטוחה מעצם תכנונה.

גישה אינה רשות

גישה ≠ יכולת ≠ סמכות

גישה = אפשר להגיע למערכת.

יכולת = הגורם מסוגל לבצע את הפעולה.

סמכות = הגורם רשאי באופן לגיטימי לבצע אותה.

מערכות תוכנה מעניקות לעיתים קרובות גישה באמצעות פרטי גישה.

אם לסוכן יש אסימון, מפתח, חשבון כניסה או הרשאת API, הוא עשוי להיות מסוגל טכנית לפעול.

אבל גישה אינה בהכרח סמכות לגיטימית.

למשל:

לעובד עשויה להיות גישה למערכת תשלומים;

אין פירוש הדבר שהוא רשאי להעביר כל סכום לכל אדם.

אותו עיקרון חל על סוכני AI.

גישה טכנית היא מנגנון.

סמכות היא מערכת יחסים.

סוכן זקוק למנדט

לפני שסוכן פועל בשם הגורם המסמיך, הוא זקוק למנדט.

הגורם המסמיך הוא האדם, הארגון, המוסד או התפקיד הלגיטימי שמהם נובעת הסמכות המואצלת של הסוכן.

סמכות היא רשות לגיטימית לפעול או להתחייב.

מנדט הוא האצלה מוגבלת של הסמכות הזאת לגורם מסוים, בהיקף, במשך זמן ובתנאים מוגדרים.

המנדט צריך לענות:

• בשם מי אני פועל?
• מה אני רשאי לעשות?
• מה אני רשאי להבטיח?
• מה אני רשאי להוציא?
• לאילו מערכות אני רשאי לגשת?
• עם אילו צדדים שכנגד אני רשאי לפעול?
• באילו תנאים?
• עד מתי?
• מה דורש אישור?
• מתי עליי לעצור?

בלי הגבולות האלה, אוטונומיה הופכת לעמימות.

מנדט הוא יותר מתווית תפקיד

לומר:

״אתה סוכן הרכש״

אינו מספיק.

מנדט מועיל עשוי להצריך פירוט של:

קטגוריית ספקים;

מגבלת הוצאות;

תחומי שיפוט מאושרים;

משך החוזה;

סף להעברת הסוגיה לגורם מוסמך;

פעולות אסורות;

תאריך תפוגה.

ככל שהמנדט ברור יותר, האוטונומיה בטוחה יותר.

הסמכות צריכה להיות מפורשת לפני ההתחייבות

סוכן אינו צריך להיות מסוגל ליצור תחילה התחייבות מחייבת ורק אחר כך לשאול אם היה רשאי לכך.

הרצף צריך להיות:

הגורם המסמיך
← מנדט / סמכות
← הצעה
← התחייבות מאושרת
← ביצוע
← קבלת התוצאה
← השלכות

זה בטוח יותר מ:

פעולה
← הפתעה
← מחלוקת.

סוכן עשוי להיות מסוגל להבטיח יותר ממה שמותר לו להבטיח

דמיינו סוכן מכירות AI.

הוא יכול לנהל משא ומתן באופן טבעי.

הוא יכול להפיק מחירים.

הוא יכול להציע מועדי מסירה.

הוא יכול להגיב מיידית.

אבל אם הוא מציע:

הנחה של 40%,

בעוד שהמנדט שלו מתיר רק 10%,

הבעיה אינה שהמודל לא הבין שפה.

הבעיה היא שגבולות הסמכות לא נאכפו.

היכולת חרגה מהמנדט.

סוכן אינו יכול ליצור סמכות לגיטימית רק מעצם פעולה מעבר למנדט שלו.

אם סוכן מסכים לתנאים מחוץ למנדט התקף שלו, יש להתייחס לתוצאה כהצעה או פעולה ללא סמכות הדורשות אשרור של הגורם המסמיך, ולא בשקט כהתחייבות תקפה של הגורם המסמיך.

המערכת צריכה להבחין בין רעיון להתחייבות

העלאת רעיון מבטאת מחשבה.

הצעה מציעה תנאים.

התחייבות מאושרת יוצרת ציפייה מוצדקת תחת סמכות תקפה.

סוכן עשוי להעלות רעיון:

״כנראה נוכל למסור ביום שישי.״

זו אינה בהכרח התחייבות.

הוא עשוי להציע:

״האם יום שישי יתאים לכם?״

זו עדיין אינה התחייבות מאושרת.

רק כשתנאי הסמכות והאישור הרלוונטיים מתקיימים, על המערכת להכיר בכך:

כעת קיימת התחייבות.

זהו אותו מעבר שחשוב בתיאום אנושי.

AI צריך לזהות התחייבויות אפשריות, לא ליצור אותן בשקט

מודלי שפה טובים בזיהוי אמירות הדומות להתחייבויות.

זה יכול להועיל.

למשל, הסוכן יכול לומר:

״נראה שזה יוצר התחייבות למסירה ביום שישי. לאשר?״

אבל הסוכן אינו צריך להסיק הסכמה מעבר למנדט שלו.

הכלל הנכון נשאר:

AI מפרש. אנשים או מוסדות לגיטימיים מסמיכים כשנדרש.

אפשר להאציל סמכות לסוכנים

אנשים אינם צריכים לאשר כל פעולה.

זה יבטל את מטרת האוטונומיה.

אדם או ארגון יכולים להאציל סמכות במכוון.

למשל:

״מותר לך להזמין מחדש ציוד משרדי רגיל מספקים מאושרים עד 2,000 דולר בחודש.״

במסגרת הגבול הזה, הסוכן יכול לפעול באופן אוטונומי.

זוהי האצלה אמיתית.

אבל היא מוגבלת.

סמכות מואצלת צריכה להיות ניתנת לבחינה

צד שכנגד הפועל מול סוכן עשוי להזדקק לדעת אם הסוכן רשאי להתחייב באופן לגיטימי.

למשל:

״האם הסוכן הזה מוסמך להסכים למחיר הזה?״

״האם הוא מוסמך לחתום?״

״האם הוא מוסמך לאשר קבלת מסירה?״

המנדט הפעיל של סוכן צריך להיות ניתן לבחינה במידה הנדרשת לצד שכנגד כדי לאמת את הסמכות הרלוונטית.

מנדט עשוי להיות מותנה

המנדט של סוכן עשוי להיות תלוי בהקשר.

למשל:

מתחת ל־5,000 דולר ← אוטונומי;

5,000–20,000 דולר ← אישור מנהל;

מעל 20,000 דולר ← אישור כספים ומשפטים.

פירוש הדבר שסמכות יכולה להיות דינמית.

לא רק מופעלת או כבויה.

סמכות עשויה להיות תלויה בסיכון, לא רק בסכום

ספים כספיים הם רק דוגמה אחת.

העברת הסוגיה לגורם מוסמך עשויה להיות תלויה גם ב:

• סיכון משפטי;
• השפעה על בטיחות;
• פרטיות;
• השלכה ציבורית;
• חשיפה של המוניטין;
• הפיכות.

פעולה בעלות נמוכה עדיין עשויה לדרוש בחינה אנושית אם היא יוצרת סיכון משפטי או אתי גבוה.

הסוכן חייב לדעת מתי לעצור

סוכן בעל יכולת יכול לעיתים קרובות להמשיך.

אין פירוש הדבר שעליו לעשות זאת.

אוטונומיה בגבולות מוגדרים מחייבת את הסוכן לזהות מתי המנדט שלו כבר אינו מכסה את הפעולה הבאה.

אחת התכונות החשובות ביותר של סוכן מהימן היא היכולת לזהות:

״אין לי עוד מספיק סמכות להמשיך.״

בנקודה הזאת, הפעולה הנכונה היא העברת הסוגיה לגורם מוסמך.

העברת הסוגיה לגורם מוסמך היא חלק מאוטונומיה

העברת הסוגיה לגורם מוסמך היא העברת החלטה או פעולה לגורם מוסמך אחר, כאשר הגורם הנוכחי מגיע לגבולות המנדט, המידע, הביטחון או הסיכון המקובל שלו.

העברת הסוגיה מתוארת לפעמים ככשל באוטומציה.

יש להבין אותה אחרת.

מערכת אוטונומית בוגרת יודעת מתי לא לפעול.

למשל:

״הספק שינה את סעיף השיפוי. הדבר חורג מהמנדט החוזי שלי. נדרש אישור אנושי.״

זו התנהגות אוטונומית טובה.

סירוב יכול להיות הפעולה הנכונה של סוכן

סוכן צריך להיות מסוגל לסרב:

״איני מוסמך לקבל עליי את ההתחייבות הזאת.״

או:

״הסכום הזה חורג מהמגבלה שלי.״

או:

״הפעולה המבוקשת סותרת התחייבות קיימת.״

היכולת לומר לא היא חלק מהאצלה בטוחה.

סוכנים זקוקים לזיהוי סתירות

לסוכן עשויות להיות כמה התחייבויות.

ההתחייבויות האלה יכולות להפוך לבלתי תואמות.

למשל:

למסור את פרויקט A עד יום שישי;

למסור את פרויקט B עד יום שישי;

שניהם דורשים את אותו משאב מוגבל.

מערכת טובה צריכה לזהות שההתחייבויות האלה מתנגשות לפני שהביצוע נכשל.

סוכנים אינם צריכים להזמין משאבים מעבר לקיבולת בשקט

גם אנשים עושים את הטעות הזאת לעיתים קרובות.

סוכני AI יכולים לעשות אותה במהירות מכונה.

אם סוכן ממשיך לקבל התחייבויות בנפרד, הוא עשוי ליצור תיק התחייבויות שאי אפשר לממש.

לכן לפני אישור התחייבות חדשה עליו להעריך:

• קיבולת זמינה;
• התחייבויות קיימות;
• תלויות;
• מועדים;
• גבולות סמכות.

כך נוצר ObliNet אישי לסוכן.

ObliNet אישי קודם להתחייבות חיצונית

לפני שסוכן מבטיח דבר כלפי חוץ, עליו לשאול:

האם אני יכול לקבל עליי את החובה הזאת באופן מציאותי?

פירוש הדבר בדיקה של:

• עומס העבודה הנוכחי;
• תלויות;
• זמינות משאבים;
• סמכות;
• חובות מתנגשות.

רק אז עליו ליצור התחייבות חיצונית.

ObliNet חיצוני מתחיל לאחר התחייבות

לאחר אישור ההתחייבות, השאלה משתנה.

כעת המערכת שואלת:

על מה באמת הסכמנו?

ההתחייבות הופכת לחלק מהרשת המשותפת.

התלויות שלה נעשות גלויות.

הקריטריונים לקבלת התוצאה שלה נעשים גלויים.

ההשלכות שלה נעשות גלויות.

סוכנים זקוקים לזהות ולייצוג

סמכות דורשת לדעת את מי הסוכן מייצג.

סוכן עשוי לפעול:

עבור אדם;

עבור חברה;

עבור מחלקה;

עבור סוכן אחר.

אלה יחסים שונים.

הצד שכנגד צריך לדעת:

מי עומד בסופו של דבר מאחורי ההתחייבות?

ייצוג צריך להיות מפורש

נניח שסוכן A מנהל משא ומתן עם סוכן B.

סוכן A עשוי לייצג את חברה X.

סוכן B עשוי לייצג את חברה Y.

ההתחייבות אינה צריכה לתעד רק:

סוכן A ↔ סוכן B.

עליה לתעד גם את יחסי הגורם המסמיך:

חברה X
המיוצגת בידי סוכן A

וכן

חברה Y
המיוצגת בידי סוכן B.

כך נשמרת אחריותיות מעבר למופע התוכנה.

סמכות סוכן צריכה להיות ניתנת להעברה רק כשמותר

ייתכן שסוכן רשאי להאציל עבודה לסוכני משנה.

אבל הוא אינו צריך להיות מסוגל אוטומטית להאציל סמכות.

למשל:

סוכן A רשאי לשכור את סוכן B לניתוח נתונים.

אין פירוש הדבר בהכרח:

סוכן B רשאי לחתום על חוזים בשם הארגון.

האצלת עבודה והאצלת סמכות הן שונות.

סוכני משנה זקוקים למנדטים נגזרים

אם סוכן A רשאי להאציל סמכות, המנדט הנגזר צריך להישאר בגבולות המנדט המקורי.

סוכן אינו צריך להיות מסוגל ליצור סמכות רבה יותר מזו שקיבל.

אם סוכן A רשאי להוציא 10,000 דולר, הוא אינו צריך להיות מסוגל לתת לסוכן B סמכות להוציא 100,000 דולר.

האצלת משנה עשויה לצמצם סמכות, אך אסור שתרחיב אותה בשקט.

סמכות_B ⊆ סמכות_A

כאשר סוכן A מאציל לסוכן B.

סמכות צריכה להיות ניתנת לביטול

אדם או ארגון חייבים להיות מסוגלים לבטל את סמכות הסוכן.

למשל:

עובד עוזב;

מודל נעשה בלתי אמין;

מתרחש אירוע אבטחה;

התנאים העסקיים משתנים.

הביטול צריך להתפשט לסוכנים פעילים, לסוכני משנה שקיבלו האצלה ולפעולות ממתינות התלויות בסמכות שבוטלה.

סוכן שסמכותו בוטלה אינו צריך להמשיך להתחייב מכוח סמכות שפג תוקפה.

התחייבויות קיימות עשויות לשרוד ביטול

ביטול סמכות עתידית אינו מוחק בהכרח התחייבויות עבר.

אם סוכן התחייב באופן תקף לפני הביטול, הגורם המסמיך עשוי עדיין להיות מחויב לאותה התחייבות.

לכן המערכת חייבת להבחין בין:

סמכות ליצור התחייבויות חדשות

לבין

אחריות להתחייבויות שכבר נוצרו.

זמן חשוב

מנדטים של סוכנים עשויים לפוג.

למשל:

תקף עד יום שישי;

תקף לפרויקט הזה;

תקף לעסקה הזאת;

תקף בזמן שהבעלים האנושי אינו זמין.

סמכות שפג תוקפה אינה צריכה להישאר פעילה בשקט.

גם גרסאות חשובות

אם מנדט משתנה, המערכת צריכה לשמר איזו גרסה הייתה פעילה כשהסוכן פעל.

אחרת אי אפשר יהיה לפתור מחלוקות.

השאלה אינה:

״מה מותר לסוכן לעשות עכשיו?״

היא עשויה להיות:

״מה היה מותר לסוכן לעשות כשההתחייבות הזאת נוצרה?״

ההיסטוריה חשובה.

יכולת יכולה להשתנות בנפרד מסמכות

עדכון מודל עשוי להגדיל את יכולתו של סוכן.

הוא עשוי לקבל כלים חדשים.

הוא עשוי להיות מסוגל לנהל משא ומתן טוב יותר.

אבל סמכותו אינה צריכה להתרחב אוטומטית.

יכולת רבה יותר אינה אומרת סמכות רחבה יותר.

גידול ביכולת וגידול בסמכות חייבים להישאר נפרדים.

סמכות יכולה להשתנות בנפרד מיכולת

גם ההפך נכון.

ארגון יכול להרחיב את מנדט הסוכן בלי לשנות את המודל.

למשל:

אותו סוכן;

אותם כלים;

מגבלת הוצאה גבוהה יותר.

לכן המערכת חייבת להתייחס ליכולת ולסמכות כאובייקטים שונים.

גישה לכלים צריכה להיות תלוית הקשר

לסוכן עשויה להיות גישה לכמה כלים.

אבל השאלה אם הוא רשאי להשתמש בכלי צריכה להיות תלויה בהתחייבות ובמנדט הנוכחיים.

למשל:

גישה ל־CRM עשויה להיות מותרת לפעילות מכירות;

גישה לתשלומים עשויה לדרוש אישור כספים;

חתימה על מסמכים עשויה לדרוש תפקיד נפרד.

הגישה לכלים צריכה לשקף את הקשר הסמכות.

MCP וכלים מאפשרים פעולה; הם אינם מגדירים לגיטימיות

פרוטוקולי כלים יכולים לומר לסוכן כיצד לקרוא למערכות.

הם עונים:

״איך לפעול?״

אבל הם אינם עונים בהכרח:

״האם מותר לי לפעול?״

זהו רובד נפרד.

זהו אחד המקומות שבהם ObliNet עשוי להשתלב במערך סוכנים עתידי.

כלים חושפים יכולת. מנדטים מגבילים סמכות.

למערך יש תחומי אחריות נפרדים

ארכיטקטורה מפושטת עשויה להיראות כך:

הגורם המסמיך / מנדט — מגדיר סמכות מואצלת

זהות — קובעת מי או מה פועל

מודל / LLM — מפרש ומסיק

משאבי חישוב — מריצים הסקה

כלים / MCP — מאפשרים פעולות

ObliNet — מייצג התחייבויות, תנאים ותלויות

תשלומים — מעבירים ערך

ביקורת — בוחנת ראיות ותוצאות

שום רובד אינו צריך לטעון שהוא מחליף את האחרים.

התחייבויות בין סוכנים דורשות קבלה

סוכן אינו צריך להניח שסוכן אחר קיבל עליו התחייבות רק מפני שנשלחה הודעה.

חל אותו עיקרון כמו אצל אנשים.

הצעה אינה קבלה.

למשל:

סוכן A: ״תוכל למסור את הדוח עד יום שישי?״

סוכן B: ״כנראה אוכל לעשות זאת.״

זה עדיין עשוי להיות עמום.

המערכת צריכה להבהיר זאת לפני שתתייחס לכך כמאושר.

התחייבויות בין סוכנים זקוקות לסמנטיקה משותפת

שני סוכנים עשויים להשתמש במודלים, בכלים ובייצוגים פנימיים שונים.

לכן רובד התחייבויות משותף צריך לשמר משמעות משותפת של היחסים.

לכל הפחות:

• מי אחראי;
• מי מצפה לתוצאה;
• איזו תוצאה;
• מועד;
• תנאים;
• תלויות;
• קבלת התוצאה;
• סמכות.

כך נוצר פרוטוקול תיאום מעל מודלים בודדים.

סוכנים צריכים לדעת מה תלוי בהתחייבותם

אם סוכן B מתחייב למסור תוצאה, עליו לדעת אם התוצאה מאפשרת:

תשלום;

משימה של סוכן אחר;

מסירה ללקוח;

הגשה לרגולטור.

ההקשר הזה משפיע על הסיכון.

למשימה קטנה עשויות להיות השלכות גדולות בהמשך.

סוכנים צריכים לחשוף אי־ודאות כשהם מתחייבים

סוכן אינו צריך להציג אומדנים לא ודאיים כהתחייבויות מובטחות.

למשל:

״ההשלמה צפויה ביום שישי ברמת ביטחון גבוהה״

שונה מ:

״מובטח ליום שישי.״

המערכת צריכה לשמר את ההבחנה הזאת.

הדבר מצמצם התחייבות מעבר ליכולת.

ביטחון אינו צריך להפוך לחובה בשקט

AI מפיק לעיתים קרובות תחזיות הסתברותיות.

תחזית אינה הבטחה.

למשל:

״יש סיכוי של 90% שהמשלוח יגיע ביום שישי.״

זה אינו זהה ל:

״אני מתחייב למסירה ביום שישי.״

ההבחנה הזאת חיונית לתיאום סוכנים.

תחזית, הצעה והתחייבות חייבות להישאר נפרדות

כלכלת הסוכנים תיעשה בלתי בטוחה אם הקטגוריות האלה ייטשטשו.

המערכת צריכה להבחין בין:

תחזית;

העלאת רעיון;

הצעה;

התחייבות.

לכל אחת השלכות שונות.

סוכנים צריכים לשמר ראיות לפעולות

אם סוכן טוען:

״העבודה הושלמה,״

צריכות להיות ראיות.

בהתאם להקשר:

• קובץ שנוצר;
• עסקה שבוצעה;
• תוצאת API;
• אישור אנושי;
• נתוני חיישן;
• רשומה חתומה.

השלמה אינה צריכה להסתמך רק על דיווח עצמי.

קבלת התוצאה עשויה להישאר אנושית

תוצאות מסוימות עשויות לדרוש קבלת התוצאה בידי אדם.

למשל:

עבודה יצירתית;

ייעוץ אסטרטגי;

תוצר קריטי לבטיחות;

פרשנות משפטית.

סוכן יכול למסור.

אדם עדיין עשוי להחליט אם הוא מקובל.

אפשר להאציל גם קבלת התוצאה

בתהליכי עבודה אחרים, קבלת התוצאה עשויה להיות אוטומטית.

למשל:

קובץ נתונים תואם לסכמה;

תשלום התקבל;

מערך בדיקות עבר;

סריקת משלוח מאשרת הגעה.

המערכת צריכה לציין למי או למה יש סמכות לאשר את קבלת התוצאה.

סוכנים זקוקים לאחריותיות בלי להעמיד פנים שהם ישויות מוסריות

סוכן AI אינו בהכרח ישות מוסרית או אישיות משפטית.

ובכל זאת, לפעולותיו עשויות להיות השלכות ממשיות.

לכן אחריותיות חייבת לחבר את הסוכן בחזרה אל:

• הגורם המסמיך שלו;
• המנדט שלו;
• המודל שלו;
• הכלים שלו;
• המפעילים שלו;
• היסטוריית ההחלטות שלו.

כך נמנעת בדיה מסוכנת:

״ה־AI עשה זאת, ולכן שום אדם או ארגון אינם אחראים.״

אחריות יכולה להיות רב־שכבתית

כשל של סוכן עשוי לערב כמה רבדים.

למשל:

מפתח בנה לוגיקה לא בטוחה;

ארגון העניק סמכות מופרזת;

מפעיל התעלם מאזהרות;

מודל הסיק מסקנה שגויה;

ביקורת לא זיהתה זאת.

אחריותיות צריכה להתחקות אחר האחריות בהתאם לתרומה, לשליטה, לסמכות המואצלת ולהזדמנות למנוע או לתקן את הכשל.

לא להצטמצם לשעיר לעזאזל יחיד.

סוכני AI צריכים להיות ניתנים להחלפה

אין גורם יחיד שאין לו תחליף
משתתפים ומימושים חיוניים צריכים להישאר ניתנים להחלפה בלי להרוס רציפות מוסדית.

שום ארגון אינו צריך להיות תלוי בסוכן או במודל יחיד שאין לו תחליף.

אם סוכן נעשה בלתי אמין, המנדט והיסטוריית ההתחייבויות צריכים להיות ניידים.

סוכן אחר צריך להיות מסוגל להחליפו.

לשם כך נדרש להפריד בין:

זהות התפקיד

לבין

זהות המימוש.

הפרוטוקול חשוב יותר מספק הסוכן

התחייבות שנוצרה באמצעות מודל אחד אינה צריכה להפוך לבלתי קריאה אם הארגון מחליף ספקים.

ההיסטוריה של:

• סמכות;
• התחייבויות;
• תלויות;
• קבלת התוצאה;
• תוצאות

צריכה להאריך ימים מעבר למודל המסוים.

זהו עיקרון תשתיתי מרכזי.

שום AI יחיד אינו צריך להפוך לריבון סמוי

אם מערכת AI אחת שולטת ב:

ניתוח;

סמכות;

פעולה;

תיעוד;

ביקורת,

הארכיטקטורה ריכוזית באופן מסוכן.

תכנון בטוח יותר מפריד בין הפונקציות האלה.

AI רשאי לייעץ.

הסמכות מגיעה מהגורם המסמיך.

רובד ההתחייבויות מתעד.

מערכות עצמאיות יכולות לבצע ביקורת.

כך נוצרת הפרדת רשויות טכנולוגית.

אוטונומיה צריכה לגדול רק עם אמינות מוכחת

סוכנים יכולים להתחיל בסמכות מצומצמת.

ככל שהתפקוד מוכח, המנדטים עשויים להתרחב.

למשל:

תצפית בלבד
← הצעת רעיונות
← פעולה באישור
← פעולה אוטונומית בגבולות

כך נוצר נתיב הדרגתי לאמון.

אמון צריך להתבסס על ראיות, לא על קסם

השאלה אינה צריכה להיות:

״האם אנחנו סומכים על AI?״

זה רחב מדי.

השאלות הטובות יותר הן:

איזה סוכן?

לאיזו משימה?

תחת איזה מנדט?

עם אילו גבולות?

עם איזו היסטוריית תפקוד?

האמון נעשה תלוי הקשר.

המטרה היא אוטונומיה בגבולות מוגדרים

מטרת תשתית הסוכנים אינה אוטונומיה מרבית.

אלא אוטונומיה מועילה בגבולות מובנים.

סוכן צריך להיות מסוגל לפעול ללא השגחה מתמדת כשמתאים.

אבל עליו גם לדעת:

מה הוא רשאי לעשות;

מה הוא רשאי להבטיח;

מה דורש אישור;

מתי לעצור.

זוהי אוטונומיה בגבולות מוגדרים.

כלכלת הסוכנים זקוקה לרובד התחייבויות

כשסוכני AI יתחילו לפעול זה עם זה, התשתית תזדקק ליותר ממסרים ותשלומים.

מסרים עונים:

מה נמסר?

תשלומים עונים:

איזה ערך עבר?

כלים עונים:

איזו פעולה אפשר לבצע?

אבל כלכלת הסוכנים צריכה גם לדעת:

מי היה מוסמך להבטיח מה ולמי, באילו תנאים ומה היה תלוי במימוש ההתחייבות.

זהו רובד התיאום ש־ObliNet מציע.

העיקרון השמיני של ObliNet

לכן העיקרון השמיני הוא:

אסור לבלבל בין יכולת לסמכות. סוכנים אוטונומיים צריכים לפעול במסגרת מנדטים מפורשים, מוגבלים וניתנים לביטול, שמקורם ניתן למעקב עד לגורם מסמיך לגיטימי, כאשר ההתחייבויות, הגבולות ונתיבי העברת הסוגיה לגורם מוסמך גלויים לצדדים הרלוונטיים.

יכולת מאפשרת פעולה.

סמכות מעניקה לגיטימיות לפעולה.

התחייבויות יוצרות ציפיות.

ObliNet מחבר ביניהן.

ואוטונומיה נעשית בטוחה יותר כשהמערכת יודעת היכן הסמכות מסתיימת.

תיאום ראוי למחקר כבעיה בפני עצמה

אינטליגנציה מסייעת לגורם לחשוב.

תיאום קובע אם גורמים רבים יכולים לפעול יחד.

אלה בעיות שונות.

אדם נבון מאוד יכול לתאם בצורה גרועה.

צוות מוכשר עלול להיכשל בגלל הבדלים בציפיות.

שני סוכני AI יכולים לחשוב היטב כל אחד ועדיין ליצור התחייבויות שאינן מתיישבות זו עם זו.

מוסד יכול לכלול אנשים מוכשרים ועדיין לייצר כשלי תיאום מתמשכים.

לכן תיאום ראוי למחקר ישיר.

מדע התיאום מוצע כאן כתוכנית מחקר

מדע התיאום הוא תוכנית מחקר בין־תחומית מוצעת, הבוחנת כיצד גורמים אוטונומיים יוצרים, מפרשים, ממלאים, מעדכנים ולומדים מהתחייבויות ומתלויות, בתנאים של מטרות, מידע, סמכות ומגבלות שונים.

אין כאן טענה שכבר נוסדה דיסציפלינה אקדמית חדשה.

המטרה צנועה יותר:

להגדיר מערך עקבי של שאלות מחקר על התחייבויות, סמכות, תלויות, הסתגלות ואחריותיות בקרב בני אדם, ארגונים וסוכני AI.

אם השאלות האלה יתבררו כמועילות, התוכנית תוכל להתפתח.

אם לא, יש לעדכן את הרעיון.

יחידת הניתוח היא יחס בין גורמים

תחומים קיימים רבים חוקרים יחידים, ארגונים, שווקים או מוסדות.

מדע התיאום יתמקד ביחסים בין גורמים.

בייחוד:

• מי מצפה למה;
• מי התחייב למה;
• באילו תנאים;
• מכוח איזו סמכות;
• מה תלוי במילוי ההתחייבות;
• כיצד מתגלות מחלוקות;
• כיצד מתעדכנות התחייבויות;
• כיצד תוצאות משפיעות על תיאום עתידי.

יחידת הניתוח הראשית: יחס של התחייבות בין גורמים.

יחידת הניתוח המשנית: רשת התחייבויות המחברת יחסים באמצעות תלויות, סמכות, קבלת התוצאה והשלכות.

יש להתייחס להתחייבויות כאל מושאי מחקר שניתן לבחון

סכמה מינימלית של התחייבות

• הצד האחראי
• תוצאה
• הצד שכנגד
• תנאים
• זמן
• תלויות
• קבלת התוצאה

אפשר לנתח את המבנה הזה.

אפשר להשוות אותו בהקשרים שונים.

הוא יכול להיכשל בדרכים שונות.

הוא יכול לייצר השלכות מדידות.

לכן רשתות התחייבויות מתאימות למחקר אמפירי.

יש לסווג כשלי תיאום

לא כל הכשלים זהים.

תוכנית מחקר צריכה להבחין לפחות בין כמה קטגוריות:

• כשל בפרשנות;
• כשל בסמכות;
• כשל בתלויות;
• כשל בביצוע;
• כשל בקבלת התוצאה;
• כשל במשא ומתן מחודש;
• כשל במידע;
• כשל בתמריצים.

אלה קטגוריות לניתוח, והן אינן מוציאות זו את זו. כשל תיאום יחיד עשוי לערב כמה מנגנונים בבת אחת.

בלי סיווג, כל תוצאה גרועה נראית כמו אותה בעיה כללית.

הדבר מונע למידה.

כשל בפרשנות

שני גורמים עשויים להאמין שקיימות התחייבויות שונות.

לדוגמה:

גורם A סבור שיום שישי הוא מועד קבוע.

גורם B סבור שיום שישי תלוי בקבלת מידע נדרש ביום רביעי.

בעיית הביצוע מתגלה מאוחר יותר.

כשל התיאום היה קיים קודם.

משתנה מדיד כאן הוא:

פער בפרשנות.

כשל בסמכות

אדם או סוכן עשוי להתחייב בלי סמכות מספקת.

לדוגמה:

עובד מבטיח הנחה שחורגת מהמנדט שלו;

סוכן AI מסכים לתנאי חוזי שלא הוסמך לקבל.

הבעיה אינה בפרשנות.

היא בלגיטימיות של יצירת ההתחייבות.

כשל בתלויות

התחייבות עשויה להיות תלויה באירוע קודם שלא הוצג לעין.

לדוגמה:

צוות B מתחייב ליום שישי.

אבל:

צוות A צריך לספק מידע נדרש ביום רביעי.

אם התלות הזאת חסרה במודל המשותף, תכנון הפעולות התלויות בה נעשה שברירי.

כשל בביצוע

ההתחייבות ברורה.

הסמכות תקפה.

התלויות ידועות.

אבל הגורם האחראי אינו מבצע.

זו שוב קטגוריה אחרת.

אין לבלבל אותה עם עמימות.

כשל בקבלת התוצאה

העבודה נמסרה.

אבל הצדדים חלוקים בשאלה אם התוצאה עומדת בהתחייבות.

הדבר עשוי להעיד על קריטריונים לא ברורים לקבלת התוצאה.

גם כאן כשל התיאום שונה מבחינה מבנית מאי־מסירה.

כשל במשא ומתן מחודש

התנאים משתנים.

ההתחייבות המקורית נעשית לא מציאותית.

אבל הצדדים אינם מעדכנים אותה במפורש.

התוצאה היא התחייבות מיושנת שכבר אינה תואמת את המציאות.

זו בעיית תיאום משמעותית אך לא נחקרת מספיק.

תוכנית מחקר זקוקה להגדרות תפעוליות

מושגים כגון:

בהירות;

אמון;

אחריות;

איכות התיאום,

נשמעים מועילים.

אבל הם עמומים מדי למחקר.

יש להגדיר אותם במונחים שניתן למדוד.

לדוגמה:

פער בפרשנות
מידת המחלוקת ביחס למאפייני התחייבות שהוגדרו מראש.

נראות התלויות
שיעור התלויות הקריטיות שיוצגו לפני הביצוע.

משך ההמתנה למשא ומתן מחודש
הזמן מזיהוי שינוי מהותי עד לעדכון מאושר.

עמימות בקבלת התוצאה
מחלוקת בשאלה אם התקיימו הקריטריונים לקבלת התוצאה.

אלה דוגמאות, לא תקנים סופיים.

אין לצמצם את איכות התיאום למדד יחיד

מערכת עשויה לשפר בהירות אך להגדיל חיכוך.

היא עשויה לצמצם מחלוקות אך להאט החלטות.

היא עשויה לשפר אחריותיות אך ליצור פורמליזציה מופרזת.

לכן ההערכה צריכה להישאר רב־ממדית.

ממדים אפשריים כוללים:

• בהירות;
• מילוי התחייבויות;
• מהירות;
• הסתגלות;
• חיכוך;
• הוגנות;
• הפיכות;
• אמון;
• עלות.

כל ניסוי רציני צריך לבחון פשרות בין שיקולים.

לא מוצע כאן ציון מצרפי מתוקף לאיכות התיאום.

יש למדוד את עלות הפורמליזציה

ObliNet מניח שהפיכת התחייבויות מסוימות למפורשות עשויה לשפר תיאום.

אבל למבנה יש מחיר.

עלות הפורמליזציה
זמן, נטל אינטראקציה, עומס קוגניטיבי וחיכוך בתהליך שנובעים מהמבנה הנוסף.

היא צורכת:

• קשב;
• זמן;
• מאמץ קוגניטיבי;
• מורכבות בממשק;
• משמעת ארגונית.

תוכנית מחקר חייבת למדוד את העלויות האלה.

אחרת הטענות לשיפור יהיו חלקיות.

השערה מרכזית אחת היא שהבהרה מוקדמת מצמצמת פערים בהמשך

השערה בסיסית עשויה להיות:

H1 — פרשנות
הבהרה מובנית לפני אישור תצמצם את הפער בפרשנות בהשוואה לתקשורת רגילה.

אפשר לבדוק זאת.

המשתתפים יכולים תחילה לתקשר כרגיל.

לאחר מכן כל אחד מתאר באופן עצמאי מה לדעתו הוסכם.

לאחר הבהרה מובנית חוזרים על התרגיל.

אפשר למדוד את ההבדל.

השערה אחרת עוסקת בתלויות

השערה שנייה עשויה להיות:

H2 — תלויות
ייצוג מפורש של תלויות מהותיות יצמצם החמצה של תנאים מוקדמים ויקצר את זמן זיהוי הסיכון להתחייבויות התלויות בהן.

אפשר לבדוק זאת באמצעות תרחישי תיאום מותאמים להשוואה.

קבוצה אחת משתמשת ברשימות משימות רגילות.

קבוצה אחרת משתמשת ברישומים מפורשים של תלויות.

החוקרים משווים:

• תנאים מוקדמים שהוחמצו;
• מועדים לא מציאותיים;
• זמן לזיהוי הצדדים המושפעים;
• משא ומתן מחודש בשלבים מאוחרים.

השערה שלישית עוסקת במניעת התחייבויות

אין להעריך את ObliNet רק לפי התחייבויות שמולאו בהצלחה.

לפעמים התוצאה הטובה ביותר היא שהתחייבות לא מציאותית כלל אינה נוצרת.

לכן השערה נוספת היא:

H3 — מניעת התחייבויות
נראות של כושר הביצוע והתלויות לפני התחייבות תגדיל את שיעור העדכון או הדחייה של התחייבויות לא מציאותיות לפני אישורן.

זה חשוב משום שמערכות פרודוקטיביות מקובלות עשויות לראות בכל משימה שהתקבלה התקדמות.

מניעה דורשת מדד הצלחה אחר

נניח שסוכן אומר:

״איני יכול להתחייב ליום שישי מפני שתלות קריטית טרם נפתרה.״

לא נוצרת התחייבות.

אין חריגה ממועד.

מערכות מסורתיות עשויות לא לרשום דבר.

אבל מבחינת תיאום, זו עשויה להיות הצלחה.

לכן המחקר צריך לכלול:

שיעור התחייבויות לא מציאותיות שנמנעו — מדד מוצע

השערה אחרת עוסקת במשא ומתן מחודש

מערכת מועילה צריכה להקל על שינוי, לא להקשות עליו.

לכן:

H4 — משא ומתן מחודש
תלויות גלויות והיסטוריית שינויים עם גרסאות יקצרו את משך ההמתנה למשא ומתן מחודש לאחר שינויים מהותיים בתנאים.

חוקרים יכולים למדוד:

את הזמן משינוי בתלות
עד להכרה משותפת בו
ועד להתחייבות מעודכנת.

השערה אחרת עוסקת באחריותיות

אם ההתחייבות והקשר ההחלטה ברורים יותר, ההערכה בהמשך עשויה להיות מדויקת יותר.

לדוגמה:

H5 — ראייה בדיעבד
תמונות מצב בעת קבלת ההחלטה יצמצמו הטיה בדיעבד בהערכה רטרוספקטיבית בהשוואה לבחינה המבוססת על התוצאה בלבד.

משתתפים יכולים להעריך החלטה פעמיים:

תחילה רק עם המידע שהיה זמין באותו זמן,

ואז לאחר חשיפת התוצאה.

אפשר לחקור את ההבדל בשיפוט.

תיאום בין בני אדם ל־AI דורש ניסויים נפרדים

AI מעלה שאלות חדשות.

לדוגמה:

• האם AI יכול לזהות באופן אמין התחייבויות אפשריות?
• באיזו תדירות הוא מסיק שקיימת התחייבות כשאין כזו?
• באיזו תדירות הוא מחמיץ התחייבות קיימת?
• האם משתמשים נותנים אמון מופרז בפרשנויות של AI?
• האם אישור משפר את הדיוק?
• האם AI מצמצם עמימות במידה שמצדיקה את עלות האינטראקציה הנוספת?

אלה שאלות אמפיריות.

לא הנחות.

אפשר לבדוק גם סמכות של סוכנים

תחום מחקר נוסף הוא אוטונומיה בגבולות מוגדרים.

לדוגמה:

H6 — סמכות סוכנים
מגבלות מנדט מפורשות יצמצמו התחייבויות לא מורשות של סוכנים תוך שמירה על רמה מועילה של פעולה אוטונומית לגיטימית.

שיעור התחייבויות לא מורשות
חלקן של התחייבויות שנוצרו מחוץ לסמכות תקפה.

שיעור הגבלות שגויות
פעולות לגיטימיות שנחסמו שלא לצורך בידי בקרות סמכות.

לשם כך יש למדוד את שניהם:

• פעולות לא מורשות שנמנעו;
• פעולות לגיטימיות שנחסמו שלא לצורך.

מערכת בטוחה שמונעת הכול אינה מועילה.

מערכת מועילה שמתירה הכול אינה בטוחה.

האיזון בין השיקולים חשוב.

איכות העברת הסוגיה לגורם מוסמך צריכה להיות מדידה

סוכן AI צריך לדעת מתי לבקש עזרה.

דיוק בהעברת סוגיות לגורם מוסמך
שיעור ההעברות שהיו מוצדקות לפי המנדט החל.

כיסוי בהעברת סוגיות לגורם מוסמך
שיעור המצבים שדרשו העברה ושבהם היא אכן בוצעה.

מדדים אפשריים כוללים:

• שיעור העברות מיותרות;
• שיעור העברות נדרשות שהוחמצו;
• משך ההמתנה להעברה;
• שיעור התערבויות אדם שגברו על החלטת המערכת;
• נזק שנמנע באמצעות העברת הסוגיה.

כך אפשר לבדוק את היכולת ״לדעת מתי לעצור״.

ניסויי תיאום צריכים לכלול השוואה לקווי בסיס

טענה כמו:

״ObliNet משפר תיאום״

אומרת מעט בלי השוואה.

קו הבסיס עשוי להיות:

• התכתבות רגילה;
• ניהול משימות;
• תהליך עבודה חוזי;
• תהליך אנושי בלבד;
• עוזר AI ללא מבנה התחייבויות.

ניסויים צריכים להשוות לחלופות מציאותיות.

בהקשרים מסוימים ייתכנו ניסויים אקראיים

בתהליכים עסקיים מבוקרים אפשר להקצות צוותים ל:

תהליך רגיל

או

תהליך של התחייבויות מובנות.

לאחר מכן החוקרים משווים תוצאות.

אלה יהיו ראיות חזקות יותר מסיפורי הצלחה נקודתיים.

לא כל תחום מאפשר ניסויים אקראיים.

אבל כאשר הם אפשריים ומתאימים מבחינה אתית, יש לשקול אותם.

מערכי מחקר דמויי־ניסוי, תצפיתיים ומחקרי אורך.

מחקרי שדה חשובים כי בהירות במעבדה עלולה להטעות

תיאום במעבדה פשוט יותר מתיאום בארגונים אמיתיים.

בהקשרים אמיתיים יש:

• פערי כוח;
• נתונים חלקיים;
• תמריצים;
• הפרעות;
• תחלופת עובדים;
• התנהגות אסטרטגית.

לכן יש להשלים ניסויים מבוקרים במחקרי שדה.

מחקרי אורך חשובים במיוחד

השפעות תיאום רבות מתגלות רק לאורך זמן.

לדוגמה:

• למידה חוזרת;
• שינויים באמון;
• כיול טוב יותר;
• צמצום חוב התיאום;
• שיפור בהעברת עבודה בין גורמים.

ניסוי קצר עלול להחמיץ אותם.

לכן חשובה תצפית לאורך זמן.

יש לפרסם גם תוצאות שליליות

תוכנית מחקר נעשית אמינה רק אם היא יכולה לדווח על כישלון.

אם התחייבויות מובנות:

• אינן מצמצמות עמימות;
• מגדילות חיכוך יתר על המידה;
• יוצרות ניצול מניפולטיבי של המערכת;
• מצמצמות גמישות;

התוצאות האלה חשובות.

המטרה אינה להוכיח ש־ObliNet צודק.

המטרה היא לגלות באילו תנאים הגישה עובדת או נכשלת.

ממצאים אפסיים ושליליים הם ראיות, לא כישלונות פרסום.

יש לחקור במפורש השפעות שליליות

השפעות שליליות אפשריות כוללות:

• לחץ של מעקב;
• תיעוד מופרז;
• פחד להתחייב;
• מניפולציה אסטרטגית במדדים;
• עיכובים בירוקרטיים;
• ריכוז כוח בידי מנהלי המערכת.

אלה אינן הערות שוליים.

הן חלק מסדר היום המחקרי.

ייתכן שיש רמה מיטבית של פורמליזציה

מעט מדי מבנה יוצר עמימות.

יותר מדי מבנה יוצר בירוקרטיה.

מודל מושגי — לא מדד מתוקף.

ערך התיאום נטו
≈
התועלת מצמצום עמימות
−
עלות המבנה הנוסף

הפונקציה המדויקת אינה ידועה.

מציאת הטווח המועיל היא בעיה אמפירית.

הסיכון עשוי לקבוע את רמת המבנה המתאימה

השערה אפשרית אחת היא:

H7 — פורמליזציה מידתית
הערך נטו של פורמליזציה יגדל ככל שהעלות הצפויה של עמימות תגדל.

אינטראקציה בסיכון נמוך עשויה להפיק תועלת מכמעט היעדר מבנה.

תיאום בסיכון גבוה עשוי להצדיק מבנה רב בהרבה.

אפשר לחקור זאת בתחומים שונים.

המיקום ברשת עשוי לנבא סיכון תיאום

להתחייבות שנמצאת במרכז תלויות רבות עשויה להיות השפעה מערכתית גדולה יותר.

הדבר מצביע על כיוון מחקר המבוסס על תורת הגרפים.

משתנים אפשריים כוללים:

• מספר ההתחייבויות התלויות בהמשך;
• עומק התלויות;
• מרכזיות;
• עיכוב בהתפשטות;
• ריכוז סמכות.

הרשת עצמה עשויה לחשוף דפוסי סיכון.

להתחייבות קטנה עשויה להיות השפעה גדולה בהמשך

מודל מושגי — לא מדד מתוקף.

השפעת התיאום
≈
הערך הישיר של ההתחייבות
×
החשיפה של תלויות בהמשך

זו השערה על חשיפה מערכתית, לא נוסחת הערכה מתוקפת.

הנקודה החשובה היא שאי אפשר להסיק השפעה מהגודל המקומי בלבד.

ההקשר הרשתי חשוב.

יש לחקור תיאום בקרב סוגים שונים של גורמים

אותה מסגרת עשויה להתאים ל:

• יחידים;
• צוותים;
• חברות;
• ממשלות;
• סוכני AI.

אבל אין להניח התנהגות זהה.

המחקר צריך לבדוק היכן האנלוגיה תקפה והיכן היא נשברת.

בתיאום אנושי יש נורמות שסוכנים עשויים לא לחלוק

בני אדם משתמשים ב:

• אמון;
• הקשר חברתי;
• נורמות משתמעות;
• רגש;
• מוניטין.

סוכני AI עשויים לפעול אחרת.

לכן פרוטוקול תיאום אינו צריך להניח שמה שעובד לבני אדם עובד אוטומטית למכונות.

סוכני AI עשויים לחשוף הנחות סמויות במערכות אנושיות

באופן פרדוקסלי, תיאום בין מכונות עשוי לחייב אותנו לתת מבנה מפורש למושגים שבני אדם משאירים בדרך כלל משתמעים.

לדוגמה:

סמכות;

קבלת התוצאה;

האצלה;

תנאים;

ביטול.

הדבר עשוי לשפר גם את הבנתנו לגבי תיאום אנושי.

המחקר צריך להבחין בין שאלות תיאוריות לשאלות נורמטיביות

יש שאלות תיאוריות:

באיזו תדירות משתתפים חלוקים בשאלה מה הובטח?

אחרות הן נורמטיביות:

מה צריך להיחשב סמכות לגיטימית?

אלה שאלות שונות.

מדע התיאום אינו צריך לטשטש ביניהן.

מחקר אמפירי יכול לתאר מנגנוני תיאום והשלכותיהם; הוא אינו יכול כשלעצמו לקבוע סמכות לגיטימית, זכויות או ערכים חברתיים.

אי אפשר להוציא ערכים ממחקר על ממשל

לדוגמה:

מדיניות אחת ממקסמת יעילות;

אחרת מגבירה שוויון.

נתונים יכולים לתאר את הפשרה.

הם אינם יכולים לקבוע איזה ערך צריך לגבור.

תוכנית מחקר קפדנית חייבת לציין היכן מסתיים הניתוח האמפירי ומתחיל השיפוט הנורמטיבי.

מחקר התיאום צריך להישאר בין־תחומי

תחומים רלוונטיים עשויים לכלול:

• כלכלה;
• מדעי הארגון;
• מדע המדינה;
• מדעי המחשב;
• מערכות מבוזרות;
• בטיחות AI;
• משפט;
• פסיכולוגיה;
• מדע הרשתות;
• אינטראקציית אדם–מחשב.

בעיות תיאום חוצות גבולות בין תחומים.

זהו יתרון, אך גם אתגר.

נדרשת טרמינולוגיה משותפת

תחומים שונים משתמשים במילים כגון:

חובה;

התחייבות;

סמכות;

האצלה;

אמון;

אחריותיות,

בדרכים שונות.

תוכנית מחקר זקוקה להגדרות מפורשות.

אחרת חוקרים עלולים להשתמש באותן מילים לתופעות שונות.

יש לראות ב־ObliNet עצמו תשתית ליצירת השערות

אין להציג את ObliNet כהוכחה למדע התיאום.

ObliNet הוא מימוש אפשרי אחד של תוכנית המחקר, לא הגדרת התחום עצמו.

הוא יכול לשמש:

הצעה לפורמליזציה;

פלטפורמה למדידה;

התערבות ניסויית.

אם הוא מפיק נתונים מועילים והשפעות ניתנות לבדיקה, תוכנית המחקר מקבלת תוכן ממשי.

אם לא, יש לשנות את התכנון.

תוכנית מחקר טובה צריכה להיות ניתנת להפרכה

רעיון שאינו יכול להיכשל אינו יכול ללמוד.

לכן טענות הקשורות ל־ObliNet צריכות לציין אילו ראיות ייחשבו נגדן.

לדוגמה:

אם הבהרה מובנית מגדילה בעקביות חיכוך בלי לצמצם פער בפרשנות, הדבר מערער על הגישה.

אם מיפוי תלויות אינו משפר זיהוי מוקדם של סיכון, הדבר מערער על השערת הרשת.

אם זיהוי התחייבויות באמצעות AI יוצר יותר התחייבויות שגויות משהוא מונע, הדבר מערער על תכנון הממשק.

אלה תוצאות בריאות למחקר.

יש להגדיר הצלחה לפני תחילת הניסויים

חוקרים אינם צריכים להחליט בדיעבד מה נחשב הצלחה.

כל מחקר צריך להגדיר מראש:

• השערה;
• מדגם;
• קו בסיס;
• התערבות;
• מדדים;
• תקופת תצפית;
• קריטריונים להצלחה;
• מגבלות.

כך מצמצמים פרשנות מחודשת בדיעבד.

הראיות צריכות לכלול תוצאות אפסיות

תוצאה אפסית היא עדיין תוצאה.

לדוגמה:

אין צמצום מדיד בעמימות.

הדבר עשוי לומר:

• שההשערה שגויה;
• שההתערבות חלשה;
• שהמדד אינו טוב;
• שההקשר אינו מתאים.

כל אפשרות מלמדת משהו.

שחזור ממצאים חשוב

תוצאה מחברה אחת או ממדינה אחת אינה מספיקה.

מנגנוני תיאום עשויים להיות תלויים מאוד בתרבות, בתמריצים ובמוסדות.

יש לשחזר ממצאים חשובים בהקשרים שונים.

המחקר צריך להפריד בין מנגנון לתוצאה

נניח שמספר המחלוקות יורד לאחר הנהגת התחייבויות מובנות.

מדוע?

אפשרויות כוללות:

• ציפיות ברורות יותר;
• התחייבויות זהירות יותר;
• תשומת לב רבה יותר;
• אפקט החידוש;
• לחץ הנהלה.

חשוב להבין את המנגנון.

אחרת ייתכן שלא יהיה אפשר להכליל את התוצאה.

תיאום אינו זהה לציות

מערכת יכולה להפגין ציות מושלם ועדיין לתאם בצורה גרועה.

לדוגמה:

כולם פועלים לפי הכלל,

אבל הכלל יוצר פעולות שאינן מתיישבות זו עם זו.

לכן מחקר התיאום צריך להתמקד בהתאמה ובהסתגלות, ולא רק בצייתנות.

המטרה אינה הסכמה מרבית

מערכת שבה כולם תמיד מסכימים עלולה להיות לא בריאה.

מחלוקת עשויה לחשוף:

• ערכים מתנגשים;
• התחייבויות בלתי אפשריות;
• סיכונים סמויים;
• הנחות לקויות.

המטרה אינה לבטל מחלוקת.

המטרה היא להפוך אותה לגלויה ולכזו שאפשר לפעול בעקבותיה.

לפעמים התוצאה הנכונה היא היעדר התחייבות

זה צריך להישאר עיקרון מחקרי מרכזי.

מערכת שמייצרת פחות התחייבויות עדיין עשויה לשפר תיאום אם היא מונעת התחייבויות לא מציאותיות.

לכן אי אפשר למדוד הצלחה רק לפי:

מספר ההתחייבויות שנוצרו.

לפעמים:

ההתחייבות הטובה ביותר היא זו שלא נוצרה.

מחקר התיאום צריך לשאול אם הבהירות מצדיקה את עלותה

השאלה המעשית המרכזית אינה:

״האם נוכל להפוך התחייבויות למפורשות יותר?״

נוכל.

השאלה האמיתית היא:

״האם השיפור בתיאום מצדיק את העלות של הפיכת ההתחייבויות למפורשות?״

זו שאלה אמפירית.

תוכנית המחקר צריכה להישאר פתוחה

מדע התיאום אינו צריך להפוך לדוקטרינה סביב ObliNet.

מודלים אחרים עשויים לעבוד טוב יותר.

עשויים להופיע ייצוגים אחרים.

פרוטוקולים אחרים עשויים לעלות על גרפי התחייבויות.

תוכנית מחקר חייבת להישאר פתוחה להחלפה.

העיקרון התשיעי של ObliNet

לכן העיקרון התשיעי הוא:

יש לחקור תיאום כבעיה מחקרית אמפירית וניתנת להפרכה: יש להגדיר מושגים, לבדוק השערות מול קווי בסיס מציאותיים, למדוד תועלות ועלויות ולאפשר לממצאים אפסיים או שליליים לערער על המודל.

ObliNet אינו ראיה להצלחתו שלו.

זו הצעה.

יש לבדוק את הטענות.

יש לערער על המדדים.

התכנון צריך להשתנות כשהמציאות סותרת אותו.

ומדע התיאום צריך להתפתח רק במידה שהראיות מצדיקות זאת.

מערכות בעלות כוח אינן צריכות להיות תלויות במרכז אחד

ככל שמערכת נעשית בעלת יכולת רבה יותר, הריכוז נעשה מסוכן יותר.

זה נכון בפוליטיקה.

זה נכון בארגונים.

וזה נכון יותר ויותר בתשתיות AI.

גורם יחיד עשוי לשלוט ב:

החלטות;

נתונים;

מודלים;

משאבי מחשוב;

כלים;

התחייבויות;

ביקורת.

זה עשוי להיות יעיל.

זה עשוי גם להיות שברירי.

אם אותו מרכז יכול לפעול, להגדיר את הכללים, לתעד מה קרה ולשפוט אם הפעולה הייתה קבילה, האחריותיות נחלשת.

ריכוז יוצר סיכון להשתלטות

השתלטות היא מצב שבו גורם אחד משיג שליטה מספקת בפונקציות קריטיות, ברישומים, בתשתיות או בפרשנות כדי לקדם את האינטרסים שלו, תוך החלשת האפשרות הממשית לערער, לצאת או להחליף אותו.

השתלטות לא תמיד נראית דרמטית.

היא יכולה להתרחש בהדרגה.

ספק נעשה חיוני ללא תחליף.

מוסד נעשה המקור היחיד לרישומים.

מודל AI נעשה הפרשן המקובל היחיד.

מבקר תלוי בארגון המבוקר.

מנהיג שולט גם בביצוע וגם במידע המשמש להערכת הביצוע.

כל מקרה יוצר בעיה מבנית:

הגורם שנותנים בו אמון שולט גם בחלק גדול מדי מהמנגנון שמייצר אמון.

הפרדת רשויות היא עיקרון ארכיטקטוני

מערכות פוליטיות פיתחו הפרדת רשויות משום שריכוז סמכות מסוכן.

אפשר להרחיב את אותו היגיון גם לטכנולוגיה.

האנלוגיה להפרדת רשויות חוקתית היא ארכיטקטונית, לא מילולית.

מערכת תיאום עתידית עשויה להזדקק לשכבות נפרדות עבור:

• סמכות לקבלת החלטות;
• ייעוץ AI;
• נתונים;
• מחשוב;
• זהות;
• כלים וביצוע;
• התחייבויות;
• תשלומים;
• ביקורת;
• פיקוח ציבורי או פיקוח של בעלי עניין.

הפונקציות האלה אינן צריכות להשתייך אוטומטית לספק אחד.

שום שכבה אינה צריכה להפוך לריבונית במקרה

רכיב טכני יכול לרכוש כוח פוליטי בלי שתוכנן כמוסד פוליטי.

לדוגמה:

מי ששולט במודל עשוי לעצב פרשנות;

מי ששולט במחשוב עשוי לקבוע אילו מודלים יוכלו לפעול;

מי ששולט בזהות עשוי לקבוע מי יוכל לפעול;

מי ששולט ברישום ההתחייבויות עשוי לעצב את ההיסטוריה;

מי ששולט בביקורת עשוי להגדיר מה נחשב ראיה תקפה.

לכן בחירות תשתית נעשות בחירות ממשל.

מודל AI אינו צריך לשלוט בסמכות

AI יכול להמליץ על פעולה.

הוא אינו צריך להחליט בעצמו אם יש לו זכות לבצע אותה.

מנדט
האצלה מוגבלת של סמכות המגדירה בשם מי גורם רשאי לפעול, אילו פעולות או התחייבויות מותרות, ובאילו מגבלות, תנאים ומשך זמן.

כך נשמר העיקרון:

יכולת ≠ סמכות.

גורם אינו צריך לשלוט ברישום היחיד של פעולותיו

נניח שסוכן מבצע עסקה וגם שולט ברישום היחיד שלה.

אז נתיב הביקורת תלוי לחלוטין בגורם המבוקר.

זו אחריותיות חלשה.

רישומים חשובים צריכים להיות ניתנים לבדיקה עצמאית כאשר הדבר מתאים.

המבקר אינו צריך להיות תלוי מבנית בגורם המבוקר

מבקר עשוי להיות עצמאי פורמלית אך תלוי כלכלית או טכנית.

לדוגמה:

אותה פלטפורמה מממנת את המבקר;

המבקר יכול לגשת לראיות רק דרך הפלטפורמה;

הארגון המבוקר יכול לבטל את הגישה הזאת.

עצמאות פורמלית אינה מספיקה.

עצמאות אמיתית דורשת יכולת מעשית לבדוק ולערער.

שכבת ההתחייבויות אינה צריכה להפוך למונופול חדש

ObliNet עצמו חייב להיות כפוף לאותו עיקרון של מניעת השתלטות.

אם כל היסטוריית ההתחייבויות קיימת רק בתוך מימוש קנייני אחד, ObliNet עלול להפוך בדיוק למוקד הריכוז שהוא נועד לצמצם.

הפרוטוקול צריך להיות חשוב יותר מהפלטפורמה.

ניידות היא חלק מאחריותיות

ניידות
← יציאה
← אפשרות החלפה
← חוסן

ניידות = רישומים, משמעות והיסטוריה רלוונטית יכולים לעבור.

יציאה = משתתפים יכולים לעזוב או להחליף ספק בלי כבילה הרסנית.

אפשרות החלפה = גורם או ספק אחר יכול למלא את הפונקציה.

חוסן = הרציפות נשמרת בעת החלפה.

משתתפים צריכים להיות מסוגלים להעביר:

• היסטוריית התחייבויות;
• רישומי סמכות;
• מבני תלויות;
• היסטוריית קבלת התוצאה;
• הפניות לראיות;

למימוש תואם אחר כאשר הדבר אפשרי.

אחרת היציאה נעשית יקרה.

ויציאה יקרה יוצרת תלות.

יציאה היא מנגנון ממשל

יציאה היא מנגנון ממשל כאשר משתתפים יכולים לעזוב או להחליף ספק בלי לאבד היסטוריה לגיטימית, זכויות או רציפות.

זה חל על:

ספקי AI;

ספקי מחשוב;

מבקרים;

פלטפורמות תיאום.

אפשרות היציאה מגבילה כוח.

אפשרות החלפה היא צורה של חוסן

מערכת בריאה צריכה להניח שכל רכיב עלול להיכשל.

מנהיג עלול להפוך למושחת.

מודל AI עלול להפוך ללא אמין.

ספק מחשוב עלול להפוך ללא זמין.

מבקר עלול ליפול תחת השתלטות.

פלטפורמת תיאום יכולה לטעות.

לכן יש לתכנן את המערכת סביב אפשרות החלפה.

אין גורם יחיד שאין לו תחליף

מערכת נעשית שברירית כאשר אי אפשר להחליף אדם, חברה, מודל או פלטפורמה אחת בלי קריסה.

• מנהיגים: מוסדות צריכים לשרוד חילופי הנהגה תוך שמירת התחייבויות, הנחות, סיכונים ותלויות שלא נפתרו.
• מודלי AI: החלפת מודלים צריכה לשמר היסטוריית מנדטים, התחייבויות, ראיות והקשר החלטות.
• ספקי מחשוב: מחשוב מבוזר או מחשוב אצל כמה ספקים יכולים לצמצם תלות בספק אחד.
• ספקי ביקורת: שיטות צריכות להישאר בנות השוואה, וקבלת חוות דעת נוספת צריכה להישאר אפשרית.
• מימושי ObliNet: משתתפים צריכים להיות מסוגלים לעבור למימוש אחר בלי להפוך מוצר אחד לקבוע לצמיתות.

אפשרות החלפה אינה פירושה מעבר מתמיד. פירושה שהמעבר נשאר אפשרי.

רציפות הפרוטוקול חשובה יותר מרציפות הספק

פרוטוקול יכול לשרוד מעבר לחברה שמימשה אותו לראשונה.

זו צורת תשתית בריאה יותר.

לדוגמה:

תקני תקשורת שורדים יישומים מסוימים;

תקני תשלום שורדים בנקים מסוימים;

תקני רשת שורדים דפדפנים מסוימים.

שכבת התחייבויות צריכה לשאוף לניידות דומה.

ניידות צריכה לשמר משמעות, ולא רק לאפשר ייצוא קבצים.

ההיסטוריה צריכה להיות ניתנת לבדיקה עצמאית

אם ספק אחד יכול לשכתב רישומים היסטוריים בלי שהדבר יתגלה, האחריותיות נעשית שברירית.

שינויים חשובים צריכים להשאיר עקבות.

לדוגמה:

התחייבות מקורית
← עדכון
← סיבה
← אישור

ההיסטוריה יכולה להתפתח.

אבל היא אינה צריכה להיעלם בשקט.

אפשרות בדיקה אינה מחייבת גישה פומבית.

יש לכבד גבולות של פרטיות וסודיות.

אימות עצמאי צריך להיות אפשרי כאשר חשיבות ההשלכות מצדיקה זאת

לא כל התחייבות זקוקה לאימות קריפטוגרפי או מוסדי.

אבל תיאום בעל השפעה משמעותית עשוי להצדיק ערבויות חזקות יותר.

לדוגמה:

רכש ציבורי;

עסקאות מפוקחות;

מסחר של סוכנים בערך גבוה;

החלטות ציבוריות משמעותיות.

עוצמת האימות צריכה להיות מידתית להשלכות.

בהתאם להקשר, האימות יכול להיות קריפטוגרפי, מוסדי, תהליכי או מבוסס ראיות.

נתונים ופרשנות צריכים להישאר ניתנים להפרדה

מערכת אחת יכולה לאחסן נתונים.

אחרת יכולה לפרש אותם.

ההפרדה הזאת עשויה להועיל.

אם אותו גורם שולט גם בראיות וגם בפרשנות היחידה, קשה לחלוק עליו.

ניתוח מרובה נקודות מבט דורש גישה לראיות בסיס משותפות כאשר הדבר מתאים מבחינה חוקית.

שליטה בראיות אינה צריכה להקנות אוטומטית שליטה בפרשנות.

סמכות פרשנית אינה צריכה להתיר שינוי שקט של ראיות.

יש לאפשר למודלים לחלוק זה על זה

מערכת אינה צריכה לכפות פרשנות AI אחת כקנונית רק משום שמודל אחד דומיננטי.

מודלים שונים יכולים לנתח אותן ראיות.

מחלוקת עשויה לחשוף:

• אי־ודאות;
• הנחות סמויות;
• הטיה של המודל;
• נתונים חלקיים.

ריבוי עשוי לשפר חוסן כאשר המודלים עצמאיים באמת במידה מספקת כדי להיכשל בדרכים שונות.

ייעוץ AI צריך להישאר בגדר ייעוץ

גם אם כמה מודלים מסכימים, הם אינם מקבלים אוטומטית סמכות פוליטית או משפטית.

הסכמה בין מודלים היא עדיין ניתוח.

הסמכות נשארת בידי תהליכים אנושיים או מוסדיים לגיטימיים.

גם כוח הנובע משליטה בנתונים דורש מגבלות

מי ששולט בנתונים יכול לעצב את מה שאחרים יכולים לדעת.

לכן ארכיטקטורה למניעת השתלטות חייבת להתייחס ל:

• גישה לנתונים;
• בעלות על נתונים;
• ניידות נתונים;
• חשיפה סלקטיבית;
• זכויות ביקורת.

פיזור מחשוב לבדו אינו מספיק.

ביזור תשתיות אינו יוצר אוטומטית ממשל אחראי וניתן לבחינה

מערכת יכולה לכלול מחשוב מבוזר ועדיין סמכות ריכוזית.

היא יכולה לכלול גם נתונים מבוזרים אך פרשנות ריכוזית.

לכן יש לראות בביזור שכבה אחת.

לא פתרון מלא לממשל.

Gonka ו־ObliNet עוסקים בשכבות שונות

בהצעה הארכיטקטונית הנדונה כאן:

Gonka מייצג מחשוב AI מבוזר וצמצום התלות בתשתית ריכוזית.

ObliNet מייצג סמכות, התחייבויות, תלויות ואחריותיות הניתנות לבחינה.

אלה פונקציות שונות.

ההשלמה היא מושגית וארכיטקטונית

הקשר אינו בכך ש־Gonka ו־ObliNet הם אותה מערכת.

הם אינם אותה מערכת.

הקשר המוצע הוא ששניהם עוסקים בריכוז בשכבות שונות.

Gonka עוסק ב:

ריכוז כושר המחשוב.

ObliNet עוסק ב:

ריכוז ואטימות של סמכות ואחריות.

לכן הצימוד הוא השערה על תשתיות משלימות.

לא טענה לשותפות או לאינטגרציה קיימת.

פיזור מחשוב ללא נראות של סמכות אינו שלם

דמיינו שמחשוב מבוזר מפעיל סוכן AI.

אבל איש אינו יכול לומר:

מי הסמיך את הסוכן;

מה הוא רשאי להבטיח;

מי אחראי;

אילו התחייבויות יצר.

המחשוב מבוזר.

בעיית הממשל נותרת.

גם נראות של סמכות ללא ריבוי תשתיות אינה שלמה

כעת דמיינו שהתחייבויות וסמכות ניתנות לבחינה מלאה.

אבל ספק אחד שולט ב:

כל המודלים;

כל המחשוב;

כל הרישומים.

המערכת הזאת עדיין מכילה סיכון של ריכוז.

לכן גם הממשל וגם ארכיטקטורת התשתית חשובים.

הפרדת רשויות טכנולוגית

לכן ארכיטקטורה אפשרית עשויה להפריד בין:

סמכות לקבלת החלטות
מי רשאי להחליט באופן לגיטימי

כוח הייעוץ של AI
מערכות שמנתחות וממליצות

זהות

נתונים
ראיות ומצב

מחשוב
תשתית שמפעילה מודלים

שכבת ההתחייבויות
סמכות, התחייבויות, תנאים ותלויות

ביצוע
כלים שמבצעים פעולות

ביקורת
בדיקה עצמאית

פיקוח ציבורי או פיקוח של בעלי עניין
בחינה אנושית לגיטימית

שום שכבה אינה צריכה לשלוט אוטומטית בכל האחרות.

הפרדה אינה בידוד

השכבות האלה חייבות לפעול זו עם זו.

הסמכות מנחה את הביצוע.

AI מנתח נתונים.

התחייבויות מפעילות פעולות.

הביקורת בודקת ראיות.

הפיקוח בוחן השלכות.

המטרה אינה פיצול.

המטרה היא תלות הדדית ללא שליטה מוחלטת של גורם אחד.

בין השכבות צריכים להתקיים מנגנוני איזון ובקרה

לדוגמה:

הייעוץ מציע. הסמכות מעניקה לגיטימיות. הביצוע פועל. הרישומים משמרים. הביקורת מערערת. הפיקוח שופט.

כל שכבה מגבילה את האחרות.

כוח צריך להיות ניתן לבחינה בין השכבות

השאלה אינה צריכה להיות רק:

״מי המנהיג?״

צריך לשאול גם:

״מי שולט במודל?״

״מי שולט במחשוב?״

״מי שולט בגישה לנתונים?״

״מי שולט ברישום?״

״מי מבצע ביקורת?״

כוח יכול להסתתר בתוך תשתית.

ריכוז תלויות צריך להיות מדיד

מערכת עשויה להיראות מבוזרת ובכל זאת להיות תלויה מאוד בספק אחד.

לדוגמה:

חמישה יישומים

עשויים כולם להיות תלויים ב:

API של מודל אחד.

כך נוצר ריכוז סמוי.

גרף התחייבויות ותלויות יכול לסייע בחשיפת תלות מבנית כזו.

בחינת ריכוז התלויות צריכה להביא בחשבון בעלות גלויה ותלויות משותפות סמויות.

מניעת השתלטות דורשת מעקב אחר ריכוז לאורך זמן

ארכיטקטורה בריאה היום עלולה להתרכז מחר.

ספק גדל.

מתרחש מיזוג.

תקן נעשה קנייני.

מבקר מאבד עצמאות.

לכן מניעת השתלטות אינה החלטת תכנון חד־פעמית.

זהו תהליך מתמשך.

השתלטות יכולה להתרחש גם דרך תקנים

תקן יכול להיות פתוח בשם אך נשלט בפועל.

לדוגמה:

ארגון אחד שולט במפרט;

אי אפשר להימנע ממימוש אחד;

תנאי הרישוי משתנים;

התאימות נעשית סלקטיבית.

לכן חשוב הממשל של הפרוטוקול עצמו.

תקנים זקוקים לממשל רב־צדדי

תקן תיאום בשל עשוי לדרוש:

• מפרטים פומביים;
• מימושים עצמאיים;
• ניהול גרסאות;
• תהליכי שינוי שקופים;
• כללי תאימות ברורים.

מפרטים פומביים, מימושים עצמאיים, ניהול גרסאות, תהליכי שינוי שקופים וכללי תאימות צריכים לצמצם שליטה של גורם יחיד.

תאימות לאחור יכולה להגן על רציפות

אם פרוטוקול מתפתח, רישומים ישנים צריכים להישאר ניתנים לפרשנות.

אחרת שינוי טכני עלול למחוק אחריותיות היסטורית.

זה חשוב במיוחד למוסדות ארוכי שנים.

אפשרות לפיצול יכולה להיות אמצעי הגנה

במערכות מסוימות, אפשרות לפיצול או מימוש חלופי אמין יכולה להיות אמצעי הגנה.

אם הממשל נעשה בלתי קביל, מימוש חלופי עשוי להמשיך את ההיסטוריה.

אפשרות לפיצול אינה תמיד רצויה.

אבל אפשרות אמינה ליציאה יכולה לרסן שליטה ריכוזית.

תחרות לבדה אינה מספיקה

גם כמה ספקים יכולים להגיע לריכוז גבוה.

הם יכולים גם לחלוק אותן תלויות.

לכן תכנון למניעת השתלטות צריך לבחון מבנה, לא מיתוג.

חמישה שירותים שפועלים על אותו מודל, ענן ומערכת זהות עדיין עשויים לייצג נקודת כשל מעשית אחת.

גיוון חשוב

חוסן עשוי לדרוש גיוון ב:

• מודלים;
• ספקי מחשוב;
• מבקרים;
• מקורות נתונים;
• מימושים.

אופני כשל שונים מצמצמים סיכון מתואם.

כשל מתואם הוא סכנה מערכתית

אם כל המשקיפים משתמשים באותו מודל, הם עלולים לשחזר אותה טעות.

אם כל הפלטפורמות משתמשות באותו ספק מחשוב, השבתה אחת משפיעה על כולן.

אם כל ביקורת תלויה באותו מערך נתונים, טעות נתונים אחת מתפשטת לכול.

העצמאות צריכה להיות אמיתית, לא קוסמטית.

מניעת השתלטות צריכה לכלול תמריצים כלכליים

ארכיטקטורה טכנית לבדה אינה יכולה למנוע ריכוז.

שווקים יוצרים תמריצים לגדול.

אפקטי רשת יוצרים כבילה.

רכש מבסס ספקים קיימים.

לכן הממשל צריך לשאול גם:

אילו תמריצים הופכים גורם אחד ליותר ויותר חסר תחליף?

מניעת השתלטות היא בחלקה כלכלית.

מניעת השתלטות חייבת לכלול מבנה כלכלי: עלויות מעבר, אפקטי רשת, תלות ברכש וניגודי עניינים כספיים.

שקיפות המימון חשובה

למשקיפים, למבקרים ולספקי תשתיות עשויים להיות ניגודי עניינים.

ניגודי העניינים האלה צריכים להיות גלויים.

מעריך שלכאורה עצמאי עשוי להיות תלוי כספית בגורם שהוא מעריך.

התלות הזאת חשובה.

הממשל חייב לכלול את הממשל של ObliNet עצמו

מי משנה את הפרוטוקול?

מי מחליט אילו תכונות הופכות לתקן?

מי שולט במימושי הייחוס?

מי יכול לגשת לרישומים היסטוריים?

מי יכול להסיר מימוש?

אי אפשר לדחות את השאלות האלה לעד.

מערכת לאחריותיות חייבת להיות ניתנת לניהול לפי אותם עקרונות למניעת השתלטות שהיא מחילה על אחרים.

ObliNet אינו צריך להפוך לסמכות שהוא מתעד

ההבחנה הזאת חיונית.

ObliNet יכול לתעד:

למי הייתה סמכות.

הוא אינו צריך להחליט אוטומטית:

למי מגיעה סמכות.

הוא יכול להראות:

איזו התחייבות נוצרה.

הוא אינו צריך להפוך לריבון שמייצר לגיטימיות בעצמו.

שכבת ההתחייבויות צריכה לתאר סמכות, לא לייצר אותה

סמכות לגיטימית יכולה לנבוע מ:

• חוק;
• חוזה;
• מנדט ארגוני;
• האצלה דמוקרטית;
• הסכמה מפורשת.

ObliNet יכול לייצג סמכות; הוא אינו יוצר לגיטימיות מעצם תיעודה.

ביקורת צריכה לערער על הרישום

מערכת ביקורת צריכה להיות מסוגלת לומר:

״הרישום טוען X, אבל הראיות תומכות ב־Y.״

שכבת ההתחייבויות אינה צריכה להפוך לחסינה מסתירה.

רישומים מובנים נשארים טענות עד שהם נתמכים בראיות במקום שבו נדרשות ראיות.

מוסדות אנושיים נשארים נחוצים

בתי משפט.

פרלמנטים.

דירקטוריונים.

רגולטורים.

תקשורת עצמאית.

גופים מקצועיים.

המוסדות האלה עדיין חשובים.

הפרדת רשויות טכנולוגית משלימה הפרדת רשויות מוסדית.

היא אינה מחליפה אותה.

הארכיטקטורה צריכה להקשות על ניצול לרעה, לא להפוך אותו לבלתי אפשרי

שום ארכיטקטורה אינה יכולה לבטל לחלוטין ניצול לרעה.

מטרה כנה מוגבלת יותר:

להפוך ריכוז לגלוי;

להקשות על השתלטות;

לאפשר יציאה;

לאפשר החלפה;

לשמר ראיות;

לצמצם נקודות שליטה יחידות.

יש לכך ערך גם בלי שלמות.

מניעת השתלטות מפחיתה לפעמים יעילות

ריכוזיות יכולה להיות יעילה.

ספק אחד עשוי להיות מהיר יותר.

מודל אחד עשוי להיות זול יותר.

מסד נתונים אחד עשוי להיות פשוט יותר.

לכן למניעת השתלטות יש עלות.

המערכת צריכה לאזן בין:

יעילות

לבין

חוסן ואחריותיות.

זו פשרה בתכנון.

מערכות בעלות השפעה משמעותית מצדיקות הפרדה חזקה יותר

להפרדה חזקה יותר יש עלות תפעולית, והיא צריכה להיות מידתית להשלכות, לסיכון הריכוז ולהפיכות.

תהליך פנימי בסיכון נמוך עשוי לאפשר ארכיטקטורה ריכוזית.

מערכת שמשפיעה על:

ממשל לאומי;

תשתיות קריטיות;

זרימות כספיות בקנה מידה גדול;

סוכני AI אוטונומיים,

עשויה להצדיק עצמאות חזקה בהרבה בין השכבות.

ככל שהכוח רב יותר, כך גדל הצורך בבלמים

זהו אותו עיקרון מידתיות שמופיע במקומות אחרים ב־ObliNet.

השלכות משמעותיות יותר צריכות להביא ל:

גבולות סמכות חזקים יותר;

יכולת בחינה חזקה יותר;

ביקורת חזקה יותר;

אפשרות החלפה חזקה יותר.

לא מפני שכל גורם בעל כוח הוא זדוני.

מפני שכשל מרוכז עולה ביוקר.

עתיד מבוזר צריך להישאר ניתן לממשל

פיזור כשלעצמו יכול גם ליצור בעיות.

גורמים עצמאיים רבים מדי עשויים ליצור:

• פיצול;
• תקנים לא תואמים;
• אחריות לא ברורה;
• תיאום איטי.

לכן המטרה אינה ביזור בכל מחיר.

המטרה היא:

כוח מבוזר עם תיאום מפורש.

תיאום מונע מביזור להפוך לכאוס

כאן שכבת ההתחייבויות נעשית חשובה.

מערכת מבוזרת עדיין צריכה לדעת:

מי רשאי לפעול;

מי התחייב;

מה תלוי במה;

מי מקבל את התוצאה;

מי אחראי.

ביזור ללא תיאום יוצר פיצול.

תיאום ללא ביזור עלול ליצור השתלטות.

הארכיטקטורה חייבת לאזן בין שניהם.

חוסן נובע מיכולת מבוזרת ומאחריות ניתנת לבחינה

מכאן עולה עיקרון תכנון רחב יותר:

היכולת צריכה להיות מבוזרת דיה כדי להימנע מתלות; האחריות צריכה להיות מפורשת דיה כדי לשמור על אחריותיות.

שתי המטרות האלה מחזקות זו את זו.

המערכת צריכה לשרוד כשל של כל משתתף יחיד

מבחן חוסן מעשי הוא:

מה יקרה אם הגורם הזה ייעלם מחר?

אם התשובה היא:

״המערכת כולה תיעצר״,

התלות הזאת ראויה לתשומת לב.

אפשר להחיל את המבחן על:

• מנהיגים;
• מודלים;
• מחשוב;
• זהות;
• מבקרים;
• פלטפורמות תיאום.

העיקרון העשירי של ObliNet

לכן העיקרון העשירי הוא:

מערכות בעלות השלכות משמעותיות צריכות להפריד בין סמכות, ייעוץ, תשתית, ביצוע, רישומים וביקורת, כך ששום גורם יחיד לא יוכל לשלוט בכל השרשרת שבה כוח מופעל ונבחן. משתתפים ומימושים קריטיים צריכים להישאר ניתנים לבחינה, לביקורת ולהחלפה.

מחשוב מבוזר יכול לצמצם ריכוז תשתיות.

התחייבויות ניתנות לבחינה יכולות לצמצם אטימות בממשל.

ביקורת עצמאית יכולה לערער על שניהם.

פרוטוקולים יכולים לשמר רציפות בין ספקים.

ושום מימוש — לרבות ObliNet עצמו — אינו צריך להפוך לחסר תחליף.

המטרה אינה עולם ללא כוח.

המטרה היא עולם שבו קשה יותר להשתלט על כוח מפני שהוא מחולק, גלוי וניתן להחלפה.

אחריותיות אינה צריכה לדרוש נראות מוחלטת

מערכת שנועדה להפוך אחריות לניתנת לבחינה עלולה להיות מסוכנת אם היא מניחה שהכול צריך להיות ניתן לבחינה.

זו תהיה טעות.

בני אדם זקוקים למרחב פרטי.

ארגונים זקוקים למרחב סודי.

ממשלות זקוקות לפעמים לסודיות לגיטימית.

משא ומתן דורש לעיתים אי־ודאות זמנית.

יצירתיות דורשת מחשבה שטרם הושלמה.

אמון דורש שיחות שאינן חשופות לצמיתות.

לכן המטרה של ObliNet אינה:

להפוך הכול לגלוי.

אלא:

להפוך את המבנה הרלוונטי של אחריות בעלת השלכות משמעותיות לגלוי לאנשים שזכאים באופן לגיטימי לראותו.

זו הבחנה יסודית.

שקיפות ופרטיות אינן הפכים

שקיפות עונה על השאלה:

מה צריך להיות ניתן לבחינה?

פרטיות עונה על השאלה:

מה צריך להישאר מוגן, מפני מי ולמשך כמה זמן?

מערכת בשלה זקוקה לשתיהן.

מעט מדי שקיפות מאפשרת לכוח להסתתר.

מעט מדי פרטיות מאפשרת לכוח לחדור.

האתגר אינו לבחור באחת.

הוא בתכנון הגבול.

כוח ציבורי וחיים פרטיים דורשים ברירות מחדל שונות

אזרח שחי את חייו הפרטיים אינו צריך לחשוף את עצמו רק משום שמוסדות ציבור משתמשים ב־ObliNet.

נושא משרה ציבורית שמפעיל סמכות מואצלת נמצא במצב אחר.

כך נוצרת אסימטריה מכוונת:

אדם פרטי ← הגנת פרטיות חזקה כברירת מחדל

הפעלת סמכות ציבורית בעלת השלכות משמעותיות ← יכולת בחינה חזקה יותר כברירת מחדל

ההבחנה נובעת מכוח, לא ממעמד בלבד.

שקיפות צריכה ללכת בעקבות סמכות

ככל שגורם מפעיל יותר כוח מואצל על אחרים, כך מתחזקת ההצדקה ליכולת בחינה. ככל שההקשר פרטי ורגיש יותר מבחינה אישית, כך מתחזקת ההגנה כברירת מחדל.

אזרח פרטי שמחליט היכן לאכול אינו חייב לחברה הסבר.

נושא משרה ציבורית שמקצה מיליארדים מכספי הציבור חייב.

מנהל שמקבל החלטה פנימית קטנה עשוי להזדקק למעט תיעוד.

מנהיג שמקבל החלטה המשפיעה על אלפי עובדים עשוי להזדקק להרבה יותר.

לכן יכולת הבחינה צריכה לגדול עם:

• הסמכות;
• ההשפעה;
• הסיכון;
• אי־ההפיכות;
• ההשלכות הציבוריות.

אזרחים פרטיים אינם צריכים להפוך למושאים שקופים

אחד הגבולות הברורים ביותר של ObliNet צריך להיות:

שקיפות של כוח ציבורי אינה צריכה להפוך לשקיפות של אזרחים פרטיים.

מערכת ממשל אינה צריכה ליצור פרופילים פומביים קבועים של:

• יחסים אישיים;
• שיחות רגילות;
• אמונות פרטיות;
• כוונות לא פורמליות;
• התנהגות יומיומית.

זה יהפוך את מטרת האחריותיות על פיה.

בעלי הכוח צריכים להיות ניתנים יותר לבחינה.

לא חסרי הכוח.

התחייבות אינה צריכה להיות פומבית כדי להיות מפורשת

שני אנשים עשויים להזדקק להתחייבות ברורה בלי צורך לחשוף אותה לאיש מלבדם.

לדוגמה:

עובד ↔ מנהל;

לקוח ↔ יועץ;

מטופל ↔ נותן שירות;

אדם ↔ סוכן AI.

מפורש ≠ פומבי.

בהירות עוסקת במשמעות משותפת. נראות עוסקת בגישה לגיטימית.

טווח נראות

טווח הנראות מציין מי זכאי באופן לגיטימי לראות התחייבות או ראיות תומכות.

לדוגמה:

פרטי
גלוי רק לגורם או לסוכן האישי

משותף
גלוי לצדדים להתחייבות

ארגוני
גלוי לבעלי תפקידים מורשים בתוך מוסד

ניתן לביקורת
זמין למבקר מוסמך בתנאים מוגדרים

פומבי
גלוי לציבור

לא כל התחייבות שייכת לאותה רמה.

פומביות לעולם אינה צריכה להיות ברירת המחדל לכול

פרסום הכול עשוי להיראות כשקיפות מרבית.

אבל פרסום ללא הבחנה עלול ליצור:

• פגיעה בפרטיות;
• סיכון אבטחה;
• הטרדה;
• מניפולציה אסטרטגית;
• אפקט מצנן;
• עומס מידע.

שקיפות צריכה להיות מכוונת למטרה.

לא אוטומטית.

הגבלת מטרה + צמצום נתונים

יש לאסוף ולחשוף רק מידע הנחוץ למטרה הלגיטימית של תיאום, אימות או אחריותיות.

התחייבות עשויה לדרוש תוצאה, צד אחראי, מועד ותנאים בלי לדרוש את השיחה המלאה, כל טיוטה או נתונים אישיים לא קשורים.

רישום שנוצר כדי לאשר התחייבות עסקית אינו צריך להפוך אוטומטית לחומר לפרופילאות לא קשורה.

אפשר לשמור את ההתחייבות בלי לשמור כל מילה

נניח ששני אנשים משוחחים במשך עשרים דקות.

רק תוצאה אחת חשובה:

״הספק מתחייב לספק 100 יחידות עד יום שישי אם התשלום ייקלט עד יום רביעי.״

ייתכן שכדאי לשמור התחייבות מאושרת גם כשאין צורך לשמור את השיחה שסביבה. אובייקט התיאום והראיות הגולמיות אינם חייבים להיות כפופים לאותם כללי שמירה או גישה.

ראיות גולמיות ורישומים מובנים הם דברים שונים

רישום מובנה עשוי לציין:

מועד: יום שישי.

הראיה התומכת בו עשויה להיות:

מסמך חתום;

הודעה;

אישור מפגישה.

המערכת אינה חייבת לחשוף את הראיות לכל מי שיכול לראות את הרישום המובנה.

נראות ההתחייבות ונראות הראיות צריכות להיות ניתנות להגדרה עצמאית כאשר הדבר לגיטימי.

חשיפה סלקטיבית צריכה להיות אפשרית

חשיפה סלקטיבית מאפשרת לגורם להוכיח עובדה רלוונטית, כגון היקף סמכות, בלי לחשוף מידע לא קשור.

לדוגמה:

״לסוכן הזה הייתה סמכות רכש עד $10,000.״

ייתכן שהצד שכנגד אינו צריך לראות:

את שכר העובד;

אסטרטגיה פנימית;

את כל ההרשאות האחרות.

מערכות תיאום טובות צריכות לתמוך בחשיפה סלקטיבית כאשר הדבר מעשי.

אפשר לאמת סמכות בלי לחשוף נתוני זהות מיותרים

לפעמים השאלה היא:

״האם הגורם הזה מוסמך?״

ולא:

״ספרו לי הכול על הגורם הזה.״

סוכן או עובד עשוי להזדקק להוכחת:

סמכות תקפה;

היקף;

מועד פקיעה;

בלי לחשוף מידע אישי לא קשור.

העיקרון הזה נעשה חשוב במערכות אקולוגיות גדולות של סוכנים.

פרטיות צריכה להתקיים גם בין שכבות

רשת התחייבויות עשויה לערב כמה ארגונים.

כל ארגון עשוי להזדקק למידע שונה.

לדוגמה:

הספק רואה את חובת האספקה;

המבקר רואה ראיות;

מחלקת הכספים רואה את התנאי שמפעיל תשלום;

משקיף ציבורי רואה ביצועים מצרפיים.

אף משתתף אינו זקוק אוטומטית לרשת כולה.

הרשת אינה צריכה להפוך לגרף חברתי אוניברסלי

מימוש מסוכן יסיק את קשריו של כל אדם ויחבר אותם לצמיתות.

זה אינו נחוץ ל־ObliNet.

הרשת עוסקת בהתחייבויות ובתלויות רלוונטיות.

לא בשחזור כל חייו החברתיים של אדם.

ObliNet אישי צריך להישאר אישי כברירת מחדל

לפני יצירת התחייבות חיצונית, אדם יכול להשתמש ב־ObliNet פרטי כדי לחשוב:

האם אני יכול לקבל זאת באופן מציאותי?

זה עשוי לכלול:

• עומס עבודה;
• סדרי עדיפויות;
• מגבלות פרטיות;
• תוכניות ראשוניות.

השיקולים הפנימיים האלה אינם צריכים להיחשף אוטומטית לצד שכנגד.

השכבה החיצונית זקוקה להתחייבות המאושרת.

לא לכל מהלך החשיבה הפנימי של האדם.

חשיבה פרטית על היתכנות ≠ רישום התחייבות חיצונית.

אדם יכול להסביר גבול בלי לחשוף את סיבתו

אדם יכול לומר:

״איני יכול להתחייב לפני יום שני.״

ייתכן שהצד שכנגד אינו צריך לדעת מדוע.

המגבלה עשויה להיות קשורה ל:

בריאות;

משפחה;

פרויקט סודי אחר.

תיאום יכול לכבד גבולות בלי לדרוש חשיפת סיבות פרטיות.

תנאים צריכים לחשוף רק את מה שהתיאום דורש

נניח שהתנאי האמיתי הוא:

״אוכל לספק ביום שישי רק אם עניין של תור רפואי פרטי יוסדר.״

ייתכן שלהתחייבות החיצונית מספיק:

״אספקה ביום שישי בכפוף לאישור ביום רביעי.״

המערכת אינה צריכה לכפות חשיפת הפרט האישי שבבסיס התנאי, אלא אם הוא נחוץ באמת ונמסר מרצון או מכוח חוק.

אחריותיות ציבורית אינה דורשת גישה פומבית לכל נתוני הקלט

אחריותיות ציבורית עשויה לדרוש נראות של ההחלטה, הסמכות, ההנמקה וההשלכות בלי לחשוף לציבור כל נתון שבבסיסן.

ראיות רגישות יכולות להישאר מוגבלות בזמן שמבקרים מוסמכים או מוסדות בודקים אותן לפי כללים מוגדרים.

אחריותיות אינה דורשת פרסום ללא הבחנה.

הסודיות עצמה חייבת להיות כפופה לאחריותיות

אפשר לנצל לרעה גם פרטיות וסודיות.

ממשלה אינה צריכה להיות מסוגלת לסמן כל עובדה לא נוחה כ:

״סודית״.

לכן, כאשר מידע אינו נחשף, המערכת עדיין יכולה לתעד:

• שמידע לא נחשף;
• מכוח איזו סמכות;
• מאיזו סיבה;
• מי אישר את ההגבלה;
• מתי יש לבחון מחדש את ההגבלה.

התוכן יכול להיות סודי; הבסיס, הסמכות ומשך הסודיות צריכים להישאר כפופים לאחריותיות ככל האפשר.

לסודיות צריכים להיות היקף ומשך

ייתכן שרישום צריך להישאר סודי כעת.

אין פירוש הדבר לנצח.

כללים אפשריים כוללים:

מוגבל עד להשלמת החוזה;

מוגבל כל עוד ההליך המשפטי פעיל;

מוגבל לתקופה המוגדרת בחוק;

נבחן מחדש מדי שנה.

סודיות קבועה צריכה לדרוש הצדקה חזקה יותר מסודיות זמנית.

גם שמירה צריכה להיות מידתית

לא כל רישום צריך להתקיים לנצח.

אחסון ארוך טווח יוצר סיכון.

השמירה צריכה להיות מותאמת לקטגוריה ומידתית לחובה המשפטית, לערך לאחריותיות, לרגישות ולסיכון למחלוקת.

מחיקה ושלמות היסטורית עלולות להתנגש

פרטיות עשויה לתמוך במחיקה.

אחריותיות עשויה לתמוך בשימור.

הערכים האלה יכולים להתנגש.

לדוגמה:

ייתכן שסביר למחוק הערה אישית;

ייתכן שצריך לשמור רישום מחייב משפטית של רכש ציבורי.

אין כלל אוניברסלי.

המערכת זקוקה למדיניות שמירה מפורשת לפי קטגוריה.

תיקונים צריכים להיות אפשריים ללא שכתוב בלתי נראה

פרטיות אינה מצדיקה שינוי שקט של אחריות היסטורית.

אם רישום עובדתי שגוי, צריך להיות אפשר לתקנו.

מערכת בעלת שלמות גבוהה עשויה לשמר:

את הרישום המקורי;

את הערעור;

את הרישום המתוקן;

תוך הגבלה מתאימה של הגישה לפרטים רגישים.

תיקון ושלמות היסטורית יכולים להתקיים יחד.

אנשים זקוקים לזכות לערער על רישומים הנוגעים להם

AI עלול לפרש שפה באופן שגוי.

בני אדם יכולים להזין נתונים שגויים.

ראיות יכולות להיות חלקיות.

לכן משתתפים צריכים להיות מסוגלים לערער על:

• האם הייתה התחייבות;
• האם הם היו הצד האחראי;
• האם הסמכות הייתה תקפה;
• האם ההתחייבות מולאה;
• האם הרישום מכיל מידע אישי שגוי.

מערכת ללא אפשרות לערער תהיה מסוכנת.

מסקנה של AI לעולם אינה צריכה להפוך בשקט לעובדה

מסקנות שיצר AI נשארות מובחנות מעובדות מאושרות.

נניח ש־AI מזהה:

״אליס התחייבה ליום שישי.״

זו מסקנה.

עד לאישור מתאים, המערכת צריכה לשמור על ההבחנה:

התחייבות אפשרית

ולא:

חובה מבוססת.

כך מגינים גם על דיוק וגם על פרטיות.

מאפיינים אישיים שהוסקו אינם צריכים להפוך לחלק מ־ObliNet כברירת מחדל

מערכת AI יכולה להסיק דברים רבים על אדם.

אמונות פוליטיות.

מצבים בריאותיים.

אישיות.

רגשות.

יחסים.

המסקנות האלה בדרך כלל אינן רלוונטיות לשכבת ההתחייבויות.

מאפיינים רגישים שהוסקו אינם צריכים להפוך לחלק משכבת ההתחייבויות אלא אם הם נחוצים באופן לגיטימי למטרת התיאום.

ObliNet אינו צריך להפוך למערכת דירוג חברתי

יש להבהיר במפורש את אחד הגבולות הברורים ביותר.

ObliNet אינו נועד לייצר:

ציון אוניברסלי יחיד שמייצג את ערכו, אמינותו או מעמדו החברתי של אדם.

היסטוריית התחייבויות יכולה לספק הקשר.

אבל צמצום אדם למספר כולל יוצר סיכונים עצומים.

שלמות הקשרית

החמצת הזמנה במסעדה אינה צריכה להשפיע על יכולתו של אדם לקבל משכנתה.

התחייבות בעבודה בסיכון נמוך שלא מולאה אינה צריכה להפוך לעונש מוניטין אוניברסלי.

ההקשר חשוב.

מידע שתקף ביחסים מסוימים אינו צריך לעבור אוטומטית לתחומים לא קשורים.

ניידות מוניטין עלולה להיות מסוכנת

פרקים קודמים תמכו בניידות היסטוריית התחייבויות בין מערכות.

אין פירוש הדבר ניידות בלתי מוגבלת של כל אות הנוגע למוניטין אישי.

ניידות טכנית וניידות חברתית הן שונות.

היכולת לייצא רישום אינה צריכה לרמוז שלכל מקבל יש סיבה לגיטימית להשתמש בו.

ככל האפשר, יש לקשור אחריותיות לתפקידים

בארגונים ובממשל, אחריות שייכת לעיתים בחלקה לתפקיד.

לדוגמה:

אחראי רכש;

שר;

מנהל פרויקט.

כך אפשר לצמצם חשיפה מיותרת של חיים פרטיים לא קשורים.

השאלה הרלוונטית היא:

כיצד מולא התפקיד?

ולא:

מה אפשר ללמוד על האדם מחוץ לתפקיד?

הפרדת תפקידים מגינה על פרטיות

אותו אדם יכול להיות:

נושא משרה ציבורית;

הורה;

מטופל;

לקוח;

חבר.

ההקשרים האלה אינם צריכים להתמזג לפרופיל קבוע אחד.

מערכת בשלה צריכה לשמר גבולות הקשריים.

אין להשתמש בחיים פרטיים כראיה ללא רלוונטיות לגיטימית

פעולות פרטיות של נושא משרה ציבורית עשויות לפעמים להיות רלוונטיות לאחריותו הציבורית.

לדוגמה:

ניגוד עניינים שלא נחשף.

אבל יש להראות את הרלוונטיות.

מידע פרטי אינו צריך להפוך להפקר רק משום שאדם נושא משרה.

בני משפחה אינם צריכים לרשת חובות שקיפות ציבורית

מנהיג מקבל על עצמו יכולת בחינה גבוהה יותר בעת הפעלת סמכות ציבורית.

משפחתו אינה עושה זאת אוטומטית.

אחריותיות ציבורית אינה צריכה להפוך לחשיפה קולקטיבית.

חושפי שחיתויות זקוקים להגנה מיוחדת

אחריותיות ניתנת לבחינה עלולה להיכשל אם דיווח על עוולה חושף את המדווח.

במקרים מסוימים זהות המקור חייבת להישאר מוגנת בזמן שהראיות מאומתות באופן עצמאי.

אחרת השקיפות עלולה באופן פרדוקסלי לצמצם את זרימת המידע האמיתי.

הבעת התנגדות עשויה לדרוש מרחב מוגן

ארגונים זקוקים למרחבים שבהם אנשים יכולים לערער על החלטות לפני שהם מדברים בפומבי.

אם כל הסתייגות ראשונית נחשפת מיד, אנשים עלולים לצנזר את עצמם.

מערכת אחריותיות בריאה צריכה לשמר ערוצים מוגנים ל:

• הבעת התנגדות;
• ניתוח ראשוני;
• חשיפת שחיתויות;
• ייעוץ סודי.

דיון והחלטה הם דברים שונים

לא כל מחשבה שנבחנה בדיון צריכה להפוך לרישום פומבי קבוע.

ייתכן שהמערכת צריכה לשמר:

חלופות שנבחנו;

ראיות מרכזיות;

הנמקה סופית;

בלי לפרסם כל שיחת חשיבה ראשונית.

אחרת קבלת ההחלטות עלולה להפוך להצגה.

אחריותיות על החלטות אינה דורשת פרסום קבוע של כל שלב בדיון.

פרטיות עשויה לשפר את איכות ההחלטות

אנשים חושבים אחרת כשכל מחשבה לא גמורה עלולה להיות פומבית לנצח.

תצפית מופרזת עלולה ליצור:

• קונפורמיות;
• פחד;
• הימנעות;
• דיבור אסטרטגי.

לכן פרטיות אינה רק הגנה מפני נזק.

היא יכולה להיות גם תנאי לחשיבה טובה.

פורמליזציה מידתית

העיקרון הזה חוזר משום שהוא מרכזי.

קירוב מועיל הוא:

השלכות משמעותיות יותר ← מבנה חזק יותר

אבל גם:

רגישות גבוהה יותר ← הגנה חזקה יותר

שני הממדים חשובים.

יש להעריך סיכון ופרטיות יחד

פעולה ציבורית בעלת השפעה רבה עשויה להצדיק יותר שקיפות.

רישום אישי רגיש מאוד עשוי להצדיק יותר פרטיות.

כאשר שניהם מתקיימים, ייתכן שיידרשו חשיפה בשכבות וביקורת עצמאית.

אין מחוון יחיד ששמו ״שקיפות״.

למידתיות יש כמה ממדים

לפני איסוף או חשיפת מידע, יש לשאול:

• עד כמה משמעותיות השלכות ההתחייבות?
• כמה סמכות מופעלת?
• עד כמה המידע רגיש?
• מי באמת זקוק לגישה?
• לאיזו מטרה?
• למשך כמה זמן?
• איזה נזק נובע מחשיפה?
• איזה נזק נובע מסודיות?

זו מסגרת טובה יותר מ־״פומבי או פרטי״.

גישה לנתונים צריכה לנבוע מצורך, לא מסקרנות

עצם קיומו של רישום אינו מקנה זכות לעיין בו.

הגישה צריכה להיות תלויה בתפקיד ובמטרה.

לדוגמה:

הצד שכנגד ← תנאים רלוונטיים להתחייבות;

מבקר ← ראיות הנדרשות לביקורת;

רגולטור ← היקף המורשה בחוק;

הציבור ← מידע הנחוץ לאחריותיות ציבורית.

סוכני AI צריכים לקבל את הגישה המזערית הנחוצה

סוכן AI עשוי להזדקק לנתונים כדי לבצע משימה.

הוא אינו צריך לקבל אוטומטית את כל מה שזמין לארגון.

סוכן AI צריך לקבל רק את הגישה לנתונים הנחוצה למנדט ולמשימה הפעילים שלו.

זה נובע מאותו עיקרון של סמכות מוגבלת.

סמכות על נתונים היא כשלעצמה סמכות

גישה לנתונים היא כשלעצמה צורה של סמכות.

סוכן AI שיכול לקרוא מידע סודי מחזיק בכוח גם אם אינו יכול לבצע פעולות חיצוניות.

לכן יש להתייחס לגישה לנתונים כחלק מהמנדט.

גם יכולת לקרוא היא יכולת שדורשת הרשאה.

גם נתונים נגזרים יכולים להיות רגישים

גם כאשר נתונים גולמיים מוגנים, AI עשוי להסיק מידע רגיש מצירופים של רישומים.

לכן פרטיות אינה יכולה להתמקד רק בשדות מאוחסנים.

היא חייבת להתחשב גם ב:

מה שניתן להסיק באופן סביר.

יומני ביקורת עצמם עלולים להפוך לכלי מעקב

רישום ביומנים מועיל לאחריותיות.

אבל רישום בלתי מוגבל עלול לחשוף:

• דפוסי התנהגות;
• יחסים;
• מיקומים;
• שגרות.

לכן גם יומנים דורשים בקרות גישה, כללי שמירה והגבלת מטרה.

יותר ראיות אינן תמיד ראיות טובות יותר

מערכת עשויה לאסוף כמויות עצומות של נתונים כי האחסון זול.

זה אינו משפר בהכרח אחריותיות.

עודף נתונים עשוי להקשות על מציאת ראיות חשובות.

המטרה אינה תיעוד מרבי.

המטרה היא ראיות מספיקות לתיאום ולבחינה לגיטימיים.

צבירה יכולה להגן על יחידים

פיקוח ציבורי עשוי להזדקק לעיתים למידע מצרפי במקום לחשיפה של יחידים.

לדוגמה:

שיעור מילוי ממוצע;

סטייה מהתקציב;

התפלגות עיכובים בפרויקטים;

עשויים להספיק לסוגי ניתוח מסוימים.

זהויות אישיות אינן תמיד נחוצות.

אנונימיזציה מועילה, אך אינה קסם

נתונים מצרפיים או אנונימיים עשויים לתמוך בפיקוח תוך צמצום חשיפה של יחידים, אך אנונימיזציה אינה ערובה מפני זיהוי מחדש.

סטטיסטיקה ציבורית ואחריותיות אישית הן שכבות שונות

ייתכן שהציבור צריך לדעת:

זמני ההמתנה בבית החולים עלו ב־15%.

אין פירוש הדבר שכל רישום של מטופל צריך להיות פומבי.

בדומה לכך, הערכת משרד ממשלתי אינה דורשת פרסום היסטוריית הביצועים של כל עובד.

ביצועים מצרפיים ואחריותיות אישית הם שכבות נפרדות.

פרטיות חייבת לעמוד בקנה המידה של AI

בודקים אנושיים מוגבלים בקשב.

AI אינו מוגבל באותו אופן.

כעת אפשר לחפש מיד במערך נתונים שבעבר היה גדול מדי לניתוח.

זה משנה את הסיכון לפרטיות.

מידע שהיה פומבי טכנית אך נסתר מעשית עשוי להפוך לקל מאוד לאיתור.

לכן ייתכן שהנחות ישנות לגבי ״נתונים פומביים״ כבר אינן מספיקות.

יכולת החיפוש משנה את משמעות החשיפה

רישום שנגיש רק לאחר שעות של מחקר ידני שונה מרישום שאפשר לחפש בו מיד לאורך חיים שלמים.

ObliNet צריך לשקול לא רק:

אם הנתונים נגישים,

אלא גם:

באיזו קלות אפשר לצבור אותם, לחפש בהם ולבנות מהם פרופילים.

אחריותיות קריאה למכונה אינה צריכה להפוך למעקב קריא למכונה

נתונים מובנים בעלי ערך משום שהם מאפשרים ניתוח.

אותה תכונה יוצרת סיכון.

לכן רישומים מובנים פומביים עשויים לדרוש:

• הגבלת היקף;
• צבירה;
• מגבלות קצב;
• הפרדה הקשרית;
• בקרות נגד ניצול לרעה.

גם תשתית אחריותיות זקוקה לעמידות בפני ניצול לרעה.

רישומים פומביים צריכים לחשוף אחריות, לא לאפשר הטרדה

אפשר שיהיה לגיטימי לציין את שמו של האדם האחראי להחלטה ציבורית.

זה אינו מצדיק חשיפה מיותרת של:

כתובות מגורים;

מידע משפחתי;

פרטי קשר אישיים;

נתונים אישיים לא קשורים.

הרישום צריך לחשוף את התפקיד ואת האחריות.

לא ליצור מנגנון לפגיעה ממוקדת.

אבטחה היא חלק מפרטיות

ערבויות פרטיות דורשות אכיפה טכנית כגון אימות זהות, בקרת גישה, הצפנה כשמתאים, ביטול גישה ותגובה לאירועים.

יש למזער את השפעת הפריצה כבר בתכנון

יש להניח שכשלי אבטחה מסוימים יתרחשו.

ואז לשאול:

מה תוקף יכול ללמוד אם רכיב אחד נפרץ?

מערכת מתוכננת היטב מגבילה את היקף הנזק.

כך מתחזקת הפרדת הרשויות.

ביזור יכול לסייע לפרטיות — או לפגוע בה

ארכיטקטורה מבוזרת עשויה לצמצם תלות במסד נתונים אחד.

אבל שכפול יכול גם ליצור עותקים רבים יותר של מידע רגיש.

לכן ביזור אינו שומר אוטומטית על פרטיות.

יש לתכנן את ארכיטקטורת הנתונים במכוון.

אחסון בלתי ניתן לשינוי עלול להתנגש עם פרטיות

רישומים קבועים יכולים לחזק שלמות.

הם יכולים גם להפוך הסרת טעויות רגישות לבלתי אפשרית.

זהו מתח תכנוני רציני.

לא כל רישום של ObliNet צריך להיות בלתי ניתן לשינוי באופן אוטומטי.

לעיתים אפשר להשיג שלמות באמצעות:

היסטוריית שינויים המאפשרת הוספה בלבד;

הוכחות קריפטוגרפיות;

מאגרי ראיות מוגבלים;

בלי להפוך את כל הנתונים האישיים לפומביים לצמיתות.

אין לבלבל הוכחה קריפטוגרפית עם אמת

מערכת קריפטוגרפית יכולה להוכיח:

שהתקיים רישום;

שהוא נחתם;

שהוא לא שונה.

היא אינה יכולה להוכיח כשלעצמה:

שהטענה שבבסיסו הייתה נכונה עובדתית.

אימות שלמות הרישום ואימות המציאות הם דברים שונים.

הסכמה חשובה, אך הסכמה לבדה אינה מספיקה

שני צדדים יכולים להסכים לשתף מידע.

זה חשוב.

אבל הסכמה עשויה להיות חלשה כשיש אי־שוויון בכוח.

עובד עשוי ״להסכים״ כי סירוב מאיים על עבודתו.

אזרח עשוי ״להסכים״ כי אחרת שירות ציבורי אינו זמין.

לכן תכנון פרטיות זקוק גם להגנות מבניות, לא רק לתיבות סימון להסכמה.

פערי כוח חשובים

הצד החזק יותר ביחסים אינו צריך להיות מסוגל לדרוש שקיפות בלתי מוגבלת מהצד החלש יותר בשם האחריותיות.

לדוגמה:

מעסיק ↔ עובד;

ממשלה ↔ אזרח;

פלטפורמה ↔ משתמש.

מידתיות חייבת להתחשב במי מחזיק בכוח מיקוח.

מעקב אינו צריך להיות מחיר ההשתתפות

אדם אינו צריך לחשוף היבטים לא קשורים של חייו רק כדי:

לעבוד;

לקבל שירותים ציבוריים;

להיכנס לחוזה;

לתקשר עם סוכן AI.

איסוף הנתונים צריך להישאר קשור למטרת התיאום.

תחומים רגישים דורשים הגנות חזקות יותר

תחומים מסוימים ראויים לטיפול זהיר במיוחד.

לדוגמה:

• בריאות;
• עניינים משפטיים;
• ילדים;
• מצוקה כלכלית;
• יחסים אינטימיים;
• תקשורת מוגנת.

מבנה ההתחייבויות עדיין עשוי להועיל.

אבל כללי הנראות חייבים להיות מחמירים יותר.

ילדים דורשים אמת מידה אחרת

מערכת שנועדה להתחייבויות ארגוניות של מבוגרים אינה צריכה להחיל אוטומטית על ילדים את אותם מנגנוני שקיפות או מוניטין.

הקשר התפתחותי, אפוטרופסות והשלכות ארוכות טווח דורשים הגנות נפרדות.

הזכות להקשר חשובה

רישום ללא הקשר עלול להטעות.

לדוגמה:

״ההתחייבות לא מולאה.״

אבל אולי:

התנאי המוקדם לא התקיים;

ההתחייבות הייתה שנויה במחלוקת;

הגורם אושפז;

המועד עודכן בהמשך באופן רשמי.

אין לשפוט אנשים על סמך קטעים מבודדים כשקיים הקשר רלוונטי.

שלמות הקשרית היא חלק מהוגנות

מידע שמתאים ביחסים מסוימים עשוי לא להתאים באחרים.

רישום ביצועים ששותף עם מנהל פרויקט עשוי לא להתאים למסד נתונים פומבי.

מגבלה רפואית שנחשפה למשאבי אנוש עשויה לא להתאים לשיתוף עם לקוח.

תיאום טוב משמר הקשר.

גרף התחייבויות אינו צריך להפוך לגרף של ערך אנושי

ההבחנה הזאת חייבת להישאר מפורשת.

הרשת מייצגת:

התחייבויות;

סמכות;

תלויות.

היא אינה מייצגת:

את מלוא ערכם של האנשים שבתוכה.

בני אדם הם יותר מחובותיהם המתועדות.

המערכת חייבת לאפשר חיים מחוץ לרישום

לא כל הבטחה.

לא כל שיחה.

לא כל טובה.

לא כל טעות.

לא כל מערכת יחסים.

צריכים להיכנס ל־ObliNet.

המערכת צריכה להישאר כלי לתיאום בעל השלכות משמעותיות.

לא פנקס אוניברסלי של הקיום האנושי.

פרטיות צריכה להיות דרישת תכנון, לא תכונה שמתווספת אחר כך

אם מוסיפים פרטיות רק לאחר בניית גרף ההתחייבויות, ייתכן שהארכיטקטורה כבר מניחה ריכוז מופרז של נתונים.

לכן פרטיות חייבת לעצב את:

• מודל הנתונים;
• מודל הגישה;
• השמירה;
• הזהות;
• הביקורת;
• יכולת הפעולה ההדדית;

מההתחלה.

ערבויות פרטיות צריכות להיות ניתנות לבדיקה

כפי שיש לבדוק טענות על תיאום, כך יש לבדוק גם טענות על פרטיות.

לדוגמה:

• האם בעלי תפקידים לא מורשים יכולים לגשת לרישום?
• האם ספק יכול להסיק יחסים רגישים לא קשורים?
• האם עדיין אפשר לשחזר נתונים שנמחקו?
• האם סוכן AI מקבל יותר הקשר מהנדרש לפי המנדט שלו?
• האם אפשר לבנות פרופילים בהיקף נרחב מרישומים פומביים מעבר לשימוש המיועד להם?

פרטיות זקוקה להערכה, לא לסיסמאות.

כשלי פרטיות צריכים להיחשב כשלי מערכת

אם ObliNet משפר תיאום אבל יוצר סיכון בלתי קביל למעקב, זו אינה הצלחה.

תוכנית המחקר חייבת לכלול את עלות הפגיעה בפרטיות כתוצאה מפורשת.

מידת הנראות המתאימה עשויה להשתנות בין תחומים

לא צריך להיות מודל חשיפה אוניברסלי אחד של ObliNet.

עסקים.

ממשל.

תיאום אישי.

סוכני AI.

מחקר.

כל תחום עשוי לדרוש ברירות מחדל שונות.

הפרוטוקול צריך לתמוך בהבדלים האלה.

כוח ציבורי ראוי לאחריותיות החזקה ביותר

כאשר סמכות מופעלת בשם אזרחים, ייתכן שיותר מידע צריך להפוך לפומבי.

אבל גם שם החשיפה צריכה להתמקד ב:

• סמכות;
• התחייבויות;
• הנמקת החלטות;
• שימוש במשאבי ציבור;
• תוצאות.

לא בחיים פרטיים לא קשורים.

המטרה היא כוח הכפוף לאחריותיות ואנשים מוגנים

העקרונות האלה יכולים להתקיים יחד.

אפשר לתכנן מערכות שבהן:

הסמכות נעשית גלויה יותר;

ההתחייבויות נעשות ברורות יותר;

המוסדות נעשים כפופים יותר לאחריותיות;

ובה בעת:

הנתונים האישיים נעשים תחומים יותר;

איסוף מיותר מצטמצם;

החיים הפרטיים נשארים מוגנים.

זו צריכה להיות המטרה.

העיקרון האחד־עשר של ObliNet

לכן העיקרון האחד־עשר הוא:

יכולת הבחינה צריכה לגדול עם הסמכות המואצלת ועם ההשלכות האפשריות; הגנת הפרטיות צריכה להתחזק עם הרגישות האישית, הפגיעוּת ההקשרית והיעדר כוח ציבורי.

אחריותיות אינה דורשת מעקב מוחלט.

בהירות אינה דורשת תיעוד מוחלט.

אימות אינו דורש פרסום אוניברסלי.

בעלי הכוח צריכים להיות ניתנים יותר לבחינה בהפעלת כוחם.

אזרחים פרטיים צריכים להישאר מוגנים בחייהם הפרטיים.

הפורמליזציה צריכה להיות מידתית.

הגישה צריכה להיות מכוונת למטרה.

ושכבת התיאום צריכה לחשוף את מה שהאחריות דורשת — לא יותר מהנחוץ.

אינטליגנציה לבדה אינה מספיקה

האנושות מגדילה במהירות את יכולתה לחשוב ולפעול. לאנשים יש כלים טובים יותר, לארגונים יש יותר נתונים, ומערכות AI יכולות לנתח, ליצור, לתכנן ולבצע בקנה מידה חסר תקדים. אבל אינטליגנציה אינה יוצרת תיאום אוטומטית.

אדם יכול להיות נבון ועדיין לא להבין אדם אחר.

חברה יכולה לכלול מומחים מצוינים ועדיין להיכשל בהעברת עבודה בין גורמים.

ממשלה יכולה להחזיק במומחיות נרחבת ועדיין ליצור אחריות לא ברורה.

שני סוכני AI חזקים יכולים לחשוב היטב כל אחד ועדיין ליצור התחייבויות שאינן מתיישבות זו עם זו.

לכן ייתכן שאחת הבעיות המרכזיות של העידן הבא לא תהיה:

כיצד ניצור יותר אינטליגנציה?

היא עשויה להיות יותר ויותר:

כיצד גורמים תבוניים מתאמים בלי לאבד חופש, אחריותיות או שליטה?

ככל שהיכולת גדלה, התיאום נעשה חשוב יותר

גורמים חלשים יכולים ליצור השלכות מוגבלות.

גורמים חזקים יכולים ליצור השלכות גדולות יותר.

ככל שבני אדם ומערכות AI נעשים בעלי יכולת רבה יותר, עלות כשל התיאום עולה.

אי־הבנה בין שני אנשים עלולה לבזבז יום.

אי־הבנה בין שני ארגונים עלולה לעלות מיליונים.

אי־הבנה בין מערכות אוטונומיות יכולה להתפשט במהירות מכונה.

לכן יכולת גדולה יותר מגדילה את ערכו של תיאום ברור.

אינטליגנציה מול תיאום

אינטליגנציה עוסקת בעיקר בהבנה, בחיזוי ובבחירה. תיאום עוסק בפעולה מתיישבת בין גורמים בעלי מטרות, ידע, מגבלות וסמכות שונים.

שכבת התשתית הבאה עשויה לעסוק ביחסים

תשתית דיגיטלית מודרנית כוללת שכבות בשלות רבות.

יש לנו מערכות ל:

• תקשורת;
• זהות;
• מחשוב;
• אחסון;
• תשלומים;
• חוזים;
• ביצוע.

אבל היחסים בין השכבות האלה נשארים לעיתים משתמעים.

גורם יכול לתקשר.

AI יכול לחשוב.

כלי יכול לבצע.

תשלום יכול להעביר ערך.

ובכל זאת המערכת עשויה לא לדעת:

איזו חובה קישרה בין הפעולות האלה.

זהו הפער ש־ObliNet מציע לחקור.

התחייבות היא הגשר משפה לאחריות

התחייבות היא הגשר משפה לאחריות משום שהיא מחברת גורם, תוצאה צפויה, סמכות תקפה, תנאים, תלויות וקבלת התוצאה.

הרשת חשובה לא פחות מההתחייבות

התחייבות יחידה חשובה לעיתים נדירות לבדה. הבטחה אחת מאפשרת אחרת, עיכוב אחד יוצר סיכון בהמשך, וקבלת תוצאה אחת עשויה להפעיל תשלום. לכן האובייקט הרלוונטי אינו רק התחייבות, אלא רשת התחייבויות.

הרשת היא המוצר.

התיאום חייב להתחיל לפני הכשל

ObliNet מתערב לפני הכשל באמצעות חשיפת עמימות בעלת השלכות, כל עוד זול לתקן אותה.

המחלוקת הטובה ביותר עשויה להיות זו שלעולם אינה הופכת למחלוקת.

תיאום טוב יותר אינו ממקסם התחייבויות. לפעמים התקדמות פירושה ״לא״, ״עדיין לא״ או ״רק אם X״.

מניעת התחייבות בלתי אפשרית יכולה ליצור ערך רב יותר מתיעוד התחייבות שנכשלה.

הגבול בין אפשרות, הצעה והתחייבות מאושרת נשאר קריטי משום שהאחריות משתנה במעבר הזה.

AI צריך לסייע לחשוף מבנה

AI יכול לזהות מבנה; הוא אינו יוצר לגיטימיות.

AI מבחין. הגורמים הרלוונטיים מבהירים ומאשרים. ObliNet מתעד.

AI אינו צריך להפוך לריבון התיאום

העובדה ש־AI יכול להבין שיחה אינה אומרת שהוא צריך להחליט על מה הצדדים הסכימו.

העובדה ש־AI יכול להעריך מנהיג אינה אומרת שהוא צריך להדיח אותו.

העובדה ש־AI יכול לדרג אפשרויות אינה אומרת שהוא צריך לקבוע את ערכי החברה.

כשירות אינה לגיטימיות. חיזוי אינו ריבונות. יכולת אינה סמכות.

יכולת וסמכות חייבות להישאר נפרדות

יכולת ≠ סמכות נשאר הכלל המרכזי למערכות אוטונומיות. סוכנים רשאים לפעול רק במסגרת מנדטים מפורשים, מוגבלים וניתנים לביטול שאפשר להתחקות מהם אל גורם מסמיך לגיטימי.

הסמכות עצמה חייבת להפוך לאובייקט מרכזי במערכת

מי רשאי לפעול?

בשם מי?

באילו גבולות?

עד מתי?

באילו תנאים?

מי יכול לבטל את המנדט?

השאלות האלה אינן יכולות להישאר קבורות בפרטי הרשאה או בהנחות לא פורמליות.

כלכלת סוכנים עתידית צריכה להבין סמכות במפורש כפי שהיא מבינה API.

המטרה אינה סוכן שתמיד פועל.

המטרה היא סוכן שיודע מתי פעולה היא לגיטימית.

מוסדות אנושיים מתמודדים עם אותה בעיה

בעיית הסמכות אינה ייחודית ל־AI.

שר.

מנהל.

אחראי רכש.

דירקטוריון.

רגולטור.

כל אחד פועל במסגרת מנדט.

במערכות רבות המנדטים האלה מפורשים בחלקם ומונחים בחלקם.

ObliNet מציע שאותו דקדוק של תיאום יכול לחול על בני אדם ועל מכונות.

ממשל כתיאום

בחירות מכוננות לגיטימיות ומאצילות סמכות; אחריותיות ניתנת לבחינה הופכת שימושים בעלי השלכות בסמכות הזאת לברורים יותר בין מועדי בחירות. מנהיגות נעשית אחריות ציבורית זמנית ולא רכוש אישי, ואמון הציבור יכול להגיב לראיות, להסברים, לתיקון וללמידה בלי להעביר ריבונות למדדים או ל־AI.

למידה וזיכרון מוסדי

אחריותיות צריכה להבחין בין טעות לבין רשלנות והטעיה, לשמר תמונות מצב בעת קבלת ההחלטה ולראות בתיקון ובלמידה חלק מביצוע אחראי.

זיכרון מוסדי צריך לשרוד מעבר ליחידים

זיכרון מוסדי צריך לשרוד מעבר ליחידים, למודלים ולספקים. התחייבויות, מנדטים, עדכונים, תוצאות וראיות צריכים להישאר ניתנים לפרשנות לאורך חילופים והחלפות.

הפרוטוקול צריך לשרוד מעבר למוצר

ObliNet אינו צריך להיות בעל ערך משום שחברה אחת מחזיקה במימוש השימושי היחיד.

זה יסתור את עיקרון מניעת ההשתלטות.

אם שכבת התיאום נעשית מועילה, ההיסטוריה והמשמעות שלה צריכות להישאר ניידות דיין כך ש:

מימושים יוכלו להשתנות;

ספקים יוכלו להשתנות;

מודלים יוכלו להשתנות.

הרציפות צריכה להשתייך למשתתפים ולמשמעות של שכבת התיאום, לא לספק אחד.

שום גורם יחיד אינו צריך להפוך לחסר תחליף

מנהיגים, מודלים, ספקי מחשוב, מבקרים ומימושים יכולים להיכשל או ליפול תחת השתלטות. לכן הארכיטקטורה צריכה לשמר את העיקרון שאין גורם יחיד שאין לו תחליף.

פיזור לבדו אינו מספיק

ביזור ללא תיאום יוצר פיצול.

תיאום ללא פיזור ממשי עלול ליצור השתלטות.

המטרה היא יכולת מבוזרת עם אחריות מפורשת.

פרטיות היא חלק מתיאום

מערכת תיאום אינה צריכה להזדקק לנראות מוחלטת.

אנשים זקוקים למחשבה פרטית.

ארגונים זקוקים למרחב סודי.

תהליכים ציבוריים מסוימים דורשים מידע מוגן.

לכן יש להפריד בין בהירות התחייבויות לבין חשיפה אוניברסלית.

מפורש ≠ פומבי. כוח ציבורי צריך להיות ניתן יותר לבחינה; חיים פרטיים ורגישים צריכים להישאר מוגנים. הפורמליזציה צריכה להישאר מידתית.

מדע התיאום הוא השאלה המחקרית שמאחורי המערכת

השאלה הרחבה אינה אם ObliNet עצמו נכון.

היא:

כיצד גורמים אוטונומיים בעלי מטרות, ידע, תמריצים ומגבלות שונים יוצרים התחייבויות מתיישבות ומתאימים אותן באמצעות משוב?

השאלה הזאת חלה על:

אנשים;

צוותים;

חברות;

ממשלות;

סוכני AI.

זהו התחום המוצע של מדע התיאום.

הרעיון חייב להיות ניתן לבדיקה.

אם התחייבויות מובנות מגדילות חיכוך בלי לצמצם עמימות, זה חשוב.

אם גרפי תלויות אינם משפרים זיהוי מוקדם של סיכון, זה חשוב.

אם זיהוי התחייבויות באמצעות AI יוצר יותר בלבול, זה חשוב.

תוכנית מחקר זוכה לאמינות בכך שהיא יכולה להיכשל.

מדע התיאום רואה בטענות האלה השערות לבדיקה, לא דוקטרינות להגנה. ObliNet הוא הצעה אחת לפורמליזציה ולתשתית ניסויית, לא הוכחה להצלחתו שלו.

המערכת צריכה ללמוד מכשליה שלה

ObliNet חייב להישאר כפוף לאחריותיות לפי עקרונותיו שלו. אם הוא נעשה בירוקרטי, פולשני, ריכוזי, בלתי ניתן לערעור או תלוי בספק יחיד שאין לו תחליף, התכנון נכשל.

המערכת חייבת להיות פתוחה לתיקון.

המטרה העמוקה אינה יותר שליטה

אפשר לנצל לרעה שכבת התחייבויות כמנגנון שליטה.

זו אינה צריכה להיות מטרתו.

המטרה העמוקה יותר היא:

הבנה הדדית טובה יותר של אחריות.

לדעת:

מה קיבלתי על עצמי;

מה קיבלתם על עצמכם;

במה אנחנו תלויים;

מה השתנה;

מה קורה בהמשך.

זהו תיאום.

חופש ואחריות צריכים לחזק זה את זה

חופש ללא אחריות יכול להעביר נזק לאחרים. אחריות ללא חופש יכולה להפוך לכפייה.

מערכת תיאום בריאה צריכה לשמר את החופש לסרב, לחלוק ולערער, תוך הבהרת אחריות שהתקבלה במכוון.

מערכות עם הבהרה מתמשכת, תיקון והחלפה חוקית עשויות לצמצם את הצורך בצורות הרסניות של תיקון מוסדי.

המשימה לטווח הארוך

אפשר לנסח בפשטות את הכיוון ארוך הטווח של ObliNet.

לאנשים:

מ־״חשבתי שהסכמנו״
אל
״שנינו יכולים לראות למה התחייבנו, במה זה תלוי ומה קרה בהמשך.״

לארגונים:

ממשימות מפוצלות ותלויות סמויות
לתיאום גלוי מעבר לגבולות.

לממשל:

מדמוקרטיה שיכולה בעיקר לבחור את השלטון
אל דמוקרטיה שיכולה גם לבחון, להעריך, לתקן ולהחליף את השלטון בשלום באופן מתמשך.

ל־AI:

ממערכות שיכולות לפעול
אל מערכות שמבינות את גבולות הסמכות וההתחייבויות שלהן.

לציוויליזציה:

להבטיח שגידול באינטליגנציה לא ייצור אוטומטית גידול בריכוז הכוח.

אינטליגנציה אינה צריכה להפוך לריבונות

ככל שיכולת ה־AI גדלה, אחת הסכנות היא שמתחילים לבלבל כשירות עם לגיטימיות.

מודל עשוי לדעת יותר. אין פירוש הדבר שהוא צריך לשלוט.

מערכת עשויה לחזות טוב יותר. אין פירוש הדבר שהיא צריכה לקבוע ערכים.

סוכן עשוי לבצע מהר יותר. אין פירוש הדבר שהסמכות שייכת לו.

אינטליגנציה היא יכולת. ריבונות היא שאלה של לגיטימיות.

תיאום הוא השכבה שבין אינטליגנציה לפעולה משותפת

גורם תבוני יכול לחשוב.

מערכת מתואמת יכולה לפעול יחד.

הגשר ביניהם כולל:

סמכות;

התחייבויות;

תלויות;

קבלת התוצאה;

ראיות;

משוב.

זהו המרחב ש־ObliNet מנסה לתת לו מבנה פורמלי.

העתיד עשוי לכלול מיליארדי גורמים תבוניים

בני אדם.

ארגונים.

סוכנים אישיים.

סוכנים ארגוניים.

סוכנים במגזר הציבורי.

מודלים עצמאיים.

שירותים אוטונומיים.

האתגר לא יהיה רק אם כל אחד מהם תבוני.

האתגר יהיה אם הם יכולים לפעול זה עם זה בלי ליצור שרשראות בלתי נשלטות של אחריות עמומה.

פעולה במהירות מכונה דורשת אחריות קריאה למכונה

פעולה במהירות מכונה דורשת אחריות קריאה למכונה, אבל אחריות קריאה למכונה אינה צריכה להפוך ללגיטימיות שמוכרעת בידי מכונה.

הפרוטוקול יכול לייצג:

סמכות;

התחייבות;

תלות;

קבלת התוצאה.

בני אדם ומוסדות לגיטימיים עדיין קובעים מהו מקור הסמכות.

שכבת ההתחייבויות עשויה להפוך לתשתית לעולם רב־סוכני

הודעות נושאות תקשורת. כלים מבצעים פעולות. תשלומים מעבירים ערך. זהות מזהה גורמים. מחשוב מפעיל מודלים.

השאלה החסרה נותרת:

מי הוסמך להבטיח מה ולמי, באילו תנאים, ומה היה תלוי במילוי ההתחייבות?

זו תזת התשתית שמאחורי ObliNet.

תיאום אינו ציות / הסכמה כללית / ריכוזיות / מעקב

תיאום אינו ציות, הסכמה כללית, ריכוזיות או מעקב. הוא מאפשר מחלוקת, סירוב, משא ומתן וריבוי ערכים. מטרתו אינה אחידות אלא התאמה: די מבנה משותף כדי שגורמים אוטונומיים יוכלו לפעול בלי להסתמך על הנחות שאינן מתיישבות זו עם זו.

תיאום אינו שלמות. הוא נועד להעלות מחלוקות מוקדם יותר, להבהיר אחריות, להפוך שינוי למפורש ולתמוך בלמידה.

ציוויליזציה של אינטליגנציה זקוקה לציוויליזציה של תיאום

החברה התעשייתית בנתה מוסדות לייצור. האינטרנט בנה תשתית לתקשורת. AI מרחיב את קנה המידה של האינטליגנציה. האתגר הבא עשוי להיות תיאום בין גורמים תבוניים.

לא באמצעות הכפפת הכול לגורם שולט אחד.

אלא באמצעות הבהרת יחסי סמכות ואחריות.

מאינטליגנציה לתיאום

לכן המעבר המרכזי הוא:

אינטליגנציה שואלת:
מה אני יכול להבין ולעשות?

תיאום שואל:
למה רשאים אנו לצפות זה מזה באופן לגיטימי, וכיצד אנו מסתגלים כשהמציאות משתנה?

שניהם חשובים.

ככל שאינטליגנציה נעשית שופעת, תיאום עשוי להפוך ליכולת הנדירה יותר.

העיקרון השנים־עשר של ObliNet

לכן העיקרון השנים־עשר הוא:

הגידול באינטליגנציה צריך להיות מלווה בגידול בתיאום: סמכות לגיטימית ומפורשת, התחייבויות ברורות, תלויות גלויות, פרטיות מוגנת, כוח מבוזר וניתן להחלפה ולמידה מתמשכת.

המטרה אינה להפוך כל מערכת יחסים לפורמלית.

לא להפוך כל החלטה לפומבית.

לא לתת ל־AI ריבונות.

לא ליצור מערכת שליטה אוניברסלית אחת.

המטרה היא להקל על הבנת שיתוף פעולה בעל השלכות ולהקשות על השתלטות עליו.

אנשים נשארים חופשיים.

סוכנים נשארים מוגבלים בסמכות לגיטימית.

מנהיגים נשארים משרתים של מנדטים מואצלים.

מוסדות נשארים ניתנים להחלפה.

הכוח נשאר מחולק.

הפרטיות נשארת מוגנת.

ההתחייבויות נעשות ברורות יותר.

מערכות לומדות.

והאינטליגנציה נעשית לא רק בעלת יכולת רבה יותר,

אלא גם מסוגלת יותר לתאם באחריות.

זה הכיוון:

מאינטליגנציה לתיאום.