למפתחי בינה מלאכותית ומערכות סוכנים
מה רשאי סוכן בינה מלאכותית להבטיח בשם אדם או ארגון, וכיצד ניתן לבדוק את הביצוע? אתר ObliNet מתאר ארכיטקטורה מוצעת לתיאום בין אנשים וסוכנים סביב התחייבויות המוגבלות בסמכויות, בתנאים ובתלויות. הבינה המלאכותית מסייעת לפרש בקשות, לבדוק יכולת ביצוע ולהעריך ראיות, והפעולות כפופות למנדט מפורש. מוצגים עקרונות לגיבוש התחייבויות, לעדכונן ולקבלת תוצאות, כבסיס לפיתוח ולבדיקה של מנגנונים תואמים.
סוכן זקוק למנדט
לפני שסוכן פועל בשם הגורם המסמיך, הוא זקוק למנדט המגדיר מה הוא רשאי לעשות, מה הוא רשאי להבטיח, באילו גבולות ומתי עליו להעביר את הסוגיה לגורם מוסמך.
רובד התחייבויות אפשרי
ObliNet מציע רובד תיאום לסוכנים אוטונומיים: חיבור מנדט להתחייבויות מאושרות, לתלויות, לקבלת התוצאה ולראיות. זוהי הצעה ארכיטקטונית, ולא טענה לקיומו של תקן הרשאת סוכנים שכבר נפרס.
ב־ObliNet ההתחייבות היא האובייקט המרכזי של התיאום. היכולת לעמוד בה נבדקת לפני אישורה; לאחר מכן עוקבים אחר תלויות, ביצוע, שינויים בתנאים ואישור התוצאה.
בינה מלאכותית מסייעת למשתתפים לנסח, לבדוק ולתאם התחייבויות, וכן להעריך ראיות למימושן.
הסמכות ליטול התחייבויות או לאשר אותן, ולקבל את תוצאות הביצוע, נשארת בידי המשתתפים המוסמכים לכך.
לכל רובד תפקיד משלו
הגורם המסמיך / המנדט מגדיר סמכות מואצלת. זהות מזהה את הגורם. המודל / LLM מסיק. משאבי חישוב מריצים הסקה. כלים / MCP מאפשרים פעולות. ObliNet מייצג התחייבויות, תנאים ותלויות; הוא אינו מקור הסמכות. תשלומים מעבירים ערך. ביקורת בוחנת ראיות ותוצאות.
- הגורם המסמיך / מנדט
- זהות
- מודל / LLM
- משאבי חישוב
- כלים / MCP
- ObliNet
- תשלומים
- ביקורת
לדעת מתי לעצור
אוטונומיה בגבולות מוגדרים כוללת העברת הסוגיה לגורם מוסמך: כאשר הפעולה הבאה חורגת מהמנדט הפעיל, על הסוכן להעביר את הסוגיה במקום להמשיך בשקט. תלויות חסרות או תנאים שהשתנו מחייבים הבהרה או אישור מגורם מוסמך. גישה ≠ יכולת ≠ סמכות.
זהות, מודל / LLM, מחשוב וכלים / MCP תומכים בסוכן כשכבות נפרדות. מייפה הסמכות הוא המקור הלגיטימי שבשמו מופעלת הסמכות באמצעות מנדט מוגבל. פעולה / התחייבות מותרת רק בגבולות המנדט; מחוץ לו הסוכן מעביר את העניין לאדם או לגורם מוסמך. גישה ≠ יכולת ≠ סמכות.