סוכן שעובד על הקוד שלך זקוק לידע רב: הכללים שלכם, המסגרות התוכנתיות שבשימוש, דרכי הפעלת הבדיקות, ואופן השימוש בכל כלי זמין עבורו. טעינת כל זה לכל סוכן בכל משימה תהיה איטית, יקרה ומזיקה – מודל שמקבל מאה עמודים של הוראות לא רלוונטיות יפעל גרוע יותר, לא טוב יותר.
יכולות הדרגתיות היא הפתרון החלופי: סוכנים נושאים ליבת ידע קטנה וטוענים יכולות ספציפיות רק כשהעבודה דורשת זאת.
איך זה עובד
כל סוכן מתחיל עם מה שהוא תמיד זקוק לו – תפקידו, המשימה, והמפרט. יכולות נוספות נטענות כתגובה לעבודה שניצבת בפניו. סוכן שנתקל בהגירת מסד נתונים יטען את מה שנדרש לטיפול בהגירות; סוכן שמעולם לא נוגע במסד הנתונים לא ישלם על ידע זה.
למה זה חשוב עבורך
שלוש תוצאות מעשיות:
עלות. טוקנים מהווים את עלות המשתנה העיקרית להפעלת סוכנים, והקשר תופס את רוב ההוצאה על טוקנים. טעינת רק מה שנדרש מפחיתה את העלות באופן משמעותי.
איכות. זו התוצאה הפחות ברורה אך ככל הנראה החשובה ביותר. תשומת הלב של המודל היא מוגבלת. סוכן שקונטקסט שלו מורכב בעיקר מחומר לא רלוונטי צפוי להחמיץ את החלק הרלוונטי. קונטקסט ממוקד מניב תוצאות טובות יותר, לא רק תוצאות זולות יותר.
קנה מידה. זה מה שמאפשר לסוכנים לעבוד ביעילות באחסוני קוד גדולים. החלופה – ניסיון להכיל את כל בסיס הקוד בקונטקסט – מפסיקה לתפקד היטב עוד לפני רוב הפרויקטים האמיתיים.
מה שאתה שולט בו
לא הרבה, באופן מכוון. טעינת יכולות היא אוטומטית ומונעת על ידי מה שהעבודה דורשת.
מה שאתה כן שולט בו הוא הקונטקסט שעליו הסוכנים מסתמכים: קונטקסט פרויקט קובע מה זמין לטעינה מלכתחילה. ניהול נכון שלו חשוב יותר מאשר ניסיון לנהל יכולות ישירות.