הצומת agent מפעיל LLM עם קונטקסט מורכב וסט של tools. זהו הבלוק המרכזי של AI ב-betool.
השילוש: תפקיד / משימה / סלקציה
agent אינו יודע לבד מה לעשות. שלושה דברים מנחים אותו:
- תפקיד — כיצד הוא עובד (סגנון, אילוצים, יציבה). קצר. ניתן לשימוש חוזר בין agents.
- משימה — מה עליו לעשות עבור מקרה השימוש הספציפי הזה. ארוכה יותר. ייחודית ל-pipeline.
- סלקציה — אילו נתונים מהקונטקסט הוא מקבל כקלט. מוגדרת במפורש.
agent שמתנהג בצורה לא תקינה סובל כמעט תמיד מבעיה בתפקיד, במשימה או בסלקציה — לא במודל. לפני שמשדרגים את המודל, בדקו את השלושה.
הגדרת הסלקציה
הסלקציה קובעת בדיוק מה ה-LLM רואה. חמישה סוגים:
| סוג | אפקט |
|---|---|
key | קורא ctx.results[<מפתח>] — למשל exchange.intent |
prefix | משרשר את כל המפתחות תחת prefix — למשל project.* |
literal | טקסט גולמי, עם placeholders — למשל "Question : {user_message}" |
file | מצרף קובץ (multimodal) — למשל webhook.payload._files |
history | כולל N תורות קודמות (multi-turn נייטיב) |
ארבעת הראשונים מרכיבים את user_message של התור הנוכחי. history הוא ערוץ אורתוגונלי שעובר ב-messages[] LLM.
אין fallback בזמן ריצה. אם הסלקציה ריקה, ה-LLM מקבל "" ורושם warning. עליכם לכלול במפורש את מה שה-agent צריך — אין קסם.
מודל LLM
נבחר מבין המודלים המנוהלים של הפלטפורמה או חשבונות ה-LLM שהוגדרו ב-הגדרות ← ספקים (ראו חיבור מפתח LLM). ניתן:
- לנעץ מודל ספציפי מהקטלוג (מנוהל או בחשבון שלכם).
- להשתמש במודל ברירת המחדל של הארגון.
- להגדיר fallback (אם הראשי נכשל, עובר לשני).
Tools
הtools הם הפונקציות שה-LLM יכול לקרוא להן. בוחרים אותם מהקטלוג:
- Tools גלובליים —
knowledge.searchו-knowledge.semantic_search(בסיס ידע),web_search.search(חיפוש ברשת),web_scrape.fetch_page(קריאת דף אינטרנט)... - Tools של ערוץ — עבור pipeline קולי:
phone_gateway.transfer_call,phone_gateway.hangup_call,phone_gateway.set_call_disposition. - Tools של מחבר — אלה של האינטגרציות שהארגון שלכם חיבר (למשל
jira.create_issue,hubspot.search_contacts).
ה-agent רואה רק את ה-tools שניתן להגיע אליהם בפועל בהקשר הביצוע שלו. agent ב-pipeline של אימייל לא יקבל הצעה ל-tool טלפוני.
פורמט פלט
שלוש אפשרויות:
- טקסט חופשי — לתגובות משתמש.
- JSON מובנה — ה-agent חייב לייצר JSON תואם לסכמה מוגדרת (מאומת בקפדנות).
- Tool call בלבד — ה-agent לא כותב כלום: הוא קורא ל-tool או לא עושה כלום.
מצב JSON הוא חובה עבור agents שפלטם מזין תנאי או agent אחר שבזרמם.
המלצות
- תארו את ה-tools בדיוק. התיאור שה-LLM רואה חייב לכסות: מה, מתי להשתמש, מתי להימנע, פורמט. תיאור קצר מדי = LLM שמנחש = באג שבלתי נראה.
- בדקו עם benchmark. ראו Benchmarks.
- שמרו על עקביות המשימה. משימה שמשתנה על פני 3 גרסאות = agent שרגרס. גרסו את המשימות שלכם.
עלויות
ראו תמחור. ב-BYOK, אתם משלמים ישירות לספק ה-LLM שלכם. במודל מנוהל, tokens הקלט והפלט מחויבים בקרדיטים לפי התעריף של המודל שנבחר.