סוכני AI
הצומת agent מפעיל LLM עם קונטקסט מורכב וסט של tools. זהו הבלוק המרכזי של AI ב-betool.
השילוש: תפקיד / משימה / סלקציה
agent אינו יודע לבד מה לעשות. שלושה דברים מנחים אותו:
- תפקיד — כיצד הוא עובד (סגנון, אילוצים, יציבה). קצר. ניתן לשימוש חוזר בין agents.
- משימה — מה עליו לעשות עבור מקרה השימוש הספציפי הזה. ארוכה יותר. ייחודית ל-pipeline.
- סלקציה — אילו נתונים מהקונטקסט הוא מקבל כקלט. מוגדרת במפורש.
agent שמתנהג בצורה לא תקינה סובל כמעט תמיד מבעיה בתפקיד, במשימה או בסלקציה — לא במודל. לפני שמשדרגים את המודל, בדקו את השלושה.
הגדרת הסלקציה
הסלקציה קובעת בדיוק מה ה-LLM רואה. חמישה סוגים:
| סוג | אפקט |
|---|---|
key | קורא ctx.results[<מפתח>] — למשל exchange.intent |
prefix | משרשר את כל המפתחות תחת prefix — למשל project.* |
literal | טקסט גולמי, עם placeholders — למשל "Question : {user_message}" |
file | מצרף קובץ (multimodal) — למשל webhook.payload._files |
history | כולל N תורות קודמות (multi-turn נייטיב) |
ארבעת הראשונים מרכיבים את user_message של התור הנוכחי. history הוא ערוץ אורתוגונלי שעובר ב-messages[] LLM.
אין fallback בזמן ריצה. אם הסלקציה ריקה, ה-LLM מקבל "" ורושם warning. עליכם לכלול במפורש את מה שה-agent צריך — אין קסם.
מודל LLM
נבחר מבין המודלים שהוגדרו ב-Administration ← מודלים. ניתן:
- לנעץ מודל ספציפי (למשל
claude-opus-4-7). - להשתמש במודל ברירת המחדל של הארגון.
- להגדיר fallback (אם הראשי נכשל, עובר לשני).
Tools
הtools הם הפונקציות שה-LLM יכול לקרוא להן. בוחרים אותם מהקטלוג:
- Tools גלובליים —
knowledge.search,web.fetch,compute.now... - Tools של ערוץ — עבור pipeline קולי:
voice.barge_in,voice.hangup,voice.transfer... - Tools של תחום — שנוצרו על-ידי המפעילים שלכם (למשל
crm.create_ticketשנחשף דרך צומת operator).
ה-agent רואה רק את ה-tools שניתן להגיע אליהם בפועל בהקשר הביצוע שלו. agent ב-pipeline של אימייל לא יקבל הצעה ל-tool קולי.
פורמט פלט
שלוש אפשרויות:
- טקסט חופשי — לתגובות משתמש.
- JSON מובנה — ה-agent חייב לייצר JSON תואם לסכמה מוגדרת (מאומת בקפדנות).
- Tool call בלבד — ה-agent לא כותב כלום: הוא קורא ל-tool או לא עושה כלום.
מצב JSON הוא חובה עבור agents שפלטם מזין תנאי או agent אחר שבזרמם.
המלצות
- תארו את ה-tools בדיוק. התיאור שה-LLM רואה חייב לכסות: מה, מתי להשתמש, מתי להימנע, פורמט. תיאור קצר מדי = LLM שמנחש = באג שבלתי נראה.
- בדקו עם benchmark. ראו Benchmarks.
- שמרו על עקביות המשימה. משימה שמשתנה על פני 3 גרסאות = agent שרגרס. גרסו את המשימות שלכם.
עלויות
ראו תמחור. ב-BYOK, אתם משלמים ישירות לספק ה-LLM שלכם. אחרת, חשבו על כ-30 קרדיטים לכל 1K tokens קלט ו-90 לכל 1K פלט.