תוכן המאמר
סוכן AI הוא מערכת שמשתמשת במודל בינה מלאכותית כדי לא רק לענות, אלא גם לבצע פעולות: לחפש מידע, לעדכן רשומה במערכת, לשלוח הודעה או להשלים רצף של צעדים. בעסקים, סוכנים מתאימים בעיקר למשימות חוזרות ומוגדרות שבהן טעות קלה לזיהוי ולתיקון. הם פחות מתאימים, לפחות כרגע, למשימות שבהן מחיר הטעות גבוה, ההקשר מורכב, או שהלקוח מצפה לאדם. לפני שמפעילים סוכן, כדאי להחליט מה מותר לו לעשות, מי רואה מה הוא עשה, ואיך עוצרים אותו.
המאמר מסביר את ההבדל בין צ'אטבוט לסוכן, מציע ארבע רמות של אוטונומיה, ומפרט את הבקרות שכדאי לבנות לפני שסוכן פועל במערכות אמיתיות.
מה ההבדל בין צ'אטבוט לסוכן
צ'אטבוט עונה. הוא מקבל שאלה ומחזיר טקסט, ואדם מחליט מה לעשות עם התשובה. סוכן פועל. הוא מקבל משימה, מחליט על הצעדים, משתמש בכלים, כמו מערכת CRM, יומן, תיבת דואר או מסד נתונים, ומבצע.
ההבדל נשמע טכני, אבל הוא מהותי מבחינה עסקית. כשמערכת רק מנסחת, הטעות שלה נעצרת אצל האדם שקורא. כשמערכת מבצעת, הטעות שלה כבר קרתה: ההודעה נשלחה, הרשומה עודכנה, הפגישה נקבעה.
עיקרון
השאלה החשובה בסוכנים אינה מה הם יודעים לעשות, אלא מה מותר להם לעשות בלי שאדם בודק.
ארבע רמות של אוטונומיה
במקום להחליט "סוכן או לא", כדאי להחליט באיזו רמה הסוכן פועל בכל משימה:
- מציע. הסוכן מנתח ומציע פעולה, ואדם מבצע. למשל: סוכן שקורא פנייה נכנסת ומציע לאיזה איש צוות להעביר אותה.
- מכין ומחכה לאישור. הסוכן מכין את הפעולה במלואה, ואדם מאשר בלחיצה. למשל: טיוטת תשובה ללקוח, מוכנה לשליחה, שממתינה לאישור.
- מבצע בגבולות. הסוכן פועל לבד, אבל רק במשימות מוגדרות ובהרשאות מצומצמות, וכל פעולה מתועדת. למשל: עדכון סטטוס של פנייה במערכת ותיוג לפי נושא.
- מבצע ומדווח. הסוכן משלים רצף של צעדים ומדווח בסוף. מתאים רק למשימות שבהן טעות קלה לזיהוי, לתיקון, ואינה פוגעת בלקוח.
ברוב העסקים, כדאי להתחיל ברמה 1 או 2, לראות כמה פעמים הסוכן צודק, ורק אז לשקול הרחבה. החלוקה הזאת דומה לרמות האוטומציה שמתוארות במאמר מה נכון לאוטומט בעסק ומה כדאי להשאיר לאנשים, עם הבדל אחד חשוב: סוכן פועל על בסיס שיקול של מודל, ולא על בסיס כללים קבועים, ולכן ההתנהגות שלו פחות צפויה.
אילו משימות מתאימות לסוכנים
סוכנים מתאימים יותר למשימות שיש בהן:
- קלט משתנה אבל מטרה ברורה. למשל, פניות בניסוחים שונים שצריך למיין לאותן קטגוריות.
- כמה צעדים פשוטים ברצף. חיפוש פרטי לקוח, בדיקת סטטוס, ניסוח עדכון.
- מחיר טעות נמוך או בינוני. טעות שאפשר לזהות ולתקן לפני שהיא פוגעת במישהו.
- תיעוד אפשרי. כל פעולה נרשמת, כך שאפשר לבדוק בדיעבד.
הם פחות מתאימים למשימות עם השלכות כספיות או משפטיות, לשיחות רגישות עם לקוחות, להחלטות על אנשים, ולמצבים שבהם המידע חסר או סותר.
חמש בקרות לפני שסוכן פועל
1. הרשאות מינימליות
תנו לסוכן גישה רק למה שהוא צריך לצורך המשימה. אם הוא צריך לקרוא פניות ולתייג אותן, אין סיבה שתהיה לו הרשאה למחוק לקוחות או לשלוח מיילים לכל הרשימה.
2. אישור אנושי לפעולות רגישות
הגדירו מראש אילו פעולות תמיד דורשות אישור: כל דבר שקשור לכסף, כל הודעה ללקוח שאינה תבנית מאושרת, וכל פעולה שקשה לבטל.
3. יומן פעולות
כל פעולה של הסוכן נרשמת: מה הוא קיבל, מה הוא החליט ומה הוא ביצע. בלי יומן, אי אפשר להבין טעות או ללמוד ממנה.
4. מתג עצירה
ודאו שיש דרך פשוטה ומהירה לעצור את הסוכן, ושמישהו בצוות יודע איך להשתמש בה.
5. בדיקה של מקרים חריגים
לפני הפעלה, בדקו מה הסוכן עושה עם קלט חסר, סותר, בשפה אחרת או זדוני, כמו פנייה שמנסה לשכנע אותו לבצע פעולה שלא נועד לה. סוכנים נכשלים בדרך כלל דווקא במקרים האלה.
דוגמה היפותטית: מיון פניות בחברת שירות
דוגמה היפותטית
חברת שירות קטנה מקבלת פניות בטופס, במייל ובוואטסאפ. היא מפעילה סוכן ברמה 2: הסוכן קורא כל פנייה, מזהה את הנושא והדחיפות, מציע איש צוות ומנסח תשובה ראשונה. איש הצוות מאשר או מתקן. אחרי חודש, הצוות רואה שהמיון כמעט תמיד נכון, ומעביר את התיוג לרמה 3, ביצוע עצמאי עם תיעוד. התשובות ללקוחות נשארות ברמה 2, כי טעות בהן פוגעת באמון.
טעויות נפוצות
- להתחיל ברמה הגבוהה. הדגמה מרשימה אינה ראיה לכך שהסוכן אמין בכל המקרים.
- הרשאות רחבות "ליתר ביטחון". כל הרשאה מיותרת היא נזק פוטנציאלי.
- לבדוק רק את המקרה הטוב. בעיות מתגלות במקרי הקצה.
- בלי בעלים. סוכן שאיש לא אחראי עליו ממשיך לפעול גם כשהתנאים השתנו.
- לשכוח את הלקוח. לקוח שמבין שהוא מדבר עם מערכת ולא מקבל דרך להגיע לאדם עלול לאבד אמון.
רשימת בדיקה לפני הפעלת סוכן
- המשימה מוגדרת, ויש לה תוצאה ברורה.
- נקבעה רמת אוטונומיה, ונקבע מה יגרום להרחבה או לצמצום שלה.
- לסוכן יש רק ההרשאות שהמשימה דורשת.
- פעולות רגישות דורשות אישור אנושי.
- כל פעולה מתועדת, ויש מי שקורא את היומן.
- יש מתג עצירה, ומישהו יודע להשתמש בו.
- נבדקו מקרים חריגים לפני ההפעלה.
- ללקוח או לעובד יש דרך להגיע לאדם.
שאלות נפוצות
האם סוכן AI יכול להחליף עובד?
סוכן יכול לבצע חלק מהמשימות של תפקיד, בעיקר משימות חוזרות ומוגדרות. אחריות, שיקול דעת, יחסים עם לקוחות וטיפול במצבים לא צפויים עדיין דורשים אדם.
האם צריך מתכנת כדי להפעיל סוכן?
לחלק מהשימושים יש כלים מוכנים שאפשר להגדיר בלי קוד. חיבור למערכות פנימיות, הגדרת הרשאות מדויקות ובדיקות של מקרים חריגים דורשים בדרך כלל ידע טכני.
מה הסיכון הגדול ביותר?
לרוב לא טעות דרמטית אחת, אלא טעות קטנה שחוזרת שוב ושוב בלי שאיש שם לב. לכן יומן פעולות ובעלים שקורא אותו חשובים כל כך.
השורה התחתונה
סוכני AI מוסיפים לבינה המלאכותית יכולת לפעול, וזה מה שהופך אותם לשימושיים וגם לרגישים. עסק שמפעיל סוכן בהדרגה, מרמה של הצעה לרמה של ביצוע, עם הרשאות מצומצמות, אישור לפעולות רגישות, תיעוד ומתג עצירה, יכול להעביר לו עבודה חוזרת ולהשאיר לאנשים את מה שדורש אחריות ושיקול דעת. כפי שמנוסח באחד העקרונות של החזון של הקבוצה: לתת לטכנולוגיה לעשות את מה שהיא עושה טוב, ולהשאיר לאנשים את מה שדורש אנשים.
התוכן נועד למידע כללי ואינו מהווה ייעוץ עסקי, פיננסי או משפטי.