דילוג לתוכן
SULTAN INNOVATION GROUP

בינה מלאכותית

סוכני AI

סוכן AI הוא מערכת שלא רק עונה, אלא גם פועלת: מחפשת מידע, מעדכנת רשומות, שולחת הודעות או מבצעת רצף של צעדים. היכולת הזאת מעניינת, והיא גם מה שהופך את הסוכן לרגיש יותר מצ'אטבוט.

על מה מדובר

מצ'אטבוט שעונה לסוכן שמבצע פעולות: מה ההבדל, ומה צריך לפני שנותנים לו הרשאות.

כשמערכת רק מציעה טקסט, אדם מחליט מה לעשות איתו. כשמערכת מבצעת פעולות, ההחלטה עוברת אליה, לפחות בחלקה. לכן השאלות החשובות בסוכנים אינן רק מה הוא יודע לעשות, אלא מה מותר לו לעשות, מי רואה מה הוא עשה, ואיך עוצרים אותו.

התכנים כאן עוסקים בהבדל בין רמות האוטונומיה, בבחירת משימות שמתאימות לסוכנים, ובבקרה: הרשאות מצומצמות, אישור אנושי לפעולות רגישות, תיעוד ובדיקות של תרחישי כשל.

מסגרת עבודה

ארבע רמות של אוטונומיה.

  1. מציע

    הסוכן מנסח או ממליץ, ואדם מבצע. מתאים להתחלה ולמשימות רגישות.

  2. מכין ומחכה לאישור

    הסוכן מכין את הפעולה במלואה, ואדם מאשר לפני שהיא יוצאת.

  3. מבצע בגבולות

    הסוכן פועל לבד במשימות מוגדרות ובהרשאות מצומצמות, והכול מתועד.

  4. מבצע ומדווח

    הסוכן פועל ברצף ומדווח בסוף. מתאים רק למשימות שבהן טעות קלה לזיהוי ולתיקון.

מאמרים ומדריכים

לקריאה בנושא.

טעויות נפוצות

מה כדאי להימנע ממנו.

  • לתת הרשאות רחבות מההתחלה

    סוכן עם גישה מלאה למערכות יכול לטעות בקנה מידה גדול. עדיף להתחיל בהרשאה מצומצמת ולהרחיב.

  • לא לתעד מה הסוכן עשה

    בלי יומן פעולות קשה להבין טעות, לתקן אותה או ללמוד ממנה.

  • לבדוק רק את המקרה הטוב

    סוכנים נכשלים במקרים החריגים. כדאי לבדוק מראש קלט חסר, סותר או זדוני.

שאלות נפוצות

שאלות שעולות בתחום.

מה ההבדל בין צ'אטבוט לסוכן AI?

צ'אטבוט עונה על שאלות. סוכן יכול גם לבצע פעולות במערכות אחרות, כמו לעדכן רשומה או לשלוח הודעה, ולעתים לתכנן רצף של צעדים.

האם סוכן יכול להחליף עובד?

סוכן יכול לבצע חלק מהמשימות של תפקיד, בעיקר משימות חוזרות ומוגדרות. אחריות, שיקול דעת ויחסים עם לקוחות עדיין דורשים אדם.

מונחים בנושא

סוכן AIAI agent
מערכת בינה מלאכותית שיכולה לא רק לענות, אלא גם לבצע פעולות במערכות אחרות ולתכנן רצף של צעדים כדי להשלים משימה.
אדם בלולאהHuman in the loop
תהליך שבו אדם בודק או מאשר את התוצאה של מערכת אוטומטית לפני שהיא מבוצעת או נשלחת.