דילוג לתוכן
SULTAN INNOVATION GROUP

בינה מלאכותית

יסודות AI

אין צורך להיות מהנדס כדי להשתמש בבינה מלאכותית בתבונה, אבל כדאי להבין כמה עקרונות: מה המודל באמת עושה, מאיפה מגיע הידע שלו, ולמה הוא יכול לנסח תשובה משכנעת שאינה נכונה.

על מה מדובר

מה מודלים של בינה מלאכותית עושים, איך הם עובדים ברמה המושגית, ואיפה הם טועים.

מודלי שפה מייצרים טקסט על סמך דפוסים שלמדו מכמויות גדולות של מידע. היכולת הזאת שימושית מאוד לכתיבה, לסיכום ולניתוח, אבל היא שונה מבדיקת עובדות. המודל לא "יודע" במובן האנושי, והוא עלול להשלים פרטים חסרים בביטחון.

התכנים כאן מסבירים את המושגים שחוזרים בכל שיחה על AI, מודל, הנחיה (Prompt), הקשר, הזיה (Hallucination), סוכן, בשפה פשוטה, ומחברים אותם להחלטות מעשיות: מתי לסמוך, מתי לבדוק ומה לא למסור.

מסגרת עבודה

ארבעה מושגים שכדאי להכיר.

  1. מודל

    המערכת שמייצרת את התשובה. מודלים שונים טובים במשימות שונות ונבדלים במחיר, במהירות ובאיכות.

  2. הנחיה והקשר

    מה שאתם כותבים למודל ומה שאתם מצרפים. הנחיה ברורה עם דוגמה ומידע רלוונטי משפרת מאוד את התוצאה.

  3. הזיה

    תשובה שנשמעת סבירה אבל אינה נכונה. לכן כל עובדה, מספר או מקור שהמודל מציג צריך בדיקה.

  4. פרטיות

    מידע שמוזן לכלי חיצוני עשוי להישמר או לשמש לאימון, לפי תנאי השירות. כדאי לבדוק לפני שמזינים מידע רגיש.

מאמרים ומדריכים

לקריאה בנושא.

טעויות נפוצות

מה כדאי להימנע ממנו.

  • להתייחס לתשובה כעובדה

    מודל שפה הוא כלי ניסוח וחשיבה, לא מקור מוסמך. עובדות דורשות מקור.

  • לשפוט כלי לפי ניסיון אחד

    איכות התוצאה תלויה מאוד בהנחיה ובהקשר. ניסיון כושל אחד לא מלמד הרבה.

  • להזין מידע רגיש בלי לבדוק

    פרטי לקוחות, מידע רפואי או מסחרי רגיש דורשים בדיקה של תנאי השימוש לפני הזנה.

שאלות נפוצות

שאלות שעולות בתחום.

האם בינה מלאכותית מבינה מה היא כותבת?

היא מזהה דפוסים בשפה ברמה גבוהה מאוד, אבל אין לה הבנה ואחריות במובן האנושי. לכן התוצאה דורשת שיקול דעת של אדם.

למה אותו כלי נותן תשובות שונות?

מודלים מייצרים טקסט באופן הסתברותי, ולכן אותה שאלה יכולה לקבל ניסוחים שונים. ניסוח מדויק יותר והקשר מלא מצמצמים את השונות.

מונחים בנושא

מודל שפה גדולLLM
מערכת בינה מלאכותית שאומנה על כמויות גדולות של טקסט ומייצרת טקסט חדש על סמך הדפוסים שלמדה.
הזיה של מודלHallucination
תשובה של מודל בינה מלאכותית שנשמעת סבירה ובטוחה, אבל אינה נכונה, למשל עובדה, מספר או מקור שאינם קיימים.
הנחיהPrompt
הטקסט שמוזן למודל כדי לקבל תוצאה: ההוראה, ההקשר, הדוגמאות והמגבלות. ניסוח ברור משפר מאוד את התוצאה.