Fine-tuning למשימה שלכם. בודקים לפני ואחרי.
Fine-tuning הוא אימון נוסף של מודל קיים על דוגמאות מהמשימה שלכם. קודם בודקים אם שינוי ה־prompt מספיק, ואז משווים לאימון לפי איכות התשובות ועלות ההרצה.
למי השירות מתאים
- הדוגמאות שלכם חושפות פער בביצוע המשימה, במינוח או במבנה הפלט.
- אתם צריכים לבדוק איכות בעברית או דרישה אחרת של המשימה לפני שמחליטים על אימון.
מה מקבלים
- סט דוגמאות לבדיקה שלא שימש לאימון, עם מדדי איכות שסיכמנו יחד.
- השוואה בין מודל הבסיס למועמדים שנבדקו.
- תוצרי האימון וההגדרות, כשהאימון אושר והרישיון מאפשר את מסירתם.
- מדידות פריסה והוראות תפעול במסגרת ההיקף שסוכם.
איך מתקדמים
מכינים את הבדיקה
מפרידים בין דוגמאות האימון לדוגמאות שעל פיהן תיבחן התוצאה.
בודקים את השינוי
משווים בין המודל המקורי, שיפור ה־prompt ו־fine-tuning.
בודקים את הפריסה
מודדים יחד איכות, שימוש בזיכרון וזמן תגובה לפני שבוחרים מה להפעיל.
איכות בעברית מתחילה בדוגמאות שלכם
אנחנו חוקרים מודלים בעברית ואת האופן שבו הם מחלקים טקסט לטוקנים, יחידות הטקסט שהמודל מעבד. פחות טוקנים לא מבטיחים תשובות טובות יותר. את איכות התשובות בודקים על דוגמאות מהמשימה שלכם. מהם טוקנים, prompt ו־fine-tuning?
מדידה יכולה לשנות את ההחלטה אם לאמן
לפני שממליצים לאמן, מודדים את מודל הבסיס על המשימה שלכם. במחקרים שפרסמנו אפשר לראות איך בודקים אם הפער נובע מהמודל או משיטת המדידה, לפני שמשקיעים באימון.
עיינו במחקרהיקף העבודה, מסירה ותמיכה
ההצעה מפרטת את העבודה, המחיר, מועדי ההתחלה והמסירה ומה נדרש מכם. בחישוב העלות מביאים בחשבון חומרה, חיובי ענן, עבודת פיתוח ותפעול שוטף. ימי עבודה אצלכם ותמיכה בהמשך נקבעים כחלק מההתקשרות. צוות ההנדסה ממשיך לתמוך במערכות שהוא בונה, בתנאים שסוכמו.
שאלות על העבודה המשותפת
איך נקבע המחיר?
לפי המשימות וכמות הבקשות שלכם, החומרה והיקף ההקמה והתמיכה שנסכם יחד. ההצעה מפרידה בין עבודת הפיתוח לבין עלויות החומרה, הענן והתפעול השוטף.
מי ממשיך לתמוך במערכת?
לפני שמתחילים מסכמים מה כוללת התמיכה, איזו עבודה תתבצע אצלכם ואיך מטפלים בתקלות.
צריך לקנות חומרה מראש?
לא. מתחילים מהמשימות שלכם ומהתקציב. משווים את האפשרויות לפני שממליצים על רכישה או פריסה.