בוחרים מה להריץ לפני שקונים חומרה.
משווים מודלים, שימוש ב־API, ענן וחומרה מקומית לפי המשימה, דרישות האיכות ותקציב התפעול הכולל שלכם. מתחילים מהמלצה מבוססת מדידות, לא מרשימת קניות.
למי השירות מתאים
- אתם בוחרים בין API, כרטיסים גרפיים בענן וחומרה שבשליטתכם.
- אב־הטיפוס עובד, אבל צריך לבחון לעומק את איכות התשובות, זמן התגובה או עלות התפעול.
מה מקבלים
- השוואת מודלים מועמדים על קלטים מייצגים.
- מדידת איכות, זמן תגובה וצריכת משאבים במערכת הנוכחית.
- המלצה עם חישוב העלות הכוללת וההנחות שבבסיסה.
- הצעה להיקף העבודה בשלב הבא.
איך מתקדמים
מגדירים את ההחלטה
מסכמים את המשימה, האילוצים ובדיקות הקבלה.
מודדים את המועמדים
בודקים את אפשרויות המודל והחומרה הרלוונטיות על הדוגמאות שלכם.
מסבירים את ההמלצה
מתעדים מה מתאים, מה לא ולמה. גם להישאר עם ה־API הקיים זו תוצאה לגיטימית.
לכל מודל יש תפקיד
מודלי שיחה יוצרים תשובות ויכולים להפעיל כלים. מודלי embeddings מייצגים טקסט כמספרים כדי לחפש לפי משמעות. מודלי reranking בודקים את תוצאות החיפוש ומסדרים אותן לפי הרלוונטיות לשאלה. בוחרים את השילוב לפי המשימה שלכם. הסברים ודוגמאות למושגים האלה.
קודם מעריכים, אחר כך משנים
ניסוי מהמעבדה שבו השוואה מדויקת יותר שינתה את המסקנה.
קראו את רשומת המחקר (באנגלית)היקף העבודה, מסירה ותמיכה
ההצעה מפרטת את העבודה, המחיר, מועדי ההתחלה והמסירה ומה נדרש מכם. בחישוב העלות מביאים בחשבון חומרה, חיובי ענן, עבודת פיתוח ותפעול שוטף. ימי עבודה אצלכם ותמיכה בהמשך נקבעים כחלק מההתקשרות. צוות ההנדסה ממשיך לתמוך במערכות שהוא בונה, בתנאים שסוכמו.
שאלות על העבודה המשותפת
איך נקבע המחיר?
לפי המשימות וכמות הבקשות שלכם, החומרה והיקף ההקמה והתמיכה שנסכם יחד. ההצעה מפרידה בין עבודת הפיתוח לבין עלויות החומרה, הענן והתפעול השוטף.
מי ממשיך לתמוך במערכת?
לפני שמתחילים מסכמים מה כוללת התמיכה, איזו עבודה תתבצע אצלכם ואיך מטפלים בתקלות.
צריך לקנות חומרה מראש?
לא. מתחילים מהמשימות שלכם ומהתקציב. משווים את האפשרויות לפני שממליצים על רכישה או פריסה.