מריצים את המודל על חומרה שמתאימה לתקציב.
בוחרים מודל ומנוע הרצה, התוכנה שמפעילה אותו ומטפלת בבקשות. כשצריך, מבצעים התאמות לפי המדידות. מתקינים אצלכם או בחשבון הענן שלכם ומעבירים לכם את ההגדרות והוראות התפעול.
למי השירות מתאים
- יש לכם משימה מוגדרת ואילוצי חומרה או תקציב תפעול.
- אתם צריכים מערכת שתוכלו לתפעל, לא רק מודל שמצליח להיטען.
מה מקבלים
- מערכת מותקנת ועובדת לפי ההיקף שסוכם.
- הגדרות המערכת ותיעוד המדידות.
- הוראות לתפעול ולהתאוששות מתקלות.
- מסירה מסודרת ותוכנית תמיכה מוסכמת.
איך מתקדמים
מודדים את נקודת הפתיחה
בודקים איך המודל והמערכת הקיימים מתפקדים במשימות ובעומס שלכם.
משנים את מה שמגביל את המערכת
בודקים דרכים להפחית צריכת זיכרון ולקצר זמני תגובה. בכל שינוי בודקים גם את איכות התשובות.
מתקינים ומעבירים לתפעול
בודקים את הפריסה בסביבה המיועדת לה ומתעדים איך להפעיל אותה.
על השרתים שלכם או בענן
Quantization היא אחת הדרכים לצמצם את הזיכרון שהמודל דורש. היא שומרת את המספרים של המודל בפחות ביטים. צריך לבדוק אם החיסכון משתלם בלי לפגוע באיכות שנדרשת לכם.
- הכרטיסים שלכם
- הענן שלכם
- הפריסה
מתקינים על הכרטיסים שלכם, או מקימים פריסה בחשבון הענן שלכם. ההמלצה כוללת משאבי מחשוב, עבודת פיתוח ותפעול שוטף.
במערכות agents, המודל גם מפעיל כלים. לכן בודקים את הקריאות לכלים, ההרשאות ותהליך העבודה המלא לפני המסירה. על בניית מערכות agents.
היקף העבודה, מסירה ותמיכה
ההצעה מפרטת את העבודה, המחיר, מועדי ההתחלה והמסירה ומה נדרש מכם. בחישוב העלות מביאים בחשבון חומרה, חיובי ענן, עבודת פיתוח ותפעול שוטף. ימי עבודה אצלכם ותמיכה בהמשך נקבעים כחלק מההתקשרות. צוות ההנדסה ממשיך לתמוך במערכות שהוא בונה, בתנאים שסוכמו.
שאלות על העבודה המשותפת
איך נקבע המחיר?
לפי המשימות וכמות הבקשות שלכם, החומרה והיקף ההקמה והתמיכה שנסכם יחד. ההצעה מפרידה בין עבודת הפיתוח לבין עלויות החומרה, הענן והתפעול השוטף.
מי ממשיך לתמוך במערכת?
לפני שמתחילים מסכמים מה כוללת התמיכה, איזו עבודה תתבצע אצלכם ואיך מטפלים בתקלות.
צריך לקנות חומרה מראש?
לא. מתחילים מהמשימות שלכם ומהתקציב. משווים את האפשרויות לפני שממליצים על רכישה או פריסה.