וורבשטה רומנשטה?
בשבוע שעבר בילינו חופשה משפחתית מוצלחת מאד ברומניה, באיזור יאש. עקבנו כמעט במדויק אחרי המסלול בבלוג הזה של רוית שאני לא מכיר אישית אבל נהנה מאד מההמלצות שלה:
המחירים קצת עלו מאז הטיול של רוית שם בשנה שעברה ועם הזינוק בשער הדולר בחודשים האחרונים המחירים יקרים עוד יותר ולמרות זאת עדיין מדובר בחופשה ברת השגה, באופן יחסי. הנופים יפים, האוכל מעולה, האנשים נחמדים ויש שפע אטרקציות. דברו איתי לגבי המלצות ספציפיות אם אתם בעניין!
ChatGPT-In-a-Box
באותו שבוע, הכריזה ניוטניקס על פתרון GPT-in-a-Box או בשם החיבה שלו, כבוד ג'בטה בבית פנימה
אם אתם עוקבים אחרי הפודקסאט "למה סייבר", בטח יצא לכם לשמוע את אישתי, הדס שני מליק, מתארחת שם בפרק שמדבר על הסיכונים בעולמות ה AI או הבינה המלאכותית מבחינת אבטחת מידע
והיה גם פרק יעודי על השכלול של מתקפות הסייבר באמצעות AI
אז לצד היתרונות הענקיים שכלים כמו ג'בטה הביאו, קיימים גם סיכונים וארגונים נאלצים לאזן בין המהירות ו"קיצורי הדרך" שהכלים האלו מביאים ובין הצורך לשלוט ולהגן על מידע, לאכוף רגולציה וכן, גם לשלוט בעלויות שכמו בכל כלי מגניב שמתפשט כמו אש בשדה קוצים בקרב המפתחים הנמרצים שלנו, זה מתחיל בחינם והופך להיות שורת תקציב מכובדת ככל שקריאות ה API הופכות תכופות יותר.
כאן, את המתח הזה, באה ניוטניקס לפתור. הפתרון כולל חבילה של חומרת ניוטניקס מבוססת GPU, רישוי לפלטפורמת הענן הפרטי של ניוטניקס כולל שירותי הקבצים ואחסון האובייקטים, Kubernetes, ומעל רכיבי התשתית האלו PyTorch כפריימוורק לAI וגם Kubflow כמנוע MLOps. הדבר היחיד שהלקוח צריך להביא זה רישוי למנוע Large Language Model (או LLM) מתוך המנועים שנוטניקס בחרה Llama2, Falcon או MPT ובטח בעתיד נוסיף עוד אם תהיה דרישה.
במסגרת הפתרון כמובן שעורכים גם סדנאות סייזינג מסודרות לאפיין את הפלטפורמה ואנחנו מלווים את הלקוחות משלב התכנון דרך הפריסה של הפלטפורמה, הטמעת מנועי ה LLM והתחלת הפעילות.
אם זה נשמע לכם מגניב אשמח לדבר איתכם על זה מאד!
Viva Las Running
התחלנו ברומניה ואנחנו מסיימים בארצות הברית. חלק ניכר מהצוות שלנו כבר טס ואני מצטרף אליהם במוצש וכולנו נפגשים בלאס-וגאס לאירוע ה Sales Kick-Off השנתי שלנו. מעבר לכנס עצמו אני מתרגש לקראת שני דברים. הראשון הוא קבוצה של רצים חובבים מתוך משתתפי הכנס שמתארגנת לריצת בוקר על ה Las Vegas Strip, נשמע לי מאד מגניב וכן, הפכתי להיות מהאנשים שמתכננים מראש לקום מוקדם ולצאת לרוץ ומתרגשים לקראת זה.
הדבר השני הוא ה Sphere ואם לא שמעתם על זה אז תדמיינו מבנה בצורת כדור. בתוכו כנראה אולם האירועים הכי מתקדם שאי פעם נוצר עם מערכות קול מטורפות כולל מערכת "קול" אחת שכל תפקידה זה לשדר את תדרי ה"תחושה" תדרים שאנחנו לא שומעים באוזן אלא מרגישים בבטן ומערכת קול נפרדת שתפקידה להיות מסוגלת "לזרוק" קול באופן ממוקד לכל כיסא באולם. כל תקרת האולם העגול היא מסך הקרנה משוכלל וכל המבנה העגול עטוף מבחוץ בזיליארד לדים שמאפשרים תצוגה סופר איכותית ודינאמית כמו בסרטון שלמטה, זה יהיה די מגניב!
אני לא מתרגש מהטיסה עצמה, בהלוך יש לי 15.5 שעות רצופות מתל אביב לסן פרנסיסקו ואז עוד טיסת קישור ללאס וגאס עצמה, אין לי אלא להתפלל לאלוהי השדרוגים המרחמים על הגבוהים, אמן!
אשמח מאד לשמוע מה דעתכם!
שלכם כרגיל,
ניר מליק