תגית: kubeflow

Nutanix Enterprise AI, some cool user AI and a Nutanix micro segmentation demo for you to enjoy!

Nutanix Enterprise AI

אנחנו ממש ברגעים אלו מכריזים על פתרון חדש בשם NAI, רוצים לנחש באיזה תחום הוא?

נכון!

Nutanix Enterprise AI הוכרז רשמית ממש עכשיו והוא מרחיב את פתרון ה GPT-in-a-Box שדיברנו עליו בקצרה כאן וגם כאן למשל.

אנחנו רוצים לעזור ללקוחות לבצע בInferencing בפועל כמה שיותר קרוב לצריכה אבל לאפשר גמישות מלאה ולכן ניתן להריץ את הפתרון על כל פתרון קוברנטיס סטנדרטי (כל מה שעונה להגדרת CNFC Certified), שלנו או לא שלנו, בענן הציבורי כולל השירותים המנוהלים EKS, AKS, GKE , הענן הפרטי או bare metal.

אגב איך הייתם מגדירים Inferencing בעברית? התרגום המילולי הוא הסקה או הקשה אבל זה לא מרגיש מדויק מספיק, חסר כאן קצת מיצוי וקצת זיקוק אולי, לא?

הפתרון כולל Model repository כלומר מאחסן את המודלים שמורשים בארגון ומנהל עבורם role base access לניהול הרשאות ארגוני כמו לכל אפליקציה ארגונית אחרת. אנחנו מאפשרים נקודת גישה, endpoint, סטנדרטית לחלוטין כלומר למשל אם כבר התחלתם לפלרטט עם Open.AI ועכשיו אתם רוצים לבוא הביתה, אנחנו זמינים לכם ללא כל שינוי או בשינוים מינוריים בלבד, אתם כבר מדברים את השפה. המודלים עצמם יכולים להיות מלא אופציות של LLM אם זה משהו מה hugging face, אם זה NVIDIA NIM או אפילו משהו ייחודי לכם!

החלק האחרון הוא החלק הפחות סקסי אבל המשמעותי להפוך ניסוי קטן לפתרון ברמת enterprise, החלק של ניטור וניהול, החלק הכבד שתומך באפליקציה, כל נושא ה day-2 שלא חשבתם עליו בשלב בו החוקרים רק קצת שחקו עם AI והריצו משהו קטן על הלפטופ שלהם.

Google notebook LM

אגב כלי AI, שלחתי את זה לחברים בקבוצת ה Nutanix User Group שלנו אבל אני חייב לחלוק גם כאן, שמעתם כבר על Google notebook LM? זה שירות ממש מדהים בעיני ברמת הביצוע. נתתי לו קישור לפוסט הקודם שלי כאן בבלוג הצנוע הזה  וביקשתי ממנו ליצור פרק פודקסט קליל והומוריסטי. התוצאה לדעתי לא פחות ממדהימה. כרגע האופציה לפודקסט היא באנגלית בלבד אבל כאמור נתתי לו קישור לפוסט בעברית ותוך ממש כמה דקות נוצר פרק פודקסט בין גבר ואישה שמדברים בקלילות כמעט טבעית לחלוטין עלי כבלוגר, על זה שאני שוחה ומשלב בבלוג שלי בין החיים האישיים והמקצועיים והם אפילו הסבירו מה זה low code / no code, אם יש לכם שמונה דקות תקשיבו לזה:

וכמובן אם אתם לא ב user group  שלנו אתם מוזמנים גם בווטסאפ וגם בלינקידינקי.

Nutanix Flow micro-segmentation Demo

בלי קשר, השתתפתי היום בוובינר ביחד עם החברים בחברת Faddom, היתה נוכחות מאד מרשימה ואני מקווה שכל מי שהיה נהנה ולמד אני תמיד משתדל לכבד את הזמן של מי שמשקיע בי ומקווה שאכן היה ניצול זמן נכון של כולנו. בהמשך לוובינר הכנתי כאן דמו קצר על הפעלת חוקים ב Nutanix Flow Micro-Segmentation מקווה שתמצאו אותו מועיל גם.

את ההקלטה המלאה של הוובינר אפשר למצוא כאן למי שיש יותר זמן וסבלנות:

וזו כאן הכתבה אליה אביב מפנה בסוף ההקלטה:

https://www.calcalist.co.il/article/skxbsy0w1x

בברכת בשורות טובות,

שישובו כל החטופים והחטופות במהרה אמן וכל החיילים והחיילות בריאים ושלמים!

שלכם כרגיל,

ניר מליק

יאש, ג'בטה בבית פנימה וכדור טכנולוגי במדבר

וורבשטה רומנשטה?

בשבוע שעבר בילינו חופשה משפחתית מוצלחת מאד ברומניה, באיזור יאש. עקבנו כמעט במדויק אחרי המסלול בבלוג הזה של רוית שאני לא מכיר אישית אבל נהנה מאד מההמלצות שלה:

צפון רומניה, יאשי והסביבה עם ילדים – יולי 2022

המחירים קצת עלו מאז הטיול של רוית שם בשנה שעברה ועם הזינוק בשער הדולר בחודשים האחרונים המחירים יקרים עוד יותר ולמרות זאת עדיין מדובר בחופשה ברת השגה, באופן יחסי. הנופים יפים, האוכל מעולה, האנשים נחמדים ויש שפע אטרקציות. דברו איתי לגבי המלצות ספציפיות אם אתם בעניין!

ChatGPT-In-a-Box

באותו שבוע, הכריזה ניוטניקס על פתרון GPT-in-a-Box או בשם החיבה שלו, כבוד ג'בטה בבית פנימה

אם אתם עוקבים אחרי הפודקסאט "למה סייבר", בטח יצא לכם לשמוע את אישתי, הדס שני מליק, מתארחת שם בפרק שמדבר על הסיכונים בעולמות ה AI או הבינה המלאכותית מבחינת אבטחת מידע

והיה גם פרק יעודי על השכלול של מתקפות הסייבר באמצעות AI

אז לצד היתרונות הענקיים שכלים כמו ג'בטה הביאו, קיימים גם סיכונים וארגונים נאלצים לאזן בין המהירות ו"קיצורי הדרך" שהכלים האלו מביאים ובין הצורך לשלוט ולהגן על מידע, לאכוף רגולציה וכן, גם לשלוט בעלויות שכמו בכל כלי מגניב שמתפשט כמו אש בשדה קוצים בקרב המפתחים הנמרצים שלנו, זה מתחיל בחינם והופך להיות שורת תקציב מכובדת ככל שקריאות ה API הופכות תכופות יותר.

כאן, את המתח הזה, באה ניוטניקס לפתור. הפתרון כולל חבילה של חומרת ניוטניקס מבוססת GPU, רישוי לפלטפורמת הענן הפרטי של ניוטניקס כולל שירותי הקבצים ואחסון האובייקטים, Kubernetes, ומעל רכיבי התשתית האלו PyTorch כפריימוורק לAI וגם Kubflow כמנוע MLOps. הדבר היחיד שהלקוח צריך להביא זה רישוי למנוע Large Language Model (או LLM) מתוך המנועים שנוטניקס בחרה Llama2, Falcon או MPT ובטח בעתיד נוסיף עוד אם תהיה דרישה.

במסגרת הפתרון כמובן שעורכים גם סדנאות סייזינג מסודרות לאפיין את הפלטפורמה ואנחנו מלווים את הלקוחות משלב התכנון דרך הפריסה של הפלטפורמה, הטמעת מנועי ה LLM והתחלת הפעילות.

אם זה נשמע לכם מגניב אשמח לדבר איתכם על זה מאד!

Viva Las Running

התחלנו ברומניה ואנחנו מסיימים בארצות הברית. חלק ניכר מהצוות שלנו כבר טס ואני מצטרף אליהם במוצש וכולנו נפגשים בלאס-וגאס לאירוע ה Sales Kick-Off השנתי שלנו. מעבר לכנס עצמו אני מתרגש לקראת שני דברים. הראשון הוא קבוצה של רצים חובבים מתוך משתתפי הכנס שמתארגנת לריצת בוקר על ה Las Vegas Strip, נשמע לי מאד מגניב וכן, הפכתי להיות מהאנשים שמתכננים מראש לקום מוקדם ולצאת לרוץ ומתרגשים לקראת זה.

הדבר השני הוא ה Sphere ואם לא שמעתם על זה אז תדמיינו מבנה בצורת כדור. בתוכו כנראה אולם האירועים הכי מתקדם שאי פעם נוצר עם מערכות קול מטורפות כולל מערכת "קול" אחת שכל תפקידה זה לשדר את תדרי ה"תחושה" תדרים שאנחנו לא שומעים באוזן אלא מרגישים בבטן ומערכת קול נפרדת שתפקידה להיות מסוגלת "לזרוק" קול באופן ממוקד לכל כיסא באולם. כל תקרת האולם העגול היא מסך הקרנה משוכלל וכל המבנה העגול עטוף מבחוץ בזיליארד לדים שמאפשרים תצוגה סופר איכותית ודינאמית כמו בסרטון שלמטה, זה יהיה די מגניב!

אני לא מתרגש מהטיסה עצמה, בהלוך יש לי 15.5 שעות רצופות מתל אביב לסן פרנסיסקו ואז עוד טיסת קישור ללאס וגאס עצמה, אין לי אלא להתפלל לאלוהי השדרוגים המרחמים על הגבוהים, אמן!

אשמח מאד לשמוע מה דעתכם!

שלכם כרגיל,

ניר מליק