506 ML Infra with Itai from MIND

רן ואיתי מדברים על DLP (Data Loss Prevention) וכיצד ניתן לשלב טכנולוגיות AI ו-Machine Learning כדי לשפר את ההגנה על מידע רגיש בארגונים. איתי משתף את ניסיונו בחברת Mind, מסביר על האתגרים וההזדמנויות בתחום הסייבר סקיוריטי, ומדבר על תהליך הפיתוח והאימון של מודלים שונים. בפרק זה נדונה השפעת ה-AI על תהליכי פרודקשן, היתרונות של NVIDIA Triton בניהול מודלים שונים, שיפור ביצועים עם מודלים שונים, תהליכי סריקה ו-classification, ניהול תהליכים בזמן אמת, אתגרים בניהול משאבים, שימוש בטכנולוגיות לניהול תהליכים וזיהוי סוגי מסמכים שונים. כמו כן, הוצגה החברה Mind והזדמנויות הגיוס שלה.

נקודות מפתח:

• DLP היא תוכנית קריטית במניעת דליפת מידע רגיש.
• AI יכול לשפר את יכולות ה-DLP בצורה משמעותית.
• האתגרים בתחום הסייבר סקיוריטי הולכים ומתרבים עם הזמן.
• החלטות טכנולוגיות צריכות להתבסס על צרכי הלקוח והסביבה.
• אימון מודלים הוא תהליך מתמשך שדורש פידבק מתמיד.
• שימוש בכלים קיימים יכול לחסוך זמן ומשאבים.
• הבנת סוגי המידע הרגיש היא קריטית לפיתוח פתרונות DLP.
• הבחירה בין AI in-house לבין צד שלישי היא קריטית.
• הכנת דאטה איכותי היא שלב חשוב בפיתוח מודלים.
• היכולת של מודלים קטנים לזהות מידע רגיש יכולה להיות גבוהה. עשינו מחקר גדול על איך עושים AI בפרודקשן.
• בחרנו להריץ את המודלים מעל NVIDIA Triton.
• Triton יודע להריץ סוגים שונים של מודלים.
• היתרון של Triton הוא ניהול מודלים שונים בסביבת פרודקשן.
• הוספנו שכבה של מודל RNN לשיפור הביצועים.
• יש לנו תהליכים של סריקה בריל טיים.
• האתגרים שלנו כוללים ניהול משאבים בצורה יעילה.
• השתמשנו בטכנולוגיות לניהול תהליכים כמו Temporal.
• השתמשנו בוקטור סימילריטי לזיהוי סוגי מסמכים.

זמנים:00:00 היכרות עם איתי ו-Mind02:00 מה זה DLP ולמה זה חשוב?04:43 אתגרים והזדמנויות ב-DLP עם AI07:18 החלטות טכנולוגיות: AI in-house מול צד שלישי10:18 מודלים של AI: איך לבחור ולפרוס?12:13 תהליך הפיתוח והאימון של מודלים19:05 סקל ויעילות: איך זה עובד בפועל?19:24 הבנת עולם ה-AI בפרודקשן21:28 היתרונות של NVIDIA Triton23:02 שיפור ביצועים עם מודלים שונים25:54 תהליכי סריקה ו-classification28:29 ניהול תהליכים בזמן אמת30:39 אתגרים בניהול משאבים31:59 שימוש בטכנולוגיות לניהול תהליכים35:08 זיהוי סוגי מסמכים שונים36:54 הזדמנויות גיוס בחברת Mind

[קישור לקובץ mp3] האזנה נעימה!