ראיון עם צופית וריטה מ-Intuit - איך מגנים על מודלי AI מתקיפות סייבר?

בפרק הזה דברתי עם צופית וריטה, שתיהן חוקרות מ-Intuit, ודברנו על השילוב של תחום ה-AI והסייבר. הראיון הזה היה המשך להרצאה המעולה שהן העבירו בכנס GenML שבו הן דיברו על איך מודלי AI יכולים להיות מושפעים משינוי קטן בקלט.

בפרק הזה הן דיברו איך אפשר לעשות שינוי קטן בתמונה, או במסמך, ולגרום למודלי AI הכי מתקדמים לבצע פעולות אחרות לגמרי. הן גם סיפרו על המחקר שהן עושות ואיך זה בא לידי ביטוי בסוף במוצר הסופי והדרך שבה הן מגינות על הלקוחות של Intuit.

זה פרק חשוב לכל מי שבונה מערכות מבוססות מודלי AI ורוצה להכיר את כל האיומים שקיימים כיום.