463 Synthetic data generation at ActiveFence

[קישור לקובץ mp3]
פודקאסט מספר 463 של רברס עם פלטפורמה - הוקלט בתאריך ה-25 ביולי 2023. אורי ורן מארחים באולפן בכרכור, בשיא גל החום, את אייר ואת מאיה מ-ActiveFence לשיחה על Data Science - ובעיקר, ספציפית, על איך מג’נרטים (Generate) דאטה - ולמה, עם כל ה-Data שכבר יש בעולם . . .


01:23 מאיה ואייר (רן) אז כמה מילים עליכם, מאיה ואייר ,ואחר כך גם על החברה  - Shoot:

• (מאיה) אז אני מאיה, אני Data Scientist-ית ב ActiveFence כבר שנתיים וחצי בערך
• כשל-ActiveFence הגעתי ככה ישר מהטכניון - סיימתי שם את המאסטר שלי בתחום NLP.
• וזהו . . . אייר?
• (אייר) אני עם מסלול קצת דומה - גם עשיתי תואר שני ב- Data Science בטכניון
• אחרי זה עבדתי שנתיים באינטל בתור Data Scientist
• ואז הצטרפתי ל-ActiveFence - גם עם היכרות מוקדמת עם מאיה.
• (מאיה) אני הבאתי אותך ל-ActiveFence  . . . 
• (אייר) לגמרי, לגמרי
• (רן) ונראה שקיבלת את מה שהיית צריכה
• (מאיה) לגמרי.

02:07 ו-ActiveFence(רן) אוקיי, ו- ActiveFence, למי שלא מכיר?

• (אייר) אז ActiveFence זה סטארט-אפ ישראלי, שבעצם מתעסק בניטור של תכנים זדוניים ברשתות שיתוף-תוכן
• אפשר לחשוב בקלות על רשת שיתוף-תוכן - לא ניכנס פה לשמות ספציפיים וכאלה, אבל כל רשת שמאפשרת ללקוחות הקצה שלה להעלות תכנים
• אם זה תכנים טקסטואלים או ויזואלים - סרטונים, תמונות
• בעצם חשופה, באיזושהי מידה, לתכנים פוגעניים - תכנים שעלולים לפגוע
• גם במשתמשים האחרים
• וגם, כמובן, ב-Lag הבא - גם במפרסמים, שהם מתקשרים לכל מיני דברים כאלה
• ולכן הפלטפורמות האלה רוצות להימנע מתכנים זדוניים אצלן במערכת.
• וכאן בעצם אנחנו - החברה, ActiveFence - נכנסים לתמונה
• אנחנו יודעים לזהות תכנים כאלה - ואם אנחנו רוצים לעשות את זה ב-Scale, אנחנו צריכים גם להשתמש בשיטות של AI, Machine Learning, כדי לזהות את התכנים האלה.

(רן) והן [החברות] לא עושות את זה בעצמן? זאת אומרת, למה הן צריכות אתכם כדי לעשות את זה?

• (אייר) זו שאלה מצוינת . . . 
• יש לנו בעצם כמה סוגים של לקוחות
• יש לקוחות גדולים, שיש להם גם כל מיני דברים שהם עושים בעצמם - ועדיין נעזרים באנו בתחומים שבהם אנחנו באמת איזשהו . . . 
• (מאיה)  . . . יש לנו מומחיות בהם . . . 
• (אייר) . . . ויש חברות יותר קטנות - לא ”ענקיות הטכנולוגיה” - שעדיין יש להן מאות-אלפי ולפעמים מיליונים של משתמשים
• החברה עצמה היא לא גדולה, והם לא מתעסקים בעצמם בדברים כאלה - של ניתוח-תוכן ורמת הפוגעניות שבו
• ולכן הם צריכים חברה חיצונית שתעשה את זה.

(אורי) ובתוכן - אנחנו מדברים על טקסט, וידאו ותמונה?

• (אייר) ו . . . .
• (מאיה) נכון, וגם תכנים מורכבים - זאת אומרת, שמכילים גם איזושהי תמונה; גם איזשהו Title לתמונה; גם Comment-ים על התמונה או על הVideo; ה-User שהעלה את התמונה, לדוגמא . . . .
• (אורי) זאת אומרת, האם ה-User עצמו הוא . . .
• (מאיה) נכון - אם יש לנו איזשהו ידע מוקדם על ה-User, או כל מיני Feature-ים כאלה ואחרים . . . . כן, לגמרי.
• (אייר) וגם ה-Audio - זה עוד Media-type שאנחנו מתעסקים בו לא מעט גם
• ב-Video יש כמובן גם את ה-Audio Track - אבל גם יש Audio לבד, שגם שם יכול להיות . . .
• (אורי) Speech-to-Text או כאלה . . .
• (אייר) לגמרי . . . . גם דברים שאנחנו מתעסקים
• אני יכול להסביר גם קצת על מה זה בכלל אומר “תוכן פוגעני” - כמובן לא ניכנס לדוגמאות ספיציפיות, אבל . . .
• (אורי) בגבולות הפוגעניות של הפודקאסט . . . 
• (אייר) אז זה יכול להיות באמת קידום של אלימות, של טרור
• זה יכול להיות קידום של פגיעה בילדים
• גזענות, אלימות . . . 
• ובאמת - מגוון די רחב של פגיעה.

(רן) אבל אני מניח שיש קטיגוריות ספציפיות שאותן אתם מחפשים -זאת אומרת, לא משהו ש”בוא -  נחפש מי נפגע!”

• (אייר) לגמרי, לגמרי, יש מגוון
• אבל גם שם - הדרישה היא למגוון של . . . אנחנו קוראים לזה Violations שונים
•  זאת אומרת, מה הפגיעה?
• כי גם לקוחות, פלטפורמות מסוימות, מסכימות לאיזשהו סוג של פגיעה
• אם היא אולי קלה יותר
• אבל לא מסכימים לדבר אחר
• זאת אומרת - אם זה פלטפורמות של נגיד ילדים, אז שם ברור שהרף הוא הרבה יותר מחמיר
• (מאיה) כל לקוח - מעניין אותו למנוע סוג תכנים שונה בפלטפורמה שלו
• לדוגמא, פלטפורמה שמתעסקת בתכנים למבוגרים, אז פחות מעניין אותה לתפוס תוכן מיני כזה או אחר
• ופלטפורמות אחרות לא רוצות שתוכן כזה . . . . סתם, לדוגמא הכי פשוטה

(רן) כן, וצריך היה גם לומר בהגינות שיש חלק מהפלטפורמות שאולי דווקא נהנות מהתוכן הזה, באיזה אופן מסוים
06:05 רגולציה? Fake News?(רן) מעניין, יש רגולציה בעולם הזה? זאת אומרת, יש משהו שגורם להם להסיר את התוכן הזה?(אורי) יש רגולציות - יש ממש קטגוריות,  של תכנים מסוימים ל . . . 

• (אייר) אז לגמרי - זה עולם.
• אנחנו לא המומחים בו - אנחנו מתעסקים באלגוריתמיקה . . . .

(רן) תיכף נכנס לטכנולוגיה . . . .

• (אייר) . . . אבל לגמרי - זה עולם שמתפתח
• ויש יותר ויותר רגולציה ממש על כל . . .  
• אני חושב שחייבים לספק יכולת למשתמש-הקצה, לדווח על תוכן בעייתי
• ויש איזושהי רגולציה שאומרת תוך כמה זמן צריך להסיר את התוכן הזה
• (מאיה) לפי הגודל של הפלטפורמה, כל מיני. . .
• (אייר) . . . . וזה משהו שעכשיו באירופה מתפתח - ומשם אולי גם לשאר העולם

(רן) בסדר גמו