459 Bumpers 81

[קישור לקובץ mp3]

פרק מספר 459 של רברס עם פלטפורמה - באמפרס 81, הוקלט ב-16 במאי 2023.באמפרס הוא פודקאסט חודשי  - או לכאורה-חודשי, קצת זייפנו בזמן האחרון [כולל 1 באפריל! שנתיים רצוף!] - שבו רן, אלון ודותן מקליטים קצרצרים על נושאים מעניינים מהחודש האחרון - במקרה הזה כנראה חצי-השנה האחרונה . . . - שתפסו את עינינו: ספריות חדשות, בלוג-פוסט מעניינים, טכנולוגיות חדשות שצצו וכו’.כיוון שבאמת לא יצא לנו להקליט במשך כמה חודשים, יכול להיות שתראו פה דברים שהם אולי לא הכי חדשים - לפחות לא כולם - אבל עדיין הם מעניינים לטעמנו.אז זהו, יאללה - בואו נרוץ על זה.
0:58 רן ומלחמתו ב-AI - עצומות

•  (רן) אז דבר ראשון, הייתי רוצה להרים איזה שהוא Shoutout לחברי ערן קרקובסקי ולחבריו שפתחו בפודקאסט חדש - אז פודקאסט חדש בשכונה - ולפודקאסט קוראים מחלידים ביחד.
•  . . .  וכמו שניחשת, זהו פודקאסט על Rust - בעצם, ערן וחבריו לומדים Rust ומדברים על זה תוך כדי.
• תוך כדי זה שהם לומדים ומחליפים חוויות - ועושים את זה באונליין 
• אז יש את הלינק לפודקאסט עצמו - ואולי ביום מן הימים גם יביאו מומחים מהפודקאסט הזה, בלי לנקוב בשמות, ויזמינו אותם גם להתארח אצלם . . . .
• אז תודה ערן וישר כוח ותמשיכו ככה.
• הנושא הבא והממש ממש גדול שרציתי לדבר עליו - אי אפשר להתחמק מ . . . נקרא לזה “מהפכת ה-AI” או “באזז ה-AI”  או איך שלא תקראו לסיפור הזה, אבל יש כל כך הרבה תחומים שבהם AI, או ספציפית Generative AI, 

נכנסים לחיים שלנו.

• אם זה GPT למיניו השונים, אם זה Midjourney - וגם יהיו אייטמים בהמשך על הנושאים האלה
• אבל כמעט ולא קיים תחום היום וכמעט לא קיימת שיחת סלון או שיחת קולר שבה לא מדברים על הנושא הזה של “ה-AI”.
• אחד הנושאים לדעתי המעניינים והחשובים בתחום הזה זה התחום של Safety, של AI Safety, או בקיצור “מה אנחנו יכולים לעשות כדי שהרובוטים ישאירו אותנו בחיים גם בעתיד?”
• יש שקוראים לזה “סינגולריות”, יש קוראים לזה “Safety Regulation” וכו’ - הנושא הזה הוא מורכב . . .
• (אלון) ארנולד שוורצנגר . . . 
• (רן) . . . אולי זה כבר קרה ואנחנו רק עוד לא יודעים את זה  . . . לחובבי הז’אנר.
• הנושא הזה מורכב ואנחנו לא נוכל ממש להיכנס לעומק שלו, אבל כן הייתי רוצה להביא פה כמה כמה נגיעות מעניינות.

• אז אחד הדברים הבולטים שבעצם קרו בתחום הזה זה למעשה איזשהו Open Letter, איזשהו מכתב פתוח, שמי שיזם אותו - בעצם יזמו אותו שניים: 
• אחד זה מי שנמצא מאחורי המכון שנקרא Future of Life, זה חוקר ב-MIT, פיזיקאי, חוקר רובוטיקה [Max Tegmark]
• ושני ששכחתי את שמו, מ-Berkeley [מניח שהכוונה ל - Stuart Russell]
• שני אנשי האקדמיה מאוד מאוד מוכרים בתחום, שבעצם באים ואומרים “חברים, אנחנו עוד לא בסינגולריות, אוקיי? והמודל - GPT-4 או לא חשוב איזה מודל Generative-י שהוא כרגע Top of the Line שקיים היום - הוא לא יחליף אותנו. את זה אנחנו יודעים, אוקיי -  אף אחד לא משלה את עצמו שזה יקרה עכשיו”.
• אבל - אנחנו כן רואים איזשהו צעד, איזשהו וקטור, לכך שבאיזשהו שלב אנחנו עלולים לאבד שליטה
• או לפחות אנחנו, כאנושות, יכולים לאבד את המלחמה הזאת -  אולי לבן-אנוש אחר שיש לו AI, זאת אומרת  לא בהכרח ל-AI אבל ייתכן  שלבן- אנוש אחר שכן לוקח ומפעיל לטובתו כוחות AI - ואנחנו נצטער על זה . . . 
• ואם לא נעשה עכשיו רגולציה ולא נטפל עכשיו ב- AI Safety, יכול להיות שאחר כך יהיה מאוחר מדי
• ולמעשה, המכתב הזה קורא לעצירה של משהו כמו חצי-שנה בפיתוח של מודלים חדשים
• זאת אומרת, הוא לא אומר לבוא ולעצור ולא להשתמש במודלים שכבר פותחו, דוגמת GPT-4.
• הוא כן קורא לעצירה של חצי-שנה לטובת מחקר והשקעה משמעותית של Safety בתחום הזה של AI
• עכשיו, כמו שאמרתי מי שיזם את המכתב הזה ובכלל את כל התנועה הזאת אלו אנשים שהם לא קוטלי-קנים
• זה אנשים שנמצאים בתחום זמן רב
• גם שמעתי פודקסט מאוד ארוך של שיחה עם אחד מהם