גורו הבינה המלאכותית קיים מפגש באוני' ת"א "זו תהיה טעות אם הבינה תאבד שליטה".

סם אלטמן מנכ"ל Open AI  והמדען הראשי שלו איליה סוצקבר קיימו מפגש רב משתתפים באוניברסיטת ת"א. יצאנו אופטימיים וחוששים

גורו הבינה המלאכותית והאיש החזק בחברת Open AI  החברה שעומדת מאחורי צ'אט הבינה הפופולרי ביותר chat GPT  עורך בימים אלו סיור עולמי כדי להרגיע חששות של גורמים במערב מפני הסכנות של הטכנולוגיה שצוברת תאוצה בחודשים האחרונים מאז הושקה בנובמבר האחרון וצברה למעלה ממאה מיליון משתמשים. כבר עתה יצא קול קורא של עשרות מדענים ואנשי רוח כדי להזהיר מפני סכנת הבינה המלאכותית. אלטמן (38) יהודי אמריקאי שיצא מהארון ומשמש כמנכ"ל Open AI  שנתמכת בידי מיקרוסופט הגיע ליממה לישראל בה פגש את נשיא המדינה וקיים פגישה עם בכירים במייקרוסופט ישראל. במסגרת זו הגיע לסשן פתוח באוניברסיטת תל אביב שם פגש מאות אנשים שנרשמו מראש לשיח אחד על אחד עם המדען הראשי של החברה, איליה סוצקבר שיתף שיש לו רקע ישראל כאשר גר פה מגיל 5 עד גיל 15 ולמד באוניברסיטה הפתוחה.

אתמול בכניסה למפגש עם אלטמן בואניברסיטת ת"א
סם אלטמן

אחת השאלות של נדב כהן מהפקולטה למדעי המחשב באוניברסיטת תל אביב שהנחה את הדיון היה בנוגע לסיכונים האפשריים שבשימוש בטכנולוגיית AI – אלו לדעתם של המשיבים יקרו בשלושה תחומים : שינוי שוק העבודה, האפשרות לשימוש לרעה על-ידי האקרים למשל, והגרוע מכל – מערכת חכמה שיוצאת משליטה אפילו של האנשים שעומדים מאחוריה. על התרחיש הקיצוני סוצקבר הגיב בפשטות כי "זה יהיה די גרוע אם היא תאבד שליטה. זו תהיה טעות גדולה לבנות AI מאוד עוצמתית שאנחנו לא יודעים איך לשלוט עליה", לקול צחוקו של הקהל, ואלטמן הביע הסכמה לדברים.

סוצקובר אמר כי "יש עבודות שכבר הושפעו. מתכנתים משתמשים ב-AI עבור חלק מהפעולות, וגם אצל אמנים חלקים גדולים בעבודה הוחלפו. עבודות חדשות ייווצרו אבל תהיה תקופה של חוסר ודאות כלכלית. הממשלה והמערכת החברתית יצטרכו לרכך את המכה", אלטמן הוסיף כי "המערכות האלה טובות בלעזור במשימות. בעתיד הקרוב תהיה הרבה יותר פרודקטיביות. בטווח הארוך, קטגוריות של עבודות יעלמו, אבל באחרות יהיה צורך בבני אדם בדרכים לא מובנות מאליהן. דוגמה לכך היא כשתוכנת דיפ בלו למדה לשחק שחמט טוב מבני אדם, כולם חשבו שאנשים יאבדו עניין בתחום – אבל הוא מעולם לא היה פופולרי יותר, ואנשים הפכו לטובים יותר בזה". הוא התייחס למחולל התמונות DALL-E ואמר כי "הוא יכול לייצר אמנות נפלאה אבל אנשים עדיין מתעניינים באנשים שיוצרים אמנות. הרצון של אנשים ליצור לא ילך לשום מקום. אבל עוד מאה שנים העבודות לא יהיו דומות לעבודות של היום".

בהמשך השיחה הוסיף אלטמן כי השינוי בעולם התעסוקה יהיה "איטי וצפוי", ולדבריו זהו אחד הדברים המרכזיים שמנהיגים בעולם עוסקים בהם היום.

לדעת אלטמן העצה שהוא היה נותן היום לעובד מן השורה כי 'היכולת להסתגל לעולם העבודה החדש". לגבי השימוש לרעה בטכנולוגיה שהפציעה, סוצקבר מציין כי "AI תהיה בשימוש של שחקנים כאלה. צריך לייצר מערכים שישלטו בטכנולוגיות כי הן יוכלו לרפא את המחלות או ליצור מחלות נוראיות".

בתגובה לשאלה מהקהל לגבי 'למה בכלל לאפשר מערכות שכאלה?' הגיב אלטמן וציין כי :"אנחנו צריכים לאזן בין הצרכים והסיכונים" אלטמן משווה את הטכנולוגיה הזו למהפכות עבר שהקפיצו את האנושות "כשנסתכל אחורה על סטנדרט המחיה היום, זה יראה לנו אפילו גרוע יותר מאשר לפני 500 שנים. אנשים לא יאמינו שאנשים היו עניים, חולים, או לא קיבלו חינוך ראוי. זה יראה ברברי. ההתפתחות הזו גם לא ניתן לעצירה ולכן חייבים להבין איך לנהל את הסיכון".

אלטמן נשמע מאוד אופטימי בנוגע לחדשנות ולבשורה שמביאה עמה הבינה המלאכותית ונרתע מהרעיון לשים פיקוח על המערכות הללו : "במערכות של היום זו תהיה טעות לשים רגולציה כבדה על השוק כרגע, ולהאט את החדשנות המדהימה שקורית. אבל העולם צריך להתייחס לזה כמשהו שאולי נצטרך להתמודד איתו בעשור הבא. אם נוכל להקים איגוד בינלאומי עם מסגרת לרישיון ובדיקת  בטיחות מודלים זה יעזור. זו תהיה דרך אחת להתמודד עם הסיכון הזה".

סוצקבר נשמע נלהב והגילויים שעוד נכונו לבינה כאשר ציין  כי " AI תוכל לעזור לנו בגילוי שאנחנו לא מסוגלים לו כרגע. אנחנו כבר רואים את ההתחלה של זה. אם זה יעזור לרפא מחלות, זה יהיה עולם טוב יותר ולדעתי אנחנו לא רחוקים מזה. ברגע שתהיה לנו אינטיליגנציית-על לא יהיה מאוד קשה להתמודד גם עם שינוי האקלים".

על השאלה מה הופך את OpenAI למנהיגה בתחום, למרות המתחרות החזקות, אמר "פוקוס והתמדה. אנחנו יותר ממוקדים במה שאנחנו עושים. יש אצלנו המון אנשים מכשרים וזה מאוד חשוב, ויש לנו תרבות של חדשנות". סוצקבר הוסיף על כך כי "התקדמות ב-AI זה משחק של אמונה. ככל שיש לך יותר תצליח יותר. אתה חייב להאמין ברעיון ולדחוף לזה".

כשאלטמן נשאל על שקיפות והצורך להנגיש את הטכנולוגיה במודל של קוד פתוח, אמר כי "יש לנו מודלים מסוימים בקוד פתוח. אני לא חושב שהאסטרטגיה הנכונה היא לעשות את זה בהכל. המודלים היום פרימיטיביים לעומת מה שעוד יהיה. אנחנו מנסים להבין את האיזון הנכון".

אלטמן שיתף כי אמש שמע על מישהו שמשתמש ב-ChatGPT כדי ליצור עם ילדים סיפורים לפני השינה. "זה מדהים לראות מה אנשים יכולים לעשות כשנותנים להם כלי", ואמר על השימוש האישי שהוא עושה בכלי כי "זה החליף בשבילי את ויקיפדיה". על ההזדמנויות לסטארט-אפים בישראל ובכלל בתקופה הקרובה אמר "זו התקופה הכי קסומה מאז האייפון לעשיית דברים חדשים טכנולוגיים. בטווח הקרוב יש המון הזדמנויות. זה תור הזהב של ה-AI. לכו על זה. פשוט תעשו את זה. זה הזמן הכי טוב להתחיל סטארט-אפ. זה בר השוואה לזמן בו התחיל האינטרנט. אם אתם יזמים יש לכם המון מזל. אתם רוצים להקים סטארט-אפ כשהאדמה רועדת ודברים שאנשים לא דמיינו הם אפשריים. הדבר המיוחד בישראל זה ריכוז האנשים המוכשרים. זו מדינה קטנה שעושה הרבה מעבר לגודל שלה".

לסיכום, לשאלה איך תרצו שההיסטוריה תזכור אתכם, סוצקבר שוב ענה בפשטות "בדרך הטובה ביותר", ועורר שוב גל צחוק באולם הגדול אך מחוץ לאולם ניצב פסל ענק עשוי אלפי שבבים ולוחות אם בצורה של סוס טרויאני רק כדי להזכיר לנו איך נפלה ממלכת טרויה כדי לשמש נורת אזהרה לכל אלו שהנלהבים מדי מהטכנולוגיה . ההיסטוריה תשפוט את הימים הללו לטוב או לרע

 

 

תגובות

להשאיר תגובה