Page 22 - popsci0219

‫התפרצות!‬

‫אקלים‪ ,‬מלחמה גרעינית ונשק ביולוגי‪ .‬אבל‬‫‪DWAYNE SENIOR /EYEVINE/REDUX‬‬ ‫אי‪-‬ודאות‬
‫עבור טאלין‪ ,‬תחומים אלה בעיקר מסייעים‬ ‫עיקרית‬
‫להכשיר את האיום של בינה מלאכותית‬
‫סוררת‪" .‬אלו למעשה רק 'שער לעולם‬ ‫האם אנו‬
‫הסמים'‪ ",‬הוא אומר לי‪ .‬דאגות לגבי איומים‬ ‫מסוגלים‬
‫מקובלים יותר‪ ,‬כגון שינוי אקלים‪ ,‬עשויות‬ ‫לשלוט בבינה‬
‫למשוך אנשים‪ .‬האימה שבמכונות עם‬ ‫מלאכותית?‬
‫אינטליגנציית על שמשתלטות על העולם‪,‬‬ ‫יו פרייס‪,‬‬
‫הוא מקווה‪ ,‬תשכנע אותם להישאר‪ .‬הוא‬ ‫טאלין ומרטין‬
‫נמצא כאן בוועידה מכיוון שהוא מעוניין‬ ‫ריס ייסדו את‬
‫שהקהילה האקדמית תיקח ברצינות את‬ ‫המרכז לחקר‬
‫הסיכון הקיומי‬
‫נושא בטיחות הבינה המלאכותית‪.‬‬ ‫בקיימברידג'‬
‫השותפים לארוחה שלנו הם מבחר אקראי‬ ‫(‪Cambridge‬‬
‫של משתתפי הוועידה‪ ,‬כולל אישה מהונג‬ ‫‪Centre for‬‬
‫קונג שחוקרת רובוטיקה וגבר בריטי שסיים‬ ‫‪the Study of‬‬
‫את לימודיו בקיימברידג' בשנות השישים‪ .‬הגבר המבוגר יותר שואל‬ ‫‪Existential‬‬
‫את כולם סביב השולחן באיזה אוניברסיטה למדו‪( .‬התשובה של‬ ‫‪ )Risk‬כדי‬
‫טאלין‪ ,‬אוניברסיטת ַט ְרטּו באסטוניה‪ ,‬לא מרשימה אותו)‪ .‬לאחר מכן‬ ‫לגלות זאת‪.‬‬
‫הוא מנסה לנווט את השיחה לחדשות‪ .‬טאלין מביט בו חסר הבעה‪.‬‬
‫אוניברסיטת קיימברידג'‪ .‬החלל דמוי הכנסייה מעוטר‬
‫"אני לא מתעניין בסיכונים קצרי טווח‪ ",‬הוא אומר‪.‬‬ ‫בחלונות עם ויטראז'ים‪ ,‬כרכובי זהב וציורי שמן של גברים‬
‫טאלין משנה את הנושא לאיום של אינטליגנציית על‪ .‬כאשר‬ ‫עם פאות נוכריות‪ .‬טאלין מסב לשולחן מהגוני כבד‪ ,‬לבוש‬
‫אינו מדבר עם מתכנתים אחרים‪ ,‬כברירת מחדל הוא עובר לדבר‬ ‫בלבוש היומיומי של עמק הסיליקון‪ :‬ג'ינס שחורים‪ ,‬טי‪-‬‬
‫בדימויים‪ ,‬וכעת הוא עובר על חבילת הדימויים שלו‪ :‬בינה מלאכותית‬ ‫שירט ונעלי סניקרס מבד קנבס‪ .‬תקרת עץ קמורה תלויה‬
‫מתקדמת תוכל להיפטר מאיתנו בקלילות‪ ,‬כפי שאנו חוטבים‬
‫עצים‪ .‬אינטליגנציית על עבורנו‪ ,‬היא מקבילה למה שאנחנו מייצגים‬ ‫גבוה מעל לסבך שערו האפור‪-‬בלונדיני‪.‬‬
‫עבור גורילות‪ .‬מעל לראשו חקוק בלטינית פסוק מתהילים קלג‪:‬‬ ‫בגיל ‪ ,46‬טאלין הוא במובנים מסוימים יזם ההיי‪-‬טק‬
‫"הנה מה טוב ומה נעים שבת אחים גם יחד‪ ".‬אבל אחדות שכזו‬ ‫הסטראוטיפי‪ .‬הוא חושב שתודות להתקדמות המדעית‬
‫רחוקה מאד ממה שטאלין חושב על עתיד שכולל אינטליגנציית על‬ ‫(ובתנאי שהבינה המלאכותית לא תשמיד אותנו)‪ ,‬הוא‬
‫יחיה "הרבה‪ ,‬הרבה שנים"‪ .‬דאגתו לגבי אינטליגנציית‬
‫נבזית‪.‬‬ ‫העל נפוצה בקרב חבריו‪ .‬הקרן של פיטר ת'יל‬
‫בינה מלאכותית תצטרך להשתלט על גוף‪ ,‬האדם המבוגר אומר‪.‬‬ ‫(‪ ,)Peter Thiel‬המייסד המשותף של פייפאל‪ ,‬תרמה‬
‫ללא גוף פיזי כלשהו‪ ,‬כיצד היא תוכל להשיג שליטה פיזית? טאלין מיד‬ ‫‪ 1.6‬מיליון דולר ל‪ ,MIRI-‬ובשנת ‪ ,2015‬מייסד טסלה‬
‫שולף דימוי נוסף מן המוכן‪" :‬שים אותי במרתף עם חיבור לאינטרנט‪,‬‬ ‫אלון מאסק (‪ )Elon Musk‬תרם ‪ 10‬מיליון דולר ל‪Future-‬‬
‫‪( of Life Institute‬המכון לעתיד החיים)‪ ,‬ארגון לבטיחות‬
‫ואוכל לגרום נזק רב‪ ",‬הוא אומר‪ .‬לאחר מכן הוא נוגס בריזוטו‪.‬‬ ‫טכנולוגית בקיימברידג'‪ ,‬מסצ'וסטס‪ .‬הכניסה של טאלין‬
‫בין אם מדובר במכשיר רּו ְמּ ָבה או אחד מצאצאיו שישלטו בעולם‪,‬‬ ‫לעולם אזוטרי זה התרחשה מאחורי מסך הברזל בשנות‬
‫מה שמניע בינה מלאכותית אלה תוצאות‪ .‬המתכנתים מקצים מטרות‬ ‫השמונים‪ ,‬כאשר אבא של חבר לכיתה‪ ,‬עם משרה‬
‫אלו‪ ,‬יחד עם סדרה של כללים כיצד להשיג אותן‪ .‬לבינה מלאכותית‬ ‫במשרד ממשלתי‪ ,‬נתן לכמה ילדים מבריקים גישה‬
‫מתקדמת לא בהכרח צריך להגדיר את המטרה לשלוט בעולם על‬ ‫למחשבים מרכזיים‪ .‬לאחר שאסטוניה זכתה בעצמאות‪,‬‬
‫מנת להשיג זאת – זה יכול לקרות בטעות‪ .‬וההיסטוריה של תיכנות‬ ‫הוא ייסד חברה למשחקי מחשב‪ .‬כיום‪ ,‬טאלין עדיין גר‬
‫מחשבים זרועה בשגיאות קטנות שהציתו קטסטרופות‪ .‬בשנת ‪,2010‬‬ ‫בעיר הבירה של אסטוניה – שבשיגיון אטימולוגי נקראת‬
‫למשל‪ ,‬סוחר שעבד עבור חברת קרנות הנאמנות וואדל אנד ריד‬ ‫גם היא טאלין – עם אשתו ועם הצעיר מבין ששת ילדיו‪.‬‬
‫(‪ )Waddell & Reed‬מכר אלפי חוזים עתידיים‪ .‬בתוכנה של החברה‬ ‫כאשר הוא רוצה להיפגש עם חוקרים‪ ,‬לעתים קרובות‬
‫הושמט משתנה מפתח באלגוריתם שסייע לבצע את המסחר‪.‬‬
‫התוצאה הייתה הקריסה המהירה בת טריליון הדולר של שוקי ההון‬ ‫הוא פשוט מטיס אותם לאזור הים הבלטי‪.‬‬
‫אסטרטגיית הנתינה שלו שיטתית‪ ,‬כמו כמעט כל דבר‬
‫בארצות הברית‪.‬‬ ‫שהוא עושה‪ .‬הוא מפזר את הכסף שלו בין ‪ 11‬ארגונים‪,‬‬
‫החוקרים שטאלין מממן סוברים שאם מבנה הגמול של בינה‬ ‫שכל אחד מהם עובד על גישות שונות לבטיחות בינה‬
‫מלאכותית על‪-‬אנושית לא יתוכנן כהלכה‪ ,‬גם ליעדים השפירים‬ ‫מלאכותית‪ ,‬בתקווה שאחת מהן תוכל להצליח‪ .‬בשנת‬
‫ביותר עלולות להיות תוצאות עגומות‪ .‬דוגמה אחת ידועה מאוד‪,‬‬ ‫‪ 2012‬הוא הקים את ‪Cambridge Centre for the‬‬
‫שהותוותה על ידי הפילוסוף מאוניברסיטת אוקספורד ניק בוסטרום‬ ‫‪Study of Existential Risk‬‏ (‪ )CSER‬עם השקעה‬
‫(‪ )Nick Bostrom‬בספרו ‪( Superintelligence‬אינטליגנציית על)‪,‬‬
‫היא סוכן בדיוני שהונחה לייצר כמה שיותר מהדקים משרדיים‪ .‬בינה‬ ‫התחלתית של קרוב ל‪ 200,000-‬דולר‪.‬‬
‫סיכונים קיומיים – או סיכוני ‪ ,X‬כפי שטאלין קורא‬
‫‪PSCWI18_Tallinn_FINAL_HEB.indd 20‬‬ ‫להם – הם איומים על הישרדות האנושות‪ .‬בנוסף לבינה‬
‫מלאכותית‪ 20 ,‬ומשהו החוקרים ב‪ CSER-‬חוקרים שינוי‬

‫פברואר ‪ • 2019‬פופיולר סיינס‬ ‫‪20‬‬

‫‪2/13/2019 5:16:01 PM‬‬