Page 21 - popsci0219

‫התפרצות!‬

‫שאפתנות‪-‬על‬ ‫שאינטליגנציית על יכולה להוביל להתפוצצות או "התפרצות" של בינה‬ ‫‪FABIAN WEISS/LAIF/REDUX‬‬
‫יאן טאלין‪,‬‬ ‫מלאכותית שעלולה לאיים על הקיום האנושי – בינות מלאכותיות‬
‫נחוש להציל את‬ ‫סופר‪-‬חכמות אלו יחליפו אותנו בסולם האבולוציוני וישלטו בנו כפי‬
‫שאנו שולטים היום בקופים‪ .‬או‪ ,‬במקרה הגרוע יותר‪ ,‬להכחיד אותנו‪.‬‬
‫בני האנוש‬ ‫לאחר שסיים לקרוא את המאמר האחרון‪ ,‬טאלין שיגר הודעת‬
‫מיצירי הבינה‬ ‫דואר אלקטרוני אל יודקובסקי – כולה באותיות קטנות‪ ,‬כפי שנוהג‬
‫לעשות‪" .‬שמי יאן‪ ,‬אני אחד מהמהנדסים המייסדים של סקייפ‪",‬‬
‫המלאכותית‬ ‫הוא כתב‪ .‬בסופו של דבר הוא הגיע לעיקר‪" :‬אמנם אני מסכים ש‪...‬‬
‫שלהם‪.‬‬ ‫ההכנות לקראת האירוע בו הבינה המלאכותית הכללית תעלה על‬
‫האינטליגנציה האנושית היא אחת המשימות החשובות ביותר‬
‫המפגש עם יודקובסקי נתן לטאלין ייעוד‪,‬‬ ‫שעומדות בפני המין האנושי‪ ".‬הוא רצה לעזור‪ .‬זמן קצר לאחר מכן‪,‬‬
‫ושלח אותו למשימה להציל אותנו מיצירי הכפיים שלנו‬ ‫כאשר טס אל אזור המפרץ בסן‪-‬פרנסיסקו לפגישות אחרות‪ ,‬הוא‬
‫עצמנו‪ .‬בעודו מחליף דברים בנושא זה עם תיאורטיקנים‬ ‫פגש את יודקובסקי בסניף של רשת ‪ Panera Bread‬במי ְלּ ְב ֶריי‪,‬‬
‫ומדעני מחשב אחרים‪ ,‬הוא פצח בחיי נדודים ונתן הרצאות‬ ‫קליפורניה‪ ,‬בקרבת מקום מגוריו‪ .‬המפגש שלהם נמשך ארבע שעות‪.‬‬
‫ברחבי העולם על האיום שמציבה לנו אינטליגנציית העל‪.‬‬ ‫"הוא הבין באמת ובתמים את התפיסות הבסיסיות ואת הפרטים‪",‬‬
‫אבל‪ ,‬הוא בעיקר החל לממן מחקר למציאת שיטות‬ ‫נזכר יודקובסקי‪" .‬זה נדיר מאוד‪ ".‬לאחר מכן‪ ,‬טאלין כתב המחאה‬
‫שעשויות לתת לאנושות דרך מילוט‪ :‬מה שנקרא "בינה‬ ‫על סך ‪ 5,000‬דולר לפקודת ה‪Singularity Institute for Artificial-‬‬
‫מלאכותית ידידותית"‪ .‬אין פירוש הדבר שמכונה או סוכן‬ ‫‪( Intelligence‬מכון הסינגולריות לבינה מלאכותית)‪ ,‬המלכ"ר שבו‬
‫יהיו מיומנים במיוחד בשיחת חולין על מזג האוויר‪ ,‬או‬ ‫יודקובסקי היה חוקר עמית‪( .‬בשנת ‪ 2013‬הארגון שינה את שמו‬
‫שהם יזכרו את שמות הילדים שלך – אם כי‪ ,‬קרוב לוודאי‬ ‫ל‪( Machine Intelligence Research Institute-‬המכון למחקר‬
‫שבינה מלאכותית בעלת אינטליגנציית על תוכל לעשות‬
‫את שני הדברים גם יחד‪ .‬אין זה אומר שהיא תעשה זאת‬ ‫בינת מכונה) או ‪ .)MIRI‬מאז‪ ,‬טאלין תרם יותר מ‪ 600,000-‬דולר‪.‬‬
‫מתוך אלטרואיזם או אהבה‪ .‬טעות נפוצה יוצאת מנקודת‬
‫הנחה שלבינה מלאכותית יש דחפים וערכים אנושיים‪.‬‬ ‫‪2/13/2019 5:16:00 PM‬‬
‫"ידידותי" פירושו משהו הרבה יותר בסיסי‪ :‬שהמכונות‬
‫של מחר לא ימחקו אותנו כחלק מהמסע שלהן להשגת‬

‫מטרותיהן‪.‬‬
‫תשע שנים לאחר הפגישה שלו עם יודקובסקי‪ ,‬טאלין‬
‫מצטרף אליי לארוחה בחדר האוכל בג'יזוס קולג' של‬

‫פופיולר סיינס • פברואר ‪19 2019‬‬

‫‪PSCWI18_Tallinn_FINAL_HEB.indd 19‬‬