Page 23 - popsci0219

‫להיות נכון כאשר‪ ,‬החל משנת ‪ ,2002‬הוא ניהל סדרת צ'אטים שבהם‬ ‫מלאכותית עשויה להחליט שלאטומים בגוף האדם יהיה‬

‫הוא שיחק את תפקיד הבינה המלאכותית שסגורה בתוך קופסה‪,‬‬ ‫שימוש טוב יותר בתור חומר גלם עבור המהדקים‪.‬‬

‫בעוד קבוצת אנשים אחרים שיחקו לפי תור את השומר בשער‪,‬‬ ‫לא מעטים מפקפקים בדעותיו של טאלין‪ ,‬גם בקרב‬

‫שתפקידו להשאיר את הבינה המלאכותית בפנים‪ .‬בשלוש מתוך חמש‬ ‫קהילת האנשים שמודאגת מבטיחות הבינה המלאכותית‪.‬‬

‫פעמים‪ ,‬יודקובסקי – בן תמותה פשוט – אומר ששכנע את השומר‬ ‫חלקם טוענים שמוקדם מדי לדאוג לגבי הגבלת בינה‬

‫בשער לשחרר אותו‪ .‬עם זאת‪ ,‬הניסויים שלו לא הרתיעו חוקרים‬ ‫מלאכותית בעלת אינטליגנציית על‪ ,‬כאשר עדיין איננו‬

‫מלנסות ולתכנן קופסה יותר טובה‪.‬‬ ‫מבינים אותה‪ .‬אחרים אומרים שהתמקדות בגורמים‬

‫החוקרים שטאלין מממן מחפשים בהתמדה אחר מגוון רחב של‬ ‫טכנולוגיים נבזיים מסיטה את תשומת הלב מהבעיות‬

‫אסטרטגיות‪ ,‬החל במעשית וכלה בחסרת ההיגיון לכאורה‪ .‬אחדים‬ ‫הדחופות ביותר שעומדות בפני התחום‪ ,‬כמו העובדה‬

‫מפתחים תיאוריות לגבי הכנסת הבינה המלאכותית לתוך קופסה‪,‬‬ ‫שרוב האלגוריתמים נכתבים על ידי גברים לבנים‪ ,‬או‬

‫בין אם פיזית‪ ,‬על ידי בניית מבנה של ממש שיכיל אותה‪ ,‬או על ידי‬ ‫מבוססים על נתונים שמוטים לטובתם‪" .‬אנו נמצאים‬

‫תכנות מגבלות על מה שתוכל לעשות‪ .‬אחרים מנסים ללמד בינה‬ ‫בסכנה של בניית עולם שאיננו רוצים לחיות בו‪ ,‬אם לא‬

‫מלאכותית לדבוק בערכים אנושיים‪ .‬אחדים עובדים על מתג כיבוי‬ ‫נתמודד עם אתגרים אלו בתקופה הקרובה‪ ",‬אומרת טרה‬

‫לשעת חירום‪ .‬חוקר אחד שמתעמק בכל השלושה הוא המתמטיקאי‬ ‫ליונס (‪ ,)Terah Lyons‬מנכ"לית ‪,Partnership on AI‬‬

‫והפילוסוף סטוארט ארמסטרונג‬ ‫ארגון המורכב מבעלי עניין רבים‪,‬‬

‫(‪ )Stuart Armstrong‬ב‪Future of-‬‬ ‫שמתמקד בבטיחות בינה מלאכותית‬

‫‪( Humanity Institute‬המכון לעתיד‬ ‫ובנושאים אחרים‪( .‬כמה מהמוסדות‬

‫האנושות) באוניברסיטת אוקספורד‪,‬‬ ‫"ההכנה לקראת‬ ‫שמקבלים גיבוי מסטאלין חברים‬
‫אשר טאלין מכנה "המקום המעניין‬ ‫האירוע בו הבינה‬ ‫בארגון)‪ .‬אבל‪ ,‬היא מוסיפה‪ ,‬כמה‬
‫ביותר ביקום" (טאלין תרם‬ ‫מהאתגרים קצרי הטווח שעומדים‬
‫ל‪ FHI-‬יותר מ‪ 310,000-‬דולר)‪.‬‬ ‫בפני חוקרים – כגון ניכוש דעות‬

‫ארמסטרונג הוא אחד מכמה חוקרים‬ ‫המלאכותית הכללית‬ ‫קדומות באלגוריתמים – מייצגים‬
‫בעולם שמתמקדים בבטיחות בינה‬ ‫תעלה על הבינה האנושית‬ ‫סנוניות ראשונות לאלו שהאנושות‬
‫עשויה לראות בבינה מלאכותית‬
‫מלאכותית במשרה מלאה‪.‬‬ ‫היא אחת המשימות‬
‫אני נפגש איתו לקפה באחר‬ ‫בעלת אינטליגנציית על‪.‬‬
‫צהריים אחד בבית קפה‬ ‫טאלין אינו משוכנע כל כך‪ .‬הוא‬

‫באוקספורד‪ .‬הוא לובש חולצת רוגבי‬ ‫החשובות ביותר‬ ‫אומר בתגובה שבינה מלאכותית‬
‫לא מכופתרת בצווארון‪ ,‬ויש לו מבט‬ ‫שעומדות בפני‬ ‫בעלת אינטליגנציית על טומנת‬
‫של מישהו שמבלה את חייו מאחורי‬ ‫המין האנושי‪".‬‬ ‫בחובה איומים ייחודיים‪ .‬בסופו של‬
‫מסך‪ ,‬עם פנים חיוורות שמעוטרות‬ ‫דבר‪ ,‬הוא מקווה שקהילת הבינה‬
‫בסבך שיער בהיר‪ .‬הוא מפלפל את‬ ‫המלאכותית תלך בדרכה של תנועת‬

‫ההסברים שלו בתערובת מבלבלת‬ ‫—יאן טאלין‬ ‫הבפשצנצוותת ‬ ‫אטומי‬ ‫ההתנגדות לנשק‬
‫של אזכורים מהתרבות הפופולרית‬ ‫הטלת‬ ‫הארבעים‪ .‬בעקבות‬

‫ומתמטיקה‪ .‬כשאני שואל אותו איך‬ ‫על הירושימה ונגסאקי‪ ,‬מדענים‬

‫הצלחה ליצור בינה מלאכותית‬ ‫חברו יחד כדי לנסות להגביל ניסויים‬

‫בטוחה עשויה להיראות‪ ,‬הוא אומר‪:‬‬ ‫גרעיניים נוספים‪" .‬המדענים של‬
‫“האם ראית את סרט לגו? הכל‬ ‫פרויקט מנהטן יכלו פשוט להגיד‪,‬‬

‫מעולה‪".‬‬ ‫'תראו‪ ,‬אנחנו יוצרים חידושים כאן‪,‬‬

‫כיוון אחד של המחקר של ארמסטרונג בוחן גישה ספציפית לסגירה‬ ‫וחידושים זה תמיד טוב‪ ,‬אז בואו פשוט נדהר קדימה'‪",‬‬

‫בתוך קופסה שנקראת בינה מלאכותית כ"אוראקל"‪ .‬במאמר משנת‬ ‫הוא אומר לי‪" .‬אבל‪ ,‬הם גילו אחריות רבה יותר מזה‪".‬‬

‫‪ 2012‬עם ניק בוסטרום (‪ ,)Nick Bostrom‬ממייסדי ‪ ,FHI‬הוא הציע‬

‫לא רק לבודד אינטליגנציית על בכלי קיבול – מבנה פיזי – אלא גם‬ ‫טאלין מזהיר שכל גישה לבטיחות בינה‬

‫להגביל אותה להשיב על שאלות‪ ,‬כמו לוח סיאנסים חכם במיוחד‪ .‬גם‬ ‫מלאכותית תהיה קשה לביצוע כהלכה‪ .‬אם בינה‬

‫עם גבולות אלה‪ ,‬לבינה מלאכותית יהיה כוח עצום לעצב מחדש את‬ ‫מלאכותית חכמה מספיק‪ ,‬תהיה לה הבנה טובה יותר‬

‫גורל האנושות על ידי מניפולציה ערמומית של החוקרים שלה‪ .‬כדי‬ ‫לגבי האילוצים מאשר ליוצרים שלה‪ .‬תאר לעצמך‪ ,‬הוא‬

‫לצמצם את האפשרות שדבר כזה יקרה‪ ,‬ארמסטרונג הציע מגבלות‬ ‫אומר‪" ,‬להתעורר בכלא שנבנה על ידי חבורה של ילדים‬

‫זמן על שיחות‪ ,‬או איסור על שאלות שעלולות לדחוף אל הקצה את‬ ‫עיוורים בני חמש‪ ".‬זו עשויה להיות ההרגשה של בינה‬

‫הסדר העולמי הנוכחי‪ .‬הוא הציע גם לתת לאוראקל הערכות מקורבות‬ ‫מלאכותית בעלת אינטליגנציית על שמוגבלת על ידי בני‬

‫של הישרדות אנושית‪ ,‬כגון המדד התעשייתי הממוצע דאו ג'ונס‬ ‫אדם‪.‬‬

‫או מספר האנשים שחוצים את הרחוב בטוקיו‪ ,‬ולומר לו לשמור‬ ‫יודקובסקי‪ ,‬התיאורטיקן‪ ,‬מצא עדויות שהדבר עשוי‬

‫‪PSCWI18_Tallinn_FINAL_HEB.indd 21‬‬ ‫‪2/13/2019 5:16:01 PM‬‬