Page 24 - popsci0219

‫התפרצות!‬

‫ולאחר מספר דקות מבקש לעבור למקום אחר‪" .‬זה יותר מדי‬ ‫עליהם קבועים‪.‬‬
‫קלאוסטרופובי‪ ",‬מתלוננת האישה‪ .‬אני חושב על ההערה של‬ ‫בסופו של דבר‪ ,‬מאמין ארמסטרונג‪ ,‬יהיה צורך ליצור‪ ,‬כפי‬
‫טאלין לגבי הנזק שהוא יכול לחולל אם ינעלו אותו במרתף שיש‬ ‫שהוא מכנה זאת במאמר אחד‪" ,‬כפתור כיבוי אדום גדול"‪ :‬מתג‬
‫בו רק חיבור לאינטרנט‪ .‬הנה אנחנו‪ ,‬בתוך הקופסה‪ .‬כמו לפי‬ ‫פיזי או מנגנון שיתוכנת בבינה המלאכותית לכבות את עצמה‬
‫אוטומטית במקרה של התפרצות‪ .‬אבל תכנון מתג שכזה רחוק‬
‫סימן‪ ,‬הגברים חושבים על דרכים לצאת‪.‬‬ ‫מלהיות קל‪ .‬הבעיה אינה רק שבינה מלאכותית מתקדמת אשר‬
‫האורחים של טאלין כוללים את חוקר הגנומיקה לשעבר שון‬ ‫רוצה לשרוד תוכל למנוע לחיצה על הכפתור‪ .‬הסקרנות שלה‬
‫או'הייגרטי (‪ ,)Seán Ó hÉigeartaigh‬מנכ"ל ‪ ,CSER‬ומתייס‬ ‫עשויה להתעורר לגבי הסיבה שבני האנוש יצרו את הכפתור‪,‬‬
‫מאס (‪ ,)Matthijs Maas‬חוקר מדיניות בינה מלאכותית‬ ‫להפעיל אותו כדי לראות מה קורה‪ ,‬ולהפוך את עצמה לחסרת‬
‫באוניברסיטת קופנהגן‪ .‬הם מתבדחים על הרעיון של סרט‬ ‫תועלת‪ .‬בשנת ‪ ,2013‬מתכנת בשם טום מרפי השביעי (‪Tom‬‬
‫פעולה חנוני בשם אינטליגנציית על נגד בלוקצ'יין!‪ ,‬ודנים על‬ ‫‪ )Murphy VII‬תכנן בינה מלאכותית שיכולה ללמד את עצמה‬
‫משחק מקוון שנקרא ‪( Universal Paperclips‬מהדקי נייר‬ ‫לשחק משחקי נינטנדו‪ .‬מתוך נחישות לא להפסיד במשחק‬
‫כלל‪-‬עולמיים)‪ ,‬אשר מהווה אילתור על התרחיש בספר של‬ ‫טטריס‪ ,‬הבינה המלאכותית פשוט לחצה על השהייה –‬
‫בוסטרום‪ .‬התרגיל כולל לחיצה חוזרת ונשנית על העכבר כדי‬ ‫והשאירה את המשחק קפוא‪" .‬באמת‪ ,‬הצעד המנצח היחיד‬
‫לייצר מהדקים‪ .‬זה לא ממש מרשים‪ ,‬אבל נותן לך תחושה למה‬ ‫הוא לא לשחק‪ ",‬מרפי ציין באירוניה‪ ,‬במאמר על היצירה שלו‪.‬‬
‫כדי שהאסטרטגיה תצליח‪ ,‬הכפתור צריך לא לעניין את‬
‫מכונה עשויה לחפש דרכים מועילות יותר לייצר ציוד משרדי‪.‬‬ ‫הבינה המלאכותית‪ ,‬או‪ ,‬כפי שטאלין מנסח זאת‪" ,‬היא צריכה‬
‫בסופו של דבר‪ ,‬השיחה עוברת לשאלות גדולות יותר‪ ,‬כפי‬ ‫להקצות ערך שווה לעולם שבו היא לא קיימת ולעולם שבו‬
‫שקורה לעתים קרובות כשטאלין נוכח‪ .‬המטרה האולטימטיבית‬ ‫היא קיימת‪ ".‬אבל גם אם החוקרים יוכלו להשיג זאת‪ ,‬קיימים‬
‫של מחקר בטיחות הבינה המלאכותית היא ליצור מכונות שהן‬ ‫אתגרים אחרים‪ .‬מה יקרה אם הבינה המלאכותית תעתיק את‬
‫"על אנושיות בצורה אתית וגם קוגניטיבית"‪ ,‬כפי שפעם ניסח‬
‫זאת הפילוסוף מקיימברידג' והמייסד המשותף של ‪CSER‬‬ ‫עצמה כמה אלפי פעמים ברחבי האינטרנט?‬
‫יו פרייס (‪ .)Huw Price‬אחרים העלו את השאלה‪ :‬אם איננו‬ ‫הגישה שהכי מלהיבה את החוקרים היא מציאת דרך לגרום‬
‫רוצים שבינה מלאכותית תשלוט בנו‪ ,‬האם אנו רוצים לשלוט‬ ‫לבינה המלאכותית לדבוק בערכים אנושיים – לא על ידי תכנות‬
‫בה? במילים אחרות‪ ,‬האם לבינה מלאכותית יש זכויות?‬ ‫שלהם‪ ,‬אלא על ידי לימוד הבינה המלאכותית ללמוד אותם‪.‬‬
‫טאלין אומר שזו האנשה מיותרת‪ .‬היא יוצאת מנקודת הנחה‬ ‫בעולם שנשלט על ידי פוליטיקה מפלגתית‪ ,‬אנשים לעתים‬
‫שאינטליגנציה שווה לתודעה – תפיסה שגויה שמציקה‬ ‫קרובות מדגישים את הדרכים שבהן העקרונות שלנו נבדלים‪.‬‬
‫לחוקרי בינה מלאכותית רבים‪ .‬מוקדם יותר באותו יום‪ ,‬חוקר‬ ‫אבל‪ ,‬מציין טאלין‪ ,‬לבני אנוש יש הרבה מהמשותף‪" :‬כמעט‬
‫ב‪ ,CSER-‬חוסה הרננדס‪-‬אוראיו (‪Jose Hernandez-‬‬ ‫כולם מעריכים את הרגל הימנית שלהם‪ .‬אנחנו פשוט לא‬
‫‪ ,)Orallo‬התבדח שכאשר מדברים עם חוקרי בינה מלאכותית‪,‬‬ ‫חושבים על כך‪ ".‬התקווה היא שאולי יהיה אפשר ללמד בינה‬
‫תודעה היא מילה גסה‪"( .‬וגם 'רצון חופשי' זו מילה גסה‪ ,‬הוא‬
‫מלאכותית להבחין בכללים בלתי ניתנים לשינוי מסוג זה‪.‬‬
‫מוסיף)‪.‬‬ ‫תוך כדי התהליך‪ ,‬בינה מלאכותית תצטרך ללמוד ולהעריך‬
‫במרתף כעת‪ ,‬טאלין אומר שתודעה אינה שייכת לנושא‪:‬‬ ‫את הצד הפחות לוגי של בני אדם‪ :‬שלעתים קרובות אנחנו‬
‫"קחו לדוגמה תרמוסטט‪ .‬אף אחד לא יגיד שיש לו תודעה‪.‬‬ ‫אומרים דבר אחד ומתכוונים לאחר‪ ,‬שכמה מההעדפות שלנו‬
‫אבל זה ממש לא נוח להתמודד מול הסוכן הזה אם אתה נמצא‬ ‫מתנגשות זו עם זו ושאנשים פחות אמינים כשהם שתויים‪ .‬אבל‬
‫עקבות הנתונים שאנו משאירים באפליקציות ובמדיה חברתית‬
‫בחדר שהטמפרטורה בו מכוונת למינוס שלושים מעלות‪".‬‬ ‫עשויות לספק כיוון‪ .‬למרות האתגרים‪ ,‬טאלין מאמין שחובה‬
‫או'הייגרטי מצטרף לשיחה‪" .‬זה יכול היה להיות נחמד‬ ‫עלינו לנסות מכיוון שהסיכונים גבוהים כל כך‪" .‬עלינו לחשוב‬
‫לדאוג לגבי תודעה‪ ",‬הוא אומר‪" ,‬אבל לא יהיו לנו הלוקסוס‬ ‫כמה צעדים קדימה‪ ",‬הוא אומר‪" .‬יצירת בינה מלאכותית‬
‫לדאוג לגבי תודעה אם לא נפתור תחילה את אתגרי הבטיחות‬
‫שאינה חולקת את האינטרסים שלנו תהיה טעות איומה‪".‬‬
‫הטכניים‪".‬‬
‫אנשים עסוקים עד מעל לראש במה זה בעצם בינה‬ ‫בלילה האחרון של טאלין בקיימברידג' אני מצטרף‬
‫מלאכותית בעלת אינטליגנציית על‪ ,‬אומר טאלין‪ .‬איזו צורה‬ ‫אליו ואל שני חוקרים לארוחת ערב במסעדת בשרים בריטית‪.‬‬
‫תהיה לה? האם עלינו לדאוג לגבי בינה מלאכותית אחת‬ ‫מלצר מושיב את הקבוצה שלנו במרתף מסויד‪ ,‬עם אווירה‬
‫שתשתלט‪ ,‬או צבא שלהן? "מנקודת המבט שלנו‪ ,‬הדבר‬ ‫דמוית מערה‪ .‬הוא נותן לנו תפריט של דף אחד שמציע‬
‫החשוב הוא מה בינה מלאכותית עושה‪ ",‬הוא מדגיש‪ .‬וזה‪ ,‬הוא‬ ‫שלושה סוגים שונים של מחית‪ .‬זוג מתיישב לשולחן לידנו‪,‬‬

‫מאמין‪ ,‬תלוי עדיין בבני האדם – בינתיים‪.‬‬

‫פברואר ‪ • 2019‬פופיולר סיינס‬ ‫‪22‬‬

‫‪PSCWI18_Tallinn_FINAL_HEB.indd 22‬‬ ‫‪2/13/2019 5:16:01 PM‬‬