[תמונה חופשית שהועלתה על ידי David Orban לאתר flickr]
[מאמר זה ראה אור במקור באתר של דוקטור רועי צזנה]
המאמר עודכן ב- 5 במרץ 2021
המחבר (ראו תמונה משמאל), רועי צזנה, הוא דוקטור לננו-טכנולוגיה; עמית בסדנת יובל נאמן למדע, טכנולוגיה וביטחון באוניברסיטת תל אביב, ומרצה בפקולטה להנדסה ביו-רפואית בטכניון. בוגר קורס המנהלים של אוניברסיטת הסינגולריות ומחבר הספר המדריך לעתיד.
[התמונה: מאלבום התמונות הפרטי של המחבר]
האתרים של ד"ר רועי צזנה
* * *
הניסוי הבא מתאים לכל הגילאים: לכו לאבא או לאמא. שאלו אותם האם, לפני שנולדתם, הם העזו לחשוב שיום אחד כולם יפרסמו וישתפו את התמונות שלהם ברשת החברתית ששמה "פייסבוק". או שיוכלו לקבל תשובה לכל שאלה מישות ערטילאית ששמה "גוגל". או שיהיה להם נהג-עזר ממוחשב ושמו "וייז", שינחה אותם בכבישים למחוז חפצם. התשובה שתקבלו, בוודאות כמעט מוחלטת, תהיה שלילית. המעטים שחשבו שטכנולוגיות כמו מחשבי-על, רשת אלחוטית או בינה מלאכותית יהיו זמינות לציבור הרחב, לא הבינו איך אנשים ישתמשו בהן.
ההיסטוריה מלאה במקרים בהם טכנולוגיה חדשה ופורצת-דרך - או אוסף של טכנולוגיות כאלו - משנה לחלוטין את חיי האנשים, עד כדי כך שאלו שחיו לפני התפתחות הטכנולוגיות אינם יכולים להבין כלל את דרך חשיבתם של בני הדורות הבאים. הנקודה בה מתרחש אותו מפנה חשיבתי מכונה "סינגולריות" או "נקודה סינגולרית" – מונח המגיע במקור ממתמטיקה ומתאר נקודה שאיננו יכולים להבין מה מתרחש בה.
הסינגולריות (Singularity) זכתה לפופולריות גדולה בשנים האחרונות בזכות המדען וסופר המדע הבדיוני ורנור וינג'י, שכתב ב- 1993 ש- "תוך שלושים שנים, יעמדו ברשותנו היכולות הטכנולוגיות ליצור בינה על-אנושית. זמן קצר לאחר מכן, עידן האדם יסתיים."
ריי קורצווייל, בספרו 'הסינגולריות מתקרבת' (ראו תמונת הכריכה משמאל), מסכים עם וינג'י אך סבר שהיה אופטימי מדי. לפי קורצווייל, עד שנת 2045 נחווה את הסינגולריות הטכנולוגית הגדולה ביותר בתולדות האנושות: כזו שתוכל להפוך תוך שנים ספורות את מוסדות החברה ואת הדרך בה אנו רואים את עצמנו כבני-אדם.
גם קורצווייל סבור שהסינגולריות תגיע מכיוון שנצליח ליצור בינה מלאכותית על-אנושית. בינה שכזו תוכל להגות רעיונות שאף אדם לא הצליח לחשוב עליהם בעבר, ותמציא כלים טכנולוגיים מתקדמים יותר מכל כלי הקיים ברשותנו כיום. אחד מתפקידיה של אותה בינה מלאכותית יהיה בוודאי לשפר את עצמה ואת ביצועיה, וליצור את הדור הבא של בינות מלאכותיות מתקדמות יותר. אלו ישפרו גם הן את עצמן, וכך תוך שנים ספורות תשאיר הבינה המלאכותית את בני-האדם הפשוטים הרחק מאחור.
אם הרעיון מפחיד אתכם, אתם בחברה טובה. אנשים גדולים וחכמים כמדען סטיבן הוקינג והממציא אילון מאסק כבר הביעו את חששותיהם מכך שהבינה העל-אנושית תצא משליטתנו ותפעל כנגדנו. אחרים רואים דווקא את ההזדמנויות הגדולות הטמונות בסינגולריות שכזו. הם מבינים שבינה מלאכותית על-אנושית, אם תישמר תחת שליטתנו, תוכל לנתח ולחשוף את צפונות העולם עבורנו. איינשטיין היה גאון יוצא-דופן, שחולל קפיצת דרך בהבנתנו את הפיזיקה. מה אם היינו נהנים מעשרות, מאות, או מיליוני 'איינשטיינים' שהיו מנתחים כל בעיה לפי דרישה ומוצאים עבורה את הפתרון? מה אם כל אחד מאיתנו היה יכול ליהנות מ- 'דוקטור האוס' פרטי משלו, שהיה מנתח את מצבו הרפואי בכל רגע נתון ומספק המלצות בלתי-פוסקות? ומהם הרעיונות החדשים, הניתוחים והגילויים שיוכלו למצוא הסופר-רמב"ם וסופר-רש"י העתידיים בתלמוד ובתנ"ך?
אנו מתחילים לראות כבר היום כיצד הבינה המלאכותית מתחילה לשנות את דרך חשיבתנו על עצמנו. המחשב "כחול עמוק" הצליח לנצח את גארי קספרוב בשחמט בשנת 1997, וכיום אלופי העולם האנושיים בשחמט אינם מהווים אתגר לבינה המלאכותית בפני עצמם. לאחר המפלה, יצר קספרוב סוג חדש של תחרויות שחמט: תחרויות בהן השחקנים האנושיים והממוחשבים משתפים פעולה, וביחד מגיעים להצלחות ולהישגים גדולים יותר מכפי שהיו מגיעים אליהן בכוחות עצמם. בשיתוף פעולה שכזה, המחשב מספק את מהירות החישוב ומציע אפשרויות. תפקידו של השחקן האנושי הוא לבחור בין האפשרויות, לנתח את יריביו ולהוציא אותם משיווי המשקל. ביחד, השניים יוצרים קנטאור: יצור מיתולוגי המשלב את התכונות הטובות ביותר של שני מינים שונים (ראו את הקנטאור בתמונה למטה):
[בתמונה: הקנטאור בציורו של סנדרו בוטיצ'לי (1482), מינרווה והקנטאור. התמונה היא נחלת הכלל]
הבינה המלאכותית, לפיכך, אילצה כבר את שחקני השחמט לחשוב מחדש על משמעות היותם אנושיים ועל משמעות המשחק. בסופו של דבר, היא שינתה את פני המשחק כולו והביאה לצמיחתם של הקנטאורים: שחקני שחמט אנושיים המשתפים פעולה עם המחשבים, ומנצחים גם את הבינות המלאכותיות המשוכללות ביותר הקיימות כיום.
אנו יכולים לצפות לכך שבעשורים הקרובים תתרחש סינגולריות דומה גם בשאר המשחקים, המקצועות ותחומי הדעת בעולם שהיו שמורים בעבר רק לבני-האדם. חלק מבני-האדם ייאבקו כנגד התפתחות הבינה המלאכותית או יתעלמו ממנה, וכאשר זו תעקוף את יכולותיהם, הם ייוותרו מאחור בצד הדרך. אחרים ישתפו פעולה עם המחשבים, יעזרו להם ללמוד ויכווינו את צמיחתם וגדילתם. אלו יהיו הקנטאורים של העתיד. והבנה זו – שהאדם אינו יכול עוד להסתמך רק על עצמו ועל מוחו, אלא צריך לשתף פעולה ולהתאחד עם מחשבים משוכללים כדי להצליח באתגרי העתיד – הרי זו סינגולריות בפני עצמה.
שטויות במיץ עגבניות
הדמוי המרכזי פה של הקנטאורים נועד להקל על בני אדם לקבל את המחשב כעזר כנגדו ולא כאויב. בפועל המחשב יחליף את כולם את כל היועצים גם כן וגם את בעלי תפקידי ההנהלה. מחשב כבר שנים מהווה עזר כנגדו, החל משואב האבק שעושה את המשרתת מיותרת, המיקרוגל וכו. הגיפיאס עוזר לנהג לנווט את דרכו אבל בסופו של דבר המחשב יחליף את כולם מנהגי המוניות ועד מחליטי ההחלטות.
נגד מי יתמודד אדם כשלצידו מחשב אם לא כנגד אדם אחר שלצידו מחשב? מה היתרון בקנטאור שחציו סוס חציו בן אדם?
גם הרעיון שיש לחשוש ממחשבים כיוון שלכאורה הם ישתלטו על האנושות מגוחך ונועד לייצר כותרות דרמטיות. מחשב לא מסתובב ברחוב עם נשק, מחשב עובד על השולחן או הריצפה או כמכונה בקו יצור. איזה איום פיזי הוא יכול לגרום לבני אדם?
סינגולריות היא לא נודע והפחד הוא מפני איום הלא נודע
חחחח
מחשב לא מסתובב ברחוב עם נשק, ובינתיים מרחפים מעליך מל"טים, רשתות ממוחשבות שולטות במקורות האנרגיה, במים בחשמל, במערכות הפיננסיות, בכורים אטומיים, בתקשורת שלך עם העולם – רשתות חברתיות, גופים ממשלתיים, בזהות שלך. ת.ז. ביומטרית. בעוד זמן לא רב הם יסתובבו לך בתוך הגוף. במקרה הטוב, בני אדם ימצאו אין סוף שימושים לרעה. במקרה הרע, המחשבים עצמם. בכל מקרה, העתיד לא מזהיר עבורנו…
בהצלחה