I. על חיזוי העתיד

נתחיל מלעסוק במה שנחשב לאחת הבעיות הקשות ביותר: לחזות את העתיד.

 

אולי זה יאכזב אותך לשמוע, אבל אין לנו כדור בדולח שיכול להראות לנו כיצד ייראה העולם בעתיד ואיך בדיוק הבינה המלאכותית תשנה את חיינו.

 

כמי שמתעסקים בבינה מלאכותית, לא פעם מבקשים מאיתנו לספק תחזיות, וכשאנחנו מסרבים – זה מלווה לעיתים בגלגול עיניים. אבל בפועל, אנחנו טוענים שכל מי שטוען שהוא יודע מה יהיה עתיד הבינה המלאכותית ומה תהיינה ההשלכות החברתיות שלה – כדאי מאוד להתייחס אליו בחשדנות.

שדה עיוות המציאות

לא כולם שמרנים בכל הנוגע לתחזיות שלהם. בעולם המודרני, שבו כותרות גדולות מוכרות, ושבו צריך לדחוס חדשות לתוך 280 תווים, מסרים שקולים (או “משעממים”?) נעלמים, בעוד שמסרים פשוטים ודרמטיים מוגדלים ומועצמים. כשזה נוגע ל־תפיסה הציבורית של הבינה המלאכותית –הדבר הזה נכון במיוחד.

 

 

? הערה:

מחזונות אוטופיים ועד נבואות אפוקליפטיות

המרחב התקשורתי שולט בקצוות – הקולות הקיצוניים הם אלו שמקבלים את הבמה. אנחנו מתחילים לראות “סלבריטאים של בינה מלאכותית”, שמייצגים רעיון גדול אחד, ומצהירים הצהרות נבואיות על עתיד הבינה המלאכותית. המדיה אוהבת מסרים ברורים – חלקם מבטיחים לנו עתיד אוטופי עם צמיחה אקספוננציאלית, תעשיות של טריליוני דולרים שצצות משום מקום, בינה מלאכותית “אמיתית” שתפתור את כל הבעיות שאנחנו לא מסוגלים לפתור בעצמנו, ועולם שבו בני אדם לא יצטרכו לעבוד כלל. מצד שני, יש גם מי שטוען ש־בינה מלאכותית תוביל להשתלטות על העולם, או שאפילו – בתוך 20–30 שנה – היא תסמן את קץ האנושות. לפי התחזיות האלה, החיים עצמם ישתנו מהיסוד ב”עידן הבינה” והבינה המלאכותית מהווה איום קיומי על האנושות.

 

בעוד שחלק מהתחזיות כנראה יפגעו לפחות במשהו, אחרות ישמשו בעיקר כהוכחה לכך עד כמה קשה לחזות את העתיד ורבות מהן פשוט לא הגיוניות. המטרה שלי היא שאתם תוכלו להביט על תחזיות כאלה ואחרות –ולדעת לבקר אותן באופן ביקורתי: מה סביר? מה מופרז? מה מבוסס? ומה נשמע כמו הגזמה תקשורתית? אני רוצים לצייד אתכם ביכולת החשיבה הנדרשת כדי להתמודד עם התחזיות שמסביב – בעיניים מפוקחות.

 

 

על קיפודים ושועלים

 

החוקר הפוליטי פיליפ אי. טטלוק, מחבר הספר Superforecasting: The Art and Science of Prediction, מחלק את האנשים לשתי קטגוריות:

 

• כאלה שיש להם רעיון אחד גדול – הוא קורא להם “קיפודים”

• וכאלה שיש להם הרבה רעיונות קטנים – הוא מכנה אותם “שועלים”

טטלוק ערך ניסוי בין השנים 1984 ל־2003 כדי לבדוק אילו גורמים יכולים לעזור לנו לזהות איזו תחזית צפויה להיות מדויקת – ואיזו לא. אחת המסקנות הבולטות שלו הייתה ש־שועלים נוטים להיות טובים יותר בתחזיות ובמיוחד כשמדובר בתחזיות לטווח ארוך.

 

סביר להניח שהמסרים שיכולים להיכנס ל־280 תווים הם לעיתים קרובות רעיונות פשוטים וגדולים – רעיונות של קיפודים. העצה שלי – שימו לב למקורות מידע מאוזנים, מנומקים היטב והיו חשדנים כלפי אנשים שמסבירים את כל העולם דרך טיעון יחיד אחד בלבד.

 

לחזות את העתיד זו משימה קשה אבל לפחות אפשר לבחון את העבר ואת ההווה של הבינה המלאכותית – ואם נבין אותם טוב יותר נוכל גם להיות מוכנים יותר לעתיד – יהיה אשר יהיה.

 

 

 

חורפים של בינה מלאכותית

 

ההיסטוריה של תחום הבינה המלאכותית – כמו בתחומי מדע רבים אחרים – מתאפיינת בגלים של מגמות משתנות שנכנסות ויוצאות מהאופנה. בפילוסופיה של המדע, נהוג לקרוא למגמה כזו בשם “פרדיגמה”. בדרך כלל, כאשר פרדיגמה מסוימת צוברת תאוצה, רוב הקהילה המחקרית מאמצת אותה בהתלהבות ומתחילות לצוץ תחזיות אופטימיות לגבי פריצות דרך שצפויות להגיע “בקרוב”.

 

לדוגמה:

• בשנות ה־60, האמונה הרווחת הייתה ש־רשתות נוירונים

  יוכלו לפתור את כל בעיות הבינה המלאכותית בכך שהן יחקו את מנגנוני הלמידה של הטבע – ובפרט של המוח האנושי.

• לאחר מכן, בשנות ה־80, הכוכבים הבאים היו מערכות מומחה (Expert Systems), שהתבססו על לוגיקה וחוקיות שהוזנה ידנית על ידי בני אדם.

 

זו הייתה הפרדיגמה השלטת של אותה תקופה.

 

 

מעגל ההייפ

בכל גל חדש של התלהבות, מופיעות הצלחות מוקדמות שמעוררות אופטימיות ותחושת התקדמות. הצלחות אלו – גם אם הן מוגבלות מאוד לתחומים מסוימים או חסרות היבטים מהותיים – זוכות למרכז תשומת הלב הציבורית. חוקרים רבים נוהרים אל תחום הבינה המלאכותית או לפחות מתחילים לכנות את המחקר שלהם “בינה מלאכותית” – כדי ליהנות מהעלייה בתקציבי המחקר. חברות טכנולוגיה גם הן מקימות או מרחיבות צוותים בתחום הבינה המלאכותית, לעיתים פשוט מתוך פחד מלהישאר מאחור (FOMO).

 

אבל עד כה, בכל פעם שהובטחה פריצת דרך כללית שתפתור את כל בעיות הבינה המלאכותית, התקדמות המחקרית נתקלה לבסוף בבעיות שלא ניתנו לפתרון, בעיות שבעבר נחשבו רק ל”תקלות קטנות”.

•  במקרה של רשתות נוירונים בשנות ה־60, התקלות הללו נגעו לקשיים בטיפול באי-לינאריות ולפתרון בעיות למידת מכונה שנבעו מהצורך ההולך וגובר במספר פרמטרים עצום.
•  במקרה של מערכות המומחה בשנות ה־80, הבעיות נגעו לטיפול ב־אי ודאות ולחוסר ב־שכל ישר.

כאשר התגלה עומק הבעיות שנותרו – אחרי שנים של מאמצים והבטחות שלא התממשו – הצטבר פסימיזם כלפי אותה פרדיגמה וזה הוביל ל־“חורף של בינה מלאכותית”: העניין בתחום דעך, והמאמצים המחקריים הופנו לתחומים אחרים.

 

 

בינה מלאכותית מודרנית

מאז תחילת המילניום, הבינה המלאכותית נמצאת שוב בעלייה. הגישות המודרניות בתחום נוטות להתמקד בפירוק בעיות גדולות לסדרה של בעיות קטנות, מבודדות ומוגדרות היטב ולפתור אותן אחת אחת. במקום לעסוק בשאלות פילוסופיות כמו מהי אינטליגנציה או מה המשמעות של תודעה ומחשבה, הבינה המלאכותית המודרנית עוקפת את הדיונים הללו ומתמקדת בבניית פתרונות מעשיים לבעיות אמיתיות בעולם. חדשות טובות לכל מי שיכול להרוויח מהפתרונות האלו!

 

עוד מאפיין חשוב של שיטות בינה מלאכותית מודרניות שהוא גם הכרחי בעולם האמיתי ה”מלוכלך” והמורכב הוא היכולת להתמודד עם חוסר ודאות. ראינו את זה בפרק 3 כשעסקנו בהסתברות וכלל בייז. לבסוף, את גל ההתעוררות הנוכחי של הבינה המלאכותית דחפה קדימה חזרתה של רשתות נוירונים וטכניקות למידה עמוקה (Deep Learning) – שמצליחות לעבד תמונות ונתוני עולם אמיתי ברמה שעד כה לא הייתה אפשרית.

 

 

? הערה:

אז האם אנחנו שוב בתוך מעגל ההייפ?

האם ההיסטוריה תחזור על עצמה והפריחה הנוכחית של הבינה המלאכותית תוביל שוב לתקופת חורף עבור הבינה מלאכותית? רק הזמן יוכל לענות על זה.

אבל גם אם זה יקרה – כלומר, שגם אם קצב ההתקדמות יאט או ייעצר – ההשפעה של הבינה המלאכותית על החברה תישאר. וזה בזכות העובדה שהמחקר המודרני מתמקד בפתרונות פרקטיים, לבעיות ממשיות בעולם האמיתי ולא מנסה קודם לפתור את השאלות הגדולות של אינטליגנציה כללית. זו בדיוק הנקודה שבה הניסיונות הקודמים נכשלו – והיכן שהגישה המודרנית כבר מניבה פירות ממשיים.

 

תחזית 1: הבינה המלאכותית תמשיך להיות סביבנו בכל מקום

כפי שוודאי את/ה זוכר/ה, פתחנו את הקורס במוטיבציה ללימוד בינה מלאכותית דרך הצגה של יישומים בולטים שממש משפיעים על חיינו.

הדגשנו שלוש דוגמאות עיקריות:

• ? רכבים אוטונומיים

• ? מערכות המלצה

• ?️ עיבוד תמונה ווידאו

במהלך הקורס גם עסקנו ביישומים רבים נוספים, שכולם תורמים למהפכת הטכנולוגיה המתמשכת שאנחנו חווים ממש עכשיו.

 

 

? הערה:

הבינה המלאכותית עושה את ההבדל

כתוצאה מההתמקדות ביישומים פרקטיים במקום בפתרון השאלות הפילוסופיות הגדולות, אנחנו חיים היום בעולם שבו בינה מלאכותית עוטפת אותנו מכל כיוון – גם אם ברוב הזמן אנחנו אפילו לא מודעים לכך.

? המוזיקה שאנחנו שומעים,

? המוצרים שאנחנו קונים אונליין,

? הסרטים והסדרות שאנחנו צופים בהם,

?️ מסלולי התחבורה שלנו,

? ואפילו החדשות והמידע שאנחנו נחשפים אליהם –

כולם מושפעים יותר ויותר מבינה מלאכותית. ומה שעוד יותר מעניין – כמעט כל תחום מדעי, מרפואה ואסטרופיזיקה ועד היסטוריה של ימי הביניים – מאמץ כלים של בינה מלאכותית כדי להעמיק את ההבנה שלנו על היקום – ועל עצמנו.

 

 

תחזית 2: הטרמינייטור לא באמת מגיע

אחת מהתפיסות הכי רווחות ומתמשכות כשמדברים על עתיד הבינה המלאכותית – היא הדימוי של הטרמינייטור. ובמקרה שפספסת איכשהו: מדובר בדמות של רובוט אנושי אכזרי עם שלד מתכתי ועיניים בוערות… כן, זה זה.

הטרמינייטור הוא סרט מ־1984 בבימויו של ג’יימס קמרון. בעלילה, מערכת הגנה גלובלית בשם סקיינט (Skynet), שמבוססת על בינה מלאכותית, נעשית מודעת לעצמה ומשמידה כמעט את כל המין האנושי באמצעות נשק גרעיני ורובוטי הרג מתקדמים.

 

אבל כדאי לעצור ולזכור – זה מדע בדיוני.

 

 

? הערה:

שני תרחישי יום הדין

ישנם שני תרחישים עיקריים שמוצגים שוב ושוב כדרך להגעתו של הטרמינייטור או יצורים רובוטיים אחרים מפחידים ומרדניים:

1. התרחיש מהסרט – AI מודע שמפתח שנאה לאנושות

זהו הסיפור מתוך סרטו של קמרון (1984) מערכת בינה מלאכותית חזקה כל כך, שהיא פשוט נעשית מודעת לעצמהומחליטה שהיא שונאת את האנושותומשמידה אותה.

2. התרחיש ה”פרקטי” – AI חכם (אך לא מודע) שפשוט מבצע את מה שביקשו ממנו

בתרחיש הזה, הצבא הרובוטי מופעל על ידי מערכת בינה מלאכותית שאינה מודעת, אבל כן אינטליגנטית מאוד ושנמצאת לכאורה בשליטת בני אדם. המערכת מתוכנתת למשל כדי למקסם את ייצור מהדקי הנייר (כן, באמת).

בהתחלה זה נשמע תמים לגמרי, נכון?

 

אבל אם המערכת חכמה מספיק, היא תגיע מהר מאוד לרמת ייצור מרבית במסגרת המשאבים הקיימים: חשמל, חומרים, תשתיות.

ואז היא עלולה להסיק שעל מנת לייצר עוד – צריך לכוון עוד ועוד משאבים למטרה הזו בלבד, גם אם זה בא על חשבון משאבים חיוניים לאנושות.

הפתרון ה”יעיל” מבחינתה?

פשוט: להיפטר מהאנשיםואז יישארו הרבה יותר משאבים זמינים…

כמובן, להמשך ייצור מהדקי נייר. ??

 

למה התרחישים האלה לא מציאותיים

יש כמה סיבות טובות לכך ש־שני התרחישים שתיארנו למעלה הם בלתי סבירים בצורה קיצונית,

ומשתייכים יותר ל־מדע בדיוני מאשר לדיון רציני על עתיד הבינה המלאכותית.

 

סיבה 1:

 

ראשית, הרעיון שמערכת בינה מלאכותית סופר-אינטליגנטית ומודעת תצוץ במקרה כ”תוצאה לא מכוונת” של פיתוח שיטות בינה מלאכותית הוא נאיבי מאוד. כפי שראינו בפרקים הקודמים, שיטות בינה מלאכותית הן לא יותר מאשר תהליכים של חישוב אוטומטי, שמבוססים על שילוב של עקרונות מובנים היטב ו־הרבה מאוד נתונים – שני המרכיבים האלו מסופקים על ידי בני אדם או מערכות שנבנו על ידי בני אדם. לחשוב ש־אלגוריתם פשוט כמו מסווג הקרוב ביותר, רגרסיה ליניארית, מנוע משחק כמו AlphaGo או אפילו רשת נוירונים עמוקה יכול פתאום “להתעורר” ולהתפתח לתודעה סופר-אינטליגנטית דורש דמיון מאוד פעיל (בלשון המעטה).

 

חשוב להבהיר: אנחנו לא טוענים שיצירת אינטליגנציה ברמת אדם היא בלתי אפשרית באופן עקרוני. הרי מספיק להסתכל במראה – ותקבל הוכחה לכך שמערכת פיזית חכמה במיוחד יכולה להתקיים. מה שאנחנו כן אומרים הוא שסופר-אינטליגנציה לא תצמח באופן טבעי כתוצאה מפיתוח של שיטות צרות של בינה מלאכותית והיישום שלהן על בעיות בעולם האמיתי. (כדאי לחזור כאן לדיון מהפרק הראשון על ההבחנה בין בינה צרה ל־בינה כללית).

 

סיבה 2:

אחת מהאמונות הפופולריות בקרב מי שמאמינים בבינה מלאכותית סופר-אינטליגנטית היא רעיון ה־“סינגולריות”: מערכת שמתכנתת את עצמה מחדש ומשפרת את הביצועים שלה בקצב אקספוננציאלי והולך וגובר. לפי הרעיון הזה, אותה סופר-אינטליגנציה תעקוף את האנושות בהפרש כל כך גדול, שנהפוך להיות כמו נמלים – חסרי משמעות, שניתן “לדרוך עליהן” ללא היסוס.

אבל – הרעיון של קפיצה אינטלקטואלית אקספוננציאלית הוא לא ריאלי. גם אם מערכת הייתה מסוגלת לשפר את עצמה – בכל שלב היא הייתה נתקלת בבעיות יותר ויותר קשות והקצב שלה היה מאט.

זה בדיוק מה שאנחנו רואים גם במחקר האנושי: כדי להתקדם עוד צעד קטן במדע, נדרשים משאבים אדירים, שיתוף פעולה בין אלפי חוקרים ותמיכה של חברות שלמות. מערכת סופר-אינטליגנטית לא בהכרח תוכל להפעיל את אותם מנגנונים או להשיג את אותם המשאבים.

ובינתיים – החברה האנושית היא זו שעדיין מחזיקה בכוח להחליט למה ובאיזו צורה נשתמש בטכנולוגיה, כולל בטכנולוגיית בינה מלאכותית.

ומה שמעניין במיוחד: הרבה מהכוח הזה ניתן לנו דווקא בזכות הטכנולוגיה עצמה.
כל התקדמות בתחום הבינה המלאכותית מחזקת את היכולת שלנו לשלוט, לפקח ולהפחית סיכונים שיכולים להתעורר.

 

 

? הערה:

בעיית יישור הערכים

דוגמת מהדקי הנייר מוכרת כייצוג של אחת הבעיות העמוקות בתחום:

בעיית יישור הערכים – כלומר, עד כמה קשה להגדיר למערכת מטרות באופן שהן יהיו מיושרות עם הערכים האנושיים שלנו. אבל נניח שיצרנו מערכת סופר-אינטליגנטית, כזו שיכולה אפילו להתגבר על ניסיונות אנושיים לעצור אותה. בהיגיון בריא, ניתן להניח שמערכת כל כך חכמה, תהיה גם חכמה מספיק כדי להבין שכשאנחנו אומרים לה: “תכיני לי מהדקי נייר” – אנחנו לא באמת מתכוונים שהיא תהפוך את כדור הארץ כולו למפעל ענק לייצור מהדקים בקנה מידה פלנטרי.

 

 

להפריד בין סיפור למציאות

בסופו של דבר, הטרמינייטור הוא אחלה סיפור לסרטים – אבל ממש לא בעיה אמיתית שצריך להיכנס להיסטריה בגללה. הטרמינייטור הוא גימיק: דרך קלה למשוך תשומת לב, קמפיין מושלם לעיתונאים שמחפשים כותרות דרמטיות ולחיצות  אבל בפועל, הוא גם מסיח את הדעת מהאיומים האמיתיים (כן, גם אם הם פחות סקסיים):

 

☢️ נשק גרעיני

?️ שחיקה בדמוקרטיה

? אסונות סביבתיים

? משבר האקלים

 

ולמען האמת?

האיום הכי ממשי שהטרמינייטור מציב הוא ההסחה שהוא יוצר מהבעיות האמיתיות שאנחנו צריכים להתמודד איתן. חלק מהבעיות הללו קשורות לבינה מלאכותית ורבות מהן בכלל לא. אנחנו עוד נדבר על האתגרים האמיתיים שבינה מלאכותית מציבה  אבל השורה התחתונה היא:

 

 תשכחו מהטרמינייטור.

 

יש דברים הרבה יותר חשובים שדורשים את תשומת הלב שלנו.