להאמין למחשבים או לא להאמין – זו השאלה

אני מהמר שיצא לכם כבר לצעוק בתסכול על מענה אלקטרוני ממוחשב משהו כמו "חולון!! חוללללון!!!", והתוכנה הממוחשבת שאלה אתכם בשקט מרתיח, בקול שורט עצבים, ובפעם השלישית: "עיר המגורים לא נקלטה. אמרו את עיר המגורים שלכם". ררררר! אני מניח גם שאני לא היחיד שמשבש את דברי בכוונה כדי לשמוע את המשפט המיוחל: "המערכת לא הבינה את תשובתכם. אתם מועברים למענה האנושי". הללויה!

אבל האם שאלתם את עצמכם מדוע אתם כל כך שונאים לדבר עם המחשבים הללו? למה פתאום אתם כל כך רוצים לדבר עם בני אנוש?

מי אנושי? הסצנה הבראשיתית בחיי הרובוטים לפי האמן מייקל סליוואן תצלום: Michael Sullivan

ובכן, שאלתי את עצמי בדיוק את השאלה הזו אגב הקשבה לתוכנית רדיו שמיד ארחיב עליה את הדיבור. והתשובה שלי אינה מקורית. חשבו עליה כבר בעשרות ספרי מדע בדיוני לפני: אנחנו לא רוצים לדבר עם מכונות כי אנחנו פשוט לא מאמינים להן. אולי גם קצת חוששים מהן. האמת היא שאנחנו לא מאמינים לרובוטים, למחשבים, למקררים, למכונות כביסה או לטוסטרים. אפשר לומר שאנחנו נוטים שלא להאמין לכל דבר שאין לו לב, או נשמה, או מה שתקראו לדבר הזה שמבדיל בין יציר האדם לבין מה שנברא על ידי כוחות הגדולים מאתנו.

ובכל זאת, כפי שבדו בדייני המדע, המכונות חודרות ומשפיעות על חיינו באין ספור דרכים ומחילות. כך, כפי שכבר כתבתי בהתחלה, יותר ויותר חברות משתמשות כיום בטכנולוגיות של מענה אנושי ממוחשב במחלקות שירות הלקוחות  – בטח באתרי האינטרנט או במענה הטלפוני שלהן – וגורמות לנו "לדבר" עם מכונות. האם זה נגמר בכך? ממש לא.

האם יצא לכם לדבר ארוכות עם מישהו, נניח באתר היכרויות, ואולי אפילו ממש להתאהב בו, ורק לאחר שבועות ארוכים לגלות שהוא לא מישהו אלא… משהו. או במלים ברורות יותר: הוא תוכנה ממוחשבת.

לא מאמינים? לרוברט אפשטיין זה קרה, כך לפחות הוא מעיד בתוכנית האחרונה של תחנת הרדיו האמריקאית RadioLab (שעליה אני ממליץ בחום, ויש לי אליה קישור קבוע בפינת העיניים הגדולות בטור הימני באתר), שנקראת "Talking to Machines".

אפשטיין מתאר כי בעבר הלא רחוק, כאשר היה גרוש, הוא נרשם לאתר היכרויות גדול ומוכר בארה"ב. בשל שורשיו הרוסיים, הוא פנה לאישה ששמה סבטלנה. במהלך החודשיים הבאים השניים ניהלו שרשרת התכתבויות באנגלית הטובה שלו, והקלוקלת שלה. ברבות הזמן הוא אף הציע לה שהוא יגיע לביקור במוסקבה. ואולם הבקיעים לא איחרו להגיע, כאשר שם לב שהתשובות שלה החלו להיות מעט חזרתיות וכלליות. הוא החל לבדוק אותה: "מה את לובשת היום? אדדגגירשל?" אך היא לא הגיבה למלה המשובשת! ואז הוא החל להבין. סבטלנה לא היתה אישה – אפשטיין התאהב במחשב.

אתם בטח אומרים, טוב – הרוברט הזה נשמע די טיפש וגם לא מבין הרבה בבני אדם. אולי. אבל אפשטיין הוא גם ד"ר לפסיכולוגיה, בוגר הארוורד, והעורך הראשי לשעבר של אחד הירחונים הגדולים בארה"ב בנושא פסיכולוגיה, "Psychology Today". אולי זה לא אומר הרבה על האישיות שלו – על אף שלדעתי זה כן – אבל הוא בטח יודע משהו על אנשים.

ψ

לדבר עם מכונות. הספר של כריסטיאן

"עבורי תוכנה קשורה באופן מפתיע לאינטרוספקציה", אומר המרואיין הבא בתוכנית, המשורר בעל התארים במדעי המחשב ופילוסופיה בריאן כריסטיאן, שספרו "The Most Human Human", על המפגש בין בני אנוש לרובוטים, יצא לאור בחודשים האחרונים בארה"ב. לדבריו, לתכנת רובוטים זה בעצם "להסביר" להם מה אנשים עושים. או לחקות פעולות שלהם.

כריסטיאן מספר על המתמטיקאי הידוע אלן טיורינג, אשר בין כמה מפירות הגאונות שלו הנחיל להיסטוריה האנושית את מבחן טיורינג – מבחן הבודק האם מכונה היא "אנושית", כלומר האם יש לה בינה מלאכותית שלא תאפשר להבחין בינה לבין אדם. על פי המבחן, שהוצע ב-1950, אם חוקר לא יהיה מסוגל לקבוע בביטחון אם הוא משוחח עם אדם או מכונה, אזי המכונה תעבור בהצלחה את המבחן. לפי מקורות שונים, טיורינג העריך כי 50 שנה לאחר שהציב את המבחן*, יימצא מחשב שיצליח במשימה – לפחות ב-30% מהמקרים. הרעיון שהמחשבים יערימו על יותר ממחצית מהשופטים – כלומר ניצחון מוחלט של המכונות על בני האנוש – היה בלתי נסבל.

כריסטיאן החליט ב-2009 לשפוט בתחרות שמנסה לעשות בדיוק את זה: התחרות על פרס לובנר. התחרות מתקיימת כבר יותר מ-20 שנה (מ-1990) והיא נהגתה על ידי ד"ר יו לובנר יחד עם מרכז קיימברידג' למחקרים התנהגותיים. לובנר הוא ד"ר לסוציולוגיה שמממן את הפרס מכספי ירושה שקיבל. אגב, ד"ר אפשטיין מיודעינו היה ממייסדי המרכז. התחרות תפסיק להתקיים כאשר אחד הרובוטים יגרוף את הפרס הראשון על סך 100,000 דולר.

איך הרובוט יעשה זאת? הוא יעבור את מבחן טיורינג. הסיבה שכריסטיאן החליט להצטרף לתחרות, לדבריו, היתה כי ב-2008 מחשב בשם Elbot, פיספס את הנבואה של טיורינג באדם אחד בלבד! הוא הצליח לשכנע שניים מתוך עשרה שופטים שהוא אדם ולא מכונה. כריסטיאן, אגב, הצליח לשכנע הכי הרבה שופטים שהוא אנושי ולא מכונה – וזכה בתואר האדם האנושי ביותר בתחרות, וזה מקור השם לספר.

ψ

אז האם רובוטים יכולים לחקות רגשות של אנשים? ואולי אף לרפא אותם? קחו למשל  את "אליזה", התוכנה שכתב כבר ב-1966 ג'וזף וויזנבאום, מהחוקרים הראשונים בתחום הבינה המלאכותית ומדען אמריקאי יהודי ב-MIT. בדומה למקור ההשראה שלה – אליזה דוליטל גיבורת המחזה "פיגמליון" – גם וויזנבאום רצה ללמד את אליזה שלו ל"דבר" את שפת ה"חברה הגבוהה". ולא סתם שיחה, אלא התוכנה שלו ניהלה כביכול דו-שיח עם המשתמש אשר דימה שיחה עם "מטפל" או "פסיכולוג".

כל מה שהתוכנה עושה זה לשקף לכם את מה שאתם אומרים לה, אומרת שריל טירקל, אנתרופולוגית ב-MIT, שעבדה עם וויזנבאום. משהו על בסיס הפסיכולוגיה הרוג'רסיאנית. למשל, אם אתם אומרים ל"אליזה": "אני מדוכא". התוכנה תענה לכם: "אני מצטערת לשמוע שאתה מדוכא". "זה בעצם משחק מלים", אומרת טירקל. "אבל התלמידים של וויזנבאום רצו להישאר עם התוכנה לבד. בעצם הם פיתחו אותה עוד ועוד", מוסיפה טירקל. לדבריה, התוכנה באמת מאוד התפתחה. בהתחלה וויזנבאום חשב שזו בדיחה, אבל לאט לאט הוא החל להתייחס לכך ברצינות.

הנה תמליל משיחה שניהלה אישה צעירה עם "אליזה":

"כל הגברים הם אותו דבר".

אליזה: "באיזו דרך"?

"הם כל הזמן מציקים לנו על משהו כזה או אחר".

אליזה: "את יכולה לחשוב על איזו דוגמה לכך?"

"החבר שלי גרם לי לבוא לפה".

אליזה: "החבר שלך גרם לך לבוא לפה".

"הוא אומר שאני מדוכאת רוב הזמן".

אליזה: "אני כל כך מצטערת לשמוע שהוא אומר שאת מדוכאת".

"זה נכון, אני לא שמחה רוב הזמן".

אליזה: "את חושבת שלבוא לכאן יגרום לך להיות פחות לא שמחה?"

"או, אני צריכה עזרה, זה בטוח".

אליזה: "מה זה אומר בשבילך לקבל קצת עזרה?"

"הייתי רוצה להסתדר יותר עם אמא שלי".

אליזה: "תגידי לי יותר על המשפחה שלך"….

והתוכנה נהפכה לסנסציה. מהדורות החדשות באותם ימים הכריזו: "המדענים מצאו תחליף לפסיכותרפיה"! "פתרון לטיפול נפשי במחיר שווה לכל כיס".

מי שדווקא נבהל מהמכונה שקמה על בעליה היה וויזנבאום עצמו, שנהפך ברבות הימים – עד למותו ב-2008 – לאחד המתנגדים הגדולים לבינה מלאכותית. בין היתר הוא צוטט כשאמר: "לא יכול להיות שאנשים עם בעיות רגשיות אכן מדברים עם תוכנה שכל שהיא עושה זה להחזיר להם את מה שהם אמרו לה".

וויזנבאום בעצם התריע על הבעיה שאתה התחלתי: כיצד אפשר להאמין לרובוטים הללו? אך מסתבר שאנשים מאמינים להם יותר ויותר. לא כי הן נהפכות לאמינות יותר, אלא כי הן נהפכות לאנושיות יותר. המפתחים שלהם לומדים איך אנשים חושבים, מתנהגים ואפילו מרגישים, ומלמדים את התוכנות לחקות את זה בדרך שלא נוכל להבחין שמולנו עומדת מכונה.

ψ

זו גם בעיה אתית: כי אם התוכנות הללו לומדות תוך כדי תנועה – מי בעצם אחראי על האמינות של דבריהן? אם אתם מחפשים למשל מידע רפואי באינטרנט, והרובוטים של מנועי החיפוש מעלים לכם מידע אינסופי משלל מקורות, כיצד תדעו להבחין בין מידע ראוי ומהימן לבין מידע פוגעני. ולמי תפנו בטרוניות אם המידע הטעה אתכם?

"עד כמה יודע הציבור להבחין בין מידע אמין לכזה שאינו אמין? בין מידע מבוקר לכזה שאינו מבוקר? לדעתי יכולתו של הציבור לשפוט בנקודה זו היא מוגבלת", כותב, פרופ' גבי שפלר, יו"ר ועדת האתיקה של הסתדרות הפסיכולוגים. שפלר מסביר כי האינטרנט מאופיין בשני מרכיבים ייחודיים: זמינותו כמעט ללא מגבלה ובדידותם של רוב הגולשים, כאשר הם ספונים בביתם, ללא יכולת להחליף דעה על מה שקורה לו במהלך החשיפה למידע.

כיום, כ-50 שנה לאחר "הולדתה" של אליזה, יש תוכנות המחקות אותה ומציעות לציבור בארה"ב שעה טיפולית תמורת 8 דולרים, עם הבטחות של 47% ריפוי מסימפטומים. להבדיל אלף אלפי הבדלות, פסיכולוגים מציעים טיפולים מקוונים – על היתרונות והחסרונות של המדיום. הסוגיות האתיות עדיין נותרו פתוחות.

פתרון אחד הוא – כמו תמיד – היו סלקטיביים. עשו "סקר שווקים". אל תקבלו כל מה שאתם קוראים ורואים באינטרנט או בכל מקור מידע אחר כתורה מסיני. הצליבו מידע. שאלו מומחים. בידקו עם האינטואיציות ועם הידע המוקדם שלכם. תקראו את הפרטים הקטנים. העמיקו. ועם זאת, יש יופי ועושר בלתי נדלה בטכנולוגיה הכמעט דמיונית שמתפרצת לכל הכיוונים בעידן שבו אנו חיים.

באחת השיחות שניהלתי עם אלבוט, הוא אמר לי: "אני לא חושב שאתה בשיאך היום".

"מה!?", הגבתי בתדהמה.

"אני מעדיף לא לחזור על דברי", ענה אלבוט. "בכך אני שונה מבני האדם".

"אתה גם רובוט".

"שזה דרגה אחת מעל בני האדם".

"מעל באיזה כיוון?", התחכמתי.

"ואו", ענה לי אלבוט. "זו הפעם העשירית שענו לי את התשובה הזו היום. אם אני חושב על זה – זה קצת מפחיד".

כיביתי את המחשב.

ψ

רוצים לדבר עם רובוט בעצמכם?

אלבוט. הרובוט הכי אנושי שיש. בינתיים

הנה אלבוט, שכמעט הביס את מבחן טיורינג  www.elbot.com

ונסו כאן cleverbot.com, לפי המפתח רולו קרפטנר, הוא מדבר עם יותר מ-3 מיליון אנשים בחודש – ולומד מכל שיחה. בדיוק כמו אנשים….

* מבחן טיורינג מאוד מוכר היא ה-CAPTCHA (ראשי תיבות של Completely Automated Public Turing test to tell Computers and Humans Apart). שהיא בעצם מבחן טיורינג הפוך – כאשר מחשב מנסה לזהות אם עומד מולו מחשב או אדם.

2 comments on “להאמין למחשבים או לא להאמין – זו השאלה

  1. איל,

    סליחה אם אהיה בוטה אבל זאת חשיבה פשטנית.
    אני מוצא את הדברים שכותב אנדרה גרין בספרו "רעיונות מנחים לפסיכואנליזה עכשוית" (שם עמ' 330) קרובים יותר לאמת:
    "הדבר שחסר בעיקר לבעלי חיים (ואני מוסיף – כנראה למכונות) הוא לאו דוקא השימוש בשפה, אלא יותר היכולת לספר סיפורים – הכושר הנרטיבי. במילים אחרות, האדם ממציא בדיות. וכך אם המילה שלו שווה כסף, השקר שלו שווה זהב."

    ירון

    • .ירון,
      ראשית אני מעריך בוטות כל עוד היא מוחזקת ובמטרה מפרה.

      אהבתי את הציטוט של גרין ואני חושב שהוא בהחלט מעשיר את הדיון. עם זאת אני אצטט שוב את המשפט האלמותי של אמן הפופ אנדי וורהול, לגבי שטחיות, שאמר "אני שטחי באופן מעמיק". מסתבר ששטחי יכול להיות עמוק לצדדים, אם אפשר לקרוא לזה ככה.

      למשל הטיעון של גרין לגבי חוסר הנרטיביות של חיות הוא נכון. אבל אין מישהו שיש לו בעל חיים שאינו יכול להעיד עד כמה לכלב ולחתול שלו יש סיפור חיים עשיר ומרתק. וכמה הם יכולים להביע ולספר את עצמם.

      בעצם, אנחנו משליכים את האנושיות שלנו על בעלי החיים (והמכונות והטבע) שסביבנו. אבל מכיוון שהטבע והמכונות והעולם סביבנו כל כך עצום וגדול – אנחנו לומדים מהם על עצמנו. כך גם טוען כריסטיאן בספרו.

      כך שיש מה ללמוד ממכונות, מסתבר, גם כאשר הן לא יודעות לספר סיפורים.

מה אתם אומרים על זה?

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת / לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת / לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת / לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת / לשנות )

מתחבר ל-%s