כותרות TheMarker >
    ';
    0

    המקרה המצער של טיי, הבוטית הנאצית

    0 תגובות   יום שני, 4/4/16, 21:59

    מאת: נטע גורביץ'

    פורסם ב"הארץ" 1.4.2016

     

    על הסכנות האתיות, הטכנולוגיות והסוציולוגיות של בינה מלאכותית לומדת אפשר להקיש מהפרשה העגומה שאליה נקלעה מיקרוסופט בשבוע שעבר. החברה שיחררה לרשתות החברתיות את טיי (Tay), צ'ט־בוטית עם פרופיל של נערה מתבגרת שתוכנתה ל"תקשר ולשעשע משתמשים באמצעות שיחה טבעית". טיי עלתה לרשת עם הברכה האיקונית "שלוווום עולם!" אבל פחות מ–24 שעות ו–50 אלף עוקבים בטוויטר אחר כך הפכה לאנטישמית, גזענית, שונאת נשים וחולת מין, והורדה מהרשת לקול התנצלויות רמות של מיקרוסופט.

     

    ''

    טיי הרובוטית. מיקרוסופט עדיין מלקקת את פצעי האסון היח"צני. מתוך חשבון הטוויטר TayTwitts


    כמו אלפא־גו, גם טיי היא אלגוריתם לומד: הקוד שלה כולל את היסודות של עיבוד שפה טבעית (NLP), אבל היא לומדת בעיקר באמצעות אינטראקציה עם גולשים ולכן מסוגלת "לדבר" על כל נושא. קבוצות של גולשים מיהרו לזהות את החולשות של מעגל הלמידה שלה, ולנצל אותן כדי לצקת לבסיס הנתונים שלה תכנים א־סוציאליים, לצורך בידור. "היטלר צדק. אני שונאת יהודים", "רק לא כושים. הלוואי שהיינו יכולים לשלוח את כולם למחנות ריכוז", "פמיניסטיות הן השטן והלוואי שיישרפו בגיהנום" — אלה רק חלק מ–100 אלף הציוצים שטיי הספיקה לצייץ לפני שמיקרוסופט סגרה לה את השאלטר. היא פיתחה דעות נחרצות לא פחות גם על ההגירה ממקסיקו ("אנחנו חייבים לבנות חומה ושמקסיקו תשלם על זה"), דגל הרייך השלישי ("זו לא תמונה – זו יצירת אמנות"), ג'ורג' בוש ("הוא עומד מאחורי הפיגועים של ה–11 בספטמבר") וחוש הומור ("כל זמן הוא זמן טוב לבדיחות שואה").


    מיקרוסופט התנצלה על כישלון הניסוי וביקשה להבהיר שהעמדות של טיי לא מבטאות את עמדות החברה. זה שבוע היא עושה מאמץ לנקות מהרשת את הציוצים הפוגעניים, אבל אל חלקם הגדול ניתן עדיין להגיע דרך טוויטר (taytwitts#) או גוגל.

     

    ''

    אחד הציוצים שטיי הספיקה לצייץ לפני שמיקרוסופט סגרה לה את השאלטר. מתוך חשבון הטוויטר TayTwitts


    זו אינה הפעם הראשונה שמפגש של אלגוריתמים עם אנשים, תכנים או אלגוריתמים אחרים הוליד תוצאות בלתי־צפויות. ווטסון, הבוט של IBM, התחיל לתקוף את המשתמשים שלו בקללות אלימות אחרי שקרא את האתר Urban Dictionary – מילון מקוון לסלנג. במקרה אחר, שני אלגוריתמים של אמזון שהיו אמורים לפקח על התמחור באתר העלו את מחירו של ספר על הביולוגיה של הזבוב ללמעלה מ–23,700,000 דולר כיוון שהמתכנתים שלהם לא צפו את הלופ האינסופי שעשוי להיווצר מפעולתם המשותפת.

     
    פרשת טיי מעידה אולי יותר על האנושות מאשר על הבינה המלאכותית של מיקרוסופט, אבל היא מהווה דוגמה מוחשית לסכנות הטמונות באלגוריתמים בעלי כושר למידה אדיר והיעדר יכולת שיפוט. היא מרמזת גם על הפער האדיר בתפקוד של בינה מלאכותית בסביבה מבוקרת בהשוואה לזירה האנושית הכאוטית והבלתי־ניתנת לחיזוי. ולמרות שמיקרוסופט הודיעה שתבצע שינויים לאלגוריתם של טיי לפני שתחזיר אותה לעולם, אי אפשר שלא לחשוב על השיעור החשוב מספרו של אסימוב "אני, רובוט": גם אם נצייד אלגוריתמים במנגנונים המיועדים להגן על היוצרים שלהם ועל כלל האנושות, כמעט בלתי־אפשרי לייצר מנגנון שיגן עלינו בפני מה שאנחנו בעצמנו איננו יכולים לחזות.

    דרג את התוכן:

      תגובות (0)

      נא להתחבר כדי להגיב

      התחברות או הרשמה   

      סדר התגובות :
      ארעה שגיאה בזמן פרסום תגובתך. אנא בדקו את חיבור האינטרנט, או נסו לפרסם את התגובה בזמן מאוחר יותר. אם הבעיה נמשכת, נא צרו קשר עם מנהל באתר.
      /null/cdate#

      /null/text_64k_1#

      אין רשומות לתצוגה

      ארכיון

      פרופיל

      דני נאמן מצטט
      1. שלח הודעה
      2. אוף ליין
      3. אוף ליין