זמן קריאה : 2:44 דקות
חדשות השבוע
הקופסה השחורה מאחורי תכנת לזיהוי פנים ופסל חוצות חדש שהוא תיקון להיסטוריה האמריקאית
תערוכת הצילום Training Humans, שנפתחה בשבוע שעבר בחלל התצוגה פראדה, מילנו, חושפת את הגזענות והדעות הקדומות שנמצאות במאגרי הידע המשמשים לפיתוח של תוכנות בינה מלאכותית לזיהוי פנים. את התערוכה יצרו צמד החוקרים טרוור פגלן וקייט קרופורד, מאוניברסיטת ניו יורק, והיא עוסקת בבעייתיות הנמצאת במאגר הידע ImageNet - מאגר הידע הגדול בעולם שהוקם ב-2009 ביוזמה משותפת של האוניברסיטאות סטנפורד ופרינסטון וכולל 14 מיליון תמונות.
התערוכה בפראדה הזמינה את הקהל להעלות סלפי של עצמם ותוך כדי כך חשפה את האופן הבעייתי שבו מקוטלגים אנשים על ידי תכנות לזיהוי פנים. תוויות הקטלוג, שנלקחו מהמאגר של ImageNet, כללו לצד הגדרות תמימות כגון ״קסם״, ״חלילן״ ו״תינוק פג״ הגדרות מיזוגניות וגזעניות כגון ״זונה״, אנס״, ״כושי״ ו״פושע״.
בכך חשפה התערוכה בפני הצופים את מה שבדרך כלל לא מגיע לידיעת הציבור - כיצד נוסד מאגר הצילומים שעליו מתבססות תוכנות אלו, שחלקן כבר חלק מחיינו שלא לדבר על כך שהן כבר משמשות מקומות עבודה, ומוסדות נוספים למטרות סינון, מעקב וכו׳. מסתבר שלאחר השלב הראשון ביצירת המאגר - הורדה של מיליוני תמונות של אנשים מהאינטרנט - גייסו החוקרים ב-ImageNet חמישים אלף עובדים בעלי שכר נמוך שיעניקו תוויות לתמונות, וכפי שאפשר היה לראות בתערוכה - הדעות הקדומות של העובדים הוטמעו בפרויקט וכתוצאה מכך גם בפרויקטים נוספים שהתבססו עליו.
״כפי שהוכחנו ImageNet כוללת שורה של קטגוריות בעייתיות, מעליבות וביזאריות ואנחנו רוצים להאיר מה קורה כשמערכות מכניות מאומנות על ידי שימוש במידע בעייתי״, אמרו צמד החוקרים פגלן וקרופורד, ״ההגדרות שבהן משתמשת בינה מלאכותית כדי לאפיין אנשים לא נחשפות לאנשים. המחקר שלנו מאפשר הצצה לתהליך הזה וגם מראה כיצד דברים יכולים להשתבש״.
בעקבות החשיפה הודיע מאגר ImageNet על מחיקתם של 600 אלף תצלומים שאליהם נלוו תוויות בעייתיות והוצאתם של 438 קטגוריות. ״ככל שטכנולוגיית AI הופכת לחלק מחיי היום יום של אנשים יש צורך להבטיח שמערכות אלו יניבו תוצאות הולמות והוגנות״, נכתב בהצהרה. ״המאגר גם מתכנן לעדכן את אתר האינטרנט שלו כך שמשתמשים עתידיים יוכלו לדווח על מונחים פוגעניים״.
ולכל אלו שמגיעים למילאנו: התערוכה המסקרנת והחשובה פתוחה עד ה-24.2.2020.
הקופסה השחורה מאחורי תכנת לזיהוי פנים ופסל חוצות חדש שהוא תיקון להיסטוריה האמריקאית
תערוכת הצילום Training Humans, שנפתחה בשבוע שעבר בחלל התצוגה פראדה, מילנו, חושפת את הגזענות והדעות הקדומות שנמצאות במאגרי הידע המשמשים לפיתוח של תוכנות בינה מלאכותית לזיהוי פנים. את התערוכה יצרו צמד החוקרים טרוור פגלן וקייט קרופורד, מאוניברסיטת ניו יורק, והיא עוסקת בבעייתיות הנמצאת במאגר הידע ImageNet - מאגר הידע הגדול בעולם שהוקם ב-2009 ביוזמה משותפת של האוניברסיטאות סטנפורד ופרינסטון וכולל 14 מיליון תמונות.
התערוכה בפראדה הזמינה את הקהל להעלות סלפי של עצמם ותוך כדי כך חשפה את האופן הבעייתי שבו מקוטלגים אנשים על ידי תכנות לזיהוי פנים. תוויות הקטלוג, שנלקחו מהמאגר של ImageNet, כללו לצד הגדרות תמימות כגון ״קסם״, ״חלילן״ ו״תינוק פג״ הגדרות מיזוגניות וגזעניות כגון ״זונה״, אנס״, ״כושי״ ו״פושע״.
בכך חשפה התערוכה בפני הצופים את מה שבדרך כלל לא מגיע לידיעת הציבור - כיצד נוסד מאגר הצילומים שעליו מתבססות תוכנות אלו, שחלקן כבר חלק מחיינו שלא לדבר על כך שהן כבר משמשות מקומות עבודה, ומוסדות נוספים למטרות סינון, מעקב וכו׳. מסתבר שלאחר השלב הראשון ביצירת המאגר - הורדה של מיליוני תמונות של אנשים מהאינטרנט - גייסו החוקרים ב-ImageNet חמישים אלף עובדים בעלי שכר נמוך שיעניקו תוויות לתמונות, וכפי שאפשר היה לראות בתערוכה - הדעות הקדומות של העובדים הוטמעו בפרויקט וכתוצאה מכך גם בפרויקטים נוספים שהתבססו עליו.
״כפי שהוכחנו ImageNet כוללת שורה של קטגוריות בעייתיות, מעליבות וביזאריות ואנחנו רוצים להאיר מה קורה כשמערכות מכניות מאומנות על ידי שימוש במידע בעייתי״, אמרו צמד החוקרים פגלן וקרופורד, ״ההגדרות שבהן משתמשת בינה מלאכותית כדי לאפיין אנשים לא נחשפות לאנשים. המחקר שלנו מאפשר הצצה לתהליך הזה וגם מראה כיצד דברים יכולים להשתבש״.
בעקבות החשיפה הודיע מאגר ImageNet על מחיקתם של 600 אלף תצלומים שאליהם נלוו תוויות בעייתיות והוצאתם של 438 קטגוריות. ״ככל שטכנולוגיית AI הופכת לחלק מחיי היום יום של אנשים יש צורך להבטיח שמערכות אלו יניבו תוצאות הולמות והוגנות״, נכתב בהצהרה. ״המאגר גם מתכנן לעדכן את אתר האינטרנט שלו כך שמשתמשים עתידיים יוכלו לדווח על מונחים פוגעניים״.
ולכל אלו שמגיעים למילאנו: התערוכה המסקרנת והחשובה פתוחה עד ה-24.2.2020.
מתוך התערוכה Training Humans
פסל חוצות חדש של האמן-כוכב האפרו אמריקאי קהינדה ויילי (שידוע לרבים בזכות הפורטרט שלו של אובמה) הוצב השבוע בטיימס סקוור בניו יורק (ליד רחוב 46 והשדרה השמינית). הפסל, Rumors of War, נרכש על ידי מוזיאון וירג׳יניה לאמנויות. ״אנחנו מודים לקהינדה שהפך את היום הזה ליום לידה מחדש״, אמר אלכס נירגס, מנהל המוזיאון, במעמד חנוכת הפסל. ״זו הרכישה החשובה ביותר שהמוזיאון עשה אי פעם".
קהינדה ויילי, Rumors of War
