למה הגיע זמן להפסיק להאמין בצורה עיוורת נתונים גדולים
חיים / / December 19, 2019
אלגוריתמים להחליט עכשיו מי לאשר את ההלוואה, הביטוח או שמקבל הזמנה לראיון, אך לעתים קרובות הם עושים זאת בצורה לא הוגן. וזה רק מגדיל את הפער בין שכבות האוכלוסייה.
קייטי אוניל (קאתי אוניל)
המתמטיקאי, על הניתוח של מומחה שווקים הפיננסיים, מחבר הספר "הנשק של תבוסה מתמטית."
כדי לבנות אלגוריתם, אנחנו צריכים שני דברים: נתונים (מה שקרה בעבר) לבין הגדרת תוצאה מוצלחת (מה אתה רוצה למצוא באמצעות אלגוריתם זה). לאחר מכן הוא קובע אילו קריטריונים להוביל לתוצאה מוצלחת. אבל ההגדרה של הצלחה לא יכולה להיות אוניברסלית.
אלגוריתם - הוא הדעה של מישהו אחר, את הקוד המובנה.
נהגנו לחשוב כי אלגוריתמים הם אובייקטיביים ואמינים, אבל זה רק גימיק שיווקים שנועד להפחיד אותנו ולגרום לנו לסמוך באלגוריתמים מתמטיים נתונים.
אוניל מצטט דוגמאות היכן אלגוריתמים יכול לגרום נזק רציני. זה קורה כאשר הערכת עובדים. לדוגמה, בשנת 2011 בבית ספר במחוז וושינגטון פוטרו יותר מ 200 מורים לאחר שלהם לשרש אלגוריתםלמרות שהיה להם המלצות טובות להורי בני גילם.
בנוסף, האלגוריתמים הם לעתים קרובות הסיבה להסרה של פסקי דין מוטים. חדשות ארגון ProPublica לאחרונה ניהלו חקירה
מצאתיזה האלגוריתמים שקובעים את הסיכון של הישנות, לעבוד באופן אובייקטיבי. באותו הפשעים משפטים קרובים להוציא אמריקאים שחורים.כולנו כפוף הטיות, ואנחנו מביאים אותם לתוך האלגוריתמים להחליט אילו נתונים צריכים להילקח בחשבון.
אלגוריתמים פשוט חוזרים על טעויות העבר שלנו, להפוך את הסדר הקיים. אז אנחנו לא יכולים לסמוך עליהם בעיניים עצומות, אנחנו צריכים לבדוק אותם להיות אובייקטיביים: לחשוב מחדש על ההגדרה של תוצאה מוצלחת, שגיאה, אינן מבוטחת על ידי כל אלגוריתם. באיזו תדירות התרחשותם ומי מושפע? מהי העלות של טעויות כאלה?
אנשי מקצוע עובדים עם הנתונים, לא צריכים להיות פוסקי צדק. הזמן של זה כדי להפסיק באופן עיוור מאמינים נתונים גדולים.