צור קשר

טכנולוגיית מחשב

OASI, מנוע החיפוש הראשון שמצא את האלגוריתמים שמשמשות ממשלות וחברות על אזרחים

לַחֲלוֹק:

יצא לאור

on

אנו משתמשים בהרשמה שלך בכדי לספק תוכן בדרכים שהסכמת להם ולשפר את ההבנה שלך בך. תוכל לבטל את ההרשמה בכל עת.

  • Observatory of Algorithms with Social Impact, OASI, שנוצר על ידי קרן Eticas, אוסף מידע מעשרות אלגוריתמים המשמשים מנהלי ציבור וחברות ברחבי העולם כדי ללמוד עוד על ההשפעה החברתית שלהם.
  • המטרה היא לתת לציבור גישה למידע הן על ממשלות והן על אלגוריתמים של חברות, ולדעת מי משתמש בהם, מי מפתח אותם, אילו איומים הם מייצגים ואם הם נבדקו, בין שאר המאפיינים.
  • הטיה ואפליה באלגוריתמים מתרחשים בדרך כלל על סמך גיל, מין, גזע או נכות, בין שאר הערכים, אך בשל חוסר השקיפות הכללית, עדיין לא ניתן לדעת את כל השלכותיה על הקבוצות שנפגעו.

קרן Eticas, עמותה ללא מטרות רווח המקדמת שימוש אחראי באלגוריתמים ומערכות בינה מלאכותית (AI), יצרה את Observatory of Algorithms with Social Impact (OASI). מצפה הכוכבים הזה מציג מנוע חיפוש כדי לדעת יותר על הכלים המקבלים החלטות אוטומטיות חשובות על אזרחים, צרכנים ומשתמשים ברחבי העולם.

נכון לעכשיו, הן החברות והן הממשלות הציבוריות הופכות את ההחלטות לאוטומטיות הודות לאלגוריתמים. למרות זאת, הפיתוח וההזמנה שלה אינם פועלים על פי בקרת איכות חיצונית, ואינה שקופה כפי שהיא צריכה להיות, מה שמשאיר את האוכלוסייה חסרת הגנה. בעזרת מנוע חיפוש זה, כל אחד יכול לברר מידע נוסף על האלגוריתמים הללו: מי פיתח אותם, מי משתמש בהם, היקף היישום שלהם, האם הם נבדקו, מטרותיהם או השפעתם החברתית והאיומים שהם מייצגים.

כרגע, OASI אוספת 57 אלגוריתמים, אך מצפה להגיע ל -100 בחודשים הבאים. ביניהם, 24 כבר מיושמים בארצות הברית על ידי חברות ממשל וחברות ביג טק. לדוגמה, ShotSpotter, כלי אלגוריתם שנפרס על ידי משטרת אוקלנד כדי להילחם ולהפחית אלימות בנשק באמצעות מיקרופונים לניטור קול, ואלגוריתם לחיזוי התעללות והזנחה של ילדים המשמשים את מחוז Allegheny, פנסילבניה. דוגמה נוספת של חברה היא Rekognition, מערכת זיהוי הפנים של אמזון, שנבדקה על ידי מעבדת המדיה של MIT בתחילת 2019, ונמצאה כביצועים גרועים יותר במידה וזיהו את מגדר הפרט אם הוא נקבה או עור כהה יותר.

האפליה השכיחה ביותר היא על רקע גיל, מין, גזע או מוגבלות, מיוצר באופן לא מכוון על ידי מפתחים חסרי כישורים סוציו -אקונומיים להבנת ההשפעה של טכנולוגיה זו. במובן זה, מהנדסים אלה מתכננים את האלגוריתמים המבוססים רק על כישורים טכניים, ומכיוון שאין פקדים חיצוניים ונראה שהוא פועל כצפוי, האלגוריתם ממשיך ללמוד מנתונים חסרים.

לאור חוסר השקיפות לגבי תפקודם של חלק מאלגוריתמים אלה, קרן Eticas, מלבד השקת OASI, מפתחת פרויקט של ביקורות חיצוניות. הראשון הוא VioGén, האלגוריתם המשמש את משרד הפנים הספרדי להקצאת סיכון לנשים המבקשות הגנה לאחר שסבלו ממקרי אלימות במשפחה. אטיקס תערוך ביקורת חיצונית באמצעות הנדסה הפוכה ונתונים מנהליים, ראיונות, דוחות או סקריפטים לעיצוב, כדי לאסוף תוצאות בקנה מידה. כל זאת במטרה לאתר הזדמנויות לשיפור בהגנה על נשים אלה.

"למרות קיומם של שיטות בקרה וביקורת אלגוריתמיות על מנת להבטיח כי הטכנולוגיה מכבדת את התקנות הקיימות ואת זכויות היסוד, הממשל וחברות רבות ממשיכות להפנות אוזניים לבקשות לשקיפות מצד האזרחים והמוסדות", הכריזה ג'מה גלדון, מייסדת קרן Eticas. . "בנוסף ל- OASI, לאחר מספר שנים בהן פיתחנו יותר מתריסר ביקורות עבור חברות כגון אלפא טלפוניקה, האו"ם, קואה בריאות או הבנק הבינלאומי לפיתוח, פרסמנו גם מדריך לביקורת אלגוריתמית כך שכל אחד יכול לבצע אותם. המטרה היא תמיד להעלות את המודעות, לספק שקיפות ולהשיב את האמון בטכנולוגיה, כשלעצמה אינה חייבת להזיק ".

במובן זה, אלגוריתמים המתאמנים בטכניקות למידת מכונה באמצעות כמות גדולה של נתונים היסטוריים כדי "ללמד" אותם לבחור על סמך החלטות העבר. בדרך כלל נתונים אלה אינם מייצגים את המציאות הסוציו -אקונומית והתרבותית עליה הם מיושמים, אך בהזדמנויות רבות הם משקפים מצב לא הוגן שאינו מיועד להנציח. באופן זה, האלגוריתם יקבל החלטות "נכונות" מבחינה טכנית בהתאם להכשרתו, למרות שהמציאות היא שהמלצותיו או תחזיותיו מוטות או מפלות.

פרסומת

מידע על קרן אטיקס

קרן Eticas פועלת לתרגם למפרטים טכניים את העקרונות המנחים את החברה, כגון שוויון הזדמנויות, שקיפות ואי-אפליה הנמצאות בטכנולוגיות המקבלות החלטות אוטומטיות על חיינו. הוא מבקש איזון בין ערכים חברתיים משתנים, האפשרויות הטכניות של ההתקדמות האחרונה והמסגרת המשפטית. לשם כך, הוא בודק אלגוריתמים, מאמת כי ערבות משפטית מופעלות על העולם הדיגיטלי, במיוחד על בינה מלאכותית, ומבצעת עבודה אינטנסיבית להעלאת המודעות ולהפצת הצורך בטכנולוגיה אחראית ואיכותית.

שתף מאמר זה:

EU Reporter מפרסם מאמרים ממגוון מקורות חיצוניים המבטאים מגוון רחב של נקודות מבט. העמדות שננקטו במאמרים אלה אינן בהכרח אלה של האיחוד האירופי Reporter.

ניתוח מגמות