# Artificial Intelligence - חוק האיחוד האירופי צריך להציב גבולות בטוחים ליישומים בסיכון גבוה, אומר #EESC

זיהוי ביומטרי למעקב, מעקב וגילוי רגשות לא אמור להיות מקום בגישה המרכזית של אירופה לבינה מלאכותית (AI) של אירופה. הוועדה הכלכלית והחברתית האירופית (EESC) בוועדה תגובה לספר הלבן של הנציבות האירופית בנושא AIשאומץ על ידי מליאת ארגון ה- EESC ביולי.

הנציבות האירופית הציעה כי יש לראות בבקשת AI סיכון גבוה אם היא כוללת סקטור בסיכון גבוה (שירותי בריאות, תחבורה, אנרגיה וחלקים מהמגזר הציבורי) ושימוש בסיכון גבוה, למעט כמה חריגים שהם עדיין להגדרה. רק אם מתקיימים שני התנאים הללו, מציע הנציבות, עלינו לדבר על AI בסיכון גבוה, שיחול תחת תקנות ומבנים ממשלתיים ספציפיים.

הוועדה מאמינה כי הגדרה זו מסתכנת ביצירת פרצות שעלולות להיות מסוכנות. הפרסום הפוליטי של פייסבוק מספק דוגמה מעולה, אומר הוועדה.

"פרסום הוא מגזר בסיכון נמוך ופונקציה של צבירת חדשות פייסבוק יכולה להיחשב כשימוש בסיכון נמוך. עם זאת", טוענת כתבת הדעה קטלינה מולר, "ראינו במהלך מערכות בחירות כי התפשטות על פני פייסבוק של חדשות מזויפות וזיופים עמוקים נוצרים בעזרת AI יכולה להיות השפעות שליליות רבות ולהשפיע על האופן שבו אנשים מצביעים, תוך הפרעה גם מחוץ לאירופה. "

האם צריכים להיות פטורים מכך, וכמה צריכים להיות? במקום לערוך רשימת פטורים, הוועדה סבורה שעדיף לערוך רשימה של מאפיינים משותפים כדי להיחשב בסיכון גבוה, לא משנה המגזר.

ליישומים רבים יש השפעה חזקה על זכויות היסוד, מדגיש מולר, לא רק על פרטיותם של אנשים, אלא גם על זכותם להפגין או להצטרף לאיגוד, למשל.

הצד האפל של ההכרה הביומטרית

פרסומת

זיהוי פנים וביומטריה הוא תחום מרכזי אחד שבו AI נוגע בזכויות יסוד. השימוש בו עשוי להיות מותר למטרות זיהוי אישי - והוא אכן מוסדר בתקנה הכללית להגנת נתונים.

אך יש לאסור את השימוש הנרחב בהכרה ביומטרית מונחית AI לצורך מעקב או מעקב, הערכה או סיווג של התנהגות או רגשות אנושיים. על אחת כמה וכמה מכיוון שאין ראיות מדעיות כלשהן לכך שאנחנו יכולים להבחין ברגשותיו של האדם על סמך הביומטריה שלהם, מדגיש מולר.

COVID-19 יישומי מעקב ומעקב

EESC גם מזהיר מפני נחשול בלתי מבוקר של מעקב וטכנולוגיית מעקב אחר מוצא את דרכו לחברה שלנו בהרבה יותר מהיר ובבדיקה הרבה פחות מבעבר, במטרה להילחם בהתפרצות נגיף הקורנו.

"טכניקות וגישות של AI למאבק במגיפה צריכות להיות חזקות, יעילות, שקופות וניתנות להסבר באותה מידה כמו כל טכניקת AI אחרת בכל סיטואציה אחרת", אומר דובר הוועדה. "עליהם לשמור על זכויות אדם, עקרונות אתיים וחקיקה. הם צריכים להיות גם וולונטרים, כי אם נרצה בכך או לא, טכניקות רבות שהוכנסו במהלך המשבר יהפכו לקבועות."

ארגון הוועדה מקווה כי הנציבות תשתתף בתשומותיה, כפי שעשתה עם ההמלצות שהציעה EESC מאז חוות דעת פורצת דרך על AI בשנת 2017, שדגל לראשונה בגישה של "אדם בפיקוד" לאינטליגנציה AI באירופה.

רקע

אל האני ספר לבן על AI, כחלק מחבילה רחבה של צעדים בנושא AI שהוכרזה בתקשורת של הנציבות האירופית לעיצוב עתידה הדיגיטלי של אירופה, מעלה:

• אמצעים לייעול המחקר, לקידום שיתוף הפעולה בין המדינות החברות ולהגברת ההשקעות ב- AI, וכן;
• אפשרויות מדיניות למסגרת רגולטורית עתידית של האיחוד האירופי בנושא AI, עם דגש חזק ביישומי סיכון גבוה.

בפברואר 2020 השיקה הנציבות התייעצות ציבורית בנושא הספר הלבן שנמשך עד ה- 14 ביוני ומשכה למעלה מ -1 200 תשובות לשאלונים וכ -700 הגשות בכתב. הנציבות מעבדת כרגע את הקלט הזה ובקרוב תפרסם דוח.

עיצוב העתיד הדיגיטלי של אירופה מתווה את הפעולות שהנציבות האירופית מתכננת לנקוט כדי להבטיח אירופה המתאימה לעידן הדיגיטלי, אחד העדיפויות העיקריות של אורסולה פון דר ליין בתקופתה כנשיאת ההנהלה האירופית. הוא מבוסס על שלושה עמודי מפתח:

• טכנולוגיה שעובדת עבור האנשים;
• כלכלה דיגיטלית הוגנת ותחרותית;
• חברה פתוחה, דמוקרטית ובת קיימא.

EESC סיפק את עצתו בנושא "עיצוב העתיד הדיגיטלי של אירופה" ב- a, שאומץ גם במליאת EESC ביולי, עם המלצה מרכזית אחת:

"המהירות העצומה של השינוי הדיגיטלי פירושה שאנחנו לא יודעים אילו התפתחויות חדשות יגיעו בחודש הבא. עלינו להיות גמישים ומותאמים. זה דורש דיאלוג מתמיד בין כל הגורמים המעורבים. הוועדה, כקולו של האזרחי המסודר החברה צריכה להיות חלק ממנה, ואנו מבקשים מהנציבות לקיים דיאלוג קבוע שכזה ", אמר דווח דווח אולריך סם.

שתף מאמר זה: