לאחר שיחות 'מרתון' בנות שלושה ימים, נשיאות המועצה ומנהלי המשא ומתן של הפרלמנט האירופי הגיעו להסכמה זמנית על ההצעה לגבי כללים הרמוניים בנושא בינה מלאכותית (AI), מה שמכונה חוק הבינה המלאכותית. טיוטת הרגולציה נועדה להבטיח שמערכות בינה מלאכותית הממוקמות בשוק האירופי ומשמשות באיחוד האירופי בטוחות ומכבדות את זכויות היסוד ואת ערכי האיחוד האירופי. הצעה ציונית זו נועדה גם לעורר השקעות וחדשנות ב-AI באירופה.
זהו הישג היסטורי, ואבן דרך ענקית לקראת העתיד! ההסכם של היום מתייחס למעשה לאתגר עולמי בסביבה טכנולוגית המתפתחת במהירות על תחום מפתח לעתיד החברות והכלכלות שלנו. ובמאמץ הזה, הצלחנו לשמור על איזון עדין ביותר: הגברת החדשנות והקליטה של בינה מלאכותית ברחבי אירופה תוך כיבוד מלא של זכויות היסוד של האזרחים שלנו. Carme Artigas, מזכיר המדינה הספרדי לדיגיטליזציה ובינה מלאכותית
מעשה AI הוא א דגל יוזמת חקיקה עם פוטנציאל לטפח את הפיתוח והקליטה של AI בטוח ומהימן ברחבי השוק היחיד של האיחוד האירופי על ידי גורמים פרטיים וציבוריים כאחד. הרעיון המרכזי הוא לווסת AI בהתבסס על היכולת של האחרון לגרום נזק לחברה בעקבות א 'מבוסס סיכונים' גִישָׁה: ככל שהסיכון גבוה יותר, כך הכללים מחמירים יותר. כהצעת חקיקה ראשונה מסוגה בעולם, היא יכולה לקבוע א תקן עולמי לרגולציה של AI בתחומי שיפוט אחרים, בדיוק כפי שעשה ה-GDPR, ובכך לקדם את הגישה האירופית לרגולציה טכנולוגית בעולם.
עיקרי ההסכם הזמני
בהשוואה להצעת הוועדה הראשונית, ניתן לסכם את המרכיבים החדשים העיקריים של ההסכם הזמני באופן הבא:
כללים על דגמי AI בעלי השפעה גבוהה לשימוש כללי שיכול לגרום לסיכון מערכתי בעתיד, כמו גם בסיכון גבוה מערכות AI
מערכת מתוקנת של ממשל עם כמה סמכויות אכיפה ברמת האיחוד האירופי
הרחבה של הרשימה של איסורים אבל עם אפשרות להשתמש זיהוי ביומטרי מרחוק על ידי רשויות אכיפת החוק במרחבים הציבוריים, בכפוף לאמצעי הגנה
הגנה טובה יותר על זכויות באמצעות החובה על מפיצים של מערכות בינה מלאכותית בסיכון גבוה לנהל א הערכת השפעה על זכויות יסוד לפני הפעלת מערכת AI.
במונחים קונקרטיים יותר, ההסכם הזמני מכסה את ההיבטים הבאים:
הגדרות והיקף
כדי להבטיח שה- הגדרה של מערכת בינה מלאכותית מספקת קריטריונים ברורים מספיק להבחין בינה מלאכותית ממערכות תוכנה פשוטות יותר, הסכם הפשרה מיישר את ההגדרה עם הגישה המוצעת על ידי ה-OECD.
ההסכם הזמני גם מבהיר כי הרגולציה אינה חלה על תחומים מחוץ לתחום חוקי האיחוד האירופי ואינה אמורה, בכל מקרה, להשפיע על סמכויות המדינות החברות בתחום ביטחון לאומי או כל ישות המופקדת על משימות בתחום זה. יתר על כן, חוק ה-AI לא יחול על מערכות המשמשות אך ורק עבור צבאי or הֲגָנָה מטרות. באופן דומה, ההסכם קובע כי הרגולציה לא תחול על מערכות בינה מלאכותית המשמשות למטרות בלבד מחקר וחדשנות, או לאנשים המשתמשים בבינה מלאכותית מסיבות לא מקצועיות.
פרסומת
סיווג מערכות בינה מלאכותית כשיטות בינה מלאכותיות בסיכון גבוה ואסורות
הסכם הפשרה קובע א שכבת הגנה אופקית, כולל סיווג בסיכון גבוה, כדי להבטיח שמערכות בינה מלאכותית שאינן עשויות לגרום להפרות חמורות של זכויות יסוד או סיכונים משמעותיים אחרים, לא ייקלטו. מערכות AI מציגות בלבד סיכון מוגבל יהיה נתון לאור מאוד חובות שקיפות, למשל לחשוף שהתוכן נוצר בינה מלאכותית כדי שמשתמשים יוכלו לקבל החלטות מושכלות לגבי שימוש נוסף.
מגוון רחב של סיכון גבוה מערכות AI יהיו מורשות, אך כפופות לסדרה של דרישות וחובות כדי לקבל גישה לשוק האיחוד האירופי. דרישות אלו הובהרו והותאמו על ידי המחוקקים השותפים באופן שיותר אפשרי מבחינה טכנית ו פחות מכביד לבעלי עניין לעמוד בהם, למשל לגבי איכות הנתונים, או ביחס לתיעוד הטכני שצריך לערוך על ידי חברות קטנות ובינוניות כדי להוכיח שמערכות הבינה המלאכותית שלהם בסיכון גבוה עומדות בדרישות.
מכיוון שמערכות בינה מלאכותית מפותחות ומופצות באמצעות שרשראות ערך מורכבות, הסכם הפשרה כולל שינויים המבהירים את חלוקת אחריות ו תפקידים של השחקנים השונים ברשתות אלו, בפרט ספקים ומשתמשים של מערכות בינה מלאכותית. זה גם מבהיר את הקשר בין אחריות על פי חוק AI לבין אחריות שכבר קיימות על פי חקיקה אחרת, כגון הגנת המידע הרלוונטית של האיחוד האירופי או חקיקה מגזרית.
עבור שימושים מסוימים של AI, סיכון נחשב לא מקובל ולפיכך, מערכות אלו ייאסרו מהאיחוד האירופי. ההסכם הזמני אוסר, למשל, קוגניטיבי מניפולציה התנהגותית, הלא ממוקדים מגרדת של תמונות פנים מהאינטרנט או קטעי טלוויזיה במעגל סגור, זיהוי רגש במקום העבודה ובמוסדות החינוך, ציון חברתי, סיווג ביומטרי להסיק נתונים רגישים, כגון נטייה מינית או אמונות דתיות, ומקרים מסוימים של שיטור ניבוי ליחידים.
חריגים של אכיפת החוק
בהתחשב במאפיינים הספציפיים של רשויות אכיפת החוק והצורך לשמר את יכולתם להשתמש בבינה מלאכותית בעבודתם החיונית, הוסכם על מספר שינויים בהצעת הנציבות הנוגעים לשימוש במערכות בינה מלאכותית למטרות אכיפת חוק. בכפוף למתאים אמצעי הגנה, השינויים הללו נועדו לשקף את הצורך לכבד את הסודיות של נתונים תפעוליים רגישים ביחס לפעילותם. לדוגמה, הוכנס נוהל חירום המאפשר לרשויות אכיפת החוק לפרוס כלי בינה מלאכותית בסיכון גבוה שלא עבר את הערכת התאמה הליך במקרה דחוף. עם זאת, הוכנס גם מנגנון ספציפי כדי להבטיח זאת זכויות יסוד יהיה מוגן מספיק מפני כל שימוש לרעה פוטנציאלי במערכות AI.
יתרה מכך, בכל הנוגע לשימוש בזמן אמת זיהוי ביומטרי מרחוק מערכות במרחבים נגישים לציבור, ההסכם הזמני מבהיר את המטרות שבהן שימוש כזה הוא הכרחי בהחלט למטרות אכיפת חוק ולגבי יש לאפשר לרשויות אכיפת החוק להשתמש במערכות כאלה באופן חריג. הסכם הפשרה קובע אמצעי הגנה נוספים ומגביל את החריגים הללו למקרים של קורבנות של פשעים מסוימים, מניעת איומים אמיתיים, נוכחיים או צפויים, כגון פיגועים, וחיפושים אחר אנשים החשודים בפשעים החמורים ביותר.
מערכות בינה מלאכותית ומודלים בסיסיים לשימוש כללי
הוראות חדשות נוספו כדי לקחת בחשבון מצבים שבהם ניתן להשתמש במערכות AI למטרות רבות ושונות (AI למטרות כלליות), ושם טכנולוגיית AI למטרות כלליות משולבת לאחר מכן במערכת אחרת בעלת סיכון גבוה. ההסכם הזמני מתייחס גם למקרים הספציפיים של מערכות בינה מלאכותית (GPAI).
כמו כן סוכמו כללים ספציפיים דגמי יסוד, מערכות גדולות המסוגלות לבצע במיומנות מגוון רחב של משימות ייחודיות, כגון הפקת וידאו, טקסט, תמונות, שיחה בשפה רוחבית, מחשוב או הפקת קוד מחשב. ההסכם הזמני קובע כי מודלים של קרן חייבים לעמוד בדרישות ספציפיות חובות שקיפות לפני שהם יוצאים לשוק. הונהג משטר מחמיר יותר עבור 'השפעה גבוהה' דגמי יסוד. אלו הם מודלים בסיסיים שהוכשרו עם כמות גדולה של נתונים ועם מורכבות, יכולות וביצועים מתקדמים הרבה מעל הממוצע, שיכולים להפיץ סיכונים מערכתיים לאורך שרשרת הערך.
ארכיטקטורת ממשל חדשה
בעקבות הכללים החדשים על מודלים של GPAI והצורך הברור באכיפתם ברמת האיחוד האירופי, א משרד AI במסגרת הנציבות הוקמה המשימה לפקח על דגמי הבינה המלאכותית המתקדמים ביותר הללו, לתרום לטיפוח תקנים ושיטות בדיקה, ולאכוף את הכללים המשותפים בכל המדינות החברות. א פאנל מדעי של מומחים בלתי תלויים ייעץ למשרד AI לגבי מודלים של GPAI, על ידי תרומה לפיתוח מתודולוגיות להערכת היכולות של מודלים של יסודות, ייעוץ לגבי ייעוד והופעת מודלים של יסודות בעלי השפעה גבוהה, וניטור סיכוני בטיחות חומריים אפשריים הקשורים למודלים של יסודות.
השמיים מועצת AI, שיכלול את נציגי המדינות החברות, יישאר כפלטפורמת תיאום וכגוף מייעץ לנציבות וייתן תפקיד חשוב למדינות החברות ביישום הרגולציה, לרבות עיצוב קודים של נוהגים למודלים של יסודות. לבסוף, א פורום ייעוץ לבעלי עניין, כגון נציגי התעשייה, חברות קטנות ובינוניות, סטארט-אפים, חברה אזרחית ואקדמיה, יוקמו כדי לספק מומחיות טכנית למועצת הבינה המלאכותית.
עונשים
הקנסות בגין הפרות של חוק הבינה המלאכותית נקבעו כאחוז מהמחזור השנתי העולמי של החברה הפוגעת בשנת הכספים הקודמת או סכום שנקבע מראש, הגבוה מביניהם. זה יהיה 35 מיליון אירו או 7% עבור הפרות של יישומי הבינה המלאכותית האסורים, 15 מיליון אירו או 3% עבור הפרות של חובות חוק הבינה המלאכותית ו-7,5 מיליון אירו או 1,5% עבור אספקת מידע שגוי. עם זאת, ההסכם הזמני קובע מכסים פרופורציונליים יותר על קנסות מנהליים לעסקים קטנים ובינוניים וסטארט-אפים במקרה של הפרות של הוראות חוק הבינה המלאכותית.
הסכם הפשרה גם מבהיר כי אדם טבעי או משפטי רשאי להגיש תלונה לגורם הרלוונטי רשות לפיקוח על השוק בנוגע לאי ציות לחוק הבינה המלאכותית ועשויים לצפות כי תלונה כזו תטופל בהתאם לנהלים הייעודיים של אותה רשות.
שקיפות והגנה על זכויות יסוד
ההסכם הזמני קובע א הערכת השפעה על זכויות יסוד לפני שמערכת בינה מלאכותית בסיכון גבוה תוצא לשוק על ידי המפיצים שלה. ההסכם הזמני גם קובע מוגברת שקיפות לגבי השימוש במערכות בינה מלאכותית בסיכון גבוה. יש לציין כי כמה הוראות בהצעת הנציבות תוקנו כדי לציין שמשתמשים מסוימים של מערכת בינה מלאכותית בסיכון גבוה שהם גופים ציבוריים יחויבו להירשם גם ב- מסד נתונים של האיחוד האירופי עבור מערכות בינה מלאכותית בסיכון גבוה. יתרה מכך, הוראות חדשות שנוספו שמות דגש על חובה למשתמשים ב- מערכת זיהוי רגשות ליידע אנשים טבעיים כאשר הם נחשפים למערכת כזו.
אמצעים לתמיכה בחדשנות
במטרה ליצור מסגרת משפטית ידידותית יותר לחדשנות ולקדם למידה רגולטורית מבוססת ראיות, ההוראות בנושא צעדים לתמיכה בחדשנות שונו באופן מהותי בהשוואה להצעת הנציבות.
יש לציין כי הובהר כי AI ארגזי חול רגולטוריים, שאמורות להקים סביבה מבוקרת לפיתוח, בדיקה ותיקוף של מערכות בינה מלאכותית חדשניות, אמורות לאפשר גם בדיקה של מערכות בינה מלאכותית חדשניות בתנאים בעולם האמיתי. יתר על כן, נוספו הוראות חדשות המאפשרות בדיקות של מערכות AI ב תנאי העולם האמיתי, בתנאים ובאמצעי הגנה ספציפיים. כדי להקל על הנטל האדמיניסטרטיבי עבור חברות קטנות יותר, ההסכם הזמני כולל רשימה של פעולות שיש לבצע כדי לתמוך במפעילים כאלה, וקובע כמה חריגות מוגבלות ומצוינות בבירור.
כניסה לתוקף
ההסכם הזמני קובע שחוק הבינה המלאכותית צריך לחול שנתיים לאחר כניסתו לתוקף, עם כמה חריגים להוראות ספציפיות.
השלבים הבא
בעקבות ההסכם הזמני היום, תימשך העבודות ברמה הטכנית בשבועות הקרובים לסיום פרטי הרגולציה החדשה. הנשיאות תגיש את נוסח הפשרה לנציגי המדינות החברות (Coreper) לאישור לאחר שעבודה זו תסתיים.
הטקסט כולו יצטרך להיות מאושר על ידי שני המוסדות ולעבור עדכון משפטי-לשוני לפני אימוץ רשמי על ידי המחוקקים השותפים.
חומר רקע
הצעת הנציבות, שהוצגה באפריל 2021, היא מרכיב מרכזי במדיניות האיחוד האירופי לטפח את הפיתוח והספיגה ברחבי השוק היחיד של AI בטוח וחוקי המכבד זכויות יסוד.
ההצעה פועלת לפי גישה מבוססת סיכונים וקובעת מסגרת משפטית אחידה ואופקית ל-AI שמטרתה להבטיח וודאות משפטית. טיוטת הרגולציה נועדה לקדם השקעות וחדשנות בבינה מלאכותית, לשפר את הממשל ואכיפה יעילה של החוק הקיים בנושא זכויות יסוד ובטיחות, ולהקל על פיתוח שוק יחיד ליישומי בינה מלאכותית. זה הולך יד ביד עם יוזמות אחרות, כולל התוכנית המתואמת בנושא בינה מלאכותית שמטרתה להאיץ את ההשקעה בבינה מלאכותית באירופה. ב-6 בדצמבר 2022, המועצה הגיעה להסכמה לגישה כללית (מנדט משא ומתן) בעניין זה ונכנסה לשיחות בין-מוסדיות עם הפרלמנט האירופי ("טרילוגים") באמצע יוני 2023.
