חוק הבינה המלאכותית של האיחוד האירופי: מה צריך לדעת?

חוק הבינה המלאכותית של האיחוד האירופי (AI Act) – נכנס לתוקפו החודש והנה כמה דברים שאתם חייבים לדעת.

בשנים האחרונות, הבינה המלאכותית (AI) הפכה לחלק בלתי נפרד מחיינו – החל ממערכות לזיהוי פנים ועד לכלי ניתוח נתונים מתקדמים. אך עם הקדמה הטכנולוגית מגיעות גם שאלות משפטיות ואתיות מורכבות. כאן נכנס לתמונה חוק הבינה המלאכותית של האיחוד האירופי (AI Act) – הרגולציה הראשונה מסוגה בעולם שמטרתה להסדיר את השימוש בבינה מלאכותית תוך שמירה על בטיחות, פרטיות וזכויות יסוד.

למה זה צריך לעניין אותך?

יישומי בינה מלאכותית משפיעים באופן ישיר על נגישותך למידע באינטרנט, בין היתר באמצעות חיזוי תוכן רלוונטי עבורך, איסוף וניתוח נתוני פנים לצורכי אכיפת חוק או התאמה אישית של פרסומות, וכן באמצעות שימוש בטכנולוגיה לאבחון וטיפול במחלות כגון סרטן. במובן זה, הבינה המלאכותית מהווה מרכיב משמעותי בהיבטים שונים של חיי הפרט.

בדומה לתקנת הגנת המידע הכללית של האיחוד האירופי (GDPR) שנכנסה לתוקף בשנת 2018 והפכה לסטנדרט עולמי, חוק הבינה המלאכותית של האיחוד האירופי (AI Act)  צפוי להשפיע באופן נרחב על מסגרת הרגולציה החלה על פיתוח, יישום ופיקוח של טכנולוגיותAI . החוק עשוי לקבוע את גבולות השימוש הראוי בבינה מלאכותית ולהגדיר את המותר והאסור ביחס להשפעתה על זכויות יסוד, פרטיות ויחסים מסחריים.

השלכות הרגולציה כבר ניכרות בזירה הבינלאומית: בספטמבר 2021 אישר הקונגרס של ברזיל הצעת חוק לקביעת מסגרת משפטית להסדרת השימוש בבינה מלאכותית, צעד אשר מדגיש את מגמת ההתאמה הרגולטורית ברחבי העולם.

מהו חוק ה-AI  של האיחוד האירופי?

חוק ה-AI של האיחוד האירופי מבוסס על גישה של ניהול סיכונים בקשר עם מערכות הבינה המלאכותית, המסווגות לארבע (4) רמות סיכון שונות, ובהתאם הרגולציה המתאימה, כדלקמן:

1. מערכות AI המהוות סיכון בלתי מתקבל על הדעת (Unacceptable Risk) - מערכות AI אשר עשויות לפגוע בזכויות אדם ולהפר את הזכות לכבוד ולשוויון ולפגוע בערכים של צדק ואי-אפליה. מערכות בינה מלאכותית אשר מעריכות או מסווגות אנשים טבעיים או קבוצות מהם על בסיס נקודות נתונים מרובות הקשורות להתנהגותם החברתית בהקשרים שונים, או על בסיס מאפיינים אישיים או אישיותיים הידועים, המוסקים או החזויים על פני תקופות זמן מסוימות, והן עלולות לפגוע בזכויות אדם באופן חמור, כגון דירוג חברתי או מניפולציה קוגניטיבית ועוד (רשימה מלאה מופיעה בחוק), אשר על כן נאסרות לחלוטין.

2. מערכות AI  בסיכון גבוה (High-Risk AI Systems) - אשר לאור מטרתן המיועדת, מציבות סיכון גבוה לפגיעה בבריאות ובבטיחות או בזכויות היסוד של אנשים, תוך התחשבות הן בחומרת הפגיעה האפשרית והן בהסתברות התרחשותה, והן משמשות במספר תחומים מוגדרים מראש כמפורט בחוק, אשר חייבות לעמוד בדרישות מחמירות של שקיפות, פיקוח ואחריות.

3. מערכות AI בסיכון מוגבל (Limited-Risk AI Systems) מערכות כמו צ'אטבוטים או תוכנות ליצירת תוכן. מערכות אלה מחויבות לעמידה בדרישות שקיפות בסיסיות, כך שמשתמשים ידעו כי הם מתקשרים עם AI.

4. מערכות AI בסיכון מינימלי או לא משמעותי (Minimal Risk) – מאפיין את רוב מערכות ה-AI, כמו משחקי וידאו/מחשב מבוססי AI, מסנני דואר זבל, המלצות צפייה בשירותי סטרימינג וכד', אשר אינן דורשות רגולציה מיוחדת.

כיצד החוק משפיע על עסקים?

עסקים וארגונים הפועלים בתחומי ה-AI, במיוחד אלו העובדים עם מערכות בסיכון גבוה, יצטרכו להיערך לעמידה בדרישות רגולציה נוקשות, כולל:

·        שקיפות מלאה לגבי אופן הפעולה של האלגוריתמים.

·        פיקוח מתמיד על המערכות.

·        עמידה בתקנים מחמירים של פרטיות ואבטחת מידע.

כמו כן, החוק מעודד חדשנות באמצעות "רגולציה ניסיונית " (Regulatory Sandboxes) – מסגרות שמאפשרות לחברות לפתח ולבחון טכנולוגיות AI חדשות תחת פיקוח מבוקר.

על מנת לבחון כיצד מערכות ה-AI שלכם עומדות בדרישות החוק, ניתן להשתמש בבודק תאימות לחוק הבינה המלאכותית של האיחוד האירופי (EU AI Act Compliance Checker) בלינק הבא: EU AI Act Compliance Checker | EU Artificial Intelligence Act

סנקציות ואכיפה

כדי להבטיח עמידה בחוק, האיחוד האירופי קבע סנקציות מחמירות (בדומה ל-GDPR) על הפרות רגולטוריות:

• קנסות של עד 35  מיליון אירו או 7% מהמחזור השנתי להפרות חמורות.

• קנסות של עד  15 מיליון אירו או 3% מהמחזור השנתי לאי-עמידה בדרישות הרגולציה.

• קנסות של עד 7.5  מיליון אירו או 1.5% מהמחזור השנתי על מסירת מידע כוזב לרשויות.

חוק הבינה המלאכותית של האיחוד האירופי (AI Act) נכנס לתוקף ב-1 באוגוסט 2024. עם זאת, יישום הוראות החוק יתבצע בשלבים:

• פברואר 2025: התחלת תוקף הפרקים הראשונים, כולל הגדרות והוראות כלליות, וכן איסורים על שימושים מסוימים בבינה מלאכותית.

• אוגוסט 2025: התחלת תוקף של פרקים נוספים, כגון חובות דיווח לגופים רגולטוריים והוראות לפיתוח ושימוש במודלים של בינה מלאכותית למטרות כלליות.

• אוגוסט 2026: רוב סעיפי החוק נכנסים לתוקף, למעט חובות מסוימות החלות על מערכות בינה מלאכותית בסיכון גבוה.

• אוגוסט 2027: החובות המלאות על מערכות בינה מלאכותית בסיכון גבוה הופכות למחייבות.

לכן, האכיפה המלאה של כל הוראות החוק תושלם עד אוגוסט 2027.

לסיכום

חוק הבינה המלאכותית של האיחוד האירופי הוא אבן דרך משמעותית בהסדרת התחום, והוא צפוי להשפיע גם מעבר לגבולות אירופה. לאור התאמת הרגולציה בכל העולם לתקנות ה-GDPR, ניתן להסיק שגם במקרה זה, יאומצו תקנות דומות בארה"ב, בישראל ובכל העולם המערבי. על חברות ועסקים המתבססים על טכנולוגיות AI יש להיערך להתאמות רגולטוריות ולהתייעץ עם מומחים משפטיים כדי להבטיח עמידה בדרישות החדשות.

משרדנו מתמחה בייעוץ משפטי לעסקים בתחום הטכנולוגיה, הפרטיות והבינה המלאכותית, ונשמח לסייע לכם בהיערכות לרגולציה החדשה.

לפרטים נוספים ולקביעת פגישת ייעוץ, צרו קשר עוד היום!

משרדנו, יוסי כתראן משרד עורכי דין JC Law Office, המתמחה בתחומי הטכנולוגיה, האינטרנט, הבינה המלאכותית והפרטיות מסייע ללקוחותינו הפועלים בתחום, הן מהבחינה המסחרית והרגולטורית, והן מהבחינה הטכנולוגית ובליווי פרויקטים בתחום.

ליצירת קשר עם עו"ד כתראן: Office@jcatlaw.com או במשרד: 03-6508064