מדינת ישראל חתמה בחודש שעבר על ה- Council of Europe Framework Convention on  Artificial Intelligence and Human Rights, Democracy and the Rule of Law – האמנה הבינלאומית הראשונה אשר מסדירה וקובעת הוראות לשימוש אחראי בבינה מלאכותית, תוך הגנה על זכויות האדם, הדמוקרטיה ושלטון החוק, שאת ניסוחה הובילה מועצת אירופה.

האמנה נחתמה על ידי כשלושים מדינות,  כאשר מלבד המדינות חברות האיחוד האירופי, חתמו על האמנה גם ארצות הברית, בריטניה, ליטא, אוקראינה וישראל. החתימה מציבה את מדינת ישראל בחזית החדשנות ומציבה את ישראל כשותפה ביצירת מדיניות בינלאומית אחראית ומוסרית בתחום ה- AI.

השינויים המואצים בהתפתחות המדע והטכנולוגיה, ובפרט התפתחות הבינה המלאכותית וחדירתה לחיינו היא לא רק פריצת דרך טכנולוגית, אלא מהפכה של ממש. היא תוארה כ”מהפכה התעשייתית הרביעית” וביכולתה להגדיר מחדש היבטים רבים של קיומנו. מערכות בינה מלאכותית הופכות בהדרגה לחלק בלתי נפרד מחיינו, ונעשה בהן שימוש במסגרת תחומים רבים. ככל מהפכה טכנולוגית, לצד ההזדמנויות האדירות, עלולות להופיע סכנות משמעותיות, אשר עלולות לשבש יסודות חשובים של החברה, ואשר יש להיערך אליהן.

בין הסכנות ניתן למנות נזקים שונים אשר עלולים להיגרם כתוצאה משימוש במערכות AI, סוגיות של הטיה ואפליה  (לדוגמא קבלת החלטות מפלה בתחומים כמו תעסוקה, הלוואות, או מערכת המשפט), פגיעה בפרטיות, תפוצה ושימוש בחדשות כזב (“פייק ניוז”) ובתוכן מזוייף הנחזה להיות אמיתי (“דיפ פייק”), פגיעה בשוק העבודה, אבטחת מידע, סוגיות אתיות שונות ועד לחשש לאובדן שליטה על המערכות.

האמנה נועדה לקדם שימוש אחראי בבינה מלאכותית על מנת לתת מענה לחששות ההולכים וגוברים מהסיכונים הכרוכים בשימוש ב- AI. האמנה תחול בעיקר על שימוש הבינה המלאכותית במגזר הציבורי. אמנה זו אינה עוסקת בשימושים הקשורים לענייני בטחון לאומי.

ההגדרה של מערכת בינה מלאכותית המפורטת באמנה מתבססת על ההגדרה המעודכנת האחרונה שאומצה על ידי ה-OECD ב-8 בנובמבר 2023.

האמנה מדגישה עקרונות דוגמת כבוד האדם, הימנעות מאפליה, שקיפות, אחריות, שיוויון, פרטיות והגנה על מידע אישי, לרבות:

הגנה על זכויות אדם – כל צד יאמץ או ישמור על אמצעים על מנת להבטיח שהפעילויות במחזור החיים של מערכו בינה מלאכותית עולות בקנה אחד עם החובות להגנה על זכויות אדם, המעוגנות במשפט הבינלאומי ובחוקים לאומיים

טוהר ההליכים הדמוקרטיים וכיבוד שלטון החוק – כל צד יאמץ אמצעים המבקשים להביטח כי מערכות בינה מלאכותית לא ישמשו לערעור היושרה, העצמאות והאפקטיביות של מוסדות ותהליכים דמוקרטיים.

כבוד האדם והאוטנומיה האישית – כל צד יאמץ אמצעים הנדרשים לכיבוד כבוד האדם והאוטונומיה האישית ביחס לפעילויות בתוך מחזור החיים של בינה מלאכותית.

שקיפות ופיקוח – כל צד יאמץ אמצעים הנדרשים להבטחת שקיפות ופיקוח נאותים המותאמים להקשרים ולסיכונים הספציפיים ביחס לפעילויות במחזור החיים של בינה מלאכותית, לרבות בכל הקשור לזיהוי תוכן שנוצר על ידי בינה מלאכותית.

אחריות ואחריותיות – כל צד יאמץ אמצעים על מנת להבטיח את האחריות, תוך מתן דין וחשבון להשפעות שליליות על זכויות אדם, דמוקרטיה ושלטון החוק הנובעות מפעילויות במחזור החיים של בינה מלאכותית.

שיוון ואי הפליה– כל צד יאמץ אמצעים במטרה להבטיח שפעילויות במחזור החיים של בינה מלאכותית יכבדו שיוויון, לרבות שיוויון מגדרי ואיסור הפליה.

פרטיות והגנה – כל צד יאמץ אמצעים כדי להבטיח את זכויות הפרטיות של אנשים ומוגנות הנתונים האישיים שלהם.

האמנה קובעת כי על כל מדינה להקים מנגנוני פיקוח ותיקון בתרחיש של פגיעה בזכויות אדם, לרבות הסדרת מסלול להגשת תלונה לרשויות המוסמכות ומתן זכות ערעור לגורם אנושי.

האמנה מבקשת מכל מדינה לאמץ אמצעים חקיקתיים, מנהליים או אחרים ולבצע את הפרוצדורות הנדרשות לצורך הגנה מפני סכנות בשימוש בבינה המלאכותית. האמנה קובעת גם חובות דיווח מסויימות, צורך בשיתוף פעולה בינלאומי בין הצדדים להגשמת תכליתה של האמנה, מנגנון ליישוב סכסוכים, ואופן היישום הטריטוריאלי.

אחת הביקורות שהועלו היא שהאמנה לא מפרטת כיצד יש לממש את עקרונות העל הללו. ההגדרה מתי מערכות  AI פעלו בצורה לא נאותה, וההבנה מתי מערכות אוטונומיות צריכות לשאת באחריות לנזק שגרמו הינן שאלות מורכבות המציבות אתגרים לא מבוטלים בפני מערכת המשפט. עם זאת, נדמה כי עצם הדיון והתוויית “עקרונות העל” בדבר יישום אחראי של שימוש בבינה מלאכותית מהווים אבן דרך ליישום מושכל ומיטיב של מהפכה טכנולוגית משמעותית זו.

הצוות הישראלי אשר השתתף בניסוח וגיבוש האמנה, כלל נציגים ממשרד החדשנות, המדע והטכנולוגיה, משרד המשפטים, רשות החדשנות ומערך הדיגיטל במשרד הכלכלה.