קול קורא מטעם הצוות הבין-משרדי לבחינת השימוש בבינה מלאכותית ולמידת מכונה במגזר הפיננסי

בשנים האחרונות התרחב השימוש בטכנולוגיות של בינה מלאכותית ולמידת מכונה בכלל ובמגזר הפיננסי בפרט, והוא מקיף כיום מגוון של פעילויות. כלים ויישומים שונים העושים שימוש בבינה מלאכותית מסייעים בידי גופים פיננסיים בניהול סיכונים וקבלת החלטות בדבר מתן המלצות השקעה בשוק ההון, ביצוע ניהול תיקים אוטומטי, חיתום לצורך התקשרות באשראי או ביטוח,  מתן שירות לקוחות, הצגת הצעות ערך ללקוחות, יישוב תביעות ביטוח, ועוד.

השימוש בבינה מלאכותית ובלמידת מכונה עשוי לגלם תועלות רבות, ובהן הצעת מוצרים ושירותים טובים יותר ללקוחות, זיהוי הונאות, עידוד התחרות, חיסכון בעלויות, ושיפור הפעילות העסקית וניהול הסיכונים של הגופים הפיננסיים. מנגד, הוא עלול להציב אתגרים רגולטוריים ומשפטיים לא מבוטלים, חלקם בעלי מאפיינים ייחודיים, בהיבטים כגון התמודדות עם חששות הנוגעים לפרטיות ואבטחת מידע, להטיות בקבלת החלטות, להגנת הצרכן ולפגיעה בתחרות. כמו כן, ייתכן כי קיימים חסמים רגולטוריים ואחרים אשר מקשים על הפקת מירב התועלות הפוטנציאליות.

לאור השימוש ההולך וגובר בבינה מלאכותית ובלמידת מכונה במגזר הפיננסי, התפרסם בחודש יולי 2022 מטעם המחלקה למשפט כלכלי בייעוץ וחקיקה במשרד המשפטים דוח אקדמי בנושא ״בינה מלאכותית במגזר הפיננסי: שימושים נפוצים, אתגרים וסקירה השוואתית של התמודדות רגולטורית״ (להלן – הדוח) אשר נכתב על ידי צוות חוקרים מאוניברסיטת תל אביב.[1]

כמו-כן, בשנים האחרונות מדינות רבות בעולם השקיעו משאבים בלימוד נושא השימוש בבינה מלאכותית ולמידת מכונה במגזר הפיננסי. כך, מבלי למצות, בארצות הברית, באיחוד האירופי, בגרמניה, בהולנד, באנגליה, בסינגפור, בהונג-קונג, בנוסף לגופים בינלאומיים, כתיבה אקדמית ועסקית וכו'.

בהמשך לפרסום הדוח וההמלצות העולות ממנו, הוחלט להקים צוות משותף לבחינת השפעות השימוש בטכנולוגיית הבינה המלאכותית ותהליכי קבלת החלטות אוטומטיים ומערכות דומות, במגזר הפיננסי. הצוות מורכב מנציגי משרדי האוצר והמשפטים (ייעוץ וחקיקה), רשות ניירות ערך, הפיקוח על הבנקים בבנק ישראל, רשות שוק ההון ורשות התחרות.

הצוות הונחה לבדוק לעומק את פוטנציאל הפעילות, התועלות, החסמים והסיכונים, ובין היתר לגבש תמונת מצב עדכנית של השימוש בבינה מלאכותית במגזר הפיננסי בישראל (לרבות השימוש בבינה מלאכותית "פשוטה", קרי תהליכים ממוחשבים המסייעים בקבלת החלטות); להעריך את ההשפעה של הבינה המלאכותית על פעילות ושירותים פיננסיים בישראל בהווה ובעתיד הקרוב; לגבש המלצות ביחס לצורך באסדרה ואופן עיצוב האסדרה הראויה (ככל שנדרשת), לרבות הסרת חסמים לפעילות רצויה; וכן לבחון הבהרות משפטיות (ככל שנדרשות) ביחס לדין הקיים זאת תוך שקילת שיקולי מדיניות ואינטרסים נוספים הקשורים במערכת הפיננסית.[1]

[1] https://www.new.isa.gov.il/nav-index/supervised-publications/news1323

הצוות פונה בזאת לציבור הרחב ולבעלי עניין להעביר מידע ועמדות ביחס לנושאי העיסוק של הצוות, ובכלל זאת:

1. השימושים הנוכחיים והצפויים בבינה מלאכותית בסקטור הפיננסי בישראל, לרבות מידע בדבר סוג המודלים בהם נעשה שימוש (מידת אוטונומיות, תהליך ההתעדכנות של המודלים וכדומה);
2. החסמים העומדים בפני גופים פיננסיים ואחרים בפיתוח, התנסות ושימוש בבינה מלאכותית (הטכנולוגיים, העסקיים, הרגולטוריים או המשפטיים);
3. התועלות משילוב טכנולוגיות אלה בעבודת גופים פיננסיים (הפחתת עלויות, שיפור ביצועים, דיוק, התאמה ללקוח והגדלת מגוון, שיפור השירות וההצעות ללקוחות, ניהול סיכונים וכדומה);
4. האתגרים והסיכונים הכרוכים בשימוש בבינה מלאכותית (ובין היתר בהיבטי יציבות מערכתית, הסברתיות (explainability ו/או interpretability) וקופסה שחורה, אחריות וחובות זהירות ואמון, הטיות ומניפולציות על המידע, פרטיות, תחרות, הגנת הצרכן, אבטחת מידע וכו').
5. האמצעים הננקטים להתמודדות עם האתגרים האמורים ונוספים: כלי ניהול סיכונים, ביקורת אלגוריתמית (Algorithm Audit) כאמצעי להפחתת סיכונים, סיכוני סייבר, עמידה בכללים רגולטוריים ומשפטיים, כגון איסור אפליה וכדומה;
6. המדיניות והאסדרה הראויות בתחום הבינה המלאכותית במגזר הפיננסי, לרבות בהיבטי פיקוח, אתיקה, רגולציה עצמית, נסיינות, סטנדרטים וכדומה;
7. נושאים נוספים שעל הרגולטורים והממשלה להידרש אליהם בבואם לבחון את האסדרה של תחום זה.

בהינתן שאין הגדרה מוסכמת ומקובלת למונח ״בינה מלאכותית״, והיא כוללת בתוכה מגוון טכניקות, נבהיר כי בקול קורא זה אנו מתייחסים לבינה מלאכותית במובנה הרחב, לרבות מערכות הכוללות מודלים מתקדמים המעבדים נתונים באופן אוטומטי (מלא או חלקי) לצורך ניפוק תחזיות, המלצות, החלטות וכדומה, וכן מערכות ליצירת תוכן עבור שחקנים בסקטור הפיננסי.

הצוות ישמח לקבל כל מידע רלוונטי, לרבות נתונים, מחקרים ומאמרים בנושא למטרות עבודתו.

הפנייה לצוות תעשה בכתב. הצוות יתייחס בכובד ראש לכלל הפניות שיגיעו אליו, ובמידת הצורך יצור קשר עם גורמים שייטלו חלק בהליך, לפי שיקול דעתו.

אנו מזמינים אתכם להשפיע ולקחת חלק בהליך חשוב זה!

נודה לקבלת התייחסותכם עד ליום 20 במאי 2023.

אנא שלחו התייחסותכם לידי עו"ד תום גולדרייך, מרכז הצוות, בכתובת דואר האלקטרוני: tomg@isa.gov.il.