שבועיים לתוך בדיקת הנאותות, הרוכש מתקשר. “מצאנו כמה דברים לגבי ה-AI אצלכם. אנחנו צריכים לדבר על המחיר”. לפני שבועיים זה היה 12 מיליון. עכשיו זה 10.
עד אותה שיחה הכל נראה מצוין. בנית את חברת התוכנה שלך במשך שנים, יש לקוחות ותיקים ונאמנים, אין חובות, וקיבלת הצעה שקשה לסרב לה. וכמו כל מי שמכיר את שוק התוכנה, קפצת מזמן על העגלה של ה-AI.
התלבטת תקופה ארוכה, אבל בסוף החלטת שאולי הגיע הזמן לצאת מהמשחק ולעשות דברים אחרים. לבלות יותר זמן עם המשפחה, ואולי בכלל להשקיע בדברים אחרים. המחיר שמציעים לך הוא ממש טוב, ואתה לא רוצה לסרב לרמת החיים החדשה שתהיה לך אחרי המכירה.
ואז במהלך בדיקת הנאותות אתה מגלה על כמה שימושים יצירתיים בבינה מלאכותית שעשו אצלך בחברה:
- המפתחים שלך הדביקו לכלי AI קטעי קוד ודגימות מבסיס הנתונים של הלקוח הגדול שלך, כדי לדבג מהר יותר. ההסכם עם אותו לקוח אוסר להעביר את הקוד ואת המידע שלו לצדדים שלישיים.
- מחלקת השיווק שלך השתמשו במודלים שונים של AI על מידע של לקוחות ואנשי קשר של לקוחות כדי לאמן את המערכות של החברה למצוא לקוחות פוטנציאליים דומים.
- אנשי המכירות השתמשו בבוט כדי ליצור שיחה ראשונית עם לקוחות פוטנציאליים באתר של החברה, בנו מאגר של אנשי קשר אצל לקוחות פוטנציאליים באמצעות סקרייפינג מאתרי אינטרנט, והשתמשו בבינה מלאכותית כדי לערוך מיילים לאותם אנשי קשר לפי הפרטים האישיים שלהם.
- אנשי תמיכה טכנית העלו למודלים חינמיים הסכמים עם לקוחות כדי לבדוק את רמת התמיכה שמגיעה להם או כדי לעקוב אחרי טיקטים פתוחים עם פרטי עובדי הלקוחות.
- ב-HR השתמשו בכלי בינה מלאכותית כדי לברור בין קורות חיים של מועמדים ולהחליט את מי לתעדף, וגם כדי לעקוב אחרי ביצועים של העובדים של החברה או לראות מי קרוב לעזיבה. ושמרו את כל המידע הזה שנים אחורה.
וכל זה ללא ידיעה או הסכמה של נושאי המידע, ולפעמים אפילו ללא DPA עם הספק של כלי ה-AI. נכון שיש באתר של החברה מדיניות פרטיות שמישהו בנה באמצעות AI לפני כמה שנים בהתבסס על אתרים של חברות אחרות, אבל מסתבר שזה ממש לא מספיק ושאותה מדיניות פרטיות אפילו לא מתייחסת לנושא שימוש בבינה מלאכותית.
מבחינת הרוכש, יש פה חשיפה אפשרית של מאות אלפי עד מיליוני שקלים, תלוי בכמות נושאי המידע ובאפשרות לתקן את המחדלים. העסקה פתאום נראית אחרת לגמרי. וגם אתה כבר לא ממש רוצה את העסקה הזאת, וכל המחשבות שהיו לך לגבי מה תעשה עם הכסף שתקבל עבור החברה כבר לא רלוונטיות...
ברוב המקרים האלה, שאלה אחת ל-DPO הייתה פותרת את הבעיה מראש. ויש לך DPO, נכון?
כדאי שתדע כמה דברים לגבי טיוטת ההנחיות של הרשות להגנת הפרטיות על שימוש בבינה מלאכותית - טיוטת הנחיית הרשות להגנת הפרטיות: תחולת הוראות חוק הגנת הפרטיות על מערכות בינה מלאכותית, 28 לאפריל, 2025.
הנה 11 דברים שהצוות של הרוכש יבדוק – ומה לסדר עכשיו, לפני שהם מתקשרים
אין לך זמן לקרוא את כל 11 הסעיפים? תתחיל מ-3 הדברים האלה השבוע:
- תעשה רשימה. דבר ראשון שאל כל ראש צוות באילו כלי AI הצוות שלו משתמש, ואיזה מידע נכנס אליהם – בין אם זה קוד, מידע של לקוחות, קורות חיים, או מידע מהותי אחר. הרבה פעמים המנכ"לים מגלים כלים שלא ידעו עליהם...
- תבדוק את ההסכמים. לכל כלי ברשימה: האם יש DPA חתום, איפה המידע נשמר, והאם הספק רשאי להשתמש בו לאימון. ובמקביל, בדוק מה ההסכמים עם הלקוחות הגדולים שלך אומרים על העברת הקוד והמידע שלהם לצד שלישי.
- תקבע דחוף כלל לעובדים. עד שתהיה מדיניות מסודרת, לא מעלים לכלי AI מידע של לקוחות או קורות חיים, בלי אישור.
לפני שמתחילים להשתמש ב-AI
- תחולה – בינה מלאכותית יכולה לייצר מידע אישי, אפילו כבר בשלב הלימוד: הוראות הגנת הפרטיות חלות על שימוש במודל בינה מלאכותית כבר משלב הלימוד. וכל מידע אישי שנוצר בעקבות השימוש במודל, כולל היסקים או הערכות, הוא מידע שחלות עליו הוראות חוק הגנת הפרטיות.
- איסוף מידע באמצעות Scraping – אסור לאסוף מידע אישי "מהאינטרנט" ללא הסכמה: כריית מידע אישי מרשת האינטרנט (scraping) לצורך עיבוד במערכת בינה מלאכותית, לרבות למטרת אימון האלגוריתם, זאת פגיעה בפרטיות אלא אם נושא המידע הסכים לזה.
פה בדיוק הייתה הטעות של מחלקת המכירות שלך.
גם כשאדם בוחר לפרסם מידע אודות עצמו באינטרנט, למשל ברשתות חברתיות, ניתן לייחס לו הסכמה לאיסוף המידע שלו ולשימוש בו למטרות נוספות רק אם תנאי השימוש של האתר ממנו נקלט המידע לא מייחדים את השימוש במידע למטרה ספציפית, וגם זאת רק אם נושא המידע בחר שלא להגביל את סוג המשתמשים המורשים להיחשף למידע (למשל חברים בלבד ברשת חברתית).
לא ניתן להסיק מפרסום כזה באינטרנט כי אדם הסכים שהמידע אודותיו ישמש לאימון או למערכת בינה מלאכותית. לדוגמה, אי אפשר להשתמש בשם ובתמונה שפרסם אדם ברשת חברתית כדי לאמן אלגוריתם של זיהוי פנים אוטומטי או במטרה ליצור מאגר שכזה.
- יידוע בשלב איסוף מידע - אין הסכמה לשימוש במידע אישי ללא הסבר על שימושים וסכנות: כדי להשתמש במידע אישי של אדם לצורך עיבוד באמצעות AI, צריך שאותו אדם יסכים. כדי שהסכמה כזאת תיחשב ללגיטימית צריך ליידע את נושא המידע אודות מערכת הבינה המלאכותית והשימושים שהיא תעשה במידע האישי שלו.
זוכר את מה שמחלקת המכירות שלך עשתה? הלקוחות הפוטנציאליים בכלל ידעו שהם מדברים עם בוט? אז זאת הבעיה.
לגבי יידוע על שימוש באמצעות AI חשוב במיוחד להדגיש את אופן קליטת המידע (למשל באמצעות בוט/אוטומטיזציה או באמצעות פנייה לעובד בחברה, פרטי וסוגי המידע בהם עשויות המערכות להשתמש במסגרת פעולת ה-AI והמקור של פרטי מידע אלו, האם מערכת בינה מלאכותית מאפשרת להסיק על אדם מסקנות הנובעות מעיבוד מידע על אחרים בעלי מאפיינים דומים), וצריך להתייחס גם לכל אחת ממטרות השימוש במידע והסיכונים האפשריים הכרוכים בה לרבות אימון האלגוריתם.
- צמצום מידע מיותר – אסור לאסוף "לכל מקרה" מידע אישי שלא נדרש: העיקרון של אי-איסוף ומחיקת מידע אישי מיותר שלא דרוש למטרות הספציפיות עבורן הוא נאסף (אין כזה דבר "לכל מקרה אם אולי נצטרך את זה בעתיד") חל גם לגבי איסוף מידע לשימוש ב-AI. זה אומר שגם בשלב פיתוח/לימוד של המודל וגם בשלב השימוש צריך לאסוף רק את המידע שנדרש למטרה הספציפית שלשמה רוצים להשתמש ב-AI, אחרי שמגדירים ומתעדים בכתב את המטרות הללו.
והרי ב-HR שמרו את כל המידע של כל המועמדים שנדחו ושל עובדים שכבר עזבו, גם כשהיה מיותר לגמרי.
קביעת מדיניות לעניין מועדי מחיקת המידע המשמש לאימון המערכת, אשר תכלול קריטריונים לבחינת השאלה לשם מה נדרש המידע, האם שמירתו הכרחית, ואילו טכנולוגיות מגבירות פרטיות ניתן ליישם ביחס למידע אשר לא נמחק, תוכל לסייע בהתמודדות עם אתגר הפרטיות.
במהלך שימוש שוטף ב-AI
- תיקון האלגוריתם – כדאי שתדע איך לתקן אלגוריתם "הוזה": לפי החקיקה בנושא הגנת פרטיות, נושא מידע רשאי לדעת איזה מידע אישי מוחזק לגביו, ואם המידע אינו נכון או מדויק או מעודכן, נושא המידע רשאי לבקש תיקון של המידע.
מועמד שנדחה בגלל ציון שה-AI נתן לו רשאי לדעת מה נשמר עליו ולבקש לתקן.
כשהמידע נוצר באמצעות בינה מלאכותית, הזכות לבקש תיקון מידע שגוי עשויה להתייחס גם לתיקון האלגוריתם שהפיק מידע כאמור, ככל שאין דרך אחרת למנוע מן האלגוריתם לשוב ולהפיק מידע שגוי.
- אבטחת מידע בתפעול בינה מלאכותית – היבטים ייחודיים של אבטחת מידע: בשימוש במודלים של בינה מלאכותית ישנם היבטים ייחודיים של אבטחת מידע, שדורשים התייחסות מיוחדת, כגון:
- בתיאור הסיכונים ואופן ההתמודדות עמם במסמך הגדרות המאגר, תוך התייחסות מפורשת להשלכות השימוש במערכות בינה מלאכותית.
- בניטור ומעקב שוטף אחר מתקפות הסקה על מאגרי הארגון, ובדיווח מיידי לרשות להגנת הפרטיות על מתקפות הגורמות לאירוע אבטחה חמור.
בין הסיכונים המרכזיים ניתן למנות דליפה של מידע אישי שנכלל בשאילתה שהוזנה לשירות החיצוני, שימוש במידע לצרכים החורגים ממטרת המאגר המקורי (לרבות למטרת אימון האפליקציה), או חשיפתו בפני צדדים שלישיים בלתי מורשים (כגון משתמשים אחרים של המערכת מחוץ לארגון).
- נוהלי שימוש בכלי בינה מלאכותית – לכתוב מה מותר, למי, ומתי: שימוש בבינה מלאכותית בחברה דורש גם מדיניות ייעודית ונהלי אבטחת מידע להסתייעות במערכות חיצוניות של בינה מלאכותית. מדיניות אחת כזאת הייתה מונעת 4 מתוך 5 הדוגמאות שבתחילת המאמר.
המדיניות צריכה להתייחס בין השאר לסוגיות הבאות:
- בחינת הסיכונים הנובעים מהסתייעות בשירות בינה מלאכותית בדרך של חשיפת מידע אישי או הפרה של חובת הסודיות.
- קביעה מי מבעלי ההרשאה בחברה רשאי להסתייע בשירות חיצוני כאמור ומיהו הדרג המאשר, מהי מטרת השימוש, ואילו סוגי מידע אישי ניתן לחשוף בעת ההסתייעות בשירות.
- התחשבות במשך שמירת המידע הכלול בשאילתות המוזנות לאפליקציה והיכולת למנוע שימוש בו למטרת אימון האלגוריתם שלה, או לכל מטרה אחרת החורגת ממטרת המאגר המקורי.
- הגדרת אפליקציות חיצוניות המותרות לשימוש בידי עובדי החברה, או אסורות עליהם.
- כללים בדבר חובת הארגון והעובדים לעשות שימוש באפליקציה באופן שיצמצם ככל הניתן את סיכוני האבטחה והפרטיות, לרבות סירוב לשימוש במידע הכלול בשאילתה לאימון האלגוריתם או למטרות אחרות החורגות מתכלית השאילתה, וצמצום למינימום של משך שמירת השאילתה באפליקציה.
- הדרכת העובדים בעניין סיכוני האבטחה המיוחדים לשימוש במערכות בינה מלאכותית יוצרת.
- בדיקת ההתחייבויות החוזיות של החברה שיכולות להיות רלוונטיות לשימוש בבינה מלאכותית – כגון סודיות ואי-העברת מידע, או חשיפת קוד לצדדים שלישיים.
- אחריות למניעת סקרייפינג – מתי בעלי האתר אחראי למנוע סקרייפינג מהאתר: בעלי שליטה במאגרי מידע המאפשרים שיתוף מידע אישי ברשת האינטרנט (למשל ברשתות חברתיות, בשירותי מכירות או היכרויות) נדרשים לנקוט באמצעים נאותים כדי למנוע כריית מידע (scraping) אסורה מאתרי האינטרנט שהם מנהלים. ביצועה של כרייה אסורה של מידע אישי מן המאגר היא בבחינת "אירוע אבטחה חמור" – עליו חייב בעל המאגר לדווח באופן מיידי לרשות להגנת הפרטיות.
כשעובדים עם ספק חיצוני
- AI כמיקור חוץ – דברים שצריך לבדוק לפני שבכלל משתמשים בשירותי בינה מלאכותית של ספק: שימוש בבינה מלאכותית נחשב לרוב כשימוש במיקור חוץ. לכן כשמידע אישי מועבר ל-AI כזה, ובמיוחד כשמדובר בשירות המצוי בענן, ההתקשרות אתו צריכה לעמוד בתנאים הן לגבי העברת מידע אישי לחו"ל והן לגבי הסכם עם ספק חיצוני המעבד מידע אישי עבור החברה שלך. כפי שכתבתי במאמר אודות מערכות CRM, זה ממש לא מובן מאליו שהספק עומד בדרישות הדין הישראלי, גם כשמדובר בחברות ענק.
וזה הופך את הפעולות של אנשי התמיכה הטכנית לכאב ראש עבורך.
אם אתם מאמנים מודלים בעצמכם
- היבטים טכניים של אימון מערכת AI – שימוש בבינה מלאכותית דורש מנגנוני הגנה ייעודיים כבר בשלב האימון: מומלץ גם להשתמש במנגנונים אשר יסייעו בצמצום היקפי המידע האישי, כגון התממה (אנונימיזציה), שימוש במידע סינתטי (מידע אשר נוצר באופן מלאכותי וניתן להשתמש בו כתחליף למידע המקורי האמיתי), Federated Learning (אימון בכמה נקודות מקומיות וחיבור התובנות למודל אחד, בלי לשתף את המידע האישי) ו-Differential Privacy )הוספת "רעש" סטטיסטי כך שאי אפשר לזהות אדם ספציפי), ועוד.
- מידע מהאזור הכלכלי האירופי – הכל מסובך יותר כשאירופאים נמצאים בתמונה: כמו הרבה דברים שקשורים לפרטיות של אירופאים, גם כאן הדין הוא מחמיר יותר. כאשר מדובר במאגר מידע שמכיל מידע אישי שהגיע מהאזור הכלכלי האירופי, גם אם הוא כולל מידע שהגיע מאזורים אחרים, על בעל המאגר להבטיח כי המידע שבמאגר המידע נכון, שלם, ברור ומעודכן.
זה אומר שבכל הנוגע לפיתוח ולהפעלה של מודלים מבוססי בינה מלאכותית יש להפעיל מנגנונים למניעת "מתקפות שמטרתן לגרום למערכת ללמוד את הדבר הלא-נכון" (Learn the wrong thing) ו-"מתקפות שמטרתן לגרום למערכת לעשות את הדבר הלא-נכון" (Do the wrong thing), וזאת בין השאר באמצעות הקפדה על איכות המידע המשמש לאימון המערכת, הרלבנטיות שלו למטרתה, קיום הסברתיות של האלגוריתם, ביצוע בקרות איכות קפדניות, ועוד.
מסקנה – בינה מלאכותית היא כלי מצוין, אבל היא יכולה גם להיות ההבדל בין 12 ל-10 מיליון
כל הדוגמאות שנתתי בתחילת המאמר אכן שיפרו את הפעילות העסקית של החברה. הבעיה הגדולה איתן היא שהן נעשו בניגוד לחוק. אם רק האחראים היו מתייעצים עם ה-DPO של החברה לגבי אופן יישום השימושים האלה, אפשר היה להסדיר כמעט את הכל כבר מההתחלה, והחברה לא הייתה נמצאת בחשיפה שהתגלתה בדיוק בזמן בדיקת נאותות חשובה.
אם אתה רוצה לסגור את הפרצות האלה לפני שרוכש – או לקוח Enterprise עם שאלון אבטחה – ימצא אותן, אתה צריך מדיניות שימוש בכלי AI. שלח לי שלוש שורות: אילו כלים, לצורך איזה שימוש, ואיזה מידע נכנס אליהם – ונקבע שיחה כדי להבין מה צריך להסדיר ומה ההיקף.
גילוי נאות: מאמר זה מיועד להעשרת הידע ואינו מהווה ייעוץ משפטי. עמידה בדרישות החוק תלויה באופיין הספציפי של הפעילות והמערכות בחברתך.