שימוש בטוח ב-AI בארגון: מה אסור להדביק, מדיניות ואיך מתחילים

ארבעת הסיכונים העיקריים

• דליפת מידע לכלי AI. עובד מדביק לשיחה מסמך, קוד או רשימת לקוחות, והמידע יוצא מהמערכות של הארגון. מה קורה אחר כך תלוי בכלי ובתוכנית, ולא תמיד ברור לעובד.
• הזרקת פקודות (Prompt Injection). טקסט זדוני שמוסתר במסמך, באימייל או באתר שהכלי קורא יכול להוביל אותו לפעול שלא לפי כוונת המשתמש, למשל לחשוף מידע או לבצע פעולה. הסיכון גדל כשהכלי מחובר למערכות הארגון.
• Shadow AI. עובדים משתמשים בכלים שהארגון לא אישר, לרוב בחשבון פרטי, בלי מדיניות ובלי בקרה על המידע שנכנס.
• תוצרים שגויים או מומצאים. מודלי שפה עלולים לכתוב בביטחון עובדות, מספרים או מקורות שאינם נכונים. בלי בדיקה אנושית, טעות כזאת יכולה להגיע ללקוח, למסמך משפטי או להחלטה.

הסיכונים האלה אינם סיבה להימנע מ-AI. הם סיבה להגדיר מראש מה עושים, כדי שהשימוש יישאר יתרון ולא יהפוך לחשיפה שהארגון גילה רק אחרי שמשהו קרה. ככל שהכלי מחובר ליותר מערכות ומידע, כך חשוב יותר שיהיו כללים ברורים ואדם אחראי.

הסבר כללי על כלי שיחה נפוצים ועל ההבדלים ביניהם יש במדריך ChatGPT בעברית.

רשימת בדיקה למדיניות שימוש ב-AI

אין נוסח אחד נכון. הרשימה היא נקודת פתיחה כללית שמתאימים לארגון ולמידע שלו, ובמקרים רגישים כדאי להיעזר באיש מקצוע.

1. כלים מאושרים. רשימה קצרה וכתובה של כלים ותוכניות שמותר להשתמש בהם לעבודה, ומי מאשר כלי חדש.
2. מה מותר להדביק. טקסט ציבורי, ניסוחים כלליים ומידע שאינו רגיש.
3. מה אסור להדביק. מידע אישי על לקוחות, עובדים או מועמדים, סיסמאות ומפתחות גישה, קוד וסודות מסחריים, מסמכים משפטיים או פיננסיים שלא אושרו להעברה.
4. מידע אישי. ברירת מחדל: לא מכניסים אותו לכלי AI חיצוני. אם יש צורך אמיתי, מבררים קודם מול הגורם האחראי על פרטיות בארגון.
5. בדיקת תוצרים. כל תוצר שמשמש בעבודה נבדק על ידי אדם: עובדות, מספרים, מקורות וניסוח.
6. אחראי ותיעוד. מגדירים מי אחראי על המדיניות, איפה היא מתועדת ולאן פונים כשיש ספק או אירוע.
7. הדרכה. העובדים מקבלים הסבר קצר עם דוגמאות, ומתעדכנים כשהמדיניות משתנה.

אין בקריאת המדריך או בפנייה לשירות כדי להבטיח עמידה בתקן או בדין, והמדריך אינו ייעוץ משפטי.

AI מגביר גם הונאות ופישינג

כלי AI מקלים על כתיבת הודעות משכנעות, בלי השגיאות שפעם סייעו לזהות הונאה, ועל התחזות בקול ובווידאו. זו מגמה כללית שמתוארת בהרחבה, ואין לנו נתונים מדויקים על היקפה בישראל. המשמעות המעשית: אי אפשר להסתמך רק על "ההודעה נראית מוזרה", וכדאי שעובדים יתרגלו זיהוי הודעות חשודות ויאמתו בקשות רגישות בערוץ נוסף.

דרך מעשית לבדוק את המודעות בארגון היא תרגיל פישינג. תרגיל פישינג מתבצע מול עובדים, ולכן כדאי לוודא מראש שהוא מותר בארגון ושניתנה לעובדים הודעה מתאימה, בהתייעצות עם הגורם המשפטי או הממונה על הפרטיות בארגון. PhishingU מציעה סימולציית פישינג לעובדים בשירות עצמי מ-₪999* לקמפיין (תשלום חד-פעמי, לעד 100 עובדים), כפי שמופיע בעמוד המוצר של PhishingU. המחיר והתנאים המחייבים הם אלה שמופיעים באתר PhishingU בעת ההזמנה. לפתיחת אשף ההקמה.

* הקמה מהירה, נדרשת פעולת הלבנה אחת על ידי ה-IT, והשיגור כפוף לבדיקת אבטחה של עד 24 שעות

הדרכה ומדיניות: מה אפשר לעשות

• הדרכת מודעות לשימוש בטוח ב-AI. לפי עמוד ההדרכה ב-PhishingU, זו הדרכה פרונטלית או מרחוק (Zoom/Teams/Google Meet). המחיר והתנאים העדכניים מפורסמים באתר PhishingU. בדקו באתר PhishingU את התנאים העדכניים.
• ממשל AI ומדיניות. SYBER מציעה ייעוץ בנושא ממשל בינה מלאכותית ו-ISO 42001, תקן לניהול מערכות AI בארגון. יישום מדיניות אינו הסמכה, וההסמכה היא תהליך נפרד.
• מיפוי סיכונים. סקר סיכונים או שירות CISO כשירות ייתכן שיתאימו לארגון שאין בו בעל תפקיד כזה. לפנייה ישירה: יצירת קשר עם SYBER.

אין בקריאת המדריך או בפנייה לשירות כדי להבטיח עמידה בתקן או בדין, והמדריך אינו ייעוץ משפטי.

איך מתחילים: חמישה צעדים

1. בררו בשיחה קצרה עם העובדים באילו כלי AI הם כבר משתמשים ולמה. זה מראה את היקף ה-Shadow AI האמיתי.
2. בחרו כלים מאושרים ותוכניות מתאימות לעבודה, ובדקו בתנאי השימוש שלהם מה קורה למידע שמוכנס.
3. כתבו מדיניות של עמוד אחד לפי הרשימה שלמעלה, בשפה פשוטה ועם דוגמאות.
4. הדריכו את העובדים ובדקו שההנחיות מובנות ומיושמות בפועל.
5. חזרו על הבדיקה אחת לתקופה, כי הכלים והסיכונים משתנים מהר.