איך מתמודדים עם טעויות של בינה מלאכותית? מדריך לעסקים

מה הבעיה שמטרידה עסקים?

בינה מלאכותית היא כבר לא משהו שאנחנו רואים רק בסרטים עתידניים. היא כאן, בעסק שלנו, בכל מקום ולפעמים גם אם אנחנו לא מודעים לכך. היא עוזרת לנו למכור, לנתח נתונים, ואפילו לדבר עם לקוחות דרך צ'אטבוטים שמדברים מהר יותר מהמנכ"ל שלנו ביום לחוץ. אבל עם כל הטוב הזה, יש גם צד אפל: מה קורה כשהיא עושה טעות?

זו השאלה הגדולה: מי אשם? הצ'אטבוט? החברה? או אולי בכלל הספק של הטכנולוגיה?

וזה לא סתם. תראו בקישור. צ'אטבוט של אייר קנדה הבטיח הנחה משמעותית ללקוח. הנחה שלא היתה ולא נבראה. אייר קנדה חוייבה לכבד את מה שהבטיח הבוט שלה. טענתה ש"הבוט אחראי למה שהוא אומר ולא אנחנו" – נדחתה. אייר קנדה חויבה לעמוד בהבטחות של הבוט שלה.

אלא שאת הבעיה הזו ממש אפשר לפתור בייעוץ משפטי, במשרדנו.

בישראל, נכון למועד כתיבת פוסט זה (דצמבר 2024) אין חקיקה ספציפית שקובעת אחריות כזו או אחרת. עורך הדין יפנה לחקיקה ספציפית דוגמת חוק הנזיקין, חוק החוזים וחוק הגנת הצרכן.

כשמשהו משתבש, הלקוח ינסה למצוא מי אשם (ספוילר: זה בדרך כלל לא הבוט).

האתגרים המרכזיים שחשוב שתשימו לב אליהם

1. טעויות מביכות, אבל מסוכנות

נניח שאתר מסחר אלקטרוני מפעיל מערכת שממליצה ללקוחות על מוצרים מתאימים, אבל בגלל טעות מקבל הלקוח המלצה לא קשורה לחלוטין. הוא לא שם לב, מזמין את המוצר ואחר כך בא בטענות אליכם – למה מכרתם לו משהו שלא עוזר לו?

מה עושים?

מבחינה טכנולוגית חשוב לשים לב שהמערכת מבוססת על נתונים עדכניים ונכונים. אבל גם אזהרות משפטיות הן חשובות ביותר. אפילו משפט קצר – "שימו לב, המערכת שלנו מבוססת בינה מלאכותית ועלולה לטעות. אנא בידקו את המלצותיה מכיוון שאנחנו לא נהיה אחראים להן". ופתאום הדברים כבר לא שחורים לגמרי. כמובן שיש להעזר בעורך דין מומחה על מנת להתאים את ההסתיגות לעסק שלכם.

2. פרטיות

בינה מלאכותית אוהבת נתונים. המון נתונים, תוני עתק. אבל היו כבר מצבים בהם נתוני הלקוחות לא הוגנו כמו שצריך או נחשפו בפני מי שלא היה נדרש לכך. התוצאה: תיקון 13 לחוק הגנת הפרטיות מקרב אותנו מאוד לקנסות, עיצומים, תביעות ובכלל – לא מעט צרות.

מה עושים?

חשוב לוודא שהעסק שלכם עומד בדרישות חקיקת הגנת הפרטיות (בארץ ואולי גם באירופה, ארה"ב או מדינות רלוונטיות). למעשה, זו חובה. לא המלצה.

וודאו שהתקנתם נהלי פרטיות מספקים, וודאו שיש לכם אחראי על הנושא הזה שבודק שאתם עומדים בדרישות החוק, תתייחסו לפרטיות בכל שירות שאתם מספקים או מוצר שאתם מוכרים. שימו לב גם שבמקרים רבים תתכן אחריות מנהלים ודירקטורים להפרות האלו, אז וודאו שקיבלתם יעוץ משפטי מספק ופעלתם לפיו.

גם מדיניות פרטיות ברורה ועדכנית היא חובה, לא המלצה.

3. עובדים שלכם משתמשים בבינה מלאכותית.

פעמים רבות, העובדים עושים שימוש במערכות טכנולוגיות כדי להקל על עצמם והם אפילו לא מספרים לכם על כך. אם לא תתמודדו עם תקלה כזו מראש, הדבר עלול לגרום לתקלות רבות (כמו שקרה לסמסונג שבטעות הודלפו סודות מסחריים שלה בגלל שימוש לא נכון של העובדים בבינה מלאכותית).

ככל שתפעלו אקטיבית להדריך את העובדים על שימוש בבינה מלאכותית (לא בהכרח במסגרת העבודה), ותעזרו בעורך הדין שלכם ליצור מדיניות בינה מלאכותית ייעודית עבורכם – הסכנה תקטן.

4. קבלת החלטות בעזרת "קופסה שחורה"

עסקים נעזרים כיום בבינה מלאכותית להרבה נושאים והחלטות. ביניהן גם החלטות קריטיות כמו סינון מועמדים לעבודה או בדיקת אשראי. אבל מה עושים כשההחלטה המתקבלת מסתברת כלא הוגנת ואולי מפלה? הרי לקוחות יכעסו, ותביעות יתחילו לזרום.

מה עושים?

מנסים ככל האפשר לעשות שימוש בכלים שקופים וברורים. כאלו שמסבירים מה היתה הדרך שלהם להשגת ההחלטה. אבל לא רק זה. למעשה, מבינים שבינה מלאכותית זה כלי. מסייע. לכם. האחריות הסופית היא שלכם. לכן עוברים על ההחלטה ומוודאים שהיא נכונה והגונה. שילוב שיקול הדעת האנושי בתהליכי החלטות קריטיים הוא הכרחי.

אז איך נגן על עצמנו?

דואגים לחוזים טובים

חוזים הם המגן שלנו. חשוב לוודא שעושים שימוש בבינה מלאכותית שההסכם בינך לבין ספק הבינה מתאים לדרישותיך ממנה. במיוחד כאשר מדובר במנועי בינה מלאכותית שהותאמו ספציפית לעזסק שלכם, אבל לא רק שם.

מתייעצים עם סוכן ביטוח

באמת צריך להסביר. אמנם בשלב זה ביטוחים המכסים בינה מלאכותית אינם נפוצים, אבל ככל שהמעורבות האנושית מוגברת – מצבכם ישתפר.

מפקחים על המערכת

תמיד צריך לזכור שבינה מלאכותית היא כלי עזר. לא עובד עצמאי. חשוב ליצור נהלי עבודה מסודרים (באמצעות שילוב בין אנשי טכנולוגיה ועורכי דין מיומנים) ויקימו מנגנוני פיקוח ובקרה על המערכת. בסופו של יום, מוטב שאתם תפקחו על המערכת מאשר שתקבלו תביעות.

תקלה יכולה לקרות גם אם לא בחרתם להשתמש במערכת

שימו לב. האם מישהו מהעובדים שלכם עשה שימוש במערכת בינה מלאכותית לצרכיו האישיים או למשהו שקשור בעבודתו? מי שעונה "לא" לשאלה הזו כנראה לא מבין מה קורה בעסק שלו…

אם לא הסדרתם מול העובדים שלכם את נהלי והתנהלות השימוש בבינה המלאכותית (לפעמים גם לצרכים שאינם בהכרח לעבודה, אבל משפיעים עליה) – תמצאו את עצמכם עומדים בפני בעיה.

לכן, דברו עם עורך דין מומחה שישב אתכם או עם אנשי הטכנולוגיה שלכם, יצור מדיניות בינה מלאכותית ספציפית ויתאים אותה לעסק שלכם.

לסיכום: איך אנחנו יכולים לעזור לכם?

משרד שמבין בינה מלאכותית, ישתף אתכם פעולה בהכנת נהלים מתאימים וייעץ בנושאים ספציפיים. באמצעות יעץ מראש, לפני שבכלל התעוררה בעיה, תוכלו לחסוך תביעו עתידיות ללא סוף.

צרו איתנו קשר ודברו איתנו. אנחנו פה בשבילכם.