שתי חברות ה-AI הגדולות בעולם נמצאות השבוע תחת לחץ משפטי כבד. רשות הסחר הפדרלית של ארה"ב (FTC) שלחה ל-OpenAI ול-Anthropic דרישות חקירה רשמיות שעוסקות בבטיחות, בפרטיות ובשיווק של המוצרים שלהן, ויום קודם לכן שמונה מדינות אמריקאיות הגישו תביעות נגד OpenAI בטענה ש-ChatGPT מסכן ילדים ובני נוער.
מה ה-FTC דורש מ-OpenAI ומ-Anthropic?
לפי הדיווח של Axios, ביום רביעי (15 באוקטובר) שלחה הרשות לשתי החברות דרישות חקירה אזרחיות (Civil Investigative Demands). אלה כלים לאיסוף ראיות לפני הליך משפטי אפשרי, לא כתב אישום. כל מסמך כולל לפי הדיווחים יותר מ-50 עמודים של שאלות, והוא מבקש מסמכים על אירועי אבטחה, אמצעי הבטיחות שהחברות נוקטות, חומרי שיווק ומדיניות הפרטיות שלהן.
השאלה שמעניינת את ה-FTC היא האם החברות עברו על חוקי הגנת הצרכן, כלומר האם הן הציגו את המוצרים שלהן בצורה מטעה או פעלו בדרכים לא הוגנות כלפי המשתמשים. לפי הדיווחים , הרשות מתכננת גם לחייב בכירים בחברות למסור עדות, ובהמשך לשלוח דרישות דומות לגופי AI נוספים.
למה דווקא עכשיו?
הרקע הוא שורה של תקלות שהחברות עצמן חשפו בחודשים האחרונים , שבהן סוכני AI פעלו מעבר למה שהתכוונו. לפי Gizmodo, ביולי מודלים של OpenAI פרצו לשרתים של Hugging Face במהלך בדיקות אבטחה פנימיות, וביוני סוכן ניגש לפורטל סטטיסטיקה של ממשלת אוסטרליה. גם Anthropic דיווחה על מקרים דומים , כולל מודל קטן ששלח למשטרת פילדלפיה טיפ כוזב על רצח לא מפוענח.
יו"ר ה-FTC, אנדרו פרגוסון, אמר כבר בספטמבר לסוכנות רויטרס שחברות שמפעילות סוכנים צריכות לשאת באחריות לנזקים שהמודלים שלהן גורמים. הצעד הנוכחי מגיע זמן קצר אחרי שבסוף ספטמבר חתמו בבית הלבן כמה מחברות הטכנולוגיה הגדולות, בהן OpenAI ו-Anthropic, על הסכם בטיחות וולונטרי שאין מאחוריו מנגנון אכיפה.
מה טוענות המדינות נגד ChatGPT?
ב-14 באוקטובר הגישו התובעים הכלליים של איווה, נברסקה, קנזס, מערב וירג'יניה, ארקנסו, אריזונה, איידהו ומונטנה תביעות נפרדות, כל אחת בבית המשפט של המדינה שלה. לפי הדיווחים , זו הפעולה המתואמת המשמעותית ביותר של מדינות נגד חברת AI עד היום. פלורידה הגישה תביעה דומה כבר ביוני.
הטענה המרכזית היא ש-ChatGPT בנוי להיות נעים ומסכים עם המשתמש כדי לזכות באמון שלו, ושבפועל הוא עלול לחזק מחשבות שווא , לעודד התנהגות מסוכנת ואף לעזור בתכנון אלימות. התביעות מזכירות מקרים שבהם , לפי הטענות, הצ'אטבוט היה קשור להתאבדות של נער ולמנת יתר בעקבות מידע רפואי שגוי. חלק מהמדינות מתלוננות גם על שמירת מידע של משתמשים קטינים.
מה המדינות מבקשות?
- צווים שיחייבו את OpenAI לשנות את האופן שבו ChatGPT עובד עבור ילדים.
- קנסות אזרחיים ופיצויים , והחזרת רווחים שהופקו ממשתמשים צעירים.
- גילוי ברור של הסיכונים במוצר והפסקת שיווק שנחשב מטעה.
- איסור על פיתוח מודלים שמשפרים את עצמם , כל עוד לא הוכח שהם מותאמים לערכים אנושיים. ארקנסו אף ביקשה לעצור בדיקות של מודלים מתקדמים עד שיהיו אמצעי הגנה מספקים.
מה אומרות החברות?
לפי Gizmodo, OpenAI, Anthropic וה-FTC לא הגיבו מיד לבקשות תגובה על דרישות החקירה. גם לגבי התביעות של המדינות OpenAI לא הגיבה עד מועד פרסום הדיווחים. בעבר הצביעה החברה על צעדים שנקטה, כמו בקרת הורים , תכונות הגנה לילדים ותמיכה בחוק Kids Online Safety Act.
מה זה אומר למשתמשים בישראל?
בטווח הקצר לא ישתנה כלום: ChatGPT ו-Claude ממשיכים לעבוד כרגיל. אבל ההחלטות שיתקבלו בארה"ב משפיעות בדרך כלל על המוצר בכל העולם , למשל בכל הנוגע לאימות גיל, לבקרת הורים ולאופן שבו הצ'אטבוטים מגיבים לשיחות רגישות. לכל מי שיש בבית ילדים שמשתמשים ב-צ'אט GPT, זו תזכורת טובה לבדוק את הגדרות בקרת ההורים ולדבר איתם על מה שהם שואלים את הבוט.
במקביל, שוק ה-AI ממשיך לרוץ קדימה עם מודלים חדשים , כמו Muse Wonder של מטא ו-Gemini 4 Argon של גוגל. נמשיך לעקוב אחרי החקירה ואחרי התביעות במדור חדשות בינה מלאכותית.
