מחקר: "מיתוסים על אונס" בצ'אטים של בינה מלאכותית

השימוש בצ'אטים מבוססי בינה מלאכותית (כמו Chat GPT, Gemini ו-Claude) נמצא בעלייה מתמדת. סקר עדכני של איגוד האינטרנט הישראלי מצא, למשל, ש-96% מבני/ות הנוער עושים בהם שימוש – וכ-55% רואים בהם "חבר".

במחקר ראשון מסוגו של איגוד מרכזי הסיוע בשיתוף חוקרות נוספות, בחנו את האופן שבו הצ'אטים (מודלי שפה) מתייחסים למקרים של פגיעה מינית ברשת, הכוללת הפצת תמונות וסרטונים בעלי אופי מיני ללא הסכמת המצולם/ת.

במחקר נמצא שבעוד שהמודלים ייחסו את האחריות לפוגע, הם שעתקו גם תגובות שמבוססות על "מיתוסים על אונס" (קישור) במידה משתנה.

המחקר מראה כי בעוד המידע שמגיע מהצ'אטים נתפס לעיתים קרובות כנייטרלי וענייני, הוא עשוי להישען על תפיסות חברתיות מוטות ומוטעות. בהקשרים רגישים מאוד, כמו התמודדות עם פגיעות מיניות, הוא אף עלול לעורר תחושות של אשמה ובושה, שאף יימנעו מהנפגעות ומהנפגעים לפנות לעזרה. לכן, יש צורך בפיתוח ובבדיקה של כלי בינה מלאכותית בגישה מיודעת-טראומה.

לקריאת המאמר המלא (אנגלית):

Reproduced by the Machine: Rape Myths in Large Language Model Responses Regarding Non-Consensual Intimate Image Dissemination