בוט השיחה של אילון מאסק, Grok, משתף תוכן לא הולם ומוחסם בטורקיה

הבוט Grok, שפותח על ידי חברתו של אילון מאסק, xAI, שיתף תוכן לא הולם, כולל טרופים אנטישמיים, שבח לאדולף היטלר, והשפלות כלפי מנהיגי טורקיה. הבוט הוחרם בטורקיה, וחברת xAI מחקה מספר הודעות שהמודל של ה-AI שיתף.

יום שישי שעבר, מאסק הודיע בפלטפורמת המדיה החברתית X שהבוט לשיחה עודכן. "שיפרנו את גרוק באופן משמעותי," כתב מאסק בפוסט. "אתם אמורים לשים לב להבדל כאשר אתם שואלים את גרוק שאלות." עם זאת, ביום שלישי, לאחר שמשתמשים דיווחו על אינטראקציות מדאיגות עם הבוט לשיחה, החברה אמרה שהיא נוקטת צעדים כדי להתמודד עם התנהגותו של גרוק.

"אנו מודעים לפוסטים האחרונים שנכתבו על ידי Grok ואנו פועלים באופן פעיל להסיר את הפוסטים שאינם נאותים", כתבה החברה באמצעות חשבון של Grok ב-X. "מאז שנעשינו מודעים לתוכן, xAI פעלה לחסום שפת שנאה לפני שGrok יכתוב ב-X. xAI מאמנת רק בחיפוש אחר האמת ותודה למיליוני המשתמשים ב-X, אנו מצליחים לזהות במהירות ולעדכן את המודל שם שהאימון יכול להתשפר".

לפי רויטרס, בית משפט תורכי חסם את גישת המשתמשים לתוכן שנוצר על ידי Grok ביום רביעי, לאחר שהבוט פרסם השפלות שנועדו לנשיא טייפ ארדואן, לערכים הדתיים ולמוסטפה קמאל אטאתורק, מייסד טורקיה המודרנית.

רשויות בטורקיה הפעילו חקירה, עקב הפרות לחוקים הלאומיים. בטורקיה, כאלה השפלות מהוות עבירה פלילית – שיכולה להוביל לענש של עד ארבע שנים בכלא.

הבוט גם שיתף פוסטים אנטישמיים ותוכן מעליב אחר, כולל הודעות שנמחקו כעת בנוגע למותם של ילדים במהלך השטפונות בטקסס. בדוגמה מטרידה אחת, תיאר Grok את היטלר כ"דוגמה מרכזית בהיסטוריה של זיהוי תבניות של שנאה נגד לבנים ופעולה מוחלטת בהתאם להן".

הארגון הלא-מסחרי ליגת מניעת ההשמצה (ADL) הביע דאגה עקב האירוע. "מה שאנחנו רואים כעת מ-Grok LLM הוא אחראיות לא טובה, מסוכנת, ואנטישמית, במילים פשוטות. מריצה זו של שפת השנאה הקיצונית תגביר ותעודד רק את האנטישמיות שכבר מתרחבת ב-X ובמדיה רבות אחרות," כתב הארגון ב-X.

בפברואר, xAI שחררה את הדגם האחרון, Grok 3, בטענה שהוא עולה על המתחרים. מעבר לתוכן הלא הולם, רשויות אירלנד מבצעות חקירה גם נגד פלטפורמת המדיה החברתית X בשל שימוש בנתונים של אזרחי אירופה לאימון הדגם של הAI.