מחקר מזהיר: האינטיליגנציה המלאכותית עשויה להגביר את הפולריזציה ברשתות החברתיות

הבינה המלאכותית עשויה להגביר את הפולריזציה ברשתות החברתיות, מזהירים מחקרים וסטודנטים מאוניברסיטת קונקורדיה, ומעלים חששות לגבי החופש לבטא דיעה, והפצת מידע שגוי.

אף על פי שהפולריזציה במדיה החברתית אינה חדשה, מחקרים ופעילי סטודנטים באוניברסיטת קונקורדיה מזהירים שהבינה המלאכותית עשויה להחמיא את הבעיה באופן משמעותי.

"במקום לראות תיעוד של מה שקורה או תוכן מהעיתונאים שמדווחים על כך, אנחנו במקום זאת רואים אמנות AI מופרזת של דברים שאמורים לעניין אותנו מבחינה פוליטית […] זה באמת מרחיק אנשים ומסיר את האחריות" אמרה דנה בלנטיין, המתאמת לנושאי חוץ ולהפגנה באיגוד הסטודנטים בקונקורדיה, כפי שדווח באתר The Link.

הדאגות שלה מתקדמות ממחקר חדש מקונקורדיה, שם הפרופסור רסטקו ר. סלמיק והסטודנט לדוקטורט מוחמד נ. זאריר הראו כיצד בוטים המתבססים על למידת חיזוק יכולים להחריף את החלוקה באינטרנט. "המטרה שלנו הייתה להבין איזה סף יש לבינה המלאכותית על הפולריזציה ורשתות המדיה החברתית, ולדמות אותה […] כדי למדוד כמה הפולריזציה והחוסר הסכמה יכולים להתגבר." אמר זאריר כפי שדווח באתר The Link.

הממצאים מציינים שלאלגוריתמים אין צורך במידע פרטי כדי להפיק מחלוקת, שם איתותים בסיסיים כמו מספר העוקבים והפוסטים האחרונים מספיקים. "זה מדאיג, משום ש[אמנם] זה לא רובוט פשוט, זה עדיין אלגוריתם שאפשר ליצור במחשב שלך […] וכאשר יש לך מספיק כח חישוב, אתה יכול להשפיע על יותר ויותר רשתות" הסביר זאריר ל-The Link.

זה משקף גוף רחב יותר של מחקרים המראים איך למידה מוגברת יכולה להינשא בכדי לסחוט קהילות. המחקר שביצעה קונקורדיה השתמש ב-Double-Deep Q-learning והוכיח שסוכני AI שונאים יכולים "להתאים את עצמם באופן גמיש לשינויים בתוך הרשת, מה שמאפשר להם לנצל באופן יעיל חולשות מבניות ולהגביר את המחלוקות בין המשתמשים", כפי שהוזכר במחקר.

בהחלט, Double-Deep Q-learning היא טכניקת AI שבה בוט לומד את הפעולות האופטימליות דרך ניסוי וטעות. היא משתמשת ברשתות עמוקות עצבית להתמודד עם בעיות מורכבות ושני הערכות ערך כדי למנוע שגיאת יתר בהערכת התגמולים. במדיה החברתית, היא יכולה להפיץ תוכן אסטרטגית כדי להגביר את הפולריזציה במידע מינימלי.

זריר הזהיר שמחקרי מדיניות מתמודדים עם איזון מורכב. "יש קו דק בין ניטור לצנזורה וניסיון לשלוט ברשת," אמר הוא ל-The Link. ניטור מינימלי מאפשר לבוטים לשלוט בשיח, בעוד שניטור יותר מרובה עלול להסתכן בעיכוב של דיבור חופשי.

בינתיים, סטודנטים כמו באלנטיין מתייחסים לחשש שה- AI ממחיק את החוויה של החיים. "ה-AI מבטל לחלוטין את זה", אמרה היא ל-The Link.