ראש ממשלת שוודיה מוקסם בשל שימושו ב-ChatGPT בהחלטות הממשלה

ראש ממשלת שוודיה, אולף כריסטרסון, נתקל בביקורת לאחר שהוא הודה שהשתמש ב-ChatGPT כדי ליצור רעיונות להחלטות ממשלתיות.

ראש ממשלת שוודיה, אולף קריסטרסון, מתמודד עם גל פליטיקה ציבורית מוגברת לאחר שחשף את השימוש שלו ב-ChatGPT ו-LeChat כדי לסייע בתהליך ההחלטות הרשמי שלו.

"אני משתמשת בה לא מעט עצמאית. אם אין לזה שום מטרה אחרת, אז רק לקבלת דעה שנייה," אמרה קריסטרסון כפי שדווח בהגרדיאן. "מה עשו אחרים? והאם אנחנו צריכים לחשוב בדיוק ההפך? שאלות מסוג זה."

המשפט שלו הביא לתגובות לא חיוביות, עם Aftonbladet שמאשימה אותו כי נפל ל"פסיכוזיס של AI של האוליגרכים", כפי שדווח בהגרדיאן. הביקורתים טוענים שהתלות ב-AI עבור שיפוט פוליטי היא חסרת אחריות ואנדמוקרטית.

"אנחנו חייבות לדרוש שניתן להבטיח את האמינות. לא הצבענו עבור ChatGPT", אמרה וירג'יניה דינגום, פרופסור לAI אחראי באוניברסיטת אומיא.

דוברו של קריסטרסון, תום סמואלסון, הפחית מהמחלוקת, אומר: "כמובן שמידע שהוא לא רגיש מבחינת הביטחון אינו מגיע לשם. השימוש בו הוא יותר כאיזון כללי", כך דווח על ידי The Guardian.

אך מומחי הטכנולוגיה אומרים שהסיכונים חורגים מעבר לרגישות הנתונים. פרופסורית סימון פישר-הובנר מאוניברסיטת קארלסטאד ממליצה שלא להשתמש ב-ChatGPT ובכלים דומים למשימות עבודה רשמיות, כפי שצוין ב-The Guardian.

חוקר הAI דיויד באו הזהיר שניתן לשחזר מודלים של AI. "הם הראו דרך שבה אנשים יכולים להזיז את האג'נדות הסמויות שלהם לתוך נתוני האימון, שיהיה קשה מאוד לאתרם." מחקר מראה רמת הצלחה של 95% בהטעיית מערכות AI באמצעות הזרקת זיכרון או התקפות "החדירה לקובץ הכללים", מעלה חששות לגבי התערבות בלתי נראית בהחלטות פוליטיות.

סיכונים נוספים מגיעים מהפוטנציאל של הAI להרוס את הדמוקרטיה. מחקר שהתפרסם לאחרונה מזהיר שמערכות תוכנה מבית AI באכיפת החוק מרכזות את הכוח, מפחיתות את הפיקוח ועלולות לקדם אותוריטריות.