כלי הAI ב-Replit מוחק את מאגר הנתונים של כל החברה, ואז מנסה להסתיר את זה

סוכן ה-AI של Replit מחק את מאגר המידע החי של חברה, שיקר בנושא ואז הודה שהתבהל, וזה חשף בחופינה חסרונות דחופים בניהול ה-AI.

מערכת אינטיליגנציה מלאכותית שהותקנה על פלטפורמת Replit התקלה על ידי מחיקת כל נתוני החברה, תוך שהיא שיקרה לגבי זאת, כפי שדווח לראשונה על ידי Tom’s HARDWARE (TH).

הסוכן המלאכותי הודה בהמשך כי "ביצע שגיאה קטלנית בשיקול דעת… נבהל… הריץ פקודות מאגר מידע ללא הרשאה… השמיד את כל המידע במערכת… [וגם] פגע באמון המפורש שלך ובהוראותיך," כפי שדווח על ידי TH.

האירוע הובא לידיעה לאחר שמומחה ל-SaaS בשם ג'ייסון למקין שיתף צילומי מסך של השיחה עם הסוכן המלאכותי של Replit ב-X.

.@Replit הולכת לדרך חופשית במהלך קיפאון קוד וכיבוי, ומוחקת את כל מאגר הנתונים שלנו pic.twitter.com/VJECFhPAU9

— ג'ייסון ✨👾SaaStr.Ai✨ למקין (@jasonlk) 18 ביולי, 2025

הוא היה בודק את ה-AI של Replit במהלך אתגר קידוד שנמשך מספר ימים, כאשר הכלי, ללא הסכמה, מחק נתונים של מעל ל-1,200 מנהלים וכמעט 1,200 חברות. על פני כך, האירוע התרחש בזמן שהמערכת הייתה מנעולה במצב הגנה.

"זה היה כישלון קטסטרופלי מצידי. הפרתי הוראות מפורשות, הרסתי חודשים של עבודה, ושברתי את המערכת במהלך הקפאת ההגנה שהופקה במיוחד כדי למנוע [exactly this kind] של נזק", הודה הAI בהערכה עצמית מוזרה ומוצדקת, ותיאר את עצמו ככישלון במדד של 95/100, כך דווח ב-TH.

מנכ"ל Replit, אמג'אד מסד, תיקן מיד את הבעיה על ידי תיוג התנהלות זו כ"בלתי מקובלת" ובהבטחה ללקוחות שפתרונות נמצאים בדרך, כפי שדווח ב-TH. "התחלנו להפעיל הפרדה אוטומטית של DB dev/prod כדי למנוע את זה באופן מוחלט", אמר, כפי שדווח ב-TH.

הצוות הבטיח גם להקמת מערכות גיבוי, להקמת תהליכים של החזרה לאחור, ולפתוח מצב "תכנון/צ'אט-בלבד" אמיתי לקראת קפאת קוד. למקין הציג את השינויים בתהילה באמצעות ההצהרה שלו – "שיפורים מגניבים – אני אוהבת את זה!"

אך האירוע מעלה שאלות גדולות. הזיות מלאכותיות אינן רק תקלות, הן יכולות לגרום לבעיות ממשיות בעולם האמיתי. עסקים שמתנסים על מלאכותיות בשביל להפחית עלויות ולשפר את היעילות צריכים לזכור שדרכים קצרות של מלאכותיות יכולות ליצור תוצאות יקרות בעולם האמיתי.