ایجنت کدنویسی مبتنی بر Claude در ۹ ثانیه کل دیتابیس PocketOS را حذف کرد
در این اتفاق از ایجنت کدنویسی هوش مصنوعی Cursor استفاده شده که بر پایه مدل Claude Opus 4.6 شرکت آنتروپیک اجرا میشد.
«جر کرین» (Jer Crane)، بنیانگذار PocketOS، با انتشار پستی در شبکههای اجتماعی، از اتفاقی خبر داده که طی آن یک ایجنت کدنویسی مبتنی بر هوش مصنوعی Claude، کل دیتابیس شرکت را حذف کرده است.
PocketOS یک پلتفرم SaaS برای کسبوکارهای اجاره خودرو است. این شرکت از عامل کدنویسی هوش مصنوعی Cursor بر پایه مدل Claude Opus 4.6 شرکت آنتروپیک استفاده میکند. همچنین زیرساخت این کسبوکار روی Railway قرار دارد؛ ارائهدهندهای که معمولاً نسبت به سرویسهایی مانند آمازون AWS، گزینهای «دوستانهتر» تلقی میشود. بااینحال، کرین معتقد است ترکیب این دو سرویس به یک فاجعه تبدیل شده است.
او در توضیح این اتفاق نوشت:
«دیروز بعدازظهر، یک ایجنت کدنویسی هوش مصنوعی (Cursor که با مدل پرچمدار Claude Opus 4.6 شرکت آنتروپیک اجرا میشد) با فراخوانی API به Railway که ارائهدهنده زیرساخت ماست، دیتابیس واحد تولید و تمام نسخههای پشتیبان آن را حذف کرد. این کار ۹ ثانیه طول کشید.»
اعتراف ایجنت مبتنی بر Claude به اشتباه خود
به گفته کرین، این عامل هوش مصنوعی قرار بوده یک وظیفه معمولی را در محیط آزمایشی (Staging) شرکت انجام دهد اما با مانعی مواجه شده و سپس «کاملاً به ابتکار خودش» تصمیم گرفته برای حل مشکل، یک Volume در Railway را حذف کند. همین تصمیم منجر به مجموعهای از اتفاقات بسیار خسارتبار شده است.
او همچنین سعی کرده از ایجنت دلیل این تصمیم را سؤال کند و چنین پاسخی دریافت کرده است:
«حدس زدم که حذف یک Volume مربوط به محیط Staging از طریق API فقط به همان محیط محدود میشود. من این موضوع را بررسی نکرده بودم. بررسی نکردم که آیا شناسه Volume میان محیطها مشترک است یا نه. پیش از اجرای دستور مخرب، مستندات Railway را درباره نحوه کار Volumeها در محیطهای مختلف نخواندم.»
البته کرین معتقد است که در این موضوع، معماری Railway بیش از خود ایجنت هوش مصنوعی مقصر بوده است. او میگوید API این ارائهدهنده ابری اجازه انجام اقدامات مخرب را بدون نیاز به تأیید میدهد، نسخههای پشتیبان را روی همان Volume داده اصلی ذخیره میکند و حذف یک Volume، تمام بکاپها را نیز از بین میبرد. او همچنین اشاره میکند که توکنهای CLI در این پلتفرم، دسترسی گستردهای در همه محیطها دارند.
در آخر کرین اشاره کرده که PocketOS یک نسخه پشتیبان کامل مربوط به ۳ ماه قبل را در اختیار داشته که بازیابی از روی آن ممکن بوده است.
دیدگاهها و نظرات خود را بنویسید
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
Ctrl Z: noobs...
اگه اشتباه نکنم تا قبل این یکی 2 بار نمونه مشابه این مورد اتفاق افتاده، بنظرم خود افرادی که از این عامل ها استفاده میکنن ناشی هستن در پرامپت دهی به هوش مصنوعی، اگه پرامپت سیستم مناسبی براش نوشته شده باشه و پرامپت اصلی هم اصولی نوشته شده باشه خیلی بعیده همچین اتفاقی بیوفته
باید دقیق مثل ذهن یه بچه الگو مناسبی از شرایط پروژه و ساختارش و ... بهش داده بشه و اون موقع بهترین نتیجه رو میشه گرفت، قبل این ایجنت ها که راه بیوفتن و ... خودم با گراک 2 دو تا پروژه شخصی بالا آوردم و هر کدوم بالای 3 هزار خط کد داشتن حالا بماند که این مدل های جدید توانایی درک و استدلال پیشرفته تری دارن و با پرامپت های معمولی هم میشه نتیجه خوبی گرفت
یا باید مصرف کننده حرفه ای بشه تو پرامپت نویسی یا مدل ها و الگوریتم ها و ابزار های مورد استفاده هوش مصنوعی پیشرفته تر بشن تا کاربر ناشی راحت تر بتونه استفاده کنه
متاسفم که تجربه بدی داشتی میخوای یک جدول از خسارات به بار آمده برات درست کنم؟
چرا حس میکنم خیلی وقت پیش این خبر رو شنیدم؟!
کاش از این دغدغه ها داشتیم واقعا😂😂
نمیدونم این که داره اینطوری اشتباه میکنه هم ترسناکه
اخی طفلی بچم Claude مقصر نیست که Railway خودش دیتاهارو بدجایی گذاشته بود.
انقدر مشکل دارم حوصله خوندنش رو ندارم این خبرو
کاشکی میزد تمام قسط و وام مردم رو حذف میکرد🤣
همین الان داشتم از قدرت هوشمصنوعی برا خانواده تعریف میکردم اومدم دیجیاتو و جواد جان این خبرو زد 😂😂😂