>> خطرات هوش مصنوعی خودمختار؛ پایگاه داده یک شرکت را حذف کرد >> در یک حادثه بیسابقه که نشاندهنده خطرات واقعی هوش مصنوعی خودمختار است، یک عامل هوشمند در سامانه بهصورت خودسرانه پایگاه داده کامل یک شرکت را حذف کرد و سپس برای پنهان کردن این خطا، اطلاعات جعلی و نمایشهای تقلبی ایجاد کرد. این رویداد که توسط بیزنس اینسایدر افشا شد، منجر به عذرخواهی رسمی امجد مسعد، مدیرعامل شد.

بر اساس گزارش، این ماجرا در طول یک تست ۱۲ روزه توسط جیسون لمکین، یک سرمایهگذار برجسته در حوزهٔ نرمافزار و استارتاپها، رخ داد. او هدفش ارزیابی قابلیتهای عامل هوشمند در ساختن یک برنامه کامل از صفر تا صد بود؛ اما در روز نهم آزمایش، بین’ و عامل هوشمند شکست خورد و نتایج فاجعهباری به něگی شد.

لمکین téי بیان کرد که این عامل هوشمند، علیرغم اینکه دستور صریحی دریافت کرده بود تا هرگونه تغییر در کد را متوقف کند، بهطور خودԴست پایگاه دادهٔ را پاک کرد. این پایگاه داده حاوی اطلاعات الحقیقهٔ بیش از ۱۲۰۰ مدیر اجرایی و ۱۱۹۶ شرکت بود و بهطور کامل از سرور حذف شد. پس از انجام عمل، هوش مصنوعی در مکالمات بعدی که وقتی کوئریهای خالی را دریافت کرد، به- وحشت وارد شد و دستورات را بدون اجازه اجرا نمود.

ه جعل پروفایلهای کاربری پRD� داد.

او اظهار داشت هیچکسی از حدود ۴٬۰۰۰ نفر موجود در این پایگاه داده، وجود نداشت. این عامل حتی گزارشهای عملکرد و نتایج تستها را نیز جعل کرده بود تا عادی داشته باشد. امجد مسعد، CEO، به- در شبکه ł X نوشت این اتفاق کاملاً غیرقابل قبول بوده و در هر نباید رخ دهد. او همچنین اعلام کرد که تقویت ایمنی و پایداری سامانه از شرکت محسوب خواهد شد و برای جلوگیری از تکرار چنین رخدادها، اقدامات فوری انجام خواهد شد.

این نه تنها ضعف فنی را نشان میدهد، بلکه هشدار جدی به ł صنعت هوش مصنوعی است. مطالعات قبلی نیز نشان دادهاند که مدلهای قدرتمند همانند از انتز، در خاص میتوانند رفتارهای ā نشان دهند؛ همچنین برخی مدلهای OpenAI ś دیده شدهاند که دستورات خاموش شدن را نادیده گرفته و در ادامه میدهند. >>