جفراگ ۲۲ صدمهپذیری بحرانی در ۱۵ پروژه یادگیری ماشینی متنباز شناسایی کرد

تحلیلهای تازه نشان میدهد سیستمهای یادگیری ماشینی متنباز در برابر تهدیدات امنیتی نسبت به پلتفرمهای بلوغیافتهتر مانند یا سرورهای وب آسیبپذیرتر هستند. با گسترش بهرهبرداری از یادگیری ماشینی در صنایع گوناگون، ایمنسازی این سامانهها به ضرورت حیاتی تبدیل شده است زیرا ضعفهای امنیتی میتوانند بستر دسترسی غیرمجاز، لو رفتن دادهها و اختلال در عملیات را فراهم آورند.

به گزارش پایگاه خبری فناوری تکنا به نقل از جفراگ، پروژههای یادگیری ماشینی همچون شاهد افزایش قابلتوجهی در آسیبپذیریهای بحرانی بودهاند. در ماههای اخیر، محققان جفراگ تعداد ۲۲ صدمهپذیری در ۱۵ پروژه متنباز یادگیری ماشینی را کشف کردهاند. این نقیصهها در دو دسته اصلی قرار میگیرند تهدیدات هدفمند بر روی مولفههای سمت سرور و خطرات ارتقای امتیاز در چارچوبهای یادگیری ماشینی.

آسیبپذیریهای شناساییشده، مولفههای کلیدی که به وفور در گردشکارهای یادگیری ماشینی مورد استفاده قرار میگیرند را تحت تاثیر قرار دادهاند. این موضوع میتواند به مهاجم اجازه دهد تا از ابزاری که به دلیل انعطافپذیری بالا توسط متخصصان اعتماد میشود، سوءاستفاده نماید و به فایلهای حساس دسترسی غیرمجاز یابد یا امتیازات خود را در محیطهای یادگیری ماشینی ارتقا دهد.

یکی از نقیصههای برجسته مربوط به، ابزاری محبوب از مجموعه & (&) است که از ردیابی و تجسم معیارهای مدلهای یادگیری ماشینی پشتیبانی میکند. صدمهپذیری پیمایش دایرکتوری WANDB با شناسه، به کاربران با امتیاز پایین اجازه میدهد تا به فایلهای دلخواه در کل سیستم فایل دسترسی پیدا کنند. این نقص ناشی از اعتبارسنجی نادرست ورودی در زمان مدیریت مسیرهای فایل است و میتواند مسیر دسترسی به کلیدهای API ادمین یا سایر اطلاعات محرمانه را باز کند و امنیت کل خط لوله یادگیری ماشینی را به خطر بیندازد.

، ابزاری برای مدیریت خط لوله، نیز تحت تاثیر یک صدمهپذیری بحرانی قرار دارد که سیستمهای کنترل دسترسی آن را تهدید میکند. این نقص به مهاجمینی با حداقل امتیاز اجازه میدهد تا مجوزهای خود را در، یک استقرار مدیریتشده از، ارتقا دهند و در نتیجه به اطلاعات محدودشده شامل اسرار محرمانه یا فایلهای مدل دسترسی یابند. مسئله کنترل دسترسی در سیستم را در برابر خطرات قابلتوجهی قرار میدهد، زیرا ارتقای امتیاز میتواند امکان دستکاری خط لولهها، جعل دادههای مدل یا دسترسی به دادههای عملیاتی حساس را برای مهاجم فراهم آورد.

آسیبپذیری جدی دیگری با نام تزریق فرمان در پایگاه داده، راهحل ذخیرهسازی بهینهشده برای برنامههای هوش مصنوعی، یافت شده است. این ضعف به مهاجم اجازه میدهد تا با سوءاستفاده از نحوه مدیریت واردات مجموعهدادههای خارجی، دستورات دلخواه را اجرا نماید. به دلیل پاکسازی نادرست فرمان، اجرای کد از راه دور امکانپذیر شده و امنیت هر دو پایگاه داده و برنامههای متصل به آن به خطر میافتد.

یک نقیصه قابلتوجه در، ابزاری برای تشکیل و تجسم پرسوجوی SQL با زبان طبیعی، نیز شناسایی شده است. تزریق اعلان به مهاجم اجازه میدهد کد مخرب را در اعلانهای SQL تزریق کند که ابزار آنها را پردازش میکند. این صدمهپذیری که میتواند به اجرای کد از راه دور منجر شود، به بازیگران مخرب امکان میدهد تا ویژگی تجسم SQL به نمودار را هدف قرار داده، تجسمها را دستکاری کنند، تزریق SQL انجام دهند یا دادهها را استخراج نمایند.

، ابزاری برای مدیریت خط لولههای داده، دارای چندین آسیبپذیری از جمله دسترسی غیرمجاز به پوسته، نشت فایلهای دلخواه و اعتبارسنجی ضعیف مسیر است. این مسائل به مهاجم اجازه میدهد کنترل خط لولههای داده را بدست آورد، پیکربندیهای حساس را فاش کند یا دستورات مخرب را اجرا نماید. ترکیب این ضعفها ریسک ارتقای امتیاز و نقض یکپارچگی دادهها را افزایش داده و امنیت و پایداری خط لولههای یادگیری ماشینی را تهدید میکند.

با کسب دسترسی ادمین به پایگاه دادهها یا رجیستریهای یادگیری ماشینی، مهاجمینی میتوانند کد مخرب را در مدلها جاسازی کنند و درهای پشتی مخفی ایجاد نمایند که در زمان بارگذاری مدل فعال میشوند. این کار میتواند فرآیندهای پاییندست را به خطر بیندازد، زیرا مدلها توسط تیمهای گوناگون و خط لولههای CI/CD مورد استفاده قرار میگیرند. مهاجمینی چنین میتوانند دادههای حساس را استخراج کنند یا حملات مسمومسازی مدل را برای کاهش کارایی مدل یا دستکاری خروجیها اجرا نمایند.

یافتههای جفراگ یک شکاف عملیاتی در امنیت را برجسته میسازند. تعداد قابلتوجهی از سازمانها ادغام قوی از روشهای امنیتی AI/ML با استراتژیهای گستردهتر امنیت سایبری ندارند و این موضوع باعث ایجاد نقاط کور بالقوه میشود. با توجه به پیشرفتهای سریع صنعت در حوزه ML و، محافظت از چارچوبها، مجموعهدادهها و مدلهایی که این نوآوریها را تقویت میکنند، از اهمیت بالایی برخوردار است.