حمله تزریق دستورات مخفی به جمینای گوگل از طریق تصاویر کوچکسازیشده؛ خطر جدید برای کاربران, تیم امنیتی با انتشار گزارشی جدید، نقاط ضعف جدی در ابزارهای مبتنی بر مدل را در برابر حملات مبتنی بر مقیاسگذاری تصاویر فاش کرد. این آسیبپذیری که پیشتر در متون علمی مورد بحث قرار میگرفته، امکان تزریق دستورات مخفی در فایلهای تصویری را فراهم میآورد که تنها هنگام کوچکسازی توسط الگوریتمهای پردازش تصویر آشکار میشوند.

مکانیزم حمله دستورات نامرئی در لایههای پیکسل طبق این تحقیق، مهاجم میتواند کدهای مخرب را در ساختار تصویر گنجاند که برای چشم انسان تماما نامرئی هستند.

باعث آشکار شدن دستورات پنهان شده و مدل هوش مصنوعی ناخواسته آنها را اجرا میکند.

ابزار اثباتچنین و الگوریتمهای هدف پژوهشگران برای نشان دادن قابلیت سوءاستفاده، ابزاری متنباز به نام توسعه دادند. این ابزار قادر است تصاویر آلوده را بر پایه سه الگوریتم رایج کوچکسازی یعنی، و بسازد. نتایج آزمایشها نشان داد حمله بر روی طیف وسیعی از محیطهای عاملمحور و سرویسهای گوگل موفقیتآمیز است.

تفاوت با جیلبریک و خطر بالای موفقیت متخصصان سایبری تأکید کردند که این روش نوعی تزریق غیرمستقیم محسوب میشود، زیرا کاربر هیچگاه از وجود متن مخرب در تصویر آگاه نمیشود.

این ویژگی باعث میشود نرخ موفقیت حمله نسبت به روشهای سنتی بالاتر باشد. پاسخ گوگل پیکربندی غیرپیشفرض شرط لازم است گوگل در پاسخ به این گزارش اعلام کرد که این آسیبپذیری تنها در صورتی قابل سوءاستفاده است که کاربر تنظیمات امنیتی پیشفرض را غیرفعال کرده باشد — مثلاً با فعالسازی خودکار فراخوانی MCP و بارگذاری فایلهای نادرست بدون بازبینی.

سخنگوی شرکت تأکید کرد که CLI به صورت پیشفرض در برابر این حمله مصون است و توسعهدهندگان باید تنها به دادههای معتبر دسترسی داشته باشند و اجرا را در محیطهای ایزوله انجام دهند. گوگل همچنین وعده داد که هشدارهای صریحتری برای کاربران اضافه خواهد کرد که محافظتهای امنیتی را خاموش میکنند.

راهکارهای پیشنهادی دفاعهای ساختاریافته به جای پیشنمایش ساده تحقیقکنندگان معتقدند که تکیه بر پیشنمایش تصویر یا ابزارهای کمکی برای کاهش ریسک کافی نیست. آنها بر ضرورت پیادهسازی دفاعهای جامع و ساختاریافته در لایههای پایه سامانههای هوش مصنوعی تأکید کردند تا امنیت و اعتبار ابزارهای در شرایط واقعی تضمین شود.