تحلیل امنیتی : خطر تزریق دستورات پنهان در تصاویر کوچکشده

تحلیل امنیتی خطر تزریق دستورات پنهان در تصاویر کوچکشده, پژوهشگران امنیتی شرکت با انتشار گزارش جدیدی، به آسیبپذیری ابزارهای مبتنی بر مدل در برابر حملات تزریق دستورات مخفی از طریق تصاویر مقیاسگذاریشده اشاره کردهاند. این چالش فنی که پیشتر در ادبیات علمی یادگیری ماشین مورد بحث قرار گرفته، اکنون به صورت عملی بر روی سرویسهای گوگل اثبات شده است.

مکانیزم حمله دستورات نامرئی در پیکسلهای تصویر اساس این تکنیک، نهانسازی دستورات مخرب در محتوای بصری تصاویر است که برای چشم انسان غیرقابل تشخیص باقی میمانند.

در نتیجه، مدل زبانی به طور ناخواسته از این دستورالعملهای مخفی پیروی کرده و میتواند منجر به افشای دادههای حساس یا اجرای عملیات غیرمجاز گردد. ابزار اثبات مفهوم و دامنه تأثیر برای نشان دادن امکان سوءاستفاده، محققان ابزاری متنباز به نام را توسعه دادهاند. این ابزار قادر است تصاویر آلوده را با سه الگوریتم رایج مقیاسگذاری یعنی، و تولید نماید.

تفاوت با تکنیکهای سنتی متخصصان این روش را نوعی تزریق غیرمستقیم طبقهبندی میکنند، زیرا برخلاف حملات که مستقیماً از طریق پرامپت متنی اعمال میشوند، در اینجا دستور مخرب به صورت پنهان در ورودی ترکیبی (تصویر) نهفته است. این ویژگی باعث میشود نرخ موفقیت حمله بالاتر باشد، چرا که کاربر هیچگونه آگاهی از وجود محتوای مخرب در فایل تصویری ندارد.

وضعیت نظر گوگل و تدابیر پیشنهادی گوگل در پاسخ به این گزارش، این مسئله را یک آسیبپذیری امنیتی کلاسیک تلقی نکرده و بیان کرده است که ón آن مستلزم فعالسازی پیکربندیهای غیرپیشفرض و ناامن توسط کاربر است. سخنگوی شرکت تأکید کرد که در حالت پیشفرض CLI، این مسیر حمله وجود ندارد و ریسک تنها زمانی متحقق میشود که کاربر تنظیماتی نظیر تأیید خودکار فراخوانی MCP را فعال کرده و فایلهای ناشناس را بدون بررسی در سیستم بارگذاری نماید.

با این حال، محققان معتقدند که تکیه بر آگاهی کاربر یا پیشنمایش خروجی مدل راهحل کامل نیست. آنها بر ضرورت پیادهسازی دفاعهای ساختاریافته و سیستماتیک در لایههای زیرین مدلهای هوش مصنوعی تأکید دارند تا ایمنی این ابزارها در مواجهه با تهدیدات واقعی تضمین گردد.