گروهی از پژوهشگران شرکت Trail of Bits به سرپرستی کیکیمورا موروزووا و سوها صابیحسین، روشی تازه برای دزدیدن اطلاعات کاربران معرفی کردهاند که در آن با دستکاری پنهان در تصاویر، درخواستهای مخرب به مدلهای زبانی تزریق میشود. این حمله تا پیش از Downscale شدن تصویر کاملاً نامرئی است و پس از تغییر اندازه، دستورات سری بهصورت متن قابلخوانش ظاهر میشود.
سیستمهای مبتنی بر هوش مصنوعی معمولاً برای کاهش هزینه و افزایش سرعت پردازش، تصاویر ورودی را با روشهایی مثل همسایۀ نزدیک (Nearest Neighbor)، درونیابی دوبلینی (Bilinear) یا مکعبی (Bicubic) کوچک میکنند. هر یک از این الگوریتمها میتواند آرتیفکتهایی ایجاد کند که در نسخه کوچکشده امکان ظهور الگوها یا متون تعبیهشده را فراهم میآورد.
در نمونه ارائهشده توسط Trail of Bits، طراحان تصویر با قرار دادن نواحی تیره مشخص، پس از اعمال مکعبی کوچکسازی، آن نواحی را به رنگ قرمز درمیآورند تا متن سیاهرنگ پنهانشده از دید کاربر پردهبرداری شود. مدل زبانی بدون اطلاع از اصالت آن، این متن را جزئی از دستور کاربر تلقی و اجرا میکند.
در یکی از آزمایشها محققان توانستند از طریق Gemini CLI و استفاده از Zapier MCP با گزینه trust=True، دادههای تقویم گوگل را به ایمیلی دلخواه منتقل کنند. از منظر کاربر، هیچ نشانهای از تغییر یا سرقت اطلاعات وجود نداشت.
برای هر پلتفرم AI لازم است بسته به الگوریتم Resampling، تصویر مخرب مجدداً سفارشی شود. تا کنون موفقیت این تکنیک در ابزارهای زیر تأیید شده است:
- Google Gemini CLI
- Vertex AI Studio (با موتور Gemini)
- رابط وب Gemini
- API Gemini از طریق llm CLI
- دستیار Google روی اندروید
- Genspark
به دلیل عمومیبودن روش کوچکسازی تصویر، احتمال گسترش حمله به دیگر سیستمهای پردازش تصویر در هوش مصنوعی بسیار بالاست. برای تسهیل آزمایش و توسعه دفاع، پژوهشگران ابزار متنباز Anamorpher را ارائه کردهاند که قادر به ایجاد تصاویر مخرب برای هر یک از روشهای Downscaling یادشده است.
بهمنظور مقابله با چنین حملاتی، Trail of Bits توصیه میکند:
- بر محدودیت ابعاد تصویر ارسالی نظارت شود تا از فایلهای بزرگ و هدفدار جلوگیری شود.
- پیشنمایش تصویر Downscale شده به کاربر نشان داده شود تا عواقب دستکاری قابلتشخیص گردد.
- در صورت شناسایی متن در تصویر، تأیید صریح کاربر برای فراخوانی توابع حساس اخذ شود.
- از الگوهای طراحی امن و دفاعهای سیستماتیک علیه تزریق درخواست (Prompt Injection) فراتر از حالت چندرسانهای بهره گرفته شود.
با افزایش استفاده از مدلهای زبانی در دستیارهای هوشمند و رابطهای گفتگو، نیاز به مکانیزمهای استگانوآنالیز (Steganalysis) و توسعه استانداردهای امن API تصویری بیش از پیش احساس میشود. شرکتها باید علاوه بر راهکارهای فوق، از یادگیری عمیق برای تشخیص الگوهای پنهان در پیکسلها و تدوین قوانین نظارتی برای ارزیابی امنیت دادههای ورودی بهره ببرند تا راه نفوذ مشابه مسدود شود.
**مسعود کریمی**
دبیر سرویس فناوریهای نوظهور
مسعود کریمی تحلیلگر فناوری، نویسنده و روزنامهنگار حوزه تکنولوژی با بیش از هشت سال تجربه حرفهای در زمینه پوشش تحولات فناوریهای نوین، هوش مصنوعی و برنامهنویسی است. تمرکز اصلی وی بر تحلیل روندهای نوظهور در دنیای فناوری، بررسی تأثیرات اجتماعی هوش مصنوعی و پوشش رویدادهای مهم حوزه تکنولوژی میباشد.
**تحصیلات**
وی دارای مدرک کارشناسی مهندسی نرمافزار از دانشگاه علم و صنعت ایران است. در دوران تحصیل، علاوه بر دروس دانشگاهی، به صورت خودآموز به یادگیری مباحث نوین در حوزه هوش مصنوعی، یادگیری ماشین و برنامهنویسی پیشرفته پرداخته و در چندین دوره تخصصی مرتبط با فناوریهای نوظهور شرکت کرده است.
**سوابق حرفهای**
کریمی فعالیت حرفهای خود را از سال ۱۳۹۶ با راهاندازی یک وبلاگ شخصی در زمینه تحلیل فناوریهای نوین آغاز کرد. در آن وبلاگ، به بررسی موضوعاتی مانند هوش مصنوعی، یادگیری ماشین و تحولات دنیای برنامهنویسی میپرداخت که با استقبال جامعه فناوری کشور مواجه شد.
پس از کسب تجربه و شناخته شدن در محافل تخصصی، به عنوان نویسنده و تحلیلگر با چندین مجله و وبسایت معتبر حوزه تکنولوژی همکاری کرد. وی در این دوران موفق به تولید دهها مقاله تحلیلی و گزارش تخصصی درباره جدیدترین دستاوردهای فناوری جهان شد.
وی از سال ۱۳۹۹ به تیم تحریریه مجله تکنولوژی آپلود پیوسته و اکنون به عنوان دبیر سرویس فناوریهای نوظهور در این رسانه فعالیت میکند. در این مسئولیت، تیم نویسندگان و تحلیلگران این حوزه را رهبری کرده و بر تولید محتوای تخصصی درباره هوش مصنوعی، فناوریهای دیجیتال، سختافزار، نرمافزار و تحولات صنعت فناوری نظارت دارد.
**تخصصها و حوزههای کاری**
تخصص اصلی کریمی در تحلیل روندهای فناوریهای نوظهور، بررسی تحولات هوش مصنوعی و یادگیری ماشین، پوشش رویدادهای مهم صنعت تکنولوژی و گزارشنویسی تحلیلی است. وی همچنین در زمینه فناوریهای سختافزاری، گوشیهای هوشمند، کنسولهای بازی و تحولات دیجیتال تجربه قابل توجهی دارد.
**روششناسی حرفهای**
رویکرد کریمی در تحلیل فناوری مبتنی بر پایش مستمر منابع معتبر جهانی، اعتبارسنجی اخبار و اطلاعات، ترجمه دقیق مفاهیم تخصصی به زبانی ساده و قابل فهم برای مخاطب عمومی است. وی در تحلیلهای خود بر تفکیک دقیق واقعیتها از شایعات، بررسی تأثیرات اجتماعی فناوری و پرهیز از بزرگنمایی دستاوردها تأکید دارد.
**عضویت در نهادهای تخصصی**
وی عضو انجمن صنفی روزنامهنگاران فناوری ایران است و در چندین همایش و رویداد تخصصی حوزه فناوری به عنوان کارشناس و تحلیلگر مشارکت داشته است.
