رونمایی OpenAI از حالت فوق‌امنیتی Lockdown Mode برای مقابله با حملات تزریق پرامپت

شرکت OpenAI از ویژگی امنیتی جدیدی رونمایی کرد که مدعی است سطح محافظتی سختی را در برابر حملات تزریق پرامپت (Prompt Injection)—موقعیتی که در آن دستورات مخرب و پنهان‌شده در صفحات وب و سایر منابع محتوایی چت‌بات را فریب می‌دهند—ایجاد می‌کند. در این پلتفرم، «حالت قفل‌شدگی» (Lockdown Mode) قابلیت مرور وب زنده را غیرفعال می‌کند و این بدان معناست که مدل تنها به محتوای ذخیره‌شده (Cached) دسترسی خواهد داشت. این حالت همچنین بازیابی و نمایش تصاویر از وب (در عین حفظ قابلیت تولید تصویر)، ابزار تحقیقات عمیق (Deep Research) و حالت عامل (Agent Mode) را به طور کامل غیرفعال می‌سازد.

این شرکت صراحتاً اظهار داشت که حتی با فعال بودن حالت Lockdown، پلتفرم ChatGPT ممکن است همچنان در برابر برخی حملات تزریق پرامپت آسیب‌پذیر باشد؛ چرا که این دستورات مخرب «می‌توانند در محتوای وب ذخیره‌شده یا در یک فایل بارگذاری‌شده توسط خود کاربر ظاهر شوند و همچنان بر رفتار یا دقت پاسخ‌های مدل تأثیر بگذارند.» با این حال، هدف اصلی این پروتکل، کاهش حداکثری احتمال نشت و اشتراک‌گذاری داده‌های حساس در طول فرآیند پردازش است. OpenAI اشاره کرد: «حالت Lockdown برای همه کاربران طراحی نشده است، بلکه این ویژگی مختص به افراد و سازمان‌هایی است که با داده‌های فوق‌حساس سروکار دارند و می‌خواهند سپر امنیتی محکم‌تری در برابر خطرات خروج داده‌های مرتبط با حملات تزریق پرامپت داشته باشند.» این شرکت اعلام کرده که در حال حاضر این حالت امنیتی را برای حساب‌های تجاری ChatGPT (که به صورت خودکار ایجاد شده‌اند) و همچنین حساب‌های شخصی واجد شرایط فعال کرده است.