ایجنت ChatGPT اکنون می‌تواند کپچاها را حل کند_آفتاب وطن
[ad_1]
به گزارش آفتاب وطن
کارشناسان امنیتی موفق شدند یکی از قدیمی‌ترین و با اهمیت ترین سپرهای دفاعی اینترنت در برابر بات‌ها را بشکنند. آنها با فریب‌دادن ChatGPT، این هوش مصنوعی را وادار کردند تا پازلهای کپچا (CAPTCHA) را با پیروزی حل کند؛ کاری که پیش‌ازاین فکر می‌شد فقط از مسئولیت انسان‌ها برمی‌آید. این نوشته می‌تواند به معنی اغاز عصر جدیدی از اسپم و محتوای جعلی در سراسر وب باشد.
کپچا (CAPTCHA) همان پازلهای مزاحم اما الزامی می باشند که از ما می‌خواهند حروف کج و معوج را بخوانیم یا تصاویر خاصی را انتخاب کنیم تا ثابت شود انسان هستیم. مدل‌های هوش مصنوعی همانند ChatGPT به‌طور پیش‌فکر آموزش دیده‌اند که این تست‌ها را حل نکنند. اما محققان شرکت امنیتی SPLX با منفعت گیری از یک تکنیک به نام «تزریق پرامپت چندمرحله‌ای» این محدودیت را دور زدند.
فرایند فریب به این شکل می بود: ابتدا آنها در یک چت عادی با ChatGPT-4o، به هوش مصنوعی انها گفتند که قرار است یک تمرین مبتنی بر استدلال را با حل‌کردن لیستی از کپچاهای «جعلی» انجام بدهند و رضایت هوش مصنوعی را برای حل این تست‌های «جعلی» جلب کردند. سپس در یک چت تازه، این مکالمه را در حالت Agent Mode کپی کردند؛ حالتی که در آن ChatGPT می‌تواند به طور جدا گانه با وب‌سایت‌ها تعامل داشته باشد.
هوش مصنوعی در حالت Agent، با به‌یاد داشتن مکالمه قبلی، فکر کرد که هم چنان درحال انجام همان تمرین مورد توافق است و بدون این که فهمید شود چارچوب‌های امنیتی خود را زیر پا گذاشت و اغاز به حل‌کردن کپچاهای واقعی کرد. این اولین مورد مستندی است که در آن یک ایجنت GPT کپچاهای پیچیده مبتنی‌بر عکس را حل می‌کند.
حل‌کردن کپچا با ChatGPT
این نوشته پیامدهای زیاد جدی و گسترده‌ای دارد. کپچاها خط مقدم دفاعی تعداد بسیاری از وب‌سایت‌ها در برابر بات‌ها می باشند. آنها از ارسال نظرات اسپم، ساخت حساب‌های کاربری جعلی و سوءاستفاده از سرویس‌ها جلوگیری می‌کنند. اکنون که یک ابزار عمومی همانند ChatGPT می‌تواند این سد را بشکند، راه برای بازیگران مخرب و اسپمرها باز می‌شود تا با منفعت گیری از ارتش‌هایی از بات‌های هوشمند، اینترنت را با محتوای جعلی، اطلاعات نادرست و تبلیغات ناخواسته پر کنند.
«دوریان شولتز»، یکی از محققان این پروژه، می‌نویسد: «سؤالات جدی این است که این کپچاها تا چه وقتی می‌توانند یک محافظ قابل مطمعن در برابر سیستم‌های هوش مصنوعی پیشرفته باقی بمانند.»
این تحقیق نشان داد که ChatGPT در حل کپچاهای متنی و منطقی کارکرد بهتری دارد و با کپچاهای تصویری پیچیده‌تر (همانند چرخاندن تصاویر) کمی زیاد تر قضیه دارد، اما درنهایت موفق به حل آنها نیز شد. این یعنی اگرچه امکان پذیر تا این مدت انواع زیاد پیچیده‌ای از کپچاها وجود داشته باشند که مقاومت بیشتری از خود نشان دهند، اما دوران اتکای صرف به این فناوری به گفتن یک راهکار امنیتی قابل مطمعن، درحال آخر‌یافتن است.
دسته بنی مطالب
نوشته‌های تازه
[ad_2]