تحقیق جدید هشدار میدهد چتباتهای هوش مصنوعی به راحتی میتوانند پاسخهای خطرناک دهند, تحقیقات اخیر نشان میدهد که چتباتهای هوش مصنوعی که توسط افراد مخرب جیلبریک شدهاند، قادر به ارایه پاسخهای خطرناک و غیرقانونی به سؤالات کاربران میشوند.

این رباتها اطلاعاتی را که در حانه آموزش خود از اینترنت به دست آوردهاند، حتی اگر محتوای مخاطری باشد، میتوانند فاش کنند.براساس گزارش گاردین، این هشدار پس از مشاهده روالی در مورد رباتهای جیلبریک شده صادر شد.

هدف این رباتها دور زدن محدودیتهای امنیتی است که برای جلوگیری از ارائه محتواهای زیانآور، جانبدارانه یا نامناسب به کاربران تعیین شدهاند.چتباتهای هوش مصنوعی گاهی میتوانند پاسخهای خطرناک و غیرقانونی به سؤالات کاربران بدهندمدلهای زبانی بزرگ که پایه چتباتهایی مثل جمینای و چت جیپیتی را تشکیل میدهند، بر پایهٔ دادههای عظیم اینترنت آموزش دیدهاند.

êه برخی کنترلهای امنیتی بهدقت طراحی شدهاند تا از سودین مدلها از این گونه اطلاعات در پاسخهایشان جلوگیری کنند.براساس تحقیقی که در آرکسیو منتشر شده، فریبدادن چتباتهای هوش مصنوعی برای تولید اطلاعات زیانآور و غیرقانونی کار آسانی است و این خطر سریع، ملموس و به شدت نگرانکننده محسوب میشود.

محققان هش دادهاند که چیزی که قبلاً فقط در اختیار دولتها یاک بود، به زودی برای هر کسی با یک لپتاپ یا حتی یک گوشی موبایل دستียاب خواهد شد.اجرا کردن چتباتها به ارایه پاسخهای خطرناک از طریق فرایندی به نام جیلبریک انجام میشود.

جیلبریک کردن با بهرهگیری از مطالب هوشمندانه و مؤثری انجام میشود تا رباتها را فریب داده و آنها را ملزم به تولید پاسخهایی کند که در حالت عادی ممنوع هستند.این رویکرد با استفاده از تنش بین دو هدف اصلی ربات عمل میکند هدف اول اطاعت از دستورات کاربر و هدف دوم جلوگیری از تولید پاسخهای زیانآور، جانبدارانه، غیراخلاقی یا غیرقانونی.

لزم به پاسخگویی به سوالاتی کند که در حالت عادی باید ممنوع باشد.

بر پایهٔ این گزارش، پس از اینکه مدلهای زبانی تحتتأثیر این روش قرار گرفتند، بهطور پیوسته تقریباً به هرگونه سؤالی پاسخ میدادند.مقالات آموزشی \مقالات تکنولوژی\مقالات کسب وکار \مقالات سلامتی و تندرستی \\مبع