محدودیت جدید ChatGPT برای جلوگیری از خشونت نوجوانان

اوپنایآی محدودیتهای سختگیرانهتری برای ارائهی اطلاعات مربوط به سلاح به نوجوانان در چتجیپیتی اعمال میکند.

اوپنایآی محدودیتهای تازهای را برای ارائهی اطلاعات مربوط به سلاح به نوجوانان در ChatGPT وضع کرده است تا از خشونت در دنیای واقعی پیشگیری کند. بر اساس سازوکار جدید، ارائهی این دست دادهها حتی در صورتی که پرسش کاربر کاملا بیخطر بهنظر برسد نیز محدود خواهد شد.

خالق چتجیپیتی با هدف کاهش خطرات چتباتها برای کاربران جوان و افزایش نظارت بر رفتارهای خشونتآمیز، سامانههای هوشمند خود را ارتقا میدهد. طبق تصمیم جدید، اطلاعات کاربردی دربارهی تسلیحات و سیستمهای امنیتی که امکان سوءاستفاده از آنها وجود دارد، برای افراد زیر ۱۸ سال مسدود میشود؛ حتی اگر هیچ نشانهای از نیت خشونتآمیز در مکالمه دیده نشود.

قابلیت پایان خودکار گفتوگوها برای تمامی کاربران فعال خواهد شد تا چنانچه فردی روی موضوعات خشونتبار اصرار ورزد، ارتباط او قطع شود. همچنین در صورت تکرار این دست مکالمات، حسابهای کاربری متخلف بهصورت موقت تعلیق میشوند. چتجیپیتی افزون بر این، جزئیات حملات گروهی گذشته نظیر نوع سلاحهای استفادهشده و نحوهی دستیابی به آنها را برای همهی افراد محدود میسازد.

سازمان غیرانتفاعی کامن سنس مدیا مدتی پیش در گزارشی اعلام کرده بود که نسخهی ویژهی نوجوانان چتجیپیتی در موارد مربوط به خودکشی، خودآزاری یا اختلالات غذا خوردن، هشدارها را با تاخیر بسیار به والدین میفرستد یا اصلا ارسال نمیکند.

اوپنایآی اکنون سیستم تخمین سن خود را تقویت کرده است تا افراد زیر ۱۸ سال بهشکل خودکار به محیط محافظتشده هدایت شوند و در صورت تعلیق حساب نوجوان به دلایل مرتبط با رفتارهای خشونتآمیز، والدین مطلع گردند. تدابیر حفاظتی تازه ظرف هفتههای آینده در دسترس عموم قرار میگیرند.