امنیت و حریم خصوصی در استفاده از چت‌بات‌های هوش مصنوعی

چت‌بات‌ها با اطلاعات شما چه می‌کنند؟

هر چیزی که در یک چت‌بات آنلاین تایپ یا بارگذاری می‌کنید، روی سرورهای شرکت سازنده پردازش و معمولاً برای مدتی ذخیره می‌شود. بسته به تنظیمات حساب و نوع اشتراک، ممکن است:

• برای بهبود و آموزش مدل‌های بعدی استفاده شود (در بسیاری از سرویس‌ها قابل غیرفعال‌سازی است)؛
• برای بررسی تخلفات توسط کارکنان دیده شود؛
• در صورت نشت اطلاعات یا دسترسی غیرمجاز به حساب، در اختیار دیگران قرار گیرد.

هرگز این اطلاعات را وارد نکنید

• رمز عبور، کد تأیید پیامکی و کلیدهای API
• شماره کارت بانکی، CVV2 و اطلاعات حساب
• تصویر کارت ملی، گذرنامه و مدارک هویتی
• اطلاعات پزشکی دقیق همراه با نام و مشخصات
• اطلاعات مشتریان، کارمندان یا اسناد محرمانه شرکت (مگر در نسخه‌های سازمانی با قرارداد مشخص)
• کد منبع حاوی رمزها و اطلاعات اتصال به سرور

اگر لازم است درباره یک سند حساس کمک بگیرید، ابتدا نام‌ها، اعداد و مشخصات را با عبارت‌های عمومی جایگزین کنید؛ مثلاً «مشتری الف» به‌جای نام واقعی.

تنظیمات پیشنهادی

1. در تنظیمات حریم خصوصی سرویس، گزینه استفاده از گفت‌وگوها برای آموزش مدل را بررسی و در صورت تمایل خاموش کنید.
2. برای گفت‌وگوهای حساس از حالت‌هایی مثل گفت‌وگوی موقت استفاده کنید که در تاریخچه ذخیره نمی‌شوند.
3. احراز هویت دومرحله‌ای را برای حساب کاربری‌تان فعال کنید.
4. افزونه‌ها و اتصال‌ها (به ایمیل، درایو و…) را فقط برای سرویس‌های مورد اعتماد فعال کنید و دسترسی‌های بلااستفاده را حذف کنید.
5. برای اطلاعات واقعاً محرمانه، مدل را روی کامپیوتر خودتان اجرا کنید.

مراقب کلاه‌برداری‌های هوشمند باشید

هوش مصنوعی ابزار کلاه‌برداران را هم قوی‌تر کرده است:

• صدای جعلی (Voice Cloning): با چند ثانیه صدای یک نفر، می‌توان صدایش را شبیه‌سازی کرد. اگر «یکی از اعضای خانواده» با صدای آشنا تلفنی درخواست پول فوری کرد، قطع کنید و خودتان با شماره همیشگی‌اش تماس بگیرید. یک کلمه رمز خانوادگی برای موقعیت‌های اضطراری تعیین کنید.
• ویدیو و تصویر جعلی (Deepfake): تصاویر و ویدیوهای جنجالی را پیش از بازنشر از منابع معتبر بررسی کنید.
• فیشینگ بی‌غلط: ایمیل‌ها و پیام‌های جعلی دیگر غلط املایی ندارند. به‌جای ظاهر پیام، آدرس فرستنده و لینک را بررسی کنید.
• اپ‌ها و ربات‌های جعلی: نسخه‌های تقلبی «ChatGPT» یا «هوش مصنوعی رایگان» در فروشگاه‌ها و تلگرام فراوان‌اند. فقط از سایت و اپ رسمی سازنده استفاده کنید و اطلاعات حساب‌هایتان را به ربات‌های ناشناس ندهید.

برای کسب‌وکارها

• یک سیاست مکتوب برای استفاده کارکنان از ابزارهای هوش مصنوعی بنویسید: چه ابزارهایی مجازند و چه داده‌هایی ممنوع.
• برای داده‌های سازمانی از نسخه‌های سازمانی (Enterprise/Team) یا API با قرارداد عدم استفاده از داده‌ها برای آموزش استفاده کنید.
• اگر چت‌بات یا عامل هوشمند می‌سازید، خطر تزریق پرامپت را جدی بگیرید: مدل نباید بدون تأیید انسانی به اطلاعات حساس دسترسی داشته باشد یا اقدام غیرقابل‌بازگشت انجام دهد.
• خروجی‌های هوش مصنوعی را پیش از استفاده در تصمیم‌های مهم، انسانی بازبینی کنید.

چک‌لیست سریع

• [ ] رمز، اطلاعات بانکی و مدارک هویتی را هرگز وارد نکردم.
• [ ] تنظیمات آموزش مدل با داده‌هایم را بررسی کردم.
• [ ] احراز هویت دومرحله‌ای فعال است.
• [ ] فقط از اپ و سایت رسمی استفاده می‌کنم.
• [ ] با خانواده یک کلمه رمز برای تماس‌های اضطراری تعیین کرده‌ام.
• [ ] ادعاهای مهم پاسخ‌ها را با منابع معتبر بررسی می‌کنم.