واتساپ به کمک هوش مصنوعی با کلاهبرداری مقابله می‌کند؛ قابلیت Scam Alert چگونه کار می‌کند؟

متا در تاریخ ۱۲ اوت از قابلیت امنیتی جدیدی برای واتساپ با نام Scam Alert یا «هشدار کلاهبرداری» رونمایی کرد. این قابلیت با کمک هوش مصنوعی می‌تونه پیام‌هایی که احتمال داره کلاهبرداری باشن رو قبل از اینکه کاربر فریب بخوره، شناسایی کنه.

نکته جالب اینه که بررسی پیام‌ها مستقیماً روی گوشی کاربر انجام می‌شه و اطلاعات پیام‌ها برای تحلیل به سرورهای متا فرستاده نمی‌شن. بعد از فعال شدن این قابلیت، یک مدل سبک هوش مصنوعی روی گوشی نصب می‌شه و متن پیام‌ها رو با الگوهای رایج کلاهبرداری مقایسه می‌کنه.

اگر واتساپ متوجه مورد مشکوکی بشه، به کاربر هشدار می‌ده و اون می‌تونه تصمیم بگیره که فرستنده رو بلاک کنه یا به مکالمه ادامه بده. این سیستم هم‌زمان با حفظ رمزگذاری سرتاسری واتساپ کار می‌کنه و محتوای پیام‌ها از دستگاه خارج نمی‌شه.

اما این قابلیت یک مشکل مهم هم داره. طبق توضیحات متا، هوش مصنوعی فعلاً فقط پیام‌های شماره‌های ناشناس رو بررسی می‌کنه و پیام‌هایی که از مخاطبان ذخیره‌شده دریافت می‌شن، شامل این بررسی نمی‌شن.

این یعنی اگر مثلاً حساب واتساپ یکی از دوستان یا اعضای خانواده هک بشه، پیام‌های کلاهبرداری که از همون حساب ارسال می‌شن ممکنه توسط Scam Alert شناسایی نشن. از طرف دیگه، اگر کاربر یک چت رو به عنوان گفت‌وگوی قابل اعتماد علامت‌گذاری کنه، هشدارهای مربوط به اون چت برای همیشه غیرفعال می‌شن؛ موضوعی که می‌تونه در بعضی شرایط خطرناک باشه.

متا برای اینکه کاربران و کارشناسان امنیتی اعتماد بیشتری به این سیستم داشته باشن، وزن‌های مدل هوش مصنوعی رو به صورت عمومی منتشر کرده و اعتبارسنجی اون رو هم با همکاری Cloudflare انجام داده. کارشناسان مستقل می‌تونن عملکرد این مدل رو بررسی کنن و کاربران هم از داخل حساب خودشون امکان مشاهده سابقه فعالیت این سیستم رو دارن.

اطلاعات آماری مربوط به این قابلیت هم به شکل ناشناس و روی سرورهای جداگانه پردازش می‌شن. با این حال، Scam Alert هنوز در مرحله آزمایشی بتا قرار داره و برنامه باگ‌بانتی اون هم در حال اجراست. بنابراین زمان عرضه عمومی این قابلیت هنوز مشخص نشده.