فیس بوک یک الگوریتم هوش مصنوعی برای شناسایی و حذف اکانت های جعلی کاربر ایجاد کرده است

سعید ناصریسعید ناصریمی 10, 20201min0

فیس بوک جزئیات ابزارهای حرفه ای مبتنی بر هوش مصنوعی خود را منتشر کرده است که برای مقابله با اسپم ها و حساب های جعلی تهیه شده اند. علیرغم حذف میلیاردها حساب توهین آمیز از طریق این ابزار ، غول رسانه های اجتماعی هنوز قادر به صحبت با اطمینان در مورد حساب های کلاهبرداری کاربر روی سیستم عامل خود نیستند.

یافتن حساب های کاربری جعلی در رسانه های اجتماعی یکی از محبوب ترین فرایندهای ردیابی حرفه ای است که به آخرین فناوری نیاز دارد. علاوه بر این ، به محض حذف حساب متخلف (ترول) ، یک حساب جدید متولد می شود. با این حال ، فیس بوک در بیانیه جدید ادعا کرد که دارای یک ابزار حرفه ای برای مقابله با متخلفین است و آنها نمی توانند به راحتی با ابزار جدید شناسایی و برخورد کنند.

مقالات مرتبط:

مهندسان هوش مصنوعی فیس بوک و … 39 یک ابزار یادگیری مبتنی بر ماشین حرفه ای ایجاد کرده اند که سال گذشته 6.6 میلیارد حساب توهین آمیز را حذف کرده است. همچنین روزانه میلیونها تلاش برای ایجاد حساب کاربری در بستر فیس بوک وجود دارد که با همین ابزارها متوقف شده است. فیس بوک و مدیر علوم داده ها ، قصاب گارباوی همچنین جزئیات مربوط به نحوه کار این ابزار را منتشر کرد.

فناوری جدید با نام Deep Entity Classification (DEC) کلید موفقیت فیسبوک ها و متخلفان فیس بوک و شماره 39 است. با نگاه به نام این ابزار می توان پیچیدگی آن را درک کرد. این ابزار همچنین از دستگاه یادگیری برای تجزیه و تحلیل حسابهای فعال فیس بوک استفاده کرده و رفتار و تعامل هر یک از حساب کاربری با افراد و سایر حسابهای کاربری را تحلیل می کند.

مهندسان فیس بوک به جای بررسی مسئولیت حساب های فیس بوک ، به جای رفتارهای واضح ، به دنبال رفتارهای عمیق تر هستند. از طرف دیگر ، DEC تمام ویژگی های آن ، از جمله ویژگی هایی مانند گروه ها و صفحاتی را که حساب هدف در آن تعامل دارد ، تجزیه و تحلیل می کند ، به جای اینکه مواردی نظیر تاریخ ایجاد حساب کاربری و دوست را ارسال کند ، به طور دقیق مورد بررسی قرار می گیرد.

در تجزیه و تحلیل کاربر و تعامل کاربر با گروه های فیس بوک ، DEC چندین موضوع از جمله تعداد مدیران و اعضای گروه و زمان تأسیس آن را بررسی می کند. این ابزار نه تنها تعداد درخواست های ارسالی به حساب هدف را محاسبه می کند ، بلکه درخواست دوستان از دوستان آن حساب را نیز محاسبه می کند.

فیس بوک و ابزار تجزیه و تحلیل داده ها پس از جمع آوری داده های اصلی تحلیلی از هر حساب ، داده ها را تجزیه و تحلیل و پردازش می کند. به عنوان مثال ، میانگین تعداد اعضا در گروههایی که در آن حساب هدف عضو است محاسبه می شود. همچنین سایر موارد مانند حداکثر تعداد گروههای حساب کاربر پسند محاسبه می شود. سرانجام ، DEC نقشه ای را تهیه می کند که شبکه دوستان ، 3 گروه ، صفحه و بسیاری دیگر را مشخص می کند.

دانیل برنارد ، مدیر عامل فیس بوک درباره ابزار جدید می گوید:

ده ها هزار ویژگی برای هر حساب وجود دارد که مدل کلی محیط اطراف آن را تعریف می کند. در نتیجه ، از تعداد زیادی سیگنال ، می توانید تلاش هر کاربر را برای معرفی هویت اشتباه کنید. روند ما هیچ ارتباطی با محتوای حساب ندارد. چگونگی تعامل با دیگران را بررسی می کند.

ابزار احراز هویت فیس بوک و شماره 39 حدود 20،000 صفت برای هر حساب جمع آوری می کند و مزیت اصلی آن در دشواری مهندسی فرآیند معکوس است. برنارد می گوید جنایتکاران به راحتی روش های یادگیری ماشین را معکوس می کنند و ساختار آنها را آموزش می دهند. اگر این الگوریتم فقط تعداد محدودی از ویژگیها را برای شناسایی یک حساب جعلی مورد بررسی قرار دهد ، اسپم ها می توانند به راحتی همان ویژگی ها را تغییر دهند تا آنها را واقعی جلوه دهند ، روندی که ویروس ها انجام می دهند.

در ادامه مصاحبه ، برنادت می گوید بیشتر ابزارهای حساب تقلبی ، حساب ها را با یک مدل ساده شناسایی می کنند. در حقیقت مهندسان سیستمهای یادگیری ماشینی را با ویژگیهای محدود آموزش می دهند که ارتباط مستقیمی با حساب کاربری دارند. مدل های متعارف برای شناسایی حساب های تقلبی از ویژگی هایی مانند نظرات اسپم یا نرخ تعامل استفاده می کنند. طبق گفته های Garbaoli ، متخلفین با تغییر همان ویژگی های محدود راهی برای دور زدن وسایل شناسایی پیدا می کنند. به عنوان مثال ، آنها الزامات دوستی حساب های تقلبی را محدود می کنند و به دلیل همین محدودیت ها ، برای شناسایی بهتر حساب های تقلبی ، باید رفتارهای آنها را با عمیق تر بررسی کرد.

فیس بوک می گوید DEC تاکنون نتایج مهمی را در زمینه مقابله با حساب های جعلی به دست آورده است. این ابزار چند ماه پیش میلیاردها حساب کاربری جعلی را حذف کرد ، هنگامی که سرانجام در پلتفرم فیس بوک راه اندازی شد و باعث کاهش حجم اسپم ها و تخلفات فیس بوک شد. در همین حال ، مهندسین این شرکت ادعا می کنند که تعداد حساب های جعلی به 5 درصد کاهش یافته است.

اگرچه وی در یکی از نبردها علیه توهین به حساب کاربری و مجرمان ، ابزار جدید فیس بوک و # 39 را به دست آورد ، اما هنوز راه طولانی برای پیروزی در جنگ علیه حساب های جعلی دارند ، زیرا با گذشت زمان ، مجرمان مطمئنا راهی برای دور زدن پیدا می کنند. فیس بوک و ابزارهای هوش مصنوعی. . مهندسان بستر های نرم افزاری ، همین نظر را دارند و می گویند که خرابکاران اینترنتی با سرعتی پیشرفت می کنند و به سرعت با ابزارهای ردیابی سازگار هستند.

مجرمان سایبری ابزارهای خود را با سرعت بیشتری نسبت به شرکتها و محققان امنیتی توسعه می دهند

نبرد با حساب های جعلی و اقدامات مخرب در بستر شبکه های اجتماعی هر ساله در حال تشدید است. سال گذشته فیس بوک شبکه جهانی 900 میلیون حساب جعلی را نابود کرد. این شبکه از ساختارهای پیشرفته ای مانند تصاویر پروفایل هوش مصنوعی استفاده کرده است تا سعی کند داستان های پشتیبانی ترامپ را برای 55 میلیون کاربر پخش کند. پروفایل های جعلی توسط مردم ایالات متحده و ویتنام اداره می شدند. این افراد گروههای پیچیده ای با تعداد زیادی از اعضا تشکیل دادند که اصلی ترین کاربرد آنها دوست داشتن پست ها در صفحات مختلف بود.

در سال گذشته ، فیس بوک با پروفایل های تقلبی و مجرمان متخلف آنها نبرد جدی دیگری انجام داد و 2600 حساب جعلی را حذف کرد که رفتارهای غیرقانونی غلط و هماهنگ را حذف کرده بودند. نیتان گلیچر ، مدیر سیاستهای امنیت سایبری در فیس بوک و # 39 گفت:

اگرچه ما در شناسایی و مقابله با سوءاستفاده پیشرفتهای شگرف داریم ، اما مشکل همیشه وجود خواهد داشت. در حقیقت افراد مسئول گسترش فعالیت های خود سرمایه زیادی دارند و همیشه برای مقابله با آن آماده خواهند بود. ما دائماً سعی می کنیم چند قدم جلوتر از آنها باشیم.

با توجه به پیچیدگی ذاتی اقدامات مخرب در رسانه های اجتماعی و پیشرفت مداوم آنها ، نمی توان پیش بینی کرد که مدت زمان طولانی ابزار جدید فیس بوک در برابر آنها مقاومت خواهد کرد. علاوه بر این ، مجرمان همیشه انگیزه های متعددی برای پیشبرد فعالیت خود دارند و متوقف نمی شوند. سرانجام ، مهندسان فیس بوک معتقدند که میدان جنگ فعلی تا حد زیادی تحت کنترل مهاجمین است.

با تغییر روش ها و فن آوری های مورد استفاده مجرمان شبکه های اجتماعی ، ابزارهای فیسبوک مجدداً آموزش می گیرند. گفتنی نیست ، توسعه ابزار نیاز به درک روشهایی دارد که مجرمان از آن استفاده می کنند. با این حال ، نبرد فعلی بین متخصصان امنیت و حفظ حریم خصوصی با خرابکاران در رسانه های اجتماعی نبرد جدیدی با بسیاری از ویژگی های ناشناخته است و مطمئناً نمی توان زمان دقیق آن را برای پایان دادن به آن مشخص کرد.

یک نظر بدهید

ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت گذاری شده اند *

10 − 7 =