تیم «سلامت چت» دیوار: محافظ نامرئی کاربران با هوش مصنوعی
پیش از این، کاربران، بهویژه آگهیگذاران، با مشکلاتی مثل پیامهای آزاردهنده، تهدید، تصاویر غیراخلاقی و حتی سرقت حساب کاربری روبرو بودند که اعتمادشان به پلتفرم دیوار را کاهش میداد. از سال ۱۳۹۹، تلاشهای زیادی برای مقابله با این آزارها انجام شد. اما از آذر ۱۴۰۳، تیم ۵ نفره «سلامت چت» دیوار با تکیه بر هوش مصنوعی مسیر جدیدی را آغاز کرد. هدف این تیم، شناسایی دقیقتر رفتارهای مخرب و کاهش مواجهه کاربران با این مشکلات است؛ کارهایی مثل انتقال مکالمات مشکوک به پوشه خاص و محدود کردن چت کاربران متخلف، تا کاربران با اطمینان بیشتری معامله کنند.
هوش مصنوعی: برگ برنده دیوار برای امنیت چت
تیم «سلامت چت» دیوار با کمک هوش مصنوعی، اقدامات متنوعی انجام داده تا مزاحمتها و محتوای نامناسب در چت کمتر شود. این اقدامات، فضای چت دیوار را امنتر کرده و اعتماد کاربران را برای انجام معاملات و تعاملات روزمره بالا برده است:
آموزش و بهینهسازی مدلهای هوش مصنوعی برای شناسایی پیامهای مزاحم: این کار با استفاده از زیرساختهای خود دیوار انجام میشود تا مکالمات زیادی در کمترین زمان و با بالاترین دقت بررسی شوند.
بررسی دقیق مکالمات مشکوک و گزارشهای کاربران: با کمک هوش مصنوعی، افراد متخلف مسدود میشوند و پیگیری دقیق گزارشها و اعمال مجازاتها با بالاترین دقت انجام میگیرد.
راهاندازی سیستم خودکار هوشمند: این سیستم بدون نیاز به نیروی انسانی، تخلفات را ارزیابی کرده و مجازاتهای لازم را اعمال میکند.
استفاده از مدلهای تشخیص تصویر: برای شناسایی و تار کردن سریع تصاویر غیراخلاقی، همراه با برخورد قاطع با ارسالکنندگان.
جلوگیری خودکار از نامهای کاربری جعلی یا مشکوک: با بررسی اسامی انتخابی کاربر توسط هوش مصنوعی.
تجربه کاربری بهتر و خداحافظی با افراد مشکوک
طی ماههای اخیر، کاربران با ورود به بخش چت دیوار، تغییر محسوسی را در امنیت و کیفیت محیط گفتگو احساس میکنند:
مکالمههای مشکوک سریعاً به پوشه «افراد مشکوک» منتقل میشوند. این کار باعث شده تعداد مکالمات آزارگران در دیوار تا زمان شناسایی و انتقال پیامهایشان به این پوشه، نسبت به ۶ ماه قبل ۶۸٪ کاهش یابد.
پیامهای افراد با سابقه مزاحمت یا گزارش زیاد، با برچسب «نامربوط به معامله» از پیامهای مهم جدا میشوند.
هشدارهای تمامصفحه به کاربران در معرض خطر سرقت حساب کاربری، آگاهی بیشتری ایجاد کرده و امنیت را بالا برده است.
کاربرانی که در چت دیوار قوانین را رعایت نمیکنند، هشدارها و راهنماییهایی برای اصلاح رفتار خود دریافت میکنند.
نتیجه این تلاشها، کاهش ۴۲٪ مزاحمتها و ۷۹٪ خطر سرقت حساب کاربری بوده است. کاربران اکنون با خیال راحتتری گفتگو میکنند و مطمئن هستند که در صورت گزارش تخلف، برخورد با متخلفان جدیتر و سریعتر خواهد بود؛ از مسدود شدن حسابشان تا پیگیریهای قضایی.
آینده «سلامت چت»: هوش مصنوعی دستیار معاملهگران
تیم «سلامت چت» دیوار برنامههای بزرگی برای آینده دارد. ارتقای سرویس، تدوین قوانین جدید برای حفظ سلامت چت و طراحی راهکارهایی برای مدیریت رخدادهای اضطراری از جمله این برنامهها هستند.
هدی محمودی، مدیر تیم «سلامت چت»، میگوید: “امیدواریم در ادامه این اقدامات، وارد مرحله جدیدی از ایجاد امنیت برای کاربران با بهرهگیری از هوش مصنوعی شویم. برنامه داریم تا دستیارهای مبتنی بر هوش مصنوعی نقش فعالی در تسهیل و موفقیت مکالمات برای رسیدن به معامله ایفا کنند؛ به گونهای که دستیار فروش هوشمند بتواند بخشی از ارتباطات با خریداران را بر عهده گیرد و فرایند انجام معامله را تسهیل کند. همچنین تنها کاربرانی که اعتبار لازم را کسب کردهاند، امکان ارتباط با فروشندگان واقعی را خواهند داشت.”
محمودی در مورد ترویج رفتار مثبت نیز تأکید میکند: “ما قصد داریم در کنار رویکردهای تنبیهی، سیستم اعتبارسنجی و امتیازدهی جدیدی طراحی کنیم تا کاربران بر اساس رفتار و سوابقشان پروفایل و امتیاز دریافت کنند و در نتیجه انگیزه لازم برای بهبود رفتار خود را داشته باشند.”
