Soul App推出“假人设风险提醒”,准确率超95%

  “你的图很好,但下一秒就是我的了。”

  我们经常能在某些梗图或表情包的评论区看到类似的玩笑,然而当盗图行为真实发生在社交软件中,其带来的后果可未必能有这么轻松。

  在如今的互联网时代,眼见不**为实。部分不法分子利用科技盗取他人照片,建立包装出一个更有社交优势的虚假人设,利用此进行社交乃至**行为,这种“假人设”行为的主要表现:

  •虚假外观:通过盗用使用他人人像等手段,以实现“增加性吸引力”目的;

  •虚假生活方式:通过展示不属于自身的高价值物品,**当前经济实力,增加社交优势;或营造“卖惨哭穷”人设,以达到网乞、引流等目的;

  •虚假个人信息:通过编造个人姓名、年龄、身高体重、冒充职业、夸大成就等方式,**个人形象,达到社交目。

  如果以上“假人设”行为无法得到治理,将导致社交平台上不真实的内容泛滥,以及由于部分“假人设”行为目的不纯,更可能导致骗炮、杀猪盘等恶劣行为滋生,引发用户不安全感,**用户对平台内容的信任度。

  今年以来,**网信办实施“清朗”系列专项行动,严厉打击网络生态中的突出问题。Soul App积极响应**倡议,履行了其作为平台的社会责任。为进一步净化网络环境,Soul App生态风控团队建立专项小组,针对“假人设”问题进行分析,在“假人设”的治理策略中,全新推出“瞬间假人设风险提醒”功能。

  从全站到**,图片识别再升级

  图片已成为“假人设”**的主要工具,其中不乏涉及人像、财产、身份等敏感内容。此前,Soul App已推出图片查重功能,帮助网友能更好地辨别内容真实性,一度引发网络热议,该功能可针对高风险图片进行预警——

  当系统检测到图片在站内有重复使用时,会立即提示用户“系统识别该图片曾在站内出现过”,这样的即时提醒有助于用户快速识别潜在的虚假身份,有效遏制不实信息的扩散,进而规避经济上的损失。


  而随着“瞬间假人设风险提醒”功能的上线,Soul App也对图片识别模型进行升级,由之前的只能识别站内图片,升级为**图片识别,大幅提升了识别范围和准确性,提醒话术相应更新为:“请注意甄别信息真伪,避免上当受骗。”


即便是站外盗图,在Soul上也会被一眼识破


若在私聊场景中,系统会直接提示:您的聊天对象可能存在虚假人设情况,请保持警惕

  升级后的图片识别技术,已超越了单一的站内重复性检测。通过融合图片格式分析、历史行为追踪、图库比对等多种维度的技术,结合先进的人像识别算法,Soul App的风控团队目前已能**评估出图片人像的真实性。全自动化系统能够**识别和处理站内的盗图问题,从而显著提升对站内虚假图片和盗图行为的管理能力。

  风控模型升级,精准识别假人设

  真的假不了,假的真不了。“假人设”既然为假,便总有**马脚的时候。Soul App的风控模型已具有全维度的监控能力,包括且不限于私聊、发帖或各个公域场景中图片、语音与文字内容的识别。

  很多假人设在构建身份叙述时,常常会出现与真实情况不符或前后叙述不一致的破绽,通过**地捕捉这些身份矛盾点,并针对性地对相关用户进行识别和分类,对内能显著增加站内的人像识别效率,对外能提升用户体验,创建更符合用户期待的社区环境。

  针对各大社交平台上频发的“假人设”现象,如假冒‘警察’、‘离异带娃’等身份,Soul App迅速识别并锁定可能存在风险的用户群体,通过**度的考察方法,包括但不限于:年龄及地理位置的异常、人设的可疑性、高危职业身份、潜在的受害者特征、网络图片盗用等,风控模型将对这些指标进行**持续监控,以确保平台环境的安全性和真实性。


  准确率超95%,治理工作成效显著

  得益于Soul App团队在平台风控上的努力,“瞬间假人设风险提醒”自上线以来,已经实现超过95%的准确率和60%的覆盖率,在近一个月的时间内,发送提醒超57万次。

  步履不停,今年7月份至今,Soul App创新研发了“AI辅助识别”“网络乞讨行为识别”“虚假人设识别”等能力,累计研发并上线各项**策略共计430余条,平台**识别能力显著提升。据通报数据显示,从Soul App导流发案的案件数量连续下降,第三季度发案数比前一季度下降13%,平台治理工作成效显著。

  一直以来,Soul不懈追求和推动真诚社交的理念。平台相信,社交的本质在于人与人之间真实、坦诚的交流与连接。为了实现这一愿景,Soul不断投入资源和技术创新,旨在打造一个安全、可靠且富有温度的社交平台。通过引入先进的人工智能技术,加强风控策略与内容审核,确保用户在Soul上的每一次互动都是基于真实的身份和真诚意图,让虚假无处遁形。

王擎宇本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 support1012@126.com 举报,一经查实,本站将立刻删除。
标签: /
上一篇2024-11-04

相关推荐