中国消费者报 司宇萌

AI时代若何保护好消费者权益?_权益_风险 智能助手

以0.1秒的速率识别交易风险,同时启动语音电话、图文互动等多种办法对用户进行自动化劝阻和风险提示……《中国消费者报》盘点创造,类似这样让AI智能机器人与消费套路或风险“去世磕”的办法,已经成为很多供给主体从不同维度履行消费者权柄保护任务的“标配”。

2023年,大模型智能呈现,给企业的消保事情带来了新的寻衅。
同时,从单点实践向多元运用、从"大众年夜众通用场景向特定行业领域不断深入的人工智能,能否成为产品与流程变革的新工具、新手段,担当起数字时期掩护数据安全、有效保护隐私、遏制消费诱骗等消费者权柄保护的重任,对此,舆论的不雅观察与检视始终未曾停滞。

不雅观察:

办理消保痛点堵点

智能化消保成行业趋势

当前,一些不法分子利用数字化与新技能,强化侵害消费者的能力,互联网诱骗、个人数据安全、虚假营销等问题成为消费者权柄保护的痛点和堵点问题。

如何守住消费者合法权柄的“基本盘”?调查创造,依托AI等科技手段,通过智能风控系统剖断和干预用户交易过程中存在的风险,已成为业内经营主体普遍采纳的手段。

1月22日,蚂蚁集团官网发布的《2023年消费者权柄保护年报》显示,发挥安全科技能力,秒级识别交易风险,覆盖反骗反赌、资金安全、数据安全、内容安全等10大场景。
2023年,蚂蚁集团帮忙公安机关保护了23亿元资金、43万人次,助力返还700余万元。

据蚂蚁集团大安全技能团队先容,与常日只能被动回应客户问题的客服机器人比较,被授予更多消费者权柄保护角色的机器人普遍更长于主动搜索和出击。
比如,在“杀猪盘”诱骗案中,嫌疑人常日会伪装成“甜蜜恋人”,但通过“智能化消保官”的学习和识别,这莳花招很快就能被拆穿。
一次转账如果被精准确认不是女生给男友的大红包,而是“杀猪盘”的诱骗案交易,“智能化消保官”就会迅速启动包括AI反诈叫醒做事在内的各种干预手段,通过主动致电、智能问卷等办法预警劝阻潜在被骗用户,直至风险被有效化解。

近年来,默认自动关注公众年夜众号和小程序、默认自动续费、页面规则不清晰、营销虚假宣扬等问题给消费者带来了许多困扰。
针对这些问题,蚂蚁集团自主研发智能巡检系统“消保盾”,依照内控规则,对产品页面进行全天候不间断的问题巡检、预警、评估,及时创造问题并跟进处理,实现业务场景的事前、事中、事后全流程消保风险管控,更大程度上预防和及时创造可能侵害消费者权柄的干系风险。
2023年,“消保盾”覆盖了更多的业务场景,更高效全面地保护了消费者权柄。

解码:

应对消保形势变革

企业用技能对抗技能

数字经济飞速发展,AI新技能、新场景、新商业模式层出不穷,在为消费者供应便利的同时,也给消费者权柄保护事情带来了一定寻衅。
那么,企业该如何应对这一寻衅?目前,许多企业通过技能创新来应对和解决新技能带来的寻衅。

当前大模型智能呈现,同时也带来了许多问题,发展安全可信的人工智能成为行业共识。
中国科学院院士何积丰认为,可信的人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可阐明、网络环境可信、法律伦理可信等方面。

为培植负任务的AI,2023年蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”,实现了用天生式能力检测天生式模型。
检测标准覆盖内容安全、数据安全、伦理安全等三大类数百种风险,可对大模型天生式内容完成包含个人隐私、意识形态、违法犯罪、偏见与歧视等数百个维度的风险对抗检测,并天生检测报告,帮助大模型更加有针对性地持续优化。

新技能的发展也给消费者隐私保护带来了很大寻衅。
有别于其他风险,隐私风险的管理工具是数据,其呈现出利用高频率、可复制、易扩散、处理链条长、运用处景广泛等特点,仅靠专家履历干事前风险评审、事后风险处置的传统模式无法全面、准确、有效地创造和处理问题。
数据的固有特色,决定了必须要用技能的办法办理风险问题,才能对风险看清、看全、看住,才能向用户供应便捷和易获取的隐私保护做事。

为办理上述问题,《蚂蚁集团2023年消费者权柄保护年报》显示,其建立了技能驱动的iABC隐私工程体系,从事前、事后、尽责3个方面供应支撑。
事前管控“看住、可调节”,确保上线的产品都经由了隐私影响评估后才对用户开放;事后监测“看清、可监测”,具备隐私数据全生命周期风险洞察能力,做到隐私风险心中有数;尽责证明“看全、可自证”,个人信息数据在企业业务流程中的流动记录完全可还原,透明可控。

小程序智能巡检是i-ABC隐私工程体系中的一环。
据悉,目前支付宝上商家和机构小程序数量近400万个。
面对数量弘大的小程序,支付宝上线运行小程序智能巡检,通过机器智能巡检小程序信息授权情形,并对创造的问题进行评估和管理。
依照已经配置好的规则,智能巡检可以实现自动管理,包括减少曝光、隐蔽下架的惩罚等方面,不须要人工操作。

当前,智能化办法管控隐私风险已成为行业趋势。
为了做好产品在投入利用前的个人信息保护合规“质检”,腾讯自主研发了包括灵犀隐私平台在内的大量技能检测工具和检测平台,为产品做好合规检测。

数字平台的快速发展,已经让业态变得越来越多元化和繁芜化,而企业通过智能工具的助力与更频繁的人机互动,显然有助于消费者权柄保护的质效提升,这已经是被行业内外普遍认可的趋势。

浙江大学经济学院副教授、博士生导师章华则建议,未来,企业该当环绕ESG目标,持续提升应对消保形势变革的科技能力,不断增强企业的社会任务感和消费者的得到感,推动消保事情与时俱进。

展望:

消保事情需协力共建

企业应持续开放技能能力

在业内人士看来,消保形势不断变革,消费者权柄保护事情是一个长期的、系统的工程,还须要与行业内的其他企业和机构开放互助、协同共建。

近年来,不少企业和机构通过联合其他机构开展形式多样的消保活动,共同保护消费者权柄。

全社会消保水平的提高离不开行业整体技能的进步。
以助力“全链条反诈、全行业阻诈、全社会防诈”为目标,蚂蚁集团探索建立科技反诈开放技能平台,面向全行业供应“蚂蚁智能反诈系统”的核心技能能力及产品,首批已开放18件反诈关键专利和专利申请、5套反诈技能产品和解决方案。
首批开放的专利和技能,包含了“叫醒热线”“延时到账”“电诈风险识别”“受害人预警和保护”等科技反诈核心能力,生态伙伴可以“开箱即用”,实现低本钱、规模化反诈运用。

此外,“蚁鉴2.0”面向环球开拓者免费供应AIGC安全性、AI可阐明性、AI鲁棒性3项检测工具,可做事于数字金融、教诲、文化、医疗、电商等领域的大规模繁芜业务场景。

蚂蚁集团在《2023年消费者权柄保护年报》中表示,2023年其面向行业开放技能能力,希望推动干系技能取得更大发展。
未来,会持续加大科研投入,攻坚前沿和底层数字科技,共匆匆科技的共享与发展。

如何让新技能、新工具深度领悟消费者权柄保护的更多业务场景,实现人机快速联动,高效化解风险,包括蚂蚁、腾讯等在内的数字平台已经做出了探索和实践。
未来,数字平台商家的经营能力将加倍生动灵动,而这也持续提醒着企业不能放慢脚下的每一步。

来源:中国消费者报