音乐会

怎样管好你的用户不发生网络暴力?

\

在线平台运作原则和现实生活中的社区非常相似。如果一个社区充满的犯罪或肆意破坏公物的行为,那么这个社区将会被人们抛弃。随着在线社区的不断扩大,这种情况也会出现在互联网上。


因为网络的规模效果,让在线社区变得更具价值。但是,如果系统不随着规模的增长而提升用户行为管理的话,日益增长的恶意行为将会带来负面效果。一旦恶意行为发生,快速发展的网络就会开始大规模的失去用户(ChatRoulette就是个例子),线上聊天也会变得十分荒谬(不妨看看YouTube上的评论),甚至会造成现实生活中严重的后果(Airbnb曾发生过入室抢劫)。

初创公司规模快速扩大并获得一定的竞争力,可以让他们获得成功。但是如果无法开发出对应的网络语言暴力控制系统,这些企业最终一样会以失败收场。一个好的控制系统可以预防、规范、并解决那些骂人或网络暴力行为。

了解发起用户的行为

每一个发起用户的在线行为都包含了两个对象:
内容制造者:有一些用户会在平台上创造出内容或信息,这些信息内容会引导其他用户进行交互。媒体上的写手以及eBay上的卖家都分别是各种系统内的制造者。

种子内容: 这是那些内容制造者所创作内容或信息的基本单元. 在YouTube上,种子内容就是原创视频;在Airbnb上,种子内容就是产品列表。它是平台上产品和消费品的最基本单元。

所有针对故意破坏和系统恶意的预防行为要么从内容制造者入手,要么从种子上入手,我们不妨先看看下文的实例:

一个专门为预防网络暴力而设计的架构

借用医疗上的一个比喻,那些在网络社区内的捣乱行为就像是人体感染上疾病。对于一个平台而言,有三种特殊的设计方法可以用于防止这种情况发生。

预防

防止网络暴力最简单的方法就是从源头上切断,以下两种方式很有效:

1、 内容制造者:平台在允许制造者访问系统之前就要对他们进行管理。比如CupidCurated网站就用一整个团队来管理那些访问他们系统的人。那些肆意破坏约会网站的用户,他们的喜好可以被很好的掌握。此外,Quibb网站也对社区访问进行管理,而Medium论坛则对所有写手进行管理,但是对访问平台的读者是完全开放的。然而这样管理内容制造者所产生的问题是会影响平台的竞争力。

2、 种子内容:平台应该管理所创造出的内容种子,一旦它们不满足某一标准就拒绝掉。比如App Stores在应用上架之前,就要求它们必须满足一定标准。同样在Quora上提问题也需要一定积分,这种方式是在用户开始全新的交互之前就要求他们必须达到活动的最低水平,或是至少在系统内有一定信誉。但是过度管理内容制造者会导致竞争力下降,而管理种子内容则会导致参与度下降。

最简单的方法就是执行,实际上,执行好预防策略也可以为平台带来增长,并提升参与度。

规章制度

有一种非常好的方法,可以鼓励用户为系统平台做出高质量的贡献,那就是允许开放访问,并向大众开放产品权限。不过对于那些最好的产品则必须要限制用户访问,更不能让人轻易找到。

1、 内容制造者:构建一个有信誉的系统,可以根据产品的历史判断出一个内容制造者的可靠性。一个用户在Hacker News或Reddit网站上所作的一切,对于社区而言都是一种资产,因为这可以判断出他是否有能力持续制造出高质量的内容。这些平台上的算法也会助力信誉好的内容制造者。那些拥有更好信誉的用户当然也该享有更高的权利,就像维基百科上的编辑和超级用户一样。

2、 种子内容:在内容生成以后,投票和评级功能则可以更好的管理内容。一些平台在内容结果排名或推送新内容时,会把内容制造者的信誉度作为评分因素,同时也对种子内容进行质量评分。而有些平台会只考虑种子内容的质量评分。

一般而言,规章制度的策略需要构建在一定规模之上,而且在1000万用户级别上才有效果,因为他们真正能执行的也就大约一万用户。

治愈

最后,平台为了阻止恶言内容,可能会革除内容制造者或种子内容。他们会给用户提供报告这些恶习的系统功能权限,并提供一些识别这些恶意行为的算法。在构建系统时,这些功能非常重要。

1、 内容制造者:约会网站经常会把一些行为表现不佳的用户拉黑。在其他例子中,用户可能不会被整个平台拉黑,而是无法使用该平台内的某些特殊功能,比如LinkedIn允许用户自己把不喜欢交流的用户拉黑。Facebook允许用户阻止好友内容(状态更新)显示。

2、 种子内容:在一些系统里,往往不会把用户删除掉,但是他们发送的种子内容可能会被封。比如YouTube会删除色情或盗版内容,Quora也会删掉“嘲笑性的回答”。不过多半情况是,在删除种子内容以后,很可能导致内容制造者本人的离去。

阻止在线网络暴力和破坏行为对于那些希望扩大规模的初创公司而言非常重要。当大多数平台在他们创业初期拼命想解决先有鸡还是先有蛋的时候,如果他们的在线社区受到网络暴力和破坏,那么这些企业所取得的优势将荡然无存。

浏览过本文章的用户还浏览过
  • 开源编程语言的20年历史

    上世纪的80年代和90年代随着个人电脑和互联网的出现和普及,人类接触信息的能力有了爆炸式的增长。 对于门外汉来说,这些变化可能超出了想象,但是对于计算机方面的专业人士来说,这些恰恰是他们所追求的东西。 而过去20年随着计算技术的发展,编程语言也从 [详细]

  • 如何构建公司的IT科技来实现业务目标

    如何构建公司的IT科技来实现业务目标,领导力对于一家公司来说非常重要,而如今的公司领导们在决策的时候,依赖信息技术的程度已经上升到很高的程度。 [详细]

  • 应用程序定价需要更多变化

    近日网络程序员、科技博客写手、离线阅读程序Instapaper的创始人Marco Arment发布文章,分享了他关于应用收费定价方面的一些想法。文章如下: 最近几年中,我不断的会遇到很多iOS程序开发人员,他们跟我重复的是十分相似的话,这说明是大众的意见: 当有人知 [详细]

  • 11句箴言——科技大佬们教你如何构建十亿美元级别的企业

    11句箴言——科技大佬们教你如何构建十亿美元级别的企业,无论你是希望开始自己的创业之旅,或是单纯地对科技文化有浓厚的兴趣,这堂创业课程还是非常值得一看的。 [详细]