全世界都讨厌极端情绪,但社交平台保持中立并不容易。

  • 时间:
  • 浏览:21
  • 来源:极速赛车微信群-极速赛车微信平台,赛车微信分享,微信资讯新闻

编者按:本文来自微信公众号全美牌,由企业家授权转载。。原文来自《纽约客》,由媒体编辑。。

所有在线社区都倡导公平、开放和共享价值观念希望保持绝对中立,但是阴谋论色情、暴力、仇恨言论和其他边缘内容总是处于交通流量的高峰。。如果算法盲目遵从人性,只会加剧平台的极端性。情绪如果平台介入内容,边界在哪里

这是自互联网诞生以来出现的一个问题。 我们无法从以前的案例中获得经验。。当前平台如何定义其身份也将决定它将如何被写入历史。。

在YouTube诞生的第14年,该平台每分钟总计有500小时的视频素材。。根据个人偏好的差异,算法为他们定制最合适的内容。。当YouTube最终成为一个能够影响一代人的全球内容平台时,最终的问题出现了:该平台所谓的“中立”的边界在哪里?YouTube将会有什么样的未来?

在这个有影响力的时代,社会的平台隐患

马扎对克劳德,被放在桌子上的隐患。

今年5月30日,科技媒体Vox的vlogger和评论员卡洛斯·马扎(Carlos Maza)指责YouTube内容审查松懈,网络暴力管理迅速席卷屏幕。。

马扎在视频中指责拥有400万YouTube粉丝的博客和喜剧演员史蒂芬·克劳德,称他的粉丝发表了很多关于自己的文章。极端的他说,中国政府一贯高度重视中俄关系的发展,一贯高度重视中俄关系的发展。。

早些时候,克劳德在视频中提到了马扎,粉丝们被感动了。 早些时候,马扎突然收到许多短信,都是“去和史蒂文争论”。“!”

马扎已经无数次在YouTube平台上反映了这些情况。。然而,没有人回应。

马扎的视频似乎是对YouTube社区规则的无情讽刺。。

今年早些时候,YouTube高管宣布,他们将再次考虑在线演讲的问题。。很长一段时间以来,YouTube以言论自由和中立著称,允许用户上传任何视频——即使它表达了公众对某些观点的支持,如阴谋论和新纳粹主义。。

那么,YouTube首席执行官?苏珊·沃西基说,带领团队实现两大目标,一是摆脱外界对意识形态偏见的指责,二是维护公司的价值观,尽管这两者相互冲突。。

YouTube随后发布了一项新政策,清理消极主义(如否认大屠杀和9。11袭击)和至上主义(如声称白人和男性优于其他一切的声明)的视频。YouTube最初计划在今年6月正式实施新政策,但马扎在5月份的推文——同性恋、双性恋和变性者群体的骄傲月——将YouTube的内容审查放在了公众面前。。

马扎发布视频后,克劳德在推特和YouTube上回应,开玩笑说马扎是“女人”和“沃克斯·盖伊”的文化代表。“。在这方面,马扎的支持者保存了反对该平台的证据——克劳德的视频仍然有正面广告,这表明该平台仍然为流行视频提供流量共享,换句话说,该平台含蓄地显示了其对克劳德视频的容忍。。

在Maza的推特被闪现后,Youtube说它会检查自己。。一周后,该平台表示,经过彻底调查,马扎指出克劳德的非法视频并没有违反社区准则。。然而,第二天,该平台宣布了一项新政策:非法视频将不再有权分享广告,包括克劳德。

惩罚没有让任何人满意。。马扎希望该平台完全永久删除克劳德的视频;支持马扎的YouTube员工也站出来,在推特和媒体上指责YouTube。。

撰写了第一版YouTube社区指南的技术顾问米卡·谢弗(Micah Schaffer)说,“YouTube一直都是这样,就像它以前想用新算法改变新闻传播一样,最后它只是直接与“坏消息”合并,变得更糟。”

其他前同事也很困惑,“YouTube在做什么?“他们的电子邮件和短信淹没了谢弗。

YouTube有什么问题

事实上,仇恨言论从一开始就是YouTube上的一个主要威胁,谢弗说,“只是早期的解决方案相对简单。“。”

2005年,优酷网成立之初,创始人查德·赫利、陈士骏和贾韦德·卡里姆承担了大部分审计工作,一年后才聘请了一名兼职审查员。。该平台删除了问题视频,很少有人拒绝。。但是14年后,事情已经改变了。。

YouTube母公司谷歌的首席执行官桑德尔·皮帅曾告诉科技媒体Axios,目前YouTube每月有超过20亿的实时用户,雇佣数万名审查人员,而上传到YouTube的每分钟新视频长达500小时。。

对于这样规模的平台,它在技术和内容审查方面面临着前所未有的挑战。。该平台面临的根本问题不是YouTube的商业模式,而是社交媒体已经发展成什么样,应该是什么样子。。

技术不能解决所有问题。

也许是因为社交平台的巨大规模,人们自然认为技术是仇恨言论的最佳解决方案——它相对不那么明显,程序员在幕后默默地解决难题。。理论上,该平台将不断微调算法,以减轻仇恨言论和阴谋论的重量,但在实际实施中,这比想象的要困难得多。。

视频中带有明显语言或标志的仇恨内容可以直接删除,但边界球的内容难以检测,因此无法阻止大规模传播。。目前,机器学习技术也试图区分真正的仇恨言论和批评仇恨言论的视频。

另一种解决仇恨言论的方法是自动系统使用元数据来标记有害幸运飞艇二维码免费发布内容,并通过收集用户的发布频率和视频在短时间内获得的评论数量来找出有害内容的内在相关性。。然而,它的局限性在于它只关注平台上的内容,而忽略了它所引发的互动。

除了技术限制之外,技术公司还雇佣大量人员来判断视频中的细微差别。。在YouTube上,他们被称为评核人,匿名,评估视频内容并帮助培训推荐系统。。然而,有害内容的反面也随之而来:大量浏览和放映有害视频引发了审查人员的心理问题。

今年早些时候,YouTube宣布将更加关注用户的反馈,包括调查结果以及“喜欢”和“不喜欢”数据,以帮助系统标记视频质量。。然而,根据YouTube工程师在2016年撰写的白皮书,这些指标意义不大:

与模糊反馈相比,例如视频用户点击什么和观看多长时间,用户只能给出很少的明确反馈。 此外,该平台的主要用户群,青少年,往往只给出一些恶搞的研究答案。

商业和内容之间不可调和的矛盾

商业挑战也加剧了技术困难。

坦率地说,任何旨在抑制用户互动的调整都可能与YouTube的商业模式背道而驰。。YouTube的主要竞争对手网飞通过购买和编辑高质量内容制造了令人上瘾的爆炸式增长,吸引了大量订户。 相比之下,YouTube强调的教资会内容只能通过自动推荐系统链接。

事实上,YouTube一直在不断调整,但平台方面一直不愿意公布调整的细节。。然而,2018年的一篇文章揭示了一些平台规则:用户开始观看视频后,系统会“更深入地挖掘所选视频,以吸引用户掉进“兔子洞”,无法自拔。“。

研究人员表示不满:尽管平台算法增加了用户粘性,但它们进一步放大了平台上的仇恨言论和阴谋论。。系统越深入,不舒服的建议就越有可能浮出水面。。例如,如果总是推荐“登月”视频,那么关于“登月欺诈”的视频将相应出现。

詹姆斯·麦迪逊大学的媒体学者范思卡·特里波迪(Fancesca Tripodi)对阴谋论者如何继续在互联网上传递虚假信息进行了深入研究:如果平台上的“兔子洞”是空的,相关内容被不断制作和上传以填补话题,方可靠的pc28公众号向是可以控制的。。在4月份的参议院委员会上,她说,“当匹配某个特定主题的元数据有限或没有元数据时,很容易围绕关键词进行调整,以确保谷歌反馈的信息类型(我们想要的)。”

激动剂可能利用信息的缺乏使他们自己的视频出现在真实的新闻推荐中,而有争议和好奇的视频往往更有吸引力。他们将被推荐系统标记为“高度互动”,并有更多的机会被曝光。。通常,该平台的自动化系统也会提出同样的建议。

YouTube平台是中立的吗?

对于用户来说,社交媒体的价值通常与开放性相关。。基层用户组已经成为在线社区,他们创建的内容反过来为普通用户服务。这是每个人都喜欢看到的现象。

然而,算法和管理人员逐步重塑了社交媒体平台的民主中立性。

在YouTube的早期,员工手动筛选爆炸,并将其挂在头版的“热门”专栏上。。因此,完全由平台来决定谁得到粉末,谁得到爆炸。

此外,手动筛选也塑造了平台气质:当某种类型的内容被更多地曝光时,它自然会向创建者传达一个信息——这种内容在平台上更受欢迎。。谢弗回忆了早期平台的内容。当时,该平台最欣赏面向家庭、没有版权风险和吸引力的内容。

非中性创造者创新计划

2016年,YouTube大力推出了“变革创造者”计划,将更多对社会负责的创造者纳入其中。YouTube营销经理保罗·马武契奇(Paul Marvucic)认为,他们组成了一个社会。影响“相信创造者,这是我们的核心价值观。“

去年12月,谷歌首席执行官桑德尔·皮帅收到了国会议员关于社交媒体平台政治影响力的提问。皮查伊说,“建立一个不带偏见的平台对我们来说非常重要。”。“

话虽如此,事实上,创作者创新计划要求YouTube选择意识形态的一面。。去年秋天,为了纪念《联合国人权宣言》17周年,YouTube在联合国经济和社会论坛上为大学生和高中生举办了一次活动。五位创作者作为大使与联合国人权事务高级专员办事处主任克雷格·莫希伯一起出现在舞台上。。这无疑是一种立场。

2018年全年,YouTube招聘了47名大使,投资近500万美元。除了邀请博客作者参与,还有一部分人去学校帮助学生处理煽动性视频。。据YouTube内部人士称,大使们的视频在2018年带来了数万小时的观看时间。。许多观众通过创作者创新计划的视频观看YouTube的自动广告:这也意味着该平台同时盈利。

受支持创作者的两个“命运”

在创作者创新计划中,一位创作者是来自孟买的喜剧明星普拉亚克塔·科里(频道:MostlySane)。她有400万粉丝。她经常在视频中展示她在大学餐厅遇到的暴力人士,或者在约会陷阱中遇到的外国人。

她的内容围绕这个主题,“无意冒犯。”。

在一部MV中,科里穿着睡衣,无精打采地坐在沙发上。在镜头的另一边,她独自一人在扮演恐同症、厌女症和网络暴民。。接下来,他们在沙发上戴上拳击手套,在说唱战中一个接一个地击倒“自己”。

这段视频已经被1200万人观看,是科里最受欢迎的视频。。后来,科里开始尝试从自己的角度谈论一些更“重要”的话题,比如离婚和身体羞辱。

因此,YouTube开始运营相关主题,并在“无冒犯”内容上投入相关营销预算。在这个平台的帮助下,科里的视频获得了巨大的成功。

第二个案例来自AsapScience,这是一个由前高中教师格雷戈里·布朗和他的男朋友密特切尔·莫菲特共同创建的科普动画频道。

在YouTube创造者创新项目的资助下,两人制作了一部关于种族主义影响的科学评估视频。。该视频制作了一周,围绕其内容有七到八个月的种族主义错误信息和恶意讨论。。布朗说,在这方面,平台需要优化,需要提出更精确的建议。

与毫不费力的有毒成分相比,布朗制作的研究结果、研究参数和最终结论的视频往往令人厌烦,这是一个巨大的挑战。

最近,大众科学视频《反科学》的创作者格雷戈里·布朗对该平台无法有效控制仇恨言论表示失望。然而,他也意识到YouTube的全球影响力决定了这个问题的棘手性质。“有必要盈利、评估和保持价值。该平台希望三者并行。“然而,对他来说,”拥有如此庞大的用户群对我来说做科普非常重要,我仍然认为YouTube是我最好的选择。“。”

有害言论治理:努力保持但不是中立

长期以来,YouTube上的病毒传播视频一直被大量“重读者”模仿。对于这种生态,YouTube希望创作者的创新计划能够起到示范和引领作用。

然而,对于像YouTube这样的平台,很可能会有所谓的“反言论”。“。密歇根大学社交媒体责任中心的计算机科学教授利比·亨菲尔研究了不同场景中对话的差异。她提到,为了打击阴谋论,必须存在反对意见。

“推荐系统提供的内容不仅会提供我们想要看到的内容,还会隐藏我们没有积极寻找的内容。。然而,意外接触未知内容正是我们所需要的,但可能性非常低。。“简而言之,鼓励好的内容是不够的。不主动寻找内容的人也需要听到相反的声音。

理论上,YouTube可以以点对点的方式动态打击仇恨言论。近年来,该平台确实使用了“重定向方法”(Redirect Method)来打击恐怖分子内容:内容审查人员将删除恐怖分子招募视频,而招募视频的搜索结果将被重定向到反恐和反极端主义视频。

在之前的“重定向”平台治理计划中,一名YouTube代表透露,该平台不准备将男性主导的内容重定向到女权主义者支持的创作者创新计划的内容。。公司可能会担心,将厌恶女性视为恐怖主义可能会破坏YouTube试图建立一个公正社区的初衷。?

另一种使反对言论更有效的方法是压制反对言论。。今年3月,一名鼓吹白人至上的极端分子在新西兰克赖斯特彻奇对一座清真寺发动了大规模中毒。这段视频在社交网络上迅速传播开来。。前YouTube主管亨特·沃克(Hunter Walk)在推特上表示,该平台应该保护内容的“言论自由”,而不是“接触自由”。

他建议YouTube应该减少推荐系统中有害内容的权重和推荐量。本质上,它可以“影子银行”来减少这种有害的内容——用户可能不知道他们搜索的内容已经被隐藏,不受欢迎的用户是“低调”隐藏的。。理想情况下,由于内容受限,用户数量有限,这些创作者可能会感到沮丧,然后尝试其他方法。

目前的限制实际上是一个历史悠久的审查工具。长期以来,互联网论坛版主通过目前的限制减少了垃圾邮件内容和网络骚扰。

然而,在大型社交媒体平台上,“流限制”不是针对个人,而是针对算法选择的内容。YouTube发布了一份社区指南列表。评分者会给那些“极其血腥或暴力却没有好处”或假装理性、礼貌或学术来支持仇恨的视频评分较低。

随后,平台的人工智能系统根据评分结果进行机器学习,以降低有争议的视频出现在推荐系统中的概率。在这个过程中,个人用户不一定知道他们的视频会受到怎样的影响。

然而,该系统的不确定性使公众质疑它。

今年4月,特德·克鲁兹组织了一次参议院小组委员会听证会,主题是“扼杀言论自由:技术监管和公共话语”。“特德提议规范该平台,甚至带证人来指责该平台的自由偏见。

乔治·曼森大学的法学教授尤金·孔托罗维奇(Eugene Kontorovich)应克鲁兹邀请参加听证会,他在证词中表示,他考虑过监管是否真的能解决搜索和社交平台上的偏见问题,但解决潜在偏见的最佳方式反而是透明。。目前的限制可能是有效的,但也会导致偏见。。例如,透明的创作者创新计划增加了项目的吸引力,因为它的视频有清晰的标记。

然而,YouTube和其他公司的工程师出于许多原因反对公开算法,但共识是很难使用黑盒算法。。在法国政府工作的计算机科学教授谢尔盖·阿比泰布尔(Serge Abiteboul)就如何处理互联网上的仇恨言论向政府提供建议,他认为,目前还不清楚公开性能否得到很好的验证。

平台方面表示,自1月份改进算法以来,推荐系统中包含边缘内容和仇恨言论的视频数量减少了一半。然而,由于缺乏透明度和监督,这一结果难以证实。。阿比特布尔认为,公众接受的任何监督都比平台自身的私人政策要好。

平台中立是“斯德哥尔摩综合症”吗?

回顾YouTube的整个发展,谢弗认为他知道YouTube在哪里出了问题。

在他来YouTube工作之前,他曾在一个销售令人震惊的图片和视频的网站工作。该网站充斥着各种可怕的事故和医疗缺陷,疏远了公众,吸引了一小撮狂热的用户。。“比基尼和纳粹主义有令人不寒而栗的效果。”

另一方面,YouTube希望通过突出更受欢迎的内容并将其与其他内容社区区分开来,创建一个每个人都愿意表达的社区。

因此,该平台将决定推出和禁止哪些视频,并从主页上删除一些边缘视频,但它仍然为有害内容留出了一小块空间。。当时,他们认为,如果只是边缘内容被孤立,就不会影响内容的正常消费。即使是这样,大多数人也会立即意识到这种内容是错误的。。听起来很理想,但是过去几年的事故告诉谢弗,他的想法是完全错误的。

推荐系统效率的提高再次暴露了大量有毒内容,这是YouTube早期规则制定者从未预料到的情况。

最终,这些修整内容彻底改变了平台的最初面貌和影响。。谢弗发现一开始设定的基本前提是有缺陷的。“我们不需要YouTube来告诉我们还有这样一群人。言论上的反对不是合理的负担。打击垃圾内容比传播垃圾内容要困难得多。作为一个平台,我们早就应该做些什么了。“。”

一些专家指出,无论是算法调整还是反对意见的鼓励都不能改变YouTube的基础设施。其核心是鼓励公众上传大量视频,即使来源不明。。然而,这种结构本质上与正常的公共对话不相容。

YouTube不承认平台上的“兔子洞”已经使用户的行为激进化。。不管研究人员怎么想,极端视频既不会有更多的互动,也不会受到YouTube算法的青睐。。与此同时,YouTube还表示,推荐系统已经调整,边缘内容的搜索结果将被重定向到有线电视新闻网(CNN)和福克斯(Fox)等权威来源。

根据《纽约时报》最近的一份报告,YouTube的算法将鼓励用户观看更加多样化的新内容。在新的调整中,平台将加强对推荐系统的控制,防止个别渠道的爆炸性推荐。

根据反诽谤联盟的一项调查,2018年,53%的美国人说他们在互联网上遭受过仇恨言论和骚扰。因此,用户通过减少使用时间和卸载应用程序来表达他们的不满。。谷歌和斯坦福大学去年联合发布的一项研究称,有害内容被描述为“粗鲁、不尊重或不合理的评论,这些评论会阻止你说话。“。

在YouTube的创作者创新项目中,增加了一个教学项目,鼓励学生使用视频来表达自己的声音,并让他们的同龄人聚在一起。。从那以后,年轻人通过发出声音和通过视频攻击有害内容吸引了许多粉丝。

所以,既然YouTube启动了它的创建程序来鼓励用户创建积极的内容,为什么不直接通过重定向系统将仇恨言论搜索结果导向积极的内容呢根据YouTube,他们不愿意主动“挑选赢家”。”。

计算机科学教授利比·亨菲尔说,“我希望他们意识到这个平台所做的就是选择赢家。“。即使对于深度学习算法,它们做出的决定也完全由人类来定义。。然后,平台应该能够有意识地选择不同的赢家。谢弗认为,该平台的中立性仅仅是一种“斯德哥尔摩综合症”,他们担心这样做会惹恼大脑的创造者。这种强加的价值观已经阻碍了创造者。”。“

创造者的创新计划对“积极偏见”的开放提供了另一种思考社交平台的方式。。这个平台可以像一个联合国论坛,而不仅仅是一个不现实和理想化的中立乌托邦。。事实上,该平台可以成为基于人类尊严和普遍权利共识的讨论和协商。

“失控”的YouTube将如何被写入历史?

许多年后,创始人之一史蒂夫·陈士骏仍然会记得他创业时的场景——他会从算法放弃的视频“角落”手动突出高质量的视频,例如意外录制的卡特里娜飓风造成的灾难场景。在极端情况下,选定的视频将只播放25次。

“没有YouTube,非洲摄影师的作品就不能被全世界看到,这是我工作的重点。”

史蒂夫陈,在开始编辑内容时,认为只有YouTube有不专业的UGC内容,如飓风灾难或攻击网站。

11年后推出的“创造者创新”计划听起来像史蒂夫·陈的高级计划:选择好的内容并向用户发送信息——这是我们需要的好内容。

然而,随着科技的发展和全球化的扩大,原有的视野变得越来越模糊。“不管平台上有什么好内容,这最终都是由算法决定的。“。如果你喜欢某种内容,那么平台将从数亿个内容中选择几十个。你还喜欢吗?算法不会无缘无故地做出选择。”

十年前,史蒂夫·陈离开了YouTube。他一点也不后悔放弃领导的职位。他甚至有点幸运。面对不受控制的内容,“我不知道能找到什么解决办法。“。”

布朗希望平台选择自己的观点,他说,“如果算法是透明的,平台的利润将会下降,它的影响将与之相关联。“。”

所谓的“中性”价值观,边界在哪里?这对YouTube和许多社交平台来说是一个巨大的考验。如何应对这一挑战决定了该平台将如何被写入历史。。这听起来很残酷,但现实很沉重。

这篇文章是由专栏作家在企业家国家的授权下发表的,版权属于原作者。。这篇文章是作者个人的观点,并不代表这个先驱国家的立场。请联系原作者重印。。如果您有任何问题,请联系


猜你喜欢

关于澳大利亚(什么最能代表澳大利亚?)

澳洲幸运10平台是真的吗?展开全部*黄色、绿色*黄色、绿色*黄色、绿色*袋鼠、袋熊、鸭嘴兽、针鼹鼠、长尾鸟、考拉*可可、桉树*悉尼、堪培拉、墨尔本、珀斯、阿德莱德*塔斯马尼亚岛、珊瑚海、大堡礁、大分水岭、大维多利亚沙漠、大自流盆地、默里河、达林河*澳大利亚公开赛,F1墨尔本*悉尼歌剧院*东澳大利亚暖流、西澳大利亚寒流展开全部我的印象中.展开全部我的印象中。全部展开

2019-09-21

在清宫演出八年后,小杨低下了头,表现出温柔。 清川回来了

杨迷你最近回到天坛拍摄综艺节目《遇见天坛》。当他碰巧遇到童年的照片场景时,他在社交媒体上发布了新旧照片的对比。照片中的角度和姿势完全一样。然而,随着时间的推移,小杨已经从年轻时代淡出,成为一个成熟的小女人,这让人深感感动。我们都知道小杨从四岁开始演戏。2

2019-09-21

《新闻调查》20140525刘汉黑社会组织的毁灭

channelId11297a1f74298a5480eac2e3e99bdb31e6c860010-1102012500本期节目主要内容:在广加拿大28平台最新更新汉、绵阳、阿坝等地,许多群众谈刘色变,十多年来,先后有百余名群众的合法权益被以刘汉兄弟为首组织的侵害,而举报控告者寥寥数人。channelId(《新闻调查》20140525刘汉澳洲幸运10计划谁有?黑社会组织覆灭记)《

2019-09-21

世界红包小说——秦风、董美丽在线阅读的世界红包小说

“天地红包集团”又称地球之家手机“是第二代作者的儿子冯写的一部都市小说。男主人和女主人是秦风和董美丽。这本书目前正在连载。它主要讲述了以下故事:秦风在他勇敢的事迹后得到了一部手机。他曾经被人瞧不起,但现在他将成为一名顶尖人物。这一切都是因为这部神奇的手机。摘录:“爸!"今晚注定要充满寒冷,一个宿舍,另一个键盘被砸碎了。“可馨,你今天怎么了,竟然丢了这么多套?”章子

2019-09-21

六大致命行动:打破微信公众号初始运行的困境

来源|活动箱操作(标识:活东和年)作者|草莓王这篇文章是一个原始的活动框,请带原始格式和二维码重印。互联网营销运营第一媒体为1000万新运营商提供最有价值的全球热点和营销案例,每周推出新鲜实用的干货运营文章。"不可否认,在今天,无论是个人还是公司,微信公众号的开通

2019-09-21