找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

查看: 1347|回复: 1
收起左侧

[科教] 技术的价值观

[复制链接]

1195

主题

170

精华

3596

积分

神级会员

Rank: 7Rank: 7Rank: 7

积分
3596
发表于 12-25-2016 01:59 PM | 显示全部楼层 |阅读模式

亲!马上注册或者登录会查看更多内容!

您需要 登录 才可以下载或查看,没有帐号?立即注册

x

这本身是我在知乎上回答的一个问题,前些日子媒体希望转载,考虑到不想引起更大的风波,暂时回绝了。但我认为,这里面讨论的观点仍然是重要的,因此稍作改写,供重新发表。不管我的身份如何,原观点提出者的身份如何,还请大家专注在观点本身的辩论上——

技术是中立的吗?如果做一个有价值观的技术,可以是什么样子的?

上次听到「技术中立」的言论广为传播,还是在快播案上。当时、可能直到今天,还有许多人为这句话叫好。

但,假如事实真如法庭判词所说,“在明知... 提供的视听节目含有色情等内容的情况下,未履行监管职责,放任淫秽视频在快播公司控制和管理的缓存服务器内存储并被下载,导致大量淫秽视频在网上传播 (快播传播淫秽物品牟利案二审宣判,驳回上诉,维持原判)。”

又假设我们在价值观上认为传播淫秽视频确实是件不对的事情 (这确实是这个假设,很多人不赞同判决,我想本质上是因为这一点) ,那么,这里面的技术,真的是中立的吗?

技术,以及技术所运行在之上的那台机器,确实是冷冰冰的。但算法是由人设计的,这就是价值观。拿大家都熟知的举例子,Google 的设计者,也就是 Larry 和 Sergey,相信网络也应该是民主的。Google 搜索排序算法PageRank 的基础工作原理,是指向一个网页的链接更多,则意味着互联网为这个网页投下了更多票数,那这个网页就更重要。这就是其中的价值判断,这段话也一直登载在 Google 上,是 Google 价值观的体现。而技术,只不过是把这个价值观实现了出来。“Google 搜索之所以能快速找到相关信息,是因为它依赖于上百万在网站上发布链接的用户,是他们帮助我们判断有哪些其他网站提供了有价值的内容。在评估每个网页的重要性时,我们采用了 200 多种指标以及大量的技术,其中包括我们的专利算法 PageRank?,它可以分析出哪些网站被网络中的其他网页「票选」为最佳信息来源。随着网络规模的扩大,这种方法也会越来越完善,因为每个新网站在提供信息的同时,也是另一张待统计的「选票」。秉承同样的民主精神,我们积极从事开放源代码软件的开发,集众多编程人员的努力和创意,不断推出各种创新产品。(Google的十大信条 - - Google)”

如果我们设计了一个算法,这个算法的目标是要优化资讯的点击率,在我们的心目中,点击率代表什么?这就是我们的价值观的体现。如果你的算法不但鼓励高点击率的内容,甚至还开发了 A/B 测试来让平台上的创作者都跟你一起来优化点击率,进一步用广告收入来奖励写出点击率更高的文章的创作者,那更是价值观的体现。

有人会说,那不优化点击率,可以优化什么?很多。比如,知乎对答案的选择「算法」,和百度知道的最大区别,是由众人投票取代了由提问者钦点,孰优孰劣,大家自有判断。比如,微信朋友圈和订阅号纯粹按时间倒序排列的「算法」,一方面鼓励的是公众号作者和读者建立长期的模式,另一方面也驱使公众号作者以提升读者转发率、造成刷屏为目标,既有好处,也有坏处。这些算法对内容分发的影响,大家可以自行思考。

为了展开讲这个事情,我举我自己最近做的「轻芒杂志」的例子。我做算法推荐,希望能够推荐出「高品质」内容,这确实是站在头条的反面的。并不是说为了反而反,而是我们反对质量的低劣,反对标题党,反对内容的垃圾化,反对胡说八道。这是我的价值观。

同样地,我们的搜索引擎首先会把内容无差别地全部抓取回来,这部分也是中立的。但当我们决定什么内容推荐给用户,什么内容不推荐给用户,这就会体现我们的价值判断。

例如,我们对「高品质」的定义是「必须言之有物」,那么我们会问,如果用户读到了一篇言之有物的文章,用户会有何反应?可能会仔细阅读完,可能读了一段时间以后发现太长,暂时没有时间阅读希望有空的时候再读,也可能在阅读过程中看到有意思的东西想记录下来。

那么,我们接着问,机器如何能够捕捉到这些信号?例如,我们可以记录用户的阅读时长,可以记录阅读完成的

比例,可以记录用户收藏的比例,我们还将记笔记功能做得特别简单,这样子也可以度量用户做笔记的比例。这些都是重要的批判指标,但需要综合考虑。比如,用户读完了一篇文章,可能是草草翻阅,也可以是认真阅读,不同用户的阅读速度也不同,这些都需要考虑进去,我们整体称之为「阅读率」。

我们观察了许多数据。例如,有些文章的点击率高,但是点击进来以后进一步的阅读率非常低,这些文章多数就是所谓的「标题党」。我们相信技术的力量,但我们也已经不是技术原教旨主义者,不迷信技术。有些问题,技术暂时无法解决,我们也会人工解决。例如,我们有时候会修改文章的标题,是为了让文章的标题更朴实无华、更好地总结全文的含义,避免「标题党」的影响。机器可以承担许多工作,但无法代替人的智慧、品位和价值判断。

随着用户越来越多,我们能够越来越准确的由用户投票来算出高质量文章。但这会是一个正循环,一开始的指标设置正确,会吸引符合这些用户口味的内容,他们的行为模式本身就会有特点,又会给机器正面的反馈。这和因为标题党、因为猎奇、因为愤怒、因为本能驱动而进来的用户行为和社区氛围是很不同的。我们这样的用户越多,给机器输入的数据就越准。

这一点,我自己做的事情,在内容的高品质上会坚决站在头条的反面。

这个话题之所以重要,是因为我也是技术权力的拥有者。

我们创造一个技术,是为了改变点什么。一个技术,确实如菜刀一样,可能有不同的用途,但总有一些用途是我们创造的时候脑子里面所设想的。这就是我们的目的。而我们的目的,决定了我们的价值观。

假如今天千千万万的技术拥有者,包括还有那么多在校大学生,认同了技术中立论,真的觉得不管技术造成了什么后果,都不是技术的错,都是自然而然的结果,那么社会会变成什么样?这可能是我特别想回答这个问题的原因。


所以,重要的是技术拥有者的价值观。

另外一名技术的拥有者,Demis Hassabis 总结得很好:

The technology itself is neutral, but it’s a learning system, so inevitably, they’ll bear some imprint of the value system and culture of the designer so we have to think very carefully about values.

——The Guardian:

The superhero of artificial intelligence: can this genius keep it in check?

我试着翻译一下:

技术本身是中立的,但它是一个学习系统,所以不可避免地,它们会承担一些设计者的价值体系的印记和文化,所以我们需要非常小心地思考这些价值观。

这句话出自今年 2 月份英国《卫报》 对他的采访。不知道你想起来 Demis 是谁没有?他是 DeepMind 的创始人和 CEO,DeepMind 是 Google 收购的一家人工智能公司。今年年初,由 DeepMind 开发的 AlphaGo,击败了李世石。

当人们担忧人工智能会否背叛人类的时候,Demis 是这么谈自己应负的责任的。

而不是,「随他去吧,我管不着。」


延伸阅读

爱因斯坦为何反对原子弹

点击图片看原样大小图片

点击图片看原样大小图片



原子弹的理论基础是爱因斯坦的质能方程

E=mc?,爱因斯坦也是最早致信罗斯福总统呼吁开发原子弹的科学家,但原子弹轰炸广岛之后,他却成了核武器的坚定反对者

李华平 |文

美国投到广岛原子弹爆炸后升起的蘑菇云(资料图) 原子弹变成人类自我毁灭的工具,对那些曾经参与或关注过原子弹研究和制造的科学家们产生了巨大的震撼,这些科学家大多都对此表示一种深深的忏悔和自责。

1945年8月6日,当爱因斯坦在纽约萨朗那克湖边从《纽约时报》的一位青年记者那里知道了日本广岛遭原子弹轰炸的消息时,感到极度震惊。作为推动美国开始原子弹研究的第一人,爱因斯坦不无遗憾地说:“我现在最大的感想就是后悔,后悔当初不该给罗斯福总统写那封信……我当时是想把原子弹这一罪恶的杀人工具从疯子希特勒手里抢过来。想不到现在又将它送到另一个疯子手里。……我们为什么要将几万无辜的男女老幼,作为这个新炸弹的活靶子呢?”(马栩泉:《核能开发与应用》,化学工业出版社,2005年1月第1版,第169页。)


是年11月,爱因斯坦在《大西洋月刊》发表文章,指出:“我认为原子能在可见的将来不会是一种福音,因此我必须说,它当前是一种威胁。”(杨建邺:《科学的双人器:诺贝尔奖和蘑菇云》,商务印书馆,2008年1月第1版,第269页)12月10日,爱因斯坦在纽约诺贝尔大学的一次演讲中,如此说道:“作为科学家,我们必须不断警告人们这些武器的危险性,我们要努力使世界人民,特别是他们的政府意识到,除非他们改变相互间的态度,并认识到自己在形成一个安全的未来中所担负的责任;否则这些武器必然造成无法形容的灾难。”(同上书,第269页)1948年7月,爱因斯坦在写给“国际知识界和平大会”的信中说道:“作为世界各国的知识分子和学者,身负着历史重任,我们今天走到了一起,……我们从痛苦的经验中懂得,光靠理性还不足以解决我们社会生活的问题。深入的研究和专心致志的科学工作常常给人类带来悲剧性的后果”,“科学家的悲剧性命运使我们帮忙制造出来了更可怕、威力更大的毁灭性武器,因此,防止这些武器被用于野蛮的目的是我们义不容辞的责任。”(同上书,第269—270页)其后,爱因斯坦在其发表的《命运攸关的决定》中还继续呼吁:“现在该是号召每一个人(不论性别)对可能发生现代文明历史上最大的灾难进行思考的时候了。……原子战争除了给战争双方带来前所未有的伤亡和毁灭以外,什么也解决不了,用战争解决争端已不再可能。”同上书,第270页。直到爱因斯坦去世之前,爱因斯坦都利用一切机会呼吁美国不要把科学的发现变成杀人武器,并号召全世界科学家团结起来反对核战争。

素有“原子弹之父”之称的奥本海默也是最早对原子弹这一科学成就表示怀疑的人之一。1945年10月16日,奥本海默在接受美国陆军授予洛斯-阿拉莫斯感谢状答词时说:“如果原子弹被一个好战的世界用于扩充它的军备,或被准备发动战争的国家用于武装自己,则届时人类将要诅咒洛斯-阿拉莫斯的名字和广岛事件”,他借机呼吁“全世界人民必须团结,否则人类就将毁灭自己。”(马栩泉:《核能开发与应用》,化学工业出版社,2005年1月第1版,第169页。)因发现第93号元素钚而对原子弹的研制工作立下汗马功劳的英国科学家哈恩,在得知日本遭受原子弹打击的消息后,感到十分沮丧,他觉得正因为他的发现,原子弹才得以发现出来,因此他觉得他应该对这十几万人的死亡负有责任。他在多次场合表示,当他看到自己的科学发现可能带来的可怕后果时,他深深惊恐。如今,这一切可能性和担心都变成了现实,他觉得自己受到了良心的责备。

在广岛原子弹爆炸后几个月,英国著名哲学家伯特兰·罗素就已经预见到原子弹巨大的破坏力将给人类文明造成的危险。美国第一颗氢弹的试验成功更加促使罗素决定采取措施,说服全世界的许多杰出的科学家与其一起发表一个声明,就核战争的危险向各国政府和公众发出警告。为此罗素于1955年写信给爱因斯坦,爱因斯坦立即热情回信请罗素起草宣言,并把自己的签名寄给罗素。


1955年7月9日,《关于核武器的声明》,即著名的《罗素—爱因斯坦宣言》在伦敦正式发表,共有11位以诺贝尔奖获得者为主体的著名科学家在此宣言上签字。在宣言上签字的诺贝尔奖获得者,除了罗素和爱因斯坦外,还有法国物理学家约里奥-居里、德国量子力学创始人马克思·玻恩、日本介子理论基本原理开拓者汤川秀树等。《宣言》及其附件如此写道:“在未来任何世界大战中肯定要动用核武器,这样的核武器肯定要威胁人类的持续生存,鉴于这样的事实,我们强烈要求世界上的政府认识到,并公开承认,不能通过世界大战实现自己的目的。因而,我们强烈呼吁寻求和平手段,解决他们之间的种种争端。”同上书,第171—172页。1957年7月,在《罗素-爱因斯坦宣言》的号召下,来自10个国家、属于东西方不同阵营的22名科学家,在加拿大新斯科舍省的小渔村—帕格沃什首次举行会议,讨论如何评估核武器大规模试验的后果,如何控制核武器和达成全面裁军协议,以及研究科学家如何承担社会责任。这次会议被与会科学家们命名为“帕格沃什科学与世界事务会议”,并成为延续至今的著名的“帕格沃什运动”的开端。

1958年1月13日,世界上43个国家的9000名科学家致信联合国秘书长,要求立即签订一项停止核试验的国际协议。王仲春:《核武器核国家核战略》,时事出版社,2007年8月第1版,第433页。

1988年春天,英国著名物理学家斯蒂芬·霍金获得以色列沃尔夫基金会授予的沃尔夫物理学奖。霍金利用在耶路撒冷的颁奖典礼也表达了对现代科技发展的隐忧。他在演讲中说,“科学的发展已经证实了,我们是广阔的宇宙中很小的一部分,这小小的一部分要用理性的法则来治理,希望我们还能用法则来治理我们的事务。然而科学的发展也使我们受到了威胁—它会毁掉我们的一切……让我们尽量地能够促进和平,确保下个世纪以及更远的将来我们人类还能继续存在。”(【美】克里斯廷·拉森:《霍金传》,上海远东出版社,2010年8月第1版,第106页。)显然,霍金的这段言论是针对核武器的发展,因为到现在为止,只有核武器才是霍金所讲的能够导致人类毁灭的“科学”。

但是,我们应当注意到,不管这些科学家和哲学家、思想家们如何义愤填膺地表达了他们对于核武器的担忧,但这些建议与顾虑大多停留在“空气振动”阶段,并没有产生什么巨大的实际效果。其原因特别简单:首先,这些科学家大多是当年核武器开发的积极推动者,现在却又振振有词地反对核武器,这种前后矛盾的情形确实很难让人信服。其次,并非所有的科学家都坚持同样的观点,相反则有很多科学家坚持认为应该制造出更多的核武器以用于战争。


例如,同样是美国第一个原子弹的参与者,维克多·韦斯科夫则依旧认为他们制造原子弹是正确的。他反复提出,当时的情形与现在大不相同,希特勒正在研制原子弹。德国战败后,日本人疯狂地抵抗,给美国造成巨大的伤亡,他觉得当时至少要制造10个以上的原子弹才能使日本屈服。(肯尼斯·加尔布雷思:《核击日本》,王宏林编译,京华出版社,2004年6月第1版,第226页。)当然,让这些科学家的“良知”最终处于“空转”的根本原因,还是他们仅仅是供国家政府部门使唤的“文人”,最多算得上“御用科学家”而已,纵使才高八斗,经天纬地,也不过是一介书生罢了。

再说了,到了20世纪40年代以后,人类科学发展已经进入一个国家主导下的“大科学时代”了,没有国家的支持,任何人想作出什么惊天动地的事情是极端困难的。研究科学史的人们或许知道,在20世纪40年代前后那段时间,科学家基本上是自由自在的,可以说是“单干式的”。

德国的科学家伦琴一个人在实验室里专注地观察由阴极射线引起的奇怪现象,就连他的助手和妻子都不知道他在干什么。法国物理学家贝克勒尔子承父业,在偶然中发现了铀射线。波兰科学家居里夫人在没有任何人的帮助下,在“棚屋”里又干粗活又作精密的仪器观察,这才发现了放射性的元素钚和镭。这个阶段的科学家是自由的,也是快乐的。当居里夫妇在夜间看见他们经过千辛万苦才提炼出的镭发出美丽的幽光时,他们幸福地拥抱在一起。英国物理学家卢瑟福每当有重大发现,总要放开喉咙高唱:“前进,基督的信徒们!”而且不无骄傲地说:“这是我掀起了波浪!”(肯尼斯·加尔布雷思:《核击日本》,王宏林编译,京华出版社,2004年6月第1版,第5—6页。)但与之同时,捉襟见肘的财务状况也经常让这些科学家们遭遇困境,使之无法将心爱的科学研究予以推进。不过在这段时间之后,情况不一样了,经常因经费问题而陷入绝境中的科学家日益被纳入国家的体系中来,由国家提供巨大的财政支持为科学家们开展科学研究提供前所未有的支持,但从此以后,这些科学家们也失去了应有的自由。也正是因为上述这些原因,决定了科学家们只能根据国家的意志来决定自己的活动,而不是相反。科学家的意见或观点永远只能说对政府的决策具有一定的影响力,但无法左右政府的决策。关键是当科学家们的自由被政府“收购”以后,他们就再也没有权利来支配自己所创造的成果了。“在人生的途中,我迷失在一个黑暗的森林之中。……我怎么会走进那个森林之中,我自己也不清楚。”(【意大利】但丁·阿利基埃里:《神曲·地狱》,第1篇。)这是意大利诗人但丁·阿利基埃里的困惑,世界上有哪个科学家不具有与但丁同样的困惑呢!

0

主题

0

精华

2

积分

新米人

Rank: 1

积分
2
发表于 12-25-2016 04:28 PM | 显示全部楼层
CherryDeng回帖支持!~~~
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表