【魔鬼抑或天使,科技如何向善】 你是魔鬼还是天使
时间：2019-06-29 04:10:52 来源：小苹果范文网 本文已影响 人 
【编者按】
随着数字化浪潮和人工智能社会到来,人们正充分享受科技革新带来的便捷。有一些科技公司积极倡导“科技向善”,希望能用科技给社会带来更多正能量。前不久,新华每日电讯报道了一个“AI寻亲”的暖心故事:腾讯优图团队研究人员通过模拟建模和算法学习,训练出了一个能进行跨年龄人脸识别的深度神经网络模型,并协助警方利用几张儿时照片找到了4名走失10年的孩子。(详细报道请扫下方二维码)
然而,科技有“天使”的一面,也有“魔鬼”的一面。我们也不得不面对科技带来的负效应。比如,新媒介技术对个人生活的裹挟,人工智能对人类自主决策机制的挑战。在此背景下,人类前所未有地产生了重新审视和反思科技的忧虑。
或许我们有必要重新思考:科技究竟是什么?它想要什么?科技又在什么情况下才能真正符合人类社会所理解的“向善”?
策划:易艳刚
向善:人类和科技的共同觉醒
卢俊
有人说,科技是本来就存在的公理或事实,人类只是发现了它而已。那么,科技究竟是否可能按照人类的善恶观念行事?善和恶是人类定义的价值观体系,是以人类的认识为核心的认知结果,那么,善恶和科技之间究竟是什么关系?
多年前,天使投资人徐小平先生曾问过我一个问题:什么是价值观?我的回答是:价值观第一就是“什么不能做”,这是底线；第二就是“什么更重要”,也就是把什么排在第一位。因此在我看来,科技善恶与否的关键,取决于人类如何定义科技、如何利用科技。
“向善”和“不作恶”是一个价值观目标,也就是尽可能地让科技为人类社会创造更美好的服务和体验。只不过,“向善”这种表达是人类主观积极性的一种陈述,它实际上就是摆在人类面前的“什么不能做”“什么更重要”的选择题。
从凯文·凯利到赫拉利:人类只是技术的佐证和附庸?
在讨论科技如何“向善”的问题之前,我们先要认清科技和人类社会的关系。
在科技思想家凯文·凯利(Kevin Kelly)看来,科学技术和生命的本质是数据和信息,科技有其自身的发展规律,有自我,有自主性,能独立进化甚至能产生意识,并最终和宇宙合为一体；科技的出现早于人类,非人类发明的工具。他开创性地将科技作为一种生命态去解读,认为科技是单细胞有机体、动植物等之外的“第七种生命形态”。
凯文·凯利认为存在一种“外熵”的力量,利用技术元素在初始的混沌宇宙中孕育有序的天体,也最终孕育人类等生命体。技术元素按照自己的节奏、规则和方向发展,人类则不再拥有完全的掌控力,呈现出一种走向失控的趋势。
如同所有父母看待孩子的成长一样,技术元素的发展也会使我们感到失控的忧虑。在技术元素的影响力、独立性不断增强的背景下,整个人类都身处在技术带来的负效应之中,这使得人类的存在更像是为呈现技术而存在的,技术更像人类的主宰。
很多知识分子也认为,如果科技能尽可能地不作恶,就算是谢天谢地了,更何况“向善”?如果科技有自己的意识和发展轨迹,人类只是科技的附庸和佐证,那么,奢谈“科技如何向善”就可能是一个伪命题。
再从“科技本恶”角度思考,很多人或许会对科技有更加悲观的认识。比如,科技极端悲观主义者卡辛斯基(Kaczynski)认为,在完全的自由市场中,超越人类智力的机器人对人类的影响,相当于北美洲有胎盘类对南美洲有袋类的影响(以及人类对无数其他物种的影响)。
人工智能产业将在材料、资源和空间等方面展开激烈竞争,会把价格推高到人类无法承受的程度。由于无法负担生活必需品,生物学意义上的人类可能将不复存在。卡辛斯基的核心观点是——“自由与科技进程互不相容,因此必须终止科技进程。否则,人类将最终成为科技的奴隶并被摧毁”。
相比之下,凯文·凯利算是乐观主义者。他希望“科技能帮助其他人找到自己的方式,使科技产生的福利最大、代价最小”。在很多人眼中,技术和人类的关系,似乎正沿着凯文·凯利预测的方向发展——科技与人类正在逐渐融合,或者说人类已成为呈现科技最适合的载体。
《未来简史》作者尤瓦尔·赫拉利(Yuval Harari)在这本书中也提及了与凯文凯利相似的但更具体的观点:从现在看来,世界有三个趋势,对应着人的三种不同的命运:科技和人工智能如此强大,以至于人作为一个工作者的经济价值、军事价值都没有了,政治经济系统就会认为人没有价值；也许人类整体还是有价值的,但每个人作为个体是没有价值的；也许有些个体还是有价值的,但他们是经过生物学升级改造的“超人”。
在他看来,科技的本质是算法,而人和科技之间关系将分三步走:
第一步,算法相当于是我们的顾问,我们问什么问题,它可能会给你答案,但决策权在你手里；
第二步,算法相当于我们的代理人,我们给它一些大的方向和原则,它去帮我们执行,执行过程中我们授权给它,它就完全可以自己做主；
最后一步,算法成为我们的主宰者,我们把一切交给了算法。
农业文明的技术和宗教有着密不可分的联系,工业文明催生了人文主义,而进入新的智能、数据和算法时代,新的科技伦理和社会秩序也将因为技术和人类的关系不断偶合而成。
在这样的认知下,我们再来理解人类与科技的关系,就无法简单地认为科技是人类的创造物,也无法简单地说科技是否会因为人类的选择而“向善”或“向恶”。但是,无论人类与科技的关系如何错综复杂,人类所能掌控的唯有自己的选择——即使科技神秘又强大,我们能做的仍然只是用自己的意志去做选择和协商。
向善的本质:向神秘科技力量提出协商意见
如果从科技和人类的中观和微观视角来看,人类与科学技术的被发现、被发明的关系,仍是我们可以理解和感知的实际情况。人类目前还掌控着科技,或者说科技仍是人类最好的生存和发展工具之一。
但是,数字时代和人工智能时代的浪潮呼啸而来,人类作为推动和顺应这个浪潮的参与者,必须保持警惕。正因如此,马化腾提出“科技向善”的公司愿景时说:我们所有的参与者应该共同构建数字时代正确的价值理念、社会责任和行为规范,共建一个健康包容、可信赖、可持续的智慧社会。我们相信,科技能够造福人类；人类应该善用科技,避免滥用,杜绝恶用；科技应该努力去解决自身发展带来的社会问题。
实际上,腾讯公司提出的“科技向善”和“AI向善”,更多还是基于当下和未来的微观和中观环境下的科技定义。从这个角度来看,人类在对科技的控制权较强的前提下如何实现“向善”目标,将是当下和不远的未来最现实的问题。这种主张也代表了人类向科技这个神秘力量提出的某种“方向指令”或“协商意见”。
在这个背景下,腾讯提出在人工智能时代,技术背后的“人”更为重要。在人性之善的引导下,“AI向善”将帮助人类提升生活品质,为社会发展创造新的可能。福建警方“牵挂你”寻人平台,利用腾讯优图人脸识别能力,帮助寻找走失人员,就是比较典型的例子。
两年来,已有超过1000个家庭通过这个平台找到走失多年的家人。从幼儿到少年的10年,是人一生中容貌变化最大的10年,对人脸识别技术来说是很难的挑战和突破。但在“AI向善”的理念下,一个个因为人性之恶而破碎的家庭,正在被这项人脸识别技术修复。
再比如,在教育领域,人工智能也让过去只有城市才能享受的教育资源走进边远地区。一些科技公司利用开放平台,成功地将教育公司的优质教育内容送到了更远的地区。有些地方非常偏远,过去那里的教学资源根本无法与北京、上海等一线城市相提并论,但现在因为科技的力量,教育资源公平化已有明显提升。
再比如,在医疗领域,人工智能正在将医疗资源推广到全民普惠。对于医疗资源相对匮乏的乡镇,人工智能可以自主学习高水平医生的专长,并将他们的知识与经验传递给乡村医生。此外,人工智能还可以让患者获得媲美大城市三甲医院的医疗资源。凡此种种,不胜枚举。这就是科技带给我们的温暖和力量。
但是,随着科技创新不断推进,人工智能在为人类带来便利的同时,也引发了哲学、伦理、实践等层面的风险和挑战。在科技突飞猛进的过程中,我们需要建立正确的科技价值观。
对人类来说,科技的确具有善恶两面性,善用则造福人类,恶用则贻害人间。作为参与人类进程的重要组成部分,科技企业应当审慎地对待科技的两面性,用制度约束人类为贪婪和自私的欲望而迎合技术中“魔鬼”的一面,从而让科技“天使”的一面成为人类发展路上最好的帮手。
各国政府在“科技向善”的命运共同体之中,同样需要用更长远的眼光和更开阔的视野审视科技的各种作用力。我们也应倡导政府用更合理的制度来管理影响国家发展的各类科技技术和产品。
一个好的产品、一项好的科学技术,一定会受到法律、人类伦理等社会规则的约束。当科技突破这一切的时候,即使它们在技术标准上表现得很好、影响力很大,但也并不能算一个好的产品或者科技,因为科技和产品最终是为人类服务的。
政府也应利用制度引导企业在技术、产品和服务中注入更多的社会视角,思考科技和文化如何为更多人的福祉提供帮助,并对技术发展带来的负面效应保持足够的警觉,积极寻找解决方案。
“科技向善”是一次人类和科技自身的共同觉醒
科幻作家郝景芳说:“科技的发展史本身也是一部人类心理的探索史。”机器深度学习,模拟的就是人脑神经网络的运作原理。人脑前额叶里集中了孵化人类非理性冲动的化学物质,它导致人会联想,会犯错,会害怕,会喜新厌旧,会大哭大笑,经常没有什么理由就要义无反顾。
人类的感知、情绪、情感、动机、社交究竟缘何而生?人工智能就像一面镜子,照出了人类心理世界的丰富和饱满,它们是无法用数据简单赋予分值的。然而,人类想摆脱的那些矛盾、迟疑、激动、欢呼等情绪,恰恰是人工智能渴望的东西。
人工智能的强大,反衬出了人性的可贵。人性可以揣摩,但不可以设定；人性有规律,但规律总会被打乱。人类世界里有很多看似糟糕的意外,但它们驱动了人类创造力的源源不断……从哲学角度来看,善恶本来也是互为一体,相生相克的。
如果正如前面所谓的“先知”所言,人类只是技术的佐证,那么,人类作为具有自由意志的物种,在浩瀚且宏大的技术面前,似乎并没有放弃作为人的尊严。“科技向善”可能正以“人性向善”殊途同归的力量,与科技和人性中本来具备的“暗黑和恶”的一面作出正面回击。
这可能也是人类和科技本身的一种自我觉醒吧。无论结果如何,我们都应该为这种勇气和背后伟大的自省精神感到庆幸和自豪。
(作者系资深出版人、未来之音创始人)
正视“弱人工智能”的积极价值
孙佳山
2015年,国务院将人工智能列为推进“互联网+”重点领域发展目标任务；2016年,“十三五”规划纲要提出重点突破人工智能技术；2017年,人工智能首次被写入《政府工作报告》……过去几年,人工智能相关话题持续升温,已成为几乎横跨各行各业的热点议题。
随着讨论不断深入,人工智能在引起广泛关注的同时,也导致了两极化争议。支持派乐观地认定,人工智能将很快实现具有自主意识的“强人工智能”,在具体应用领域也能发挥人的作用；反对的声音则认为,人工智能距离拥有类似人的独立意识,还有相当长的距离,所谓“强人工智能”更为时尚早。
这些截然相反的言论背后,不仅存在多重误读,也混淆了人工智能的实际角色和真正问题。若想避免抽象、夸张和物化地讨论人工智能,我们首先要理清对于人工智能认知上的结构性错位,不能将“强人工智能”和“弱人工智能”二元对立,并以尚未兑现的“强人工智能”的标准,来否定现阶段“弱人工智能”的广阔应用现实。
“弱人工智能”的现实价值
谈及传播传统文化、非物质文化遗产保护,很多人都觉得这是中老年群体关心的话题,与青少年无关。然而,近几年基于人工智能、大数据技术的一系列新鲜文化经验,从根本上颠覆了这种刻板印象。
今年元宵节期间故宫的“紫禁城上元之夜”文化活动,受到青少年群体的狂热追捧,就是例证。近几年,围绕故宫已出现“皇帝很忙”表情包、换妆游戏《我的国宝色唇彩》、数字音乐专辑《古画会唱歌》等十余款文化衍生品。而这一切都是云计算、大数据,特别是“弱人工智能”具体应用的产物。
同样的例证也出现在敦煌。“弱人工智能”在对敦煌莫高窟的“数字文保解决方案”中,发挥着至关重要的作用。通过“弱人工智能”形态的提炼、萃取和演绎,莫高窟中丰富的造型元素被赋予了全新生命力。不仅如此,腾讯“弱人工智能”的落地应用,已用于敦煌莫高窟受损壁画的数字保护、修复工作。
通过算法公平,完成对人工智能的“科技向善”引导和引领,在我国社会还有着特殊的意义。
中国互联网信息中心的报告显示,在我国现有的近8.29亿网民中,年龄未达40岁的比例超出70%,近90%未受过本科及以上的高等教育,过半数月收入不足3000元,农村网民的比例开始接近30%。而且超出绝大多数主流人群想象的是,我国迄今仍有1.22亿左右的网民通过网吧上网。
人工智能技术不仅能准确地发现这一问题,还有助于逐步打通贫困地区网络基础设施“最后一公里”,降低入网门槛,加快弥合“数字鸿沟”,提升信息交流效率。
此外,人工智能与政府管理、经济社会发展也呈深度融合之势。截至2018年12月,我国在线政务服务用户规模达3.94亿,占整体网民的47.5%。“弱人工智能”的广泛应用,使我国“互联网+政务服务”不断深化发展。各级政府依托网上政务服务平台,推动线上线下集约融合,通过“数据多跑路”实现了“群众少跑腿”。
平衡“两个杠杆”是科技向善内在要求
这一波以移动互联网为核心的新媒体浪潮,确实将媒介杠杆作用发挥到了极致。一方面,人工智能等不断落地,有可能推动全社会的发展进步；另一方面,人工智能强化媒介杠杆放大效应,很有可能被利用、被操纵,起到相反作用。
我们对此要保持足够的清醒和充分的警惕。移动互联网所起到的史无前例的媒介杠杆效应,并不只是单纯的技术飞跃,而是和金融杠杆紧紧绑定在一起。一方面,这是以移动互联网为表征的媒介迭代浪潮的内在逻辑和发展趋势使然；另一方面,也不可避免地造成一轮又一轮的炒作和投机。
从2015年到今天,人工智能在我国受到全民关注后,正走到了第5年的历程。目前,全球人工智能70%的投融资都集中在我国,这既为我国人工智能事业发展带来千载难逢的历史机遇,同时也带来了巨大的潜在风险。
以史为鉴,媒介杠杆和金融杠杆相叠加,其排山倒海般的综合放大效应,是正向还是负向,取决于二者之间是否可以保持有机的动态平衡。也就是说,我国的人工智能行业,如果不能创造与现有估值相匹配的经济价值,一旦金融杠杆断裂,势必会带来难以预料、想象的多米诺骨牌效应。这不仅意味着行业本身将受到重创,对于我国人工智能的诸多具体应用领域都将带来长期的消极、不利影响。
当前,人工智能技术持续进步,正带来社会化大分工边界的暧昧化、模糊化。在谷歌等平台型科技垄断巨头已不再能做出全球社会责任表率的今天,历史的接力棒开始传递到中国互联网企业的手中。
“弱人工智能”的落地应用,表征的“科技向善”问题,其意义、价值、路径、影响和辐射范围,绝不局限在人工智能自身的范围,将注定波及到从国民经济到日常生活等领域的方方面面。
这也更需要政府、企业、学界、新闻界等全社会各个领域的共同参与,加强对人工智能的法律、伦理、社会等关键问题的研究,进而积极推动人工智能的全球协同治理,促进新一代人工智能的健康、良性、有序发展。
(作者系中国艺术研究院研究员)
