编saying
昨天（7月8日）下午，文汇讲堂人文解读“四大未知疆域”(太空极地深海网络)系列讲座最终场《人工智能下的人类世界》1点开讲。复旦大学计算机科学技术学院教授危辉主讲1小时《深蓝出现20年后的人工智能》，随后，在复旦大学社会发展与公共政策学院教授于海主持下，华东师大脑功能基因组学研究所教授林龙年、上海交大科学史与科学文化研究院院长江晓原、和危辉、于海展开了两小时圆桌对话，之后接受了听众40分钟提问。
整场讲座，在主旨演讲基础上，自然科学学者和人文学者展开了现状和未来的讨论，辩论激烈，掀起全场脑洞大开。结束后，意犹未尽的听友围绕学者问答了近45分钟，在互动群里也各抒己见，分享资讯，展开讨论，各有交锋。昨晚今晨，讲堂及时发布了昨天同一时间在上海举办的《未来简史》赫拉利的演讲，激发大家进一步讨论。
“人工智能“”在路上，对新鲜事务，我们提倡用开放的心态拥抱，也用理性的态度予以审思，希望在这场正在发生的讨论中，我们同步提高自己的知识和认知。
今奉上现场提问整编，和互动群听友点评摘选。开卷有益。敬请期待自然科学学者与人文学者精彩的圆桌对话整编。
圆桌对话要点：《我们如何握手“我们”》
第一环节：讲座评议
第二环节：中国在人工智能领域的位置
第三环节：类脑的路线图：走多远？为何？
第四环节：科学的双刃剑：我们和“我们”
现场互动
人工智能增长速度能否抵消人口红利流失？
中国航海博物馆员工胡烨亮：人工智能代替现有工作岗位的速度是否足以抵消出生率下降导致劳动力短缺带来的所谓的人口红利流失的影响？
江晓原：这个问题，我猜我们此刻没有人能回答你。所以我们只能自求多福，希望人工智能的发展速度稍微慢一点。如果人工智能替代现有工作岗位的速度足够快，显然这个社会将会变成绝大部分人都是没有工作，只剩下少数人有工作。对于这样的社会，我们人类目前没有准备好。我们今天如果有少数人没有工作，多数人有工作，我们把少数人养着没问题，这样的社会是我们现有的社会制度和伦理道德结构能够承受的。但是如果颠倒过来，这个社会中有相当大的比例——且不说超过50%，按照展望，将来90%以上的工作岗位都是会被人工智能取代的。当这个社会大部分人都没有工作的时候，社会会变成什么样？肯定会非常不稳定。那么多没有工作的人，他们可以用无限的时间来积累不满，酝酿革命，于是就会危及社会稳定。无论东方还是西方，无论什么意识形态的社会制度，在这个形势面前都将黯然失色。所以说人类还没有准备好。
机器人可以处理一闪而过的念头？远远不能
虹口区张桥路小学四年级学生陈颢文：如果机器人可以随心所欲地做一些事情，那么假如他想打人怎么办，特别是上一秒他想打人但下一秒又不想打了，该如何是好呢？
危辉：我们现在实验室里的机器人还远远不能处理这种一念之间的事情，他们所做的在我们人类看来都是一些极其简单的事情，例如机械性的动动手臂，画画圆圈和方框等。目前的技术还不能令机器人为所欲为，因为“随心所欲”是一个给定形式化定义的概念，计算机无法进行内部表示。而且就你刚才所举的例子中还需要机器人对打架是好是坏要有一个价值判断，这对于机器人来说是更加困难的，首先对事情的性质进行判断，还要再做出机动的撤回反应，这些能力是目前的机器人所无法实现的。但如果由编程者事先设定收回指令的程序，是能做到的。
哥白尼和达尔文时代需要发展科学，因为未到临界点
邱鑫：请问如果您生活在哥白尼或达尔文时代，是否会反对他们做科学研究呢？
江晓原：我要是生活在他们那个时代的话，有可能我不反对，因为我的观点是今天的科学技术已经走过了临界，在哥白尼的时代离临界点还很远，至于达尔文的时代已经有点接近临界点了，但是也还没有明显地接触到这个点。但如果我在达尔文那个时代我会反对他上“小猎犬号”军舰做远航考察，当时对帝国主义对世界各国的这种考察其实是侵犯国家主权的，如果在当下进行如此的科学考察是一定会受制裁的，只是在当时的年代民族国家的意识并不健全，其实很多行为都带有殖民主义色彩，达尔文的这种科考活动其实也有所体现。
人机结合，不过是消灭人类的温和版而已
周美江：刚刚关于人工智能是“双刃剑”的探讨过程中，我们都将两刃对立起来了，我想请教江教授我们是否能将两者融合起来实现共同进化，不将其至于对立面进行分析呢？
江晓原：我们能从刚才危教授的讲述中感受到当下的一些研究是存在风险的，当一些机器有了意识可能是种进步但带来更多的可能是大量不确定性的风险。现在已经有说法提出人机合一，到最后我们人类就成为了神。但是一旦人机结合，我们的思维就有可能被操控。比如我们人对自己的认识是建立在记忆之上的，如果一旦记忆可以植入（人机结合中最先被讨论的项目），那么我们很可能就不知道自己是谁了，所以这种人机结合的前景可能只是一种我们被温柔消灭的形式而已。
人工智能“参谋”尚不能代替人类参谋
上海应用技术大学教师李建民：人工智能能否为国家战略决策提供参考或依据呢？
危辉：对于及其复杂的决策目前的人工智能技术是无法完成的，它需要大量的背景知识并且伴随非常多的不确定因素，而且这些不确定因素很难在现实生活中一一进行仿真模拟。国家战略决策所涉及的政治、经济、文化、军事、地理、历史、科技、外交等知识的范围实在是过于广泛了，而人工智能目前能够应对的都会范围被极大约束、问题类型被预设的场合。如果某个问题对人而言都是挑战的话（解方程之类的数学问题除外），那么就不适合人工智能来求解。对于计算机的谋略很快会超过参谋的谋略的说法我是不赞同的，大数据之类的技术是不适用的，因为一来每次的问题都不同不会形成规范化的数据累积，二来这类大决策问题中数值计算可能不是最主要手段的。现在的计算机人工程序还不能够作出如此高难度的决策。
人工智能如造成失业，有待受害国积累应对经验
林榕梅博士：如何看待人工智能对人类社会的冲击，特别是对中国失业的冲击？
江晓原：如果人工智能产生大规模失业问题，我希望最好先不要出现在中国，首当其冲的国家必将遭受大规模的损害，若中国能有幸幸免，我们可以对别的受害国进行分析，从他们身上学习经验教训。
危辉：但不幸的是如果人工智能真的席卷人类工作岗位的话，我认为中国可能正是最先受害的国家。据我所知每年春节期间有大量的农民工返乡很多工厂面临用工荒的问题，浙江、温州一带的工厂很迫切希望用自动化设备代替人的劳动力，还不需要重复培训。能够这样做的前提是这些工种是简单的、重复性的、机械性的操作。
脑科学中的“我们”依然处于“盲人摸象”阶段
工程师王勇：请问林老师您对“我们”（具有类脑的机器人）是如何定义的，未来这个“我们”会发展成怎样呢？
林龙年：目前“我们”在媒体应用和语音识别等领域有广泛的应用，在未来创造出有意识的机器人也并非没有可能，现在，像美国的波士顿动力公司就已研制出一种具有有良好平衡力可像人一样四处活动的机机器人。但我作为脑科学研究者，我现在只能很遗憾的告诉你，现在还不能对未来的那个“我们”有个准确的判断，因为目前我们对于脑科学的了解还缺乏一个整体性的框架，很多研究都尚停留在“盲人摸象”的阶段。
从猿到人，我们仍在进化，物种灭绝大多由环境引起
文汇报记者李思文：科学本无善恶，但当有善恶辨别能力的人在使用这些科学时就会产生善恶结果，为什么你认为结果会是善大于恶呢？
林龙年：因为我们人类到目前都还没有灭亡，我相信之后也会继续存在，即使要灭亡也不太可能是毁灭于我们人类之手。地球已经存在了有40多亿年之久，也经历过一些物种的灭绝，但这些灭绝也都是由环境因素造成的，并不是某个物种本身所导致的。人类只是地球进化过程中的一个物种，而且我们仍然处于进化过程之中，对于地球演化到底朝着哪个方向我们也不能完全控制，我们所需要做的就是把握当下，在现有的时间内探寻科学的奥秘。
无人驾驶车辆能驾驶在规范道路，但无法应对复杂路况
上海国际问题研究院研究生杨雪：能否给我们介绍一下自动驾驶技术如何应对真实的复杂环境？
危辉：自动驾驶技术目前很火热，但如果要正式上路的话技术仍然是不成熟的，它仍然无法应对很多突发事件。我们以谷歌的自动驾驶装备为例，谷歌的自动驾驶车辆装备了3D激光扫描、差分GPS和惯性导航设备。通过3D激光的扫描可以获得障碍物在空间中的的位置和距离。一般的民用GPS定位精度不够，差分GPS能够确定车辆所在的车道位置，例如北斗系统的差分定位精度就能达到分米级。惯性导航设备是为了车辆在高架路下面、隧道里面GPS信号不好时依据运动惯性进行位置推定。差分GPS和惯性导航设备一起负责为车辆定位。这三种设备价值万美元，远远超过了车辆本身的价值，还有体积、耗电、后期维护等代价。这三种设备组装到一起看似可以完全实现自动驾驶但在实际操作过程中依旧存在大量问题，其中最主要的就是在非规范路段的行驶，比如在小巷街道、家属院、办公楼门口，这些地方有大量的行人和非机动车辆，这时会出现很多不可预期的事件，障碍物识别与指令决策算法面对如此多样性和不可预期性是非常困难的。这时自动驾驶汽车本身无法机敏应对。除此之外，激光扫描设备还受到天气的影响，雾霾、下雪等恶劣天气都会干扰其正常测距。因此，目前的自动驾驶技术在规范道路上可以行驶，但在非规范道路上依旧面临很多问题。为此立法可能是一个更为漫长的过程。
人造出有意识的机器人，不同于人能借此永生不灭
市教委新闻从业人宿铭珊：我之前看过的美剧《黑镜》讲述了人肉体死亡之后人的意识会转移到一个永生的空间中。请问当人工智能发展到能模拟人的意识的那一天，人类会不会将自己的意识进行转移，成为具有意识的永生不灭的机器人呢？
林龙年：在一些国外科幻电影中，常描述了有技术能够实现意识上传。但真是有一天我们可以制造出意识机器人，也并不意味着就一定能够传输意识。我们人类具有自我认知能力，这种意识称为自我意识，假如我们能制造出有意识的机器人，并且设置他们以保证自己躯体生存为目标，这时他会以最大的能力去求生，但这与意识的传输还是有很大差别的。
人工智能能否反向促进人类智力发展——目前不可能
李海谦：人工智能的开发是人类智能推动的，那么随着人工智能的不断发展会不会反向促进人类智能的提升呢？
林龙年：目前的人工智能技术还无法与人类智能相比，只是在某些方面上获得了突破。对于人工智能未来会发展到什么程度，是否对人类智能有帮助我们现在还难以得出定论。我认为目前的人工智能还处于向人类智能学习的阶段，这也表现在人工智能研究者们提出研发类脑智能的原因，在很多方面目前的人工智能依旧低于人类智能。
危辉：计算机在机械计算和机械记忆方面的研究是非常成功的，已经在这些方面大大减轻了人的负担。另外，对于有确定方法但数据量很大的分析问题，人工智能也可以帮助人来完成。或者还有一些算法确定但需要很快响应的场合，计算机也可以做得很好。
（整编杨乐李念）
互动群听友点评摘选
编saying：
现场的文汇讲堂人工智能互动群里，不断收到即时感想和点评，有些是对其他听友意见的反馈，有些是对话题的点评，有些是建议，同时也有对赫拉利在沪演讲的点评，现保持原貌，摘要部分与大家分享。时间为7月8日下午16:00至7月9日上午10点30分。
周美江16:03无论怎么辩论，国家给不给钱支持，人类探索未知不会停。在发展一种技术前或技术还很低级的阶段，用思辨方式去辩论对错善恶，我觉着没有“发展带来的问题用发展去解决”更有效。
Dina－Zhang17:01每个新事物都有很大的不确定性，我力挺林教授论点，科学是中性的，使用人不同会变得有善恶，不能因怕有危害而不去做，关键在于如果有一天领跑了，我们的法律能否制定相应规则并具体执行而尽量避免危害性。
司露18:03可以理解的是，时间有限，有些东西没听到很正常，并不代表就是浪费时间。其实人工智能也就是这几年才开始真正被广知，它将来带来的不仅技术问题，还有人的问题，社会问题，伦理问题，本身就是人文学家要去探讨的，而危老师却也是给我们提供了大量的案例，技术应用。人文学家和科学家的看似毫无关联的回复，其实已经给我们提供了很好的思考和再次认知学习的线索和方向。人工智能，任重道远，不是一场讲座就说得清道得尽的嘛。
Sumi18:03讨论的是人工智能下的人类世界，可以是实际应用的现在世界，可以是未来世界，对于我们新闻行业来说，我们现在已经知道了体育和财经记者极容易被人工智能替代，每个行业领域的情况都不一样，范围太广不好讨论，实际应用可以自己去了解。
小海燕18:08我觉得今天的讲座挺好的，至少对我个人而言，从完全不知道到有个大概的了解，我带着许多疑问来，解决了很多疑问，很多还没办法解决的，很高兴的是这些疑问很多人，科学家，专家也都在思考，这就是人类有底线“存在”。
司露18:08不是什么问题，都是科学家，人文学家都给万能全面答案，他们也说“这是一份职业”。
天南地北的人18:15两位科学家实事求是，专业精湛，很好！两位人文学者思维很深刻，点赞！
苏令银18:19当前人工智能主要是工程师在做，缺乏哲学，伦理学，法学，社会学的深度介入，正像人工智能专家伯克利的罗素说的，在人工智能技术从理论到实践的路留给中国的总是太短了。
Suming18:25看专家一起讨论或争论人工智能，比对人工智能本身更有兴趣。
stone18:27精彩的是思维的交流和碰撞，不存在对错之分，只是看问题的角度不同罢了。文人和技术人员考虑问题的焦点不一样，不具备严格的可比性。历史上很多伟大的科学家同时也是人文学家，社会学家，哲学家或神学家。
stone18:38对于未知的东西，为什么一定要统一到一起来研究呢？如何来确定这个统一的方向？不同研究领域又怎么胶连呢？明显的目前的基于计算科学的人工智能跟类脑研究就是两个完全不同的方向，究竟哪个方向是唯一正确的呢？既有可能两个方向都能发展下去的。
liwem18:45今天的讲座很精彩，自然科学家和社会科学家的思想碰撞，很让人开拓思路。如果再能涉及国家层面对人工智能这个领域的宏观规划和政策就更好了。
Dina－Zhang19:55华尔街许多经济人的工作被大数据分析代替了，普通工作也受影响但网络没有中国发展这么巨快，我们的银行金融电信……法律体系都没想好怎么应对。
肖齐英19:57美国1%的拥有99%的财富，99%的人拥有1%的财富，AI在继续拉大差距，拥有人工智能技术的人算是造福，没有拥有人工智能技术的人，估计没有没有工作了！
奔跑的胡杨20:26是不是，人工智能一词用得太急切了。现在的很多所谓“智能”应该还是自动控制技术和通信技术的真实应用的开始(自动化)。最多可能只是加了些神经网络模型(已经可以提供决策参考的机器人律师，自动驾驶的视觉识别)。
徐宗伟20:40人类因人工智能的大量使用而失业可怕吗？社会总财富没有减少，我们只要研究如何公平的分配就可以了。也会倒逼产业升级，人员能力提升改变去适应新岗位。
俊jun23:14人工智能虽然强大，可是人类社会很多部分是无法用人工智能来代替的。发展中国的科学技术也好，构建和谐社会也好，都必须认清这一点。这样来看，无论对于自然科学家，还是人文社会学家，责任都很重。两者之间不应该有所谓的隔阂。
沈亚红01:14今天的四位老师都非常棒!两位科学家站在科学探索的角度不怕磨难勇往直前的科学精神是值得我们学习的。两位人文专家的精彩问答也是非常重要的。因为在科学发展到今天，人工智能的确为我们生活工作带来了很多便捷。但是，我们也同样不可忽视人工智能服务器对人体造成的伤害。例如，智能手机现在已是我们生活工作不可或缺的一样便捷工具，但是每年因长时间注视屏幕而造成黄斑病变而眼瞎的有万人之多。医院都检查不出原因的不孕症，很大部分人是因为长期的近距离受辐射造成的。如果以后如讲堂中所说的智能工具替代人工工作，虽然智能工具也可以为人类创造价值为人类服务，但不可忽略人体最基本的一个特症，就是所有器官都是“用进废退”，长期不从事应有的体能劳动而退型废退的话，那将是人类的灾难，是会有很可怕的后果!所以今天江老师提出来的目前看似异议的话题是对的，这是人文学者的社会责任感的使然。把今后必然会发生的现象及时提出来，让科学家在科学的领域上尽可能地去窥避这种风险。危老师也当场回应并作出了科学家的科学责任及其态度。
Suming08:28感谢讲堂分享了《未来简史》作者赫拉利昨天在上海的演讲实录，很难相信会发生“有机生命会逐步被无机生命所替代”的事情，生命都是有机的，无机就不是生命，只是机械。
都市隐居人09:20感觉赫拉利的讲座是典型的西方思维方式，北京治疗白癜风什么时候点状白癜风发病要多久才能治愈
