人工智能将是这个时代最伟大的魔法师——2018世界人工智能大会分论坛侧记

智库观察

歧，技术强国与弱国之间存在截然不同的观点。技术弱国认为应当完全禁止致命性自主武器的开发使用，技术大国则持相反意见，认为开发致命性自主武器可以降低人员损伤，有利于打击恐怖主义和维护国家安全，并且很多系统已经在战场上进入实战。

军事是推动技术进步的重要因素，互联网就是由美国军方所发明，人工智能的技术发展背后也有军事因素的强力推动。但是，人工智能的科技竞赛也非技术之福，特别是致命性自主武器的扩散会造成更为严重的后果。因此，从联合国层面制定相应的规范，并且促成大国之间在发展致命性自主武器上达成一定的军控条约是当务之急。

联合国政府专家组应制定致命性自主武器系统和人工智能军事应用的目标。其中，最重要的一个目标是制定相应的国际法，在国际法不明确的情况下，各国应克制在军事领域使用人工智能武器。联合国政府专家组也应考虑对国际法此前未曾预见的情况追加法律限制，并以道德或伦理为由尽量减少对人和平民的伤害。更进一步的目标包括管理以下情况的操作风险，包括降低使用武力门槛、意外导致不应有的伤害、造成意外的升级螺旋式增长以及产生军备竞赛和扩散。

当然，从联合国角度来达成一项谈判可能需要十年甚至更长的时间，鉴于越来越多的风险，大国之间应当及早就人工智能在军事领域应用可能带来的潜在风险开展对话，及早启动相应的军控进程。短期内促成技术强国在谋求战略优势和国际安全体系稳定之间的妥协。

各国政府在制定人工智能在军事领域的战略时，还应当高度重视人工智能的治理工作。比如，无论是半自主和全自主的武器系统的设计，应允许指挥官和作战人员在使用武力方面作出适当的人为判断。为保证这一要求的实现，需要严格的设计、对设计的测试和评估、操作验证和测试，解决系统错误和故障的安全工程以及避免人为错误的认知工程。

在决定是否使用人工智能武器时，应当制定明确的规范和流程，避免造成不可预测的后果。同时，还应当加强对人工智能武器的安全性，避免安全泄露，或者是随意转让相关技术。无论是无意或者有意地扩散都会增加军备竞赛的风险，威胁国际安全体系。◇

（来源：光明日报）

人工智能，这一概念有着丰富的内涵和广泛的外延，不仅涉及众多科学门类，还与法律、安全、就业、道德伦理和政府治理等领域密切相关。在上海召开的世界人工智能大会，除了主论坛，还有约30个主题论坛在浦江两岸同步举行。中外专家学者和业界精英深入交流、凝聚共识，共同为大会贡献丰硕的成果。

脑科学和人工智能执手共进

“深度学习和神经网络的出现，对于人工智能技术的发展产生了重大的影响，也为人工智能带来了新的希望，所以我们需要尽可能了解大脑的工作机制。由计算机所构筑的神经网络和由大脑所构筑的神经网络其实是很不一样的，但人类对于神经网络的一些细节还有很多不了解的地方，而大脑科学能够提供这样一些信息……”英国皇家学会会士、英国伦敦大学高等研究院感知学习中心主任科林·布莱克莫尔，18日在复旦大学类脑人工智能主题论坛上如是说。这位皇家会士上一次访问复旦大学是1974年，40多年后，因世界人工智能大会重返复旦，他对这所中国知名大学发生的巨大变化感慨不已。

□文/光明日报

严圣禾周仕兴曹继军颜维琦

人工智能将是

这个时代

最伟大的魔法师

——2018世界人工智能大会

分论坛侧记

脑科学和人工智能是当今国际科技前沿热点，结合神经生物学原理发展的脑启发智能算法应用迅速崛起，催生了新一代类脑人工智能系统，为疾病诊断、智能机器人、通用人工智能等战略性新兴产业带来巨大的发展机遇，成为全球产业发展和升级的新的爆发点和增长点。

当天，复旦大学这个分论坛可谓群星璀璨，除了科林·布莱克莫尔，还有2013年诺贝尔化学奖得主、斯坦福大学结构生物学教授迈克尔·莱维特，英伟达集团首席科学家及高级副总裁、斯坦福大学电子工程与计算机科学教授比尔·戴利，中国科学院院士、中国科学院脑科学与智能技术卓越创新中心主任蒲慕明，英国皇家工程院院士、英国帝国理工学院教授陆永青，中国科学院院士、复旦大学电磁波信息科学教育部重点实验室主任金亚秋等一大批全球顶尖的学者专家共同为上海新一代人工智能原始创新能力把脉问诊、献计献策。

人工智能如何参与城市管理

上海静安区正在致力打造上海建设国家大数据综合试验区的重要功能枢纽区和产业发展集聚区。自上海数据交易中心落户静安、上海大数据产业基地揭牌两年以来，静安区的大数据发展取得了可喜的进步。大数据在该区推进城市精细化管理的过程中也发挥着日益重要的作用。

人工智能的发展离不开对大数据的充分应用，恰逢2018世界人工智能大会的举办，静安区今年举办的第三届国际大数据论坛也成了本届世界人工智能大会的一部分。联合国公共机构和数字政府司官员、国内外知名高校和科研机构中从事大数据和人工智能研究的学界专家、国内外大数据行业龙头企业技术专家、知名创投机构代表、大数据行业相关企业等共1000余名嘉宾围绕“大数据和城市智能”进行深度交流，商讨如何运用数据驱动的力量，推动城市智能化发展及精细化管理不断深化，推动未来静安区城市功能和品质不断优化和提升，为上海建设全球卓越城市作出贡献。

此外，在该分会场的“城市智能创新项目分享会”上，来自政府、大数据企业、科研院校、产业联盟的众多嘉宾先后就“大数据与上海购物”“打破AI幻觉，深度应用实现价值”“数据跨境传输的企业合规挑战”“健康医疗数据保护与流通案例分享”“大数据态势及企业大脑实践”“基于AI的机器人流程自动化技术分享”“海量精准大数据是AI人工智能的核心基础”等多个方面进行了政策解读、技术探讨和案例分享，让听众对大数据在城市管理和规划中的应用和实践有了更全面的了解。

人工智能如何赋能各行各业

除了高校和政府机构，国内外人工智能的领军企业也是众多分论坛的承办方。记者18日上午在科大讯飞承办的“人机交互·万物互联”AI+行业赋能发展论坛上聆听了中国科学院院士裴钢，美国斯坦福大学人工智能、机器人与未来教育中心主任蒋里等十余位知名专家学者、企业家，围绕人工智能、大数据等先进技术如何为行业发展助力赋能展开的热烈讨论。

语音是未来人机交互最重要的入口之一。科大讯飞执行总裁胡郁介绍，科大讯飞在智能语音与人工智能领域有近20年的研究与积累，立志让机器能听会说，能理解会思考。目前，科大讯飞正在用先进的智能语音与人工智能技术赋能教育、医疗、政法等各个行业，希望借助人工智能建设美好世界，迎接人机交互、万物互联的时代。

零售应用是人工智能技术的重要领域，京东集团副总裁、AI负责人周伯文在论坛上作了题为《人工智能重塑零售服务》的发言。他介绍，京东的理念是服务等于内容加交互，正持续在仓储、物流等场景布局人工智能，致力于用技术驱动公司成长，助力服务行业升级，完成从“科技零售”到“零售科技”转型。

与会嘉宾一致认为，未来人工智能会像水和电一样无处不在，世界也将因人工智能而更美好。人工智能将是这个时代最伟大的魔法师，AI赋能，让一切皆有可能。◇