在未来，机器人会不会更多地在职场取代人类？让机器人干活以后，人们到底是可以天天悠闲地晒太阳，还是陷入可怕的生存危机？如何阻止具有人工智能的机器人“胡思乱想”？人类会被自己制造出的机器人灭掉吗？……

在日前举行的“徐汇区中小学生对话机器人专家”活动中，百余名学生与三位机器人研究领域的专家进行了一场彼此激发碰撞的对话。出自孩子之口的问题，看似童言无忌、天马行空，却在与专家的互动中，引出了关于“机器人学三原则”等科学伦理话题的认真讨论。记者发现，在当下，“如何设置机器人的安全防线”俨然成了比“能制造出怎样的机器人”更受孩子们关注的话题。

“机器人写稿”开启争议讨论

9月19日上午，徐汇区青少年活动中心内，开启了一场烂漫童心与前沿科技的对话。台下，坐着来自徐汇区的百余名中小学生。台上，则是三位机器人研究领域的专家：主要从事全自主移动机器人研发的上海交大教授、博导、学术梯队带头人曹其新；“曙光学者”特聘教授、上海大学研究员、博导、“机械电子工程”国家重点学科学术带头人、精密机械工程系主任罗均；同济大学控制科学博士、英国剑桥大学访问学者、上海未来伙伴机器人有限公司副总经理黎明和。

在现场，黎明和的一句“当有一天，你们身边坐了一位小朋友，他（她）实际上是机器人，你会怎么想”，一下子让孩子们穿越到了未来。孩子们不断把心目中关于机器人的问题“抛”给专家。不少孩子表达了对未来机器人的憧憬，如“会不会有可以代替军人上战场的机器人？这样人类就不会受伤了”，“能不能造出代替老师批卷子的机器人”……当一个学生说出“想要个机器人替我们去考试”时，全场大笑起来。

不过，专家告诉大家，这些提议并不完全是幻想。比如田林二中八年级学生胡嘉文的提问“我们能让机器人自己创造更多的机器人吗”，曹其新对此讲解道，在国内，已经有机器人制造电饭锅、汽车的生产线；而目前科学家正在开发的人工大脑技术，就有可能让机器人更聪明甚至具有学习功能，那样的话，让机器人制造乃至创造机器人，都是可能实现的事情。

而机器人日益增长的新技能也引起了热烈讨论。近期的一则“国内首次使用机器人写新闻稿”的新闻，让讨论分成了两个阵营。一部分孩子认为，机器人能代替人类做越来越多的事，人们就能天天悠闲地晒太阳了；而另一些孩子担忧，这样一来“人类做什么呢”，会否被机器人夺去许多生存空间。

怎样才能让机器人更“安全”

比起畅想未来机器人，这一争论显然更激起了大家的热情。专家们逐步梳理分析着孩子们提出的问题，其中不少都和现实探索紧密相关。

问题一：可以让机器人的“聪明”程度不要超过人类吗？

曾经有一部影片《查理和巧克力工厂》，其中讲到在机器人进入工厂干活以后，查理的爸爸就失业回家了——当主持人讲到这个桥段时，也有小朋友提出异议：“我们不要把机器人造得比人聪明，不就可以避免这样的事了吗？”

而罗均告诉大家，电脑在有些方面是人脑所望尘莫及的，比如计算速度和记忆力。如果再赋予人类的意识、情绪和欲望，让它具有了一定的创造力、想象力等，那么这样的机器人超过人类就是非常现实的问题。不但如此，人作为机器人的设计者，也存在着诸多不可控的因素。

那么，如果人会做的工作机器人都会做了，甚至人不会做的工作机器人也会做了，人活着还能做什么呢？眼看孩子们的问题一步步进阶到了哲学层面，曹其新笑着告诉大家：“当年那台会下国际象棋的超级电脑‘深蓝’，依然有人类棋手战胜过它。机器人发展了，也敦促我们人类不断地超越自己，让自己变得更丰富。”

问题二：人类有没有办法避免机器人技术高速发展可能带来的伤害？

有小朋友提出，如果机器人在它们聪明的“头脑”里“胡思乱想”，危害人类安全怎么办？人类会被它们灭掉吗？曹其新表示，随着机器人技术的发展，这种担心是必要的。事实上，关于机器人研究的伦理和法律问题，世界范围的科学家们也一直在探讨。

早在上个世纪，美国著名科幻小说家、科普作家艾萨克·阿西莫夫就在他的著作中提出“机器人学三原则”：***条，机器人不得危害人类，或因为不作为而使人类受害；第二条，机器人必须服从人类的命令，但命令违反***条内容时，则不在此限；第三条，在不违反***条和第二条的情况下，机器人必须保护自己。

但近年来，这“三原则”也在经受挑战。“发达国家正在研发的军用机器人，实际上就挑战了***条原则。”此外，也有科学家提倡更新这三大法则，他们认为，问题不在于机器人，而在于制造它们的人类，真正的危险在于人类迫使机器人的行为超出了它们的判断决策力。曹其新觉得，“人们既要在创造机器人时遵守一些约定，也要为机器人进入人类社会制定应当遵守的规则”。见小朋友们担忧地瞪大了眼睛，黎明和则幽默地给他们支了一招：“如果你发现你的机器人不听话了，就赶快拔掉它的电源。”

罗均也提醒孩子们，即便未来拥有了能干的机器人，也不能“悠闲地晒太阳”，而是要时刻关注机器人的发展，为它们设计更复杂的安全防线。“也许在场的小朋友中间，会诞生未来的机器人安全防线的设计师呢。”

（晨报记者　常煜华 ）