“强人工智能”的伦理困境：假如有一天你爱上了AI，咋办？

本篇文章2003字，读完约5分钟

[编者按]8月25日至27日，首届全国商报战略合作泰和文明论坛在北京举行。在人工智能子论坛的讨论中，许多专家、学者和实践者都认为，随着人工智能的快速发展，基于人工智能的“物联网”时代即将到来，包括无人驾驶、智能家居、自动诊断和治疗、智能城市等。人工智能的应用似乎呈现出欣欣向荣的景象。

然而，不可阻挡的人工智能发展趋势也给人们带来了一系列的隐忧，人工智能在未来会是无所不能的吗？人工智能会挑战人类伦理，冲击社会制度，威胁人类生存，甚至取代人类吗？人类应该去哪里？针对上述问题，《国家商报》记者从上述与会者的发言中总结了一些精彩片段，并采访了业内人士，为读者打开了人工智能的一扇窗。

每一个记者张思实习记者刘春山每一个编辑鲁

在科幻电影中，人工智能机器人(300024，诊断单元)不止一次实现了自我意识。在以人工智能为主题的美国电视连续剧《西方世界》中，尽管主人公知道他心爱的人是一个机器人，但他仍然毫不犹豫地爱上了它，机器人也找到了“世界上唯一真实的东西”——自由意识。

在对人工智能的一系列担忧中，伦理是最重要的一个。在首届“太和文明论坛”上，业内许多人表示，从目前的技术来看，人工智能还没有面临失控的局面，人工智能所呈现的感觉是虚假的。科学家们还没有研究过人类的自我意识是什么，实现机器人的真正自我意识还很遥远。

带来新的情感和隐私问题

新技术的出现一次又一次地扩展了人类的能力，但是历史上从来没有一种技术能与人脑直接竞争。

科学家将“强大的人工智能”定义为具有真正的自主意识并能确认其学科资格的“智能”，而不是像alphago这样只开发比机械计算更高级别的推理能力和学习能力的程序。与强人工智能相对应的是遵循人类计算机算法的弱人工智能。

微软亚太R&D集团副总裁尚荣表示，人工智能需要理性和感性。当涉及到情感时，就会涉及到伦理和隐私。联想风险投资(Lenovo Venture Capital)董事总经理王广西认为，人工智能未来可能会有情感，这将涉及到未来人类智能和机器智能之间的界限，否则这一界限将被抹去。

当人工智能有了情感，它就会和人类有关系，比如爱人和亲戚，这会折磨现代伦理。信框机器人的创始人江涛认为，在实际工作中，人类对机器人产生感情的事件时有发生。“该公司旗下的一款娱乐机器人在互联网上的点击率超过1亿次。在视频中，机器人的头被拍了一下。一位母亲看了现场直播后很生气。她说这是我女儿。公司制造的机器人，你怎么能打败他？”那时，发现人类对这个机器人有感情，也和它有一些联系。

除了情感，人工智能还涉及隐私问题。以前在美国有一对夫妇吵架，家里的智能音响在感应到环境信息后会自动报警。其中，智能音频一直在“窃听”这对夫妇的谈话，以便做出适当的回应，很明显，反馈结果并不是这对夫妇想要的。

自我意识仍然很遥远

今年6月，一篇论文揭示了这样一个实验:facebook的研究人员希望训练一对聊天机器人，让它们有目的地与人类交谈。研究人员发现，人工智能甚至可以掩饰对不需要的东西的兴趣。尽管facebook后来澄清了这一点，但它必须启发我们思考人工智能是否有一天会失去控制。

微软亚洲研究院副院长潘天佑在接受《国家商报》独家采访时表示，目前人工智能的发展并没有失控，这听起来很可怕。作为一名计算机科学和技术工作者，我经常向人们解释，真正的科学和科幻电影之间仍然有很大的差距。

“大多数时候，我们认为人工智能的一些应用似乎有情感和情绪智能，但这仍然是虚拟的。例如，语音聊天，它从互联网上学习了很多人类的聊天方式，可能会让人在回答某个句子时感到情绪激动。但这种感觉仍然是通过机器学习实现的，没有自我意识。”潘天佑说，我们还没有探索人类意识是什么。如何设计有感情的东西？

根据专家的观点，无论人工智能系统如何模仿人脑的“神经网络”，无论它在对话和行动上如何类似于人，只要对人类心理现象的最终解释没有取得突破性进展，就没有必要去问人工智能是否接近人类。

就发展程度而言，我们还在发展弱人工智能，还不知道强人工智能技术能否实现。潘天佑告诉《国家商报》，没有人真正知道未来。从目前的状态来看，人工智能的感受只是虚拟的，所以没有必要担心人工智能会像人类一样有自我意识和个人感受。

《网络进化》一书的作者、电脑医生刘枫在接受《商业日报》采访时表示，如果人工智能被视为与人类同等地位的智能生命体，那么它与人类社会的关系就存在伦理道德问题。如果人工智能本质上是一个像菜刀一样的工具，那么这个工具本身就不存在道德问题。

然而，不可否认的是，人工智能已经悄悄地影响了人类的思维方式。正如泰和智库副主席兼秘书长伊迪(Edie)所说，人工智能已经在某个领域或某种程度上超越了人脑，能够做人们做不到的事情，并对人们的思维方式产生影响。例如，人类思维的主要方式是因果关系，包括大数据在内的人工智能的未来发展强调相关性。

编辑朱昱