“我们无法知道我们将无限地得到人工智能的帮助，还是被藐视并被边缘化，或者很可能被它毁灭。的确，我们担心聪明的机器将能够代替人类正在从事的工作，并迅速地消灭数以百万计的工作岗位。”

“人工智能的研究与开发正在迅速推进。也许我们所有人都应该暂停片刻，把我们的研究从人工智能能力转移到化人工智能的社会效益上面。”

——史蒂芬·霍金

必须“承认人工智能的黑暗面”。在思考如何将人工智能的好处化的同时，必须考虑到人工智能是一把双刃剑。鉴于当前治理和管理体系的不足，在没有经过反对者和支持者平等对话的政治程序之前，就对人工智能进行大量投资是危险的。

——大连理工大学人文与社会科学学部哲学系教授、社科基金重大项目“高科技伦理问题研究”首席专家王国豫

人工智能研发者面对的困难就像空间探测器工程师所面对的一样：一旦你启动了它，它就在你力所能及的范围外了。

——机器智能研究所Eliezer Yudkowsky

假设你在进行销售纸夹的业务，你想制造一个用于尽可能多的生产纸夹的人工智能，这看起来似乎不会有什么危害。但是，因为这是给人工智能设定的目标，“聪明”的人工智能可能会只关注于制造纸夹，而牺牲掉其他你关心的一切事物。当材料用完时，它会很快将周围的一切能找到的东西回炉，变成纸夹的原料，然后再重新组装成纸夹。很快，它将毁灭地球上的生，地球，太阳系，甚是整个宇宙——仅仅是为了完成一个令：尽可能多的生产纸夹，永远也停不下来。开发人工智能时可能会遇到的错误分为两种：可以日后修复的错误，和只会发生一次的错误，而后者更令人担心。

——牛津大学哲学家Nick Bostrom

包括在采用大量的生物指纹，将来和很多信息结合，在这个里，你没有的自由或的隐私。我们做人工智能或者做的技术突破之前，法律法规或者说人类的伦理的一些边界一定要划分好，马克思说过科学的入口就是地狱的入口，我们人类不能走向把自己混灭的道路。希望把AI严格限制在特别的领域，不要和人产生太多的关系。

——酷派CEO刘江峰

人工智能和机器人领域的专家面临一个重要的伦理决策：必须要决定他们是支持还是反对致自主武器系统（LAWS）。该领域的风险很高，致自主武器系统被描述为战争的第三次，前两次是火药和核武器。

LAWS通过允许机器选择杀死谁，可能侵犯人类尊严的基本原则，而它们的灵活性和杀伤力将让人们毫无防御之力。因此，应对人工智能武器表明立场。

——美国加州大学伯克利分校计算机科学教授Stuart Russel

人工智能在加速生物和医学领域的科学发现及改变医疗卫生方面有惊人潜力。但人工智能技术也将加剧目前的医疗卫生不平衡状况，除非能发现一种方式，让所有病人受益。例如在美国，只有特殊群体或能支付得起的人，才能获益于先进的诊断技术，这是不公平、不合理的。

另外，临床医生理解和解释高性能人工智能系统所得出的结果的能力令人担忧。大多数卫生保健提供者不会接受一个来自决策支持系统的没有明确描述如何和为何能出现效果的复杂治疗建议。因此，研究人员需要让医生、护士、患者和其他人明白他们应该如何使用人工智能，并且如何公平地使用。

——美国斯坦福大学生物工程、基因学、医学和计算科学教授Russ Altm