一、失业影响
1.1 一个主要的威胁是技术失业
好多体力和低级文职工作已经消失。其他类似的工作也会步入后尘（虽然需要灵巧和适应性的体力工作不会消失）。仓库中的大多数起重、提取和搬运工作现在都可以由机器人完成。无人驾驶车辆意味着有人要失业。
1.2 中层管理职位也有风险。
许多专业人员已经在使用人工智能系统作为辅助工具。不久以后，对法规和案例的耗时研究工作（例如法律和会计）可能大部分由人工智能接管。很多高要求的工作很快也会受到影响，如医学和科学领域。即使这些工作继续存在，但技术含量也会更高。专业培训将会受到影响，年轻人该如何学会做明智的判断？
虽然一些法务工作以后可能不再需要，但是律师行业也将从人工智能中获益，因为有一大堆法律陷阱等着处理。如果出现问题，谁应该承担责任？程序员，批发商，还是零售商或用户？一位人类专业人士有时可能因为没有使用人工智能系统而被起诉？如果系统的（无论在数学上还是凭经验）可信度经证明很高，那么这种诉讼将很有可能发生。
新型工作无疑会出现，但这是否代表更多的工作机会、受教育的机会以及更强的赚钱能力（就像工业革命后发生的），对此，我们无法给出确切答案。未来还存在严重的社会政治挑战。
1.3 “服务”岗位受到的威胁较小。
但是，即使是这些岗位也几近消失。在理想化的世界里，当前不受重视的一对一活动很可能在以后大量增加和升级。但是，这也并非板上钉钉的事。
例如，教育开始接受个人或基于互联网的人工智能辅助，如学术界大牛授课的MOOC（大规模公开在线课程），这对许多人类教师的工作大有裨益。计算机心理治疗师已经应运而生，费用比人类治疗师低得多（有些计算机心理治疗师提供的帮助大得令人吃惊，例如，识别抑郁症）。但是，它们完全不受管制。我们在第3章中看到，人口结构变化正鼓励研究照顾老人的“护理人员”和“机器人保姆”，这些都是“钱”途可嘉的领域。
二、道德怀疑
专家们为与外界接触十分有限的老年人和残疾人设计了多款“计算机伴侣”。它们不仅提供帮助和娱乐服务，还与用户对话、逗乐用户，并填补用户情感上的缺失。即使是弱势群体（如帕罗的用户），也会通过这种技术而变得更加快乐，但是他们作为人的尊严也不知不觉遭到了背叛（文化差异在这里很重要：例如日本和西方对机器人的态度差别很大）。
2.1 人类伴侣
老年人可能喜欢与人工伴侣讨论过往，但这是真的“讨论”吗？这可能是一个令人愉悦的提醒，触发老人心中的美好记忆罢了。然而，人工伴侣带来的好处是不会让用户有一种对方能够对自己的经历感同身受的错觉。人们在接受咨询服务情绪激动时，通常最想要的是自己的勇气或痛苦得到“承认”，但这需要基于双方对彼此状态的了解。我们通过提供一种表面上像同理心的东西来短暂地“欺骗”一个人。
即使用户患有中度痴呆，用户对人工智能体的“猜想”可能比智能体的人类模型要丰富得多。那么，当某人回忆起伤心之事（失去子女）时，如果智能体没有按照期望和要求作出回应，这将产生什么后果？如果伴侣按照惯常的方式表达同情，这对消除用户的悲伤情绪没有任何帮助——而且可能弊大于利，可能勾起该用户的悲伤情绪，同时还没有什么其他安慰方式。
还有就是伴侣是否应该偶尔保持沉默或者说一个善意的谎言。不讲情面说真理（和沉默）可能会让用户心烦意乱，但是委婉礼貌需要极其先进的NLP和一个精准的人类心理模型。
2.1.1 机器人保姆
至于机器人保姆（不考虑安全问题），让婴儿过多接触人工智能系统可能会扭曲他们的社会观，不利于其语言习得。
2.1.2 人造性伴侣
人造性伴侣不仅出现在电影中，例如，电影《她》（Her）。它们已经投入市场。有些能够识别语音，用语言和肢体动作勾引用户。它们扩大了互联网的影响，让人们的性体验变得糟糕（同时增强了女性在性方面被物化的意识）。许多评论家（包括一些人工智能科学家）已经写了一些关于与机器人发生性关系方面的文章，揭示了一个非常肤浅的概念：个人的爱慕接近情欲、性迷恋和单纯令人舒适的熟悉感。然而，这种观察报告不太可能产生预期效果。通常情况下，色情作品是一棵“摇钱树”，所以要想阻碍人工智能性玩偶未来的“进步”基本不可能。
2.2 隐私
另外，隐私也是个棘手的问题。强大的人工智能搜索和人工智能学习发布了大量自媒体和家庭或可穿戴传感器上收集的数据，有关人工智能的争议因此也变得更多（谷歌公司最近为一款机器人泰迪熊注册了专利，它有相机眼睛、麦克风耳朵，嘴巴里有扬声器，它既能和孩子，也能和父母沟通——不管愿意与否，它还可以和看不见的数据收集器沟通）。
2.3 网络安全
网络安全问题也不容忽视。随着越多人工智能进入到我们的世界（通常以非透明的方式），它就越重要。要想不被超人工智能控制，那就必须知道如何写不被黑客攻击/改变的算法（“友好人工智能”的目标，见下一节）。
2.4 军事应用
军事应用也引发了关注。机器人扫雷非常受欢迎。但机器人士兵或机器人武器呢？当前的无人机受人类唆使，但即使如此，只要扩大操作者和目标之间的人类（不仅仅是地理上的）距离，无人机就能加重苦难。人们务必相信，未来的无人机不会有权力决定哪个人或哪样东西成为攻击目标。即使靠它们去识别一个（看起来像是人类选出的）目标，也会引发诸多令人不安的道德问题。
