多年来，与人工智能的交互一直是科幻小说和学术项目的一部分，但随着智能系统承担越来越多的责任，更换工作，并参与复杂的情感决策，找出如何与这些系统协作已成为务实的问题，需要务实的解决方案。
机器学习和认知系统现在是人们每天与许多产品交互的主要部分，但是为了充分利用人工智能的潜力，人们需要更丰富的方式与他们使用的系统进行通信。设计师的角色是弄清楚如何在人与机器之间建立协作关系，帮助智能系统增强人类的创造力和机构，而不是简单地替换它们。
人与技术之间的关系与更快的处理器一样重要。
为什么信任和同理心很重要
Siri不会为你做出改变生活的决定，所以如果它不是很清楚它的结论是什么，而是与一个通过采取模糊输入做出重要决定的系统进行交互也没关系做一些非常复杂的事情，然后给你模糊的输出需要的不仅仅是几个按钮和一个状态指示器。这种互动需要人与技术之间的信任和同情。如果智能系统的目的是做出人们不必要的复杂微妙的决定，那么如果人们不相信他们这样做就毫无意义。这意味着，制定人与我们使用的技术之间的关系变得与构建更快的处理器一样重要。
想象一下，当你突然踩下制动器，改变路线并向新方向前进时，你正在自动驾驶汽车上下班。也许汽车看到了你没有发现或未发现事故的事情，但如果它没有把这一切告诉你，你不相信它做出快速决定，改变当然没有任何迹象表明为什么会非常令人不安。在大多数情况下，汽车不会面临道德上具有挑战性的决定，但有时他们会做，例如在拥挤的事故情况下转向哪种方式，所以在自动驾驶汽车真正起飞之前，人们可能不得不相信他们的汽车为他们做出复杂的，有时是道德的决定，就像另一个人开车时一样。像医疗保健这样的领域更加令人担忧，人工智能也参与其中。
人工智能系统知道什么时候他们不懂东西。
创建反馈循环
在对话中，我可能会误解您的要求，或者我可能需要更多信息，但无论哪种方式，通信的来回性质都可以让您快速纠正错误并让我填补任何空白我需要知道的。类似的人机交互允许系统获得理解问题所需的信息，即使在不能提前定义理解问题所需的信息时也是如此。这也利用了许多AI系统的一个关键区别功能：他们知道何时不理解某些东西。
一旦系统获得了这种自我意识，就可以进行根本不同的交互。界面设计的最大挑战之一是确定在给定的上下文中哪些信息是适当的，以便可以删除或不再强调其余信息。系统本身可以做出这些判断时会发生什么?
像人一样的复杂系统会犯错误。
设计错误
复杂的系统，像人一样，会犯错误。完全避免它们是不可能的。我们的目标应该是减少其影响并鼓励用户原谅他们并帮助系统随着时间的推移学习。随着系统变得个性化并且能够学习，用户容易地教他们如何表现的能力变得更加重要和强大。
即使在静音模式下，Apple决定让iPhone闹钟响起也是这个问题的一个有趣例子。将iPhone静音模式只有禁用声音，你没有明确要求，但一般人的期望是简单的; 当按下关闭按钮时，某些东西会关闭。这种期望的不匹配导致了问题 - 例如在电影院中发出警报。客观地说，另一个问题 - 错过会议，因为你的手机处于静音模式并且没有叫醒你 - 更糟糕的是。然而，如果有更好的相互理解和对系统错误影响的更大敏感性，这两个问题都可以减轻或避免。目前，这些错误的影响可能相当微不足道，但风险正在迅速上升。
建立信任和协作
什么使得乘坐飞机或公共汽车驾驶由完全陌生人驾驶的人甚至不会三思而后行，而进入无人驾驶车辆的想法会导致焦虑?部分原因在于我们通常认为其他人是合理称职的司机 - 机器可能管理的东西 - 但除此之外还有更多。我们理解为什么人们在直觉层面上的行为方式，并且我们可以预测他们的行为方式。我们对当前的智能系统没有这种同情心。
在我们弄清楚如何建立信任之前，没有方向盘的无人驾驶汽车令人不安。
为了正确对待患者，医生，无论是人还是虚拟医生，都需要聪明，她还必须安慰，说服和激发信心。同样地，在我们弄清楚如何像其他人一样建立信任之前，进入没有方向盘的无人驾驶汽车将会令人不安。
在我们目前在Artefact的一个项目中，我们正在探索汽车向完全自动控制过渡的未来。在部分自主模式下显示汽车对周围环境的解释可以帮助建立驾驶员对汽车能够对其他汽车突然改变车道或行人踩到街道的情况作出适当反应的信任。这有助于人们看到汽车能够接管，因为他们在开车时会放弃越来越多的代理商。这种表达系统解释或理解的想法也是一些有趣的Watson界面的核心，这些界面可以帮助人们询问并获得复杂的高级问题的答案。
很多人都警告人工智能驱动的自动化有可能通过消除大多数工作来摧毁经济。以上个世纪的转折为例，汽车的广泛引入对大多数人的生活产生了巨大的积极影响，但它也使几乎所有的马都失业了。在21世纪初，我们是否会受益于今天的技术革命，或者我们是马匹将建筑材料拖到亨利福特的新工厂?开发与人们协作而不是简单地替换它们的人工智能系统可以帮助确保人工智能的好处在更多人之间传播，创建比人或机器更聪明的系统。
