过去几年，人们一直在热烈讨论和辩论公共部门使用人工智能工具所面临的技术挑战；例如，算法偏见和算法透明度的缺乏。然而，关于支持公共部门员工按预期使用这些工具所面临的挑战的讨论却少得多。这篇文章认为，如果我们希望人工智能工具取得成功，支持高效的人机交互至关重要，并就公共部门组织如何提供这种支持提出了一些实用建议。
莫莉是伦敦一个行政区的社会工作者，从事儿童社会福利工作。她是“前门团队”的一员，负责接听关心儿童福利的公民打来的电话。莫莉和她的团队是第一联络点；他们的职责是确定电话是否需要进一步调查。这不是一件容易的事。
莫莉的工作时间非常紧张。伦敦各行政区的 Front Door 社会工作者告诉我，他们预计每天要处理 10 到 15 个案件；这几乎相当于每小时两个案件。
莫莉所处理的信息也不完善，而且受到大脑处理能力的限制。莫莉可以利用电话中提供的信息和任何现有的病例记录。她可能会打电话给家人，试图收集更多信息，也可能打电话给参与孩子生活的其他专业人士。然而，她能获得的信息有限，时间紧迫意味着她必须迅速做出决定。莫莉是在行为心理学家所说的“不确定条件”下做出决定的。
人类如何做出决定
20 世纪 40 年代，赫伯特·西蒙 (Herbert Simon) 创 富人数据 造了“有限理性”一词来解释人类（如莫莉）在这种情况下如何做出决策。西蒙在其著作《管理行为：组织决策过程研究》(1947) 中写道：
“单个孤立个体的行为不可能达到任何高度的理性。他必须探索的替代方案数量如此之多，评估这些替代方案所需的信息如此之多，以至于很难想象接近客观理性。”
因此，他解释说，人们“感到满意”。像莫莉这样的人，在评估孩子时，会审查现有信息，处理她所能处理的事情，然后依靠她的直觉找到令人满意的（但不一定是最佳的）解决方案。
西蒙属于现在所谓的自然决策运动。该学派认为，当人类感到满意时，他们通常会运用专家的直觉；这是人类决策中可接受的、而且通常非常有效的特征。
与此相反的是卡尼曼和特沃斯基率先提出的启发式和偏见方法。根据这一学派的观点，人类倾向于依赖非理性的信念和偏见来满足自己。一个例子是锚定偏见，即人们将自己与特定的信息联系起来，并过分重视这些信息来指导他们的决策过程。
必须承认的是，尽管这些思想流派似乎彼此之间存在矛盾，但他们在一些基本观点上是一致的：
自然主义决策者承认存在非理性偏见，应该避免。
偏见和启发式从业者认识到专家直觉的存在并且是值得接受的。
因此，卡尼曼和克莱因（2009）将两所学校之间的主要区别描述如下：
“ HB 社区的成员……倾向于关注人类认知表现中的缺陷。NDM 社区的成员知道专业人士经常会犯错，但他们倾向于强调成功的专家表现的奇迹。”
因此，这些思想流派之间的主要区别似乎在于他们对人类如何获得满足持乐观还是悲观的看法。两者都承认，我们希望有更多的专家直觉，而不是非理性。