用户体验已成过去时 AI要从公民乃至社会的角度去思考问题

如今，科技巨头及其基于AI的数字平台和解决方案完全有能力影响全球领导人、民族国家、跨国公司、全球股市甚至每个人的命运。

目前各大数字平台的创始人，以及各种AI系统的设计者和开发者，仍然将个人视为用户、客户或数据点，但往往忽略了个人作为公民的角色和权利。

结果，个人用户和客户完全脱离了社会背景，导致了可怕的后果。这些个体可能在不知不觉中成为虚假信息的携带者；得不到第一手正确信息的用户，可能会被拉入暴力叛军；在求职或更新保险订单时，用户也可能受到带有偏见的AI系统的不公平对待。

为什么要推动公民体验设计？

如今，随着AI解决方案的社会影响越来越明显，我们需要从公民甚至社会的角度来考虑AI技术和设计/开发原则的影响。

通过各种实践证据，我们认识到有偏见的人工智能系统正在对医疗、科研、刑事司法甚至金融服务等各个领域产生严重影响。此外，我们一直在见证数据权利和实践的积极发展。

然而，仅仅从GDPR或数据治理计划的角度来监管高科技企业显然是不够的。同样，新兴算法的审计方法不够成熟，直接影响AI的发展和实践。目前的AI伦理委员会甚至没有能力快速大规模调整AI发展的具体方向。

只有确保以公民为中心的价值观和原则能够指导AI解决方案的设计和开发，才能对AI领域产生有效、可持续和正确的影响。

在过去，“公民体验”只被归类为纯粹的公共服务领域，但仅此而已。今天，我们需要一种更全面的、以公民为中心的方法，并为每个人工智能设计者和开发人员构建一个通用工具箱。

具体来说，我们需要坚持以公民为中心的思维和行动方针的AI公司、数据科学家和设计师。我们还需要市民体验专家，将社会认知带入产品构思、设计、开发的核心环节。

如何构思AI的公民体验设计问题

那么，我们如何创建一个AI解决方案框架，能够真正将个人视为公民，并融入广泛的社会结构，以实现为公民体验设计的可持续实践？

首先，公民体验设计需要跨学科的努力，包括结合社会科学、数据科学和设计思想。公民体验设计也对数据素养和算法素养提出了更高的要求，包括了解不同数据的优缺点，评估应用和不同算法的潜在影响。而这个目标必须通过跨学科的形式来实现。

其次，公民体验设计应该帮助设计者和开发者将个人视为公民用户和公民消费者。公民体验设计还需要提供特定的工具，帮助开发者将个人视为真实的个人，帮助企业在更广泛的社会背景下评估其产品决策。这些工具也有望在用户体验和客户体验层面为数据科学设计和实践提供更深入的见解。

第三，公民体验设计要涵盖产品设计开发的所有要素，包括用例与目标设定、应用指标与用户界面设计、数据管道与AI技术选择，甚至用户调研与分析等。

第四，必须和市民一起制定市民体验设计的基本原则。这些共同建立的实践将带来新的见解，并将公民作为积极的力量引入这场人工智能革命的核心。

公民体验设计的基本原则

一切从这里开始：AI从业者首先要认清个人的身份，也就是成熟的公民，并相应地尊重和关爱他们。永远不要离开社会背景，在孤立的产品或平台中考虑AI解决方案。

让我们看看关于迭代的更具体的建议：

人工智能系统的设计和开发应该强调对公民权利的保护。算法应该以负责任和透明的方式创建，人工智能系统不应该根据公民的身份区别对待他们，也不应该损害他们的免疫力或完整性。

以安全负责的方式处理公民数据。人工智能系统不应在未经明确同意的情况下收集不必要的个人数据或使用个人数据。同样，当公民与人工智能系统互动或受后者影响时，必须明确告知他们。人工智能系统永远不应该愚弄或操纵公民，例如，在推荐系统中伪装成人类或诱导不健康的行为。

从公民的角度考虑AI系统时，个人对数据的控制必须被视为数字产品需要遵循的基本特征。将公民隐私权设定为核心权利，可以保证基于AI的监管系统不会以任何不必要的方式触及这部分信息。

AI系统不应促进任何违反现有法律或其他公民权利的行为。人工智能系统必须尊重现有法规、公共秩序和良好习惯。简而言之，人工智能设计者、开发者或他们的人工智能解决方案不应该独立做出好的或坏的、公平的、适度的或合法的判断。

公民体验设计需要实践者与不同领域的专家保持持续对话，并根据社会背景积极审视他们的解决方案。目前，AI解决方案已经被广泛认为是与人类社会无缝融合的社会技术系统，因此必须对其进行持续的监控、评估、审计和迭代，以最大限度地减少潜在的问题或利益冲突。

人工智能系统还应该允许人们独立学习人工智能技术的使用和效果。当个人被视为成熟公民时，他们应该对自己的AI解决方案负责。为此，人们

这种教育上的透明性，有助于人们了解AI系统及其创建者的动机与意图，帮助公民与AI开发者之间建立起信任。以公民为中心、且具有社会意识的设计，可以及时向公民尽通报义务，同时增强行为与安全机制，例如使有害信息更易于检测、缓解甚至预防。

建立原则

在理想情况下，将公民体验设计引入AI应该成为一项前提性原则，据此指导AI解决方案的设计与开发，而非做出回顾性的评估或系统内容迭代。

纵观全局，很明显，公民体验设计将为AI创新带来新的机会，确保现有乃至未来的解决方案不能忽视个人用户作为公民的这一角色定位。

构建及迭代公民体验设计应该成为一项核心原则，而这条漫长道路的起点就在当下。