AI 平权时代：当技术温度触达每一个 "少数群体" —— 人工智能包容性设计实践

推荐语

AI技术如何温暖每一个“少数群体”？本文带你深入了解人工智能的包容性设计。

核心内容：
1. 老年人和残障人士在AI时代的挑战
2. 谷歌Project Relate和宜家Kreativ等包容性AI实践案例
3. 微软Seeing AI和Voice Control等产品的包容性设计

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

人工智能时代用户的多样化需求

当我们欢度 AI 带来的便利时，我们是否兼顾了更多样化的人群？从用户体验的视角，理解并包容老年人、残障人士、少数群体的需求至关重要。

对于老年人而言，他们可能面临技术使用方面的挑战，例如视力下降、手部灵活性降低或对新兴技术的陌生感。

对于残疾人士而言，AI 既带来了机遇也带来了挑战。AI 有潜力增强现有的辅助功能，例如，改进屏幕阅读器和语音控制功能；AI 驱动的语音识别系统可以理解各种语音模式，包括言语障碍人士的语音；还可以自动执行创建视频字幕等耗时的任务，为听力障碍用户提供便利。

然而，如果 AI 系统的设计和训练数据没有充分考虑残疾人士的需求，则可能产生新的障碍。如果 AI 模型在非代表性的数据集上进行训练，则可能无法准确识别或响应具有非典型特征（如不同的语音模式或肢体动作）的残疾用户。

少数群体也可能面临 AI 系统中的偏见问题。研究表明，AI 系统可能会在训练数据中反映并放大社会偏见，导致对特定种族、性别或文化群体的歧视性结果。

包容性人工智能设计实践

https://www.ikea.com/us/en/home-design/

宜家的 Kreativ 应用程序利用 AI 扫描空间，虚拟移除现有家具，并以互动、逼真和易于访问的方式推荐新的室内设计方案，这使得更多用户能够轻松进行家居设计。

多邻国的视频通话功能则通过 AI 根据每个用户的学习风格个性化课程和练习，调整节奏和内容，从而满足不同学习者的需求。

“视频通话”功能有几个特点：根据用户语言水平量身定制难度；给予事件的反馈（不会刻意纠正语法，不会打分，也不会强迫用户重复去说，而是注重交流本身，只会问用户有没有听懂她或者反馈她有没有听懂用户）。

https://www.microsoft.com/en-us/garage/wall-of-fame/seeing-ai

微软也在其产品中积极融入包容性设计。例如，Seeing AI 应用程序利用计算机视觉技术为视障用户描述周围的世界，包括阅读文本、识别场景和人物等。

https://inclusive.microsoft.design/

微软还开发了 Voice Control 等功能，允许用户通过语音控制他们的设备，这对于有运动障碍的用户来说至关重要。此外，微软还提供了包括心理健康指南、认知障碍设计案例研究等一系列包容性设计工具和资源，以帮助开发者创建更具包容性的产品。

https://www.youtube.com/watch?v=eg22JaZWAgs

苹果公司一直以来都非常重视产品的可访问性。其 Voice Control 应用程序通过 AI 增强，能够更准确地理解和转录语音，并支持更复杂的任务，从而提升了使用体验。

苹果还推出了 Music Haptics 等创新功能，让听力障碍用户可以通过触觉感受音乐。

亚马逊也在其产品中加入了多项 AI 驱动的无障碍功能。例如，Alexa 语音助手可以通过语音交互帮助用户完成购物、播放娱乐内容和控制智能家居设备。

Fire TV 支持音频流传输到助听器（ASHA）协议，并推出了 Dual Audio 功能，允许听力障碍用户与家人朋友一同观看电视节目。

Kindle 设备则提供了多种字体、大小和布局选项，以及文本转语音等功能，以改善阅读体验。（微信读书也是）

这些案例表明，大型科技公司正在逐步认识到包容性 AI 的重要性，并积极开发相关的功能和产品，以满足不同用户群体的需求，特别是残疾人士的需求。这些公司通常拥有更充足的资源，能够将无障碍功能集成到其庞大的产品生态系统中，并开发专门的无障碍工具。

除了大型科技公司，一些初创公司也将包容性设计作为其人工智能产品创新的核心理念。这些公司通常更加敏捷，专注于解决特定的无障碍挑战，并为用户提供高度定制化的解决方案。

UserWay 是一家提供 AI 驱动的无障碍小部件的初创公司。该小部件可以无缝集成到网站中，为用户提供文本大小调整、颜色对比度调整和屏幕阅读器兼容性等功能，使用户能够根据自己的特定需求自定义浏览体验。

Appinventiv 与 Mudra（一家金融科技公司）合作开发了一款基于聊天机器人的预算管理应用程序，旨在为千禧一代提供更具吸引力和更易于访问的个人理财方式。通过 AI 使金融工具更易于使用和理解。

设计“AI平权”的关键原则与方法

1. 以用户为中心

将用户需求置于设计过程的核心。这意味着要深入了解不同用户群体的需求和痛点，特别是那些可能被边缘化的群体，并在整个产品开发过程中积极与他们沟通和合作。

2. 一开始就考虑可达性

设计应该从一开始就考虑到可达性，而不是作为事后的补充。这意味着要遵循无障碍标准和指南，例如 WCAG，并确保 AI 系统的界面和内容对所有用户都是可感知的、可操作的、可理解的和稳健的。

3. 避免 AI 偏见

需要特别关注 AI 系统中的偏见问题。这包括使用具有代表性的数据集进行训练，实施严格的验证流程以识别和挑战偏见，并在设计过程中融入多元化的视角。同时，要努力提高 AI 系统的透明度和可解释性，使用户能够理解 AI 的工作原理和决策过程。

4. 参与式设计

让用户直接参与到 AI 产品的开发过程中。用户的反馈和意见对于确保产品真正满足他们的需求至关重要。AI 的快速数据处理能力可以帮助设计师有效地整合大量的用户反馈。

5. 灵活性&适应性

设计可以适应不同用户的偏好和能力。例如，提供多种输入和输出方式（如语音、文本、触觉），以及允许用户自定义界面和交互方式。

6. AI伦理

在设计 AI 产品时，必须考虑到伦理因素和负责任的 AI 开发。这包括保护用户数据隐私，确保算法的透明度，以及解决潜在的歧视或不公平问题。

实现“AI平权”并非一蹴而就，而是一个持续学习和适应的过程。这需要我们始终坚持以人为中心的设计理念，深入理解人类的需求，并以强烈的伦理责任感来指导人工智能的开发和应用。

只有这样，我们才能真正发挥人工智能的潜力，创造一个更加公平和包容的未来，让技术进步惠及所有社会成员。通过拥抱以人为中心的设计理念，人工智能创造一个更公平和更易于所有人访问的未来的潜力可以实现，确保技术进步使社会所有成员受益。