GSA 调查面部识别偏见并改善联邦网络服务的可访问性

为政府网站和在线服务等采购和调查技术的美国总务管理局在其最近发布的《公平行动计划》中从两方面推动可访问性。它说，必须使网站的可访问性超出最低限度，面部识别系统的偏见意味着联邦调查局将尽可能避免它。

该行动计划是 GSA 进行一些反省的结果，该计划“进行了公平评估并确定了针对三个高影响重点领域的一系列行动”，其中之一是“联邦技术设计和交付”。

“那些最需要政府服务的人往往很难获得它们，”备忘录的介绍中写道。 “我们致力于将公平的用户体验作为核心设计原则，减轻算法偏见，改善数字可访问性，并实现向美国人民提供政府服务的现代化。”

为此，GSA 确定了最近提供这些服务的方法存在两个主要问题。

一种是对可访问性的承诺不足，或者最好将其表述为对完全合规性的坚定承诺，而不是满足社区的需求。

“通常政府应用程序和网站的语言可访问性极低，导航混乱，设计实践不佳，导致用户不信任和沮丧，”GSA 评估中写道。它特别指出，依赖屏幕阅读器的视障用户的习惯与设计政府网站时所做的假设不同。登录和帐户检查等基本任务可能不尊重这些常见选择，或者可能需要用户通常无法使用的工具（例如光标使用）。

为了改善这一点，GSA 表示将在设计过程中代表性不足的社区扩大可用性测试。（正如无障碍倡导者一再告诉我的那样，这些社区需要从一开始就参与进来，否则结果将与上述机构完全一样。）

它还将致力于使网站在带宽有限的旧电脑、手机和设备上表现更好。

第二个问题是面部识别服务存在种族偏见。对于本网站的读者来说，这可能不会感到意外，但政府采购和部署过程缓慢而奇怪，因此联邦政府现在才赶上科技界多年来一直警告的事情也就不足为奇了.

“通过我们自己的测试，GSA 了解到面部匹配的主要商业实施对非裔美国人来说具有不成比例的高‘错误拒绝率’，”备忘录中写道，并指出至少这与该领域的更大范围的研究是一致的。

它的方法在这里：

解决新兴技术和数据主权方面的歧视问题。为了为不同人群提供公平的远程身份验证体验，GSA 的 Login.gov 团队将对面部匹配服务的公平性和偏见进行研究。此外，GSA 将对其发布的用户指南应用公平视角，这会影响政府和行业的最佳实践。

令人沮丧的模糊，但广泛的反应可以表明系统性变化以及口头上的服务。对面部识别服务偏见的进一步研究几乎肯定会落后于学术和行业研究多年，但 GSA 可能希望能够将自己列为无私的一方。

“股权镜头”可能有帮助，也可能没有帮助，但人们希望，就像在许多公司和行业中一样，有些人多年来一直在关注这些问题，却无法让任何人倾听。也许这是一个让这些声音得到应有关注的机会。

GSA 还在完整文档中列出了更多可以提高可访问性和公平性的方法，您可以在此处下载或在下面查看。