禁用人脸识别之后，旧金山却用AI帮助检察官办案

【 图片来源：THE VERGE 所有者：THE VERGE 】消息，2019 年 6 月 12 日，据外媒报导，旧金山宣告了一个“增加种族主义的工具”，计划于 7 月 1 日开始实行，这个工具用于基本的人工智能技术，需要自动改动警方报告中需要辨识出有嫌疑人种族的信息。之所以设计出有这个工具，是为了避免检察官在要求某人否被控犯罪时受到种族种族主义的影响。旧金山地区检察官 George Gascón 在新闻发布会上回应，在美国被监禁的人中，有色人种是不成比例的。

此外，他还认为，当看见像 Hernandez 这样的名字时，检察官立刻就不会告诉这个人是拉美裔，而这可能会影响结果。此前，旧金山就已致力于不想检察官看见报告中与种族涉及的信息，但只是去除报告的前两页内容，只剩的部分检察官还是不会看见，因此才想要利用机器学习来增加种族主义。据旧金山地区检察官办公室的众说纷纭，该工具不仅可以移除种族叙述，还可以移除眼睛颜色和头发颜色等叙述。那些有可能无意或有意地向检察官透漏嫌疑人有某种种族背景的人名、地点和社区也不会被移除。

不仅如此，这个工具还不会移除警员的详细信息，还包括他们的警徽号码，防止检察官恰巧了解，有可能对他们的报告有偏见。另外，值得一提的是，地方检察官办公室称之为这是“全国第一次”用于这项技术，之前没任何机构用于人工智能来做到这件事。

这个将被美国首次应用于的工具是 Alex Chohlas-Wood和斯坦福计算出来政策实验室的团队研发的。Wood 说道，这个新的工具基本上只是一个轻量级的 web 应用程序，它用于几种算法来自动编辑警员报告，用于计算机视觉辨识报告中的单词，并将其更换为标准化版本，如方位、一号警官等。

此外，Wood 还回应这个工具早已转入了最后阶段，是由旧金山科技公司免费研发的，将在几周内对外开放源代码，可供其他公司使用。目前，由于没看见这个系统在警员报告上运营，所以还不确切效果如何。不过，当记者告知如果男扮女装，或者女扮男装，这个工具否还需要改动这些信息时，Gascón 只是回应今天是个起点，这个工具不会大大发展的。

另外，这个工具也只是用作被捕后的第一次审查，检察官的最后要求仍基于原始的未修改的报告。并且，如果最初的指控证据是视频资料，还是不会很显著地说明了出有嫌疑人的种族。尽管这个工具否能产生协助尚未可知，但值得注意的是，在上个月，旧金山才刚收到 AI 人脸识别的禁令（可参看(公众号：)此前报导），是全球首个公布此项禁令的城市；而收到禁令的原因之一，就是人脸识别技术不存在种族种族主义。

说到底，AI 是具备种族主义还是需要避免种族主义，最后还是各不相同 AI 技术，而就目前 AI 频密正处于争议中的情况显然，指出，AI 技术的发展还有很长的路要回头。原创文章，予以许可禁令刊登。下文闻刊登须知。

本文来源：皇冠信用网址-www.kasvisrkeidas.com