主演： 内详   备注： HD 类型： 纪录片 导演： ShaliniKantayya   地区： 美国 年份： 2020 语言： 其它 时间： 2021-04-07 18:23 ExploringthefalloutofMITMediaLabresearcherJoyBuolamwini’sstartlingdiscoverythatfacialrecognitiondoesnotseedark-skinnedfacesaccurately,andherjourneytopushforthefirst-everlegislationintheU.S.togovernagainstbiasinthealgorithmsthatimpactusall.

电影主要讲人工智能的算法怎么被用来评估每个人在社会系统中的价值以及其中的问题，即算法会复制甚至加剧这个世界长久以来的偏见，比如比法院会参考一个所谓的“再次犯罪率”的算法给予假释，“科学计算”出有色人种的再犯罪率更高；算法被学校用来评价老师的”附加价值”，被公司用来筛选简历，被银行用来计算信用，结论是女性更容易被AI HR淘汰，且比男性的金融信用差。以下是电影的几个观点：

1）技术到来总伴随着不平均。不平均并不是说有钱人比穷人先拥有技术，而是说更具有侵犯性的技术往往先被用弱势群体身上做实验（在纽约，人脸识别门禁率先被房屋出租公司装在低收入有色人种集中的公寓，并将其制造成一种类似交通摄像头的罚款工具，用监视的图像作为对租户违反公寓楼规定的证据）。

2） 目前人工智能在社会中广泛应用主要有两种模式：一种是维稳，一种是获利。没有一种为自由和平等而存在的算法。

3）只要连接到网络社会，世界上每个人都被算法打着各式各样的分，你在某些系统中看起来更不可能犯罪，但同时，你也会另一些系统中为同样的商品付更多的钱。人们谈到算法监控总爱说中国如何如何，其实本质的不同只是中国对这种监控毫不掩饰而已。

> We are all grappling every day with algorithmic determinism. [...] We are all being scored. The key difference between the US and China is that China's transparent about it.

4）反乌托邦可能最终不会像《1984》所描述的那样实现，而是像现在一样，静悄悄地侵入每个人的生活。哪怕你能躲过看得见的摄像头，看不见的追踪和信息收集软件却难以避免。这些信息会泄漏你的软肋，甚至左右你的决定。（比如给奢赌者推送拉斯维加斯的打折机票，比如Facebook按个人的政治倾向有选择地推送大选投票信息。）

5） 算法设计的奥义是自动化和高效，但很多时候，人性意味着拒绝服从，拒绝系统定义的价值。如果把自动化作为一切问题的终点，在有的情况下会造成非常不人道甚至是毁灭性的结果。

6）人工智能的定义到底是什么？这是值得思考的问题。下棋比人类厉害？会分析数据？社会对于科学和技术的理解其实是由很少数一部分精英定义的，他们大部分都是白人、男人。

7）正义地使用算法是现在最紧要的人权问题之一。

纪录片试图代入国际视野，拍摄了英国、南非、香港、和中国大陆的片段。虽然落脚点是对算法广泛应用的质疑，但关于中国的影像始终是“反乌托邦”式的，即便是所谓的“全世界都被监视着”这一论点也还是中美二元思维。对全球的描绘只能说是对美国现状的注脚而已，分析并不到位。

很喜欢电影里的主要人物、也是算法正义联盟的创建者Joy Buolamwini，她日常写一些短诗送给一起努力的合作者，很有感染力。另外，AOC在国会讨论一节短暂出境。

Joy Buolamwini 在电影中念的一首小诗：

collecting data, chronicling our past, often forgetting to deal with gender, race, and class. again, I ask, am I a woman? face by face, the answers seem uncertain, can machines ever see my queens as I view them? can machines ever see our grandmothers as we knew them?

收集数据，记录我们的过去，总是忘了去考虑性别、种族和阶级。让我再一次拷问，（在你的眼里）我是女性吗？一张又一张脸，你的答案似乎难以确定。机器可以看到我所看到的女王吗？机器可以看到我们所认识的祖母吗？

一些扩展资源：

Weapon of Math Destruction (电影中AJL一员 Cathy O'Neil写的书)

Twitter and Teargas by Zeynep Tufekci (作者在电影中出镜)

Algorithmic Justice League (美国的组织，可通过官网邮件订阅信息)

Big Brother Watch (英国的组织)

400看图网提供的《编码歧视》在线观看地址以及《编码歧视》下载地址来源于互联网。400看图网并不参与录制和制作，仅提供资源引用和分享，如果400看图网提供《编码歧视》资源对贵方造成了损失或侵犯了贵方权益，请及时发送邮箱给管理员，我们将在48小时之内撤销有关《编码歧视》所有内容。