本周，当學(xué)生们走上伦敦和其他(tā)城市的街(jiē)头时，这是一次与众不同的抗议活动。
它的目标是：他(tā)们说的一种算法威胁了他(tā)们的未来。
在本周的Tech Tent上，我们将看看英國(guó)考试成绩的惨败是否预示着全球对算法信任的危机。
这是一个非常困难的挑战：如何确定何时必须取消考试取决于大學(xué)的考试成绩。
答(dá)案？一种算法，实际上是提供数据的统计配方。
在这种情况下，数据既是一所學(xué)校的先前表现，又(yòu)是今年教师从上到下对學(xué)生的排名。
政治家似乎是為(wèi)了避免等级通货膨胀而选择它的-与往年相比，高档次的升幅很(hěn)大。
但这意味着，如果前一年没有(yǒu)人在學(xué)校获得过A级成绩，那么无论今年多(duō)么优秀的學(xué)生都不会获得今年的成绩。
结果公布后不久，很(hěn)明显，即使实现了总體(tǐ)政治目标，也有(yǒu)成千上万的年轻人受到不公平对待的案件。
Ada Lovelace研究所的卡莉·金德（Carly Kind）告诉Tech Tent：“从整體(tǐ)上来说，这样做是公平的。” “但是从个人的角度来看，实际上很(hěn)多(duō)人都犯了错，而且很(hěn)多(duō)人都為(wèi)算法感到冤wrong。”
她指出，就评分(fēn)考试而言，该算法与教师的准确性差不多(duō)。但是，尽管有(yǒu)人可(kě)能(néng)会為(wèi)人类的成绩感到不满意，但是当评分(fēn)来自计算机时，感觉会更糟。
作為(wèi)一家考虑数据伦理(lǐ)的研究所所長(cháng)，她说透明度是关键。
她说：“我认為(wèi)，对于政府在使用(yòng)算法时，在进行优化时所要达到的目标以及在此过程中需要权衡的方面，要保持透明是一个重要的教训。”
如果政府早在7月份就明确表示其主要目标是避免等级通货膨胀，并且可(kě)能(néng)在边缘产生一些不公平，那是否可(kě)以接受？也许不是-但是在造成损害之前，可(kě)以进行公开辩论。
大多(duō)数人可(kě)能(néng)没有(yǒu)意识到，算法已经在為(wèi)他(tā)们做出各种决定，Netflix推荐给他(tā)们的電(diàn)影新(xīn)闻源中出现了哪些帖子。
而且，政府越来越多(duō)地使用(yòng)它们来实现流程自动化，例如发现可(kě)能(néng)犯下利益欺诈的人，或者确定可(kě)能(néng)需要干预的问题家庭。
如果谨慎地设定目标并确保所使用(yòng)的数据没有(yǒu)偏见，它们既可(kě)以有(yǒu)效又(yòu)可(kě)以节省金钱。
但是卡莉·金德（Carly Kind）表示，对于希望由数据驱动的政府而言，A级考试的惨败一直是它的公关噩梦：“學(xué)生抗议算法是我从未见过的事情。”
她认為(wèi)，信任已经被诸如剑桥分(fēn)析公司（Cambridge Analytica）丑闻之类的事件破坏了，而这种信任又(yòu)被进一步破坏了。
“我实际上认為(wèi)，这对于在公共服務(wù)中使用(yòng)算法系统的情况确实造成了不可(kě)磨灭的伤害，这一直是一个微不足道的案例，因為(wèi)我们还没有(yǒu)足够的有(yǒu)力证据来证明这些东西在哪里被利用(yòng)了，从而带来了巨大的利益。 。”
在英國(guó)的这里，许多(duō)人都点头承认了十多(duō)年前的喜剧素描，其中一位无聊的女人（由David Walliams扮演）轻敲键盘，然后告诉一系列申请人：“计算机说不。”
但是，也许从本周的活动中得到的好消息是，人们现在不太可(kě)能(néng)拒绝回答(dá)-或至少要问谁是计算机坚不可(kě)摧的根源。
网站管理(lǐ)