首页 法律服务 法律问题 法律观点 法律常识 律师专线 律师诉讼 律师咨询 著名律师 法治动态 法治快讯 法治工作 法治经纬 法律法规 经济法类 行政法类 民事法类 新法速递 案例判例 法律咨询 司法解释

为什么刑事司法系统应该放弃算法

2019-02-24 15:44     来源:未知     编辑:法律信息网2    人气:
为什么刑事司法系统应该放弃算法





美国的法官使用算法来预测犯罪者犯下进一步犯罪的可能性,结合他们的风险以及其他一些因素。然后这些数据点用于指导人类判刑,保释或是否授予(或拒绝)假释。不幸的是,算法在100%的时间内都有偏差。

由博士后学者安德鲁塞尔斯特(Andrew Selbst)领导的一个研究小组,他是法律系统和技术的社会影响专家,最近发表的研究强调了这些算法中不可避免的偏差问题。该研究报告指出,基于算法的预测系统无法克服几个主要的“偏差缺陷”。


从表面上看,算法似乎足够完美。它们帮助我们决定观看什么,阅读什么,但即使是一个所谓的无偏见的算法也无法克服有偏见的数据或不一致的实现。因此,这里出现所谓的“涟漪效应陷阱”。

据研究人员说:当技术被插入社会环境时,它既有意图又有意想不到的后果。意想不到的后果之一是系统中的人员和组织对干预作出反应的方式。为了真正理解该技术的引入是否会改善公平性结果,不仅需要了解如上所述的本地化公平性问题,还要了解该技术如何与已有的社会系统相互作用。

从本质上讲,这意味着通过让法官根据自己的判断选择使用算法,我们正在影响系统本身。人为干预不会使逻辑系统更符合逻辑。它只是将基于“预感”和“体验”的数据添加到不理解这些概念的系统中。当人类干预系统时(通过选择何时根据个人偏好使用它)然后同一系统介入人类事务(通过基于历史数据进行预测),就会出现连锁反应。


也许算法最大的问题是它们基于数学而正义不是。这被称为“形式主义陷阱”。研究人员写道:能说明公平性等社会概念的全部含义,这些概念可以是程序性的,语境性的和可竞争性的,并且不能通过数学形式来解决。

算法只是数学,他们不能自我纠正偏见。为了使它们做出预测,你必须找到一种用数字或标签来表示相关概念的方法。但正义和公平等社会概念不能用数学或标签来表示,因为它们处于不断变化的状态,总是受到争论,并受到公众舆论的影响。

Selbst告诉媒体:您不能在犹他州设计系统,然后直接在肯塔基州应用,因为不同的社区有不同的公平版本。或者你不能有一个系统,你申请“公平”的刑事司法结果然后适用于实施。我们如何看待这些背景下的公平只是完全不同。

算法偏向于满足开发人员的期望,而不是公平。我们可以使用“Framing Trap”来证明这一点。当开发人员创建算法时,他们通过测量输出与输入相比的准确性来测试它。例如,他们可能会提供一种算法,在帮助法官确定累犯数据集,其中包含1000个具有真实结果的案例,他们已经知道每个案例中的个人是否犯下了更多的罪行 - 只是为了确定算法是否准确预测每个结果。如果算法失败,研究人员将调整它并再试一次。他们一直这样做,直到他们可以说他们的算法满足成功门槛。这就是黑盒研究的工作原理。

精选图文
热门排行榜
  1. 媒体:法治助力 打好三大攻坚战
  2. 大方县司法局构建公共法律
  3. 媒体:“以房养老”骗局坑老人百余万元
  4. 5万即构成犯罪,500万可判无期
  5. 为民营企业营造良好法治环境
  6. 司法实践中律师工作的局限性
  7. 审慎求证案件事实 彰显人文关怀
  8. 法院:让企业家安心经营放心投资
  9. 百余人零距离感受司法魅力
  10. 连平:央行购买国债不符合法律规定
Copyright 中国网络法律站点 闽ICP备05007636号 联系邮箱:sheng6665588@gmail.com