首页 法律服务 法律问题 法律观点 法律常识 律师专线 律师诉讼 律师咨询 著名律师 法治动态 法治快讯 法治工作 法治经纬 法律法规 经济法类 行政法类 民事法类 新法速递 案例判例 法律咨询 司法解释

专家说 加拿大缺乏解决人工智能造成的生死问题的法律

2019-05-21 23:23     来源:网络整理     编辑:中国网络法律信息网小编    人气:

人工智能在Netflix的电影建议和Alexa的语音命令中的作用通常被理解,但鲜为人知的是AI现在在执法,移民评估,军事计划和其他领域扮演的阴影角色。

专家说 加拿大缺乏解决人工智能造成的生死问题的法律

尽管加拿大作为机器学习创新中心的地位,但尚未制定监管制度来处理人工智能系统容易出现的歧视和问责制问题,这促使人们呼吁进行监管 - 包括商界领袖。

“我们需要政府,我们需要在加拿大实施监管,”德勤加拿大人工智能服务主管Mahdi Amri说。

根据他共同撰写的一份报告,缺乏特定于AI的法律框架破坏了对技术的信任,并可能影响其提供者之间的问责制。

“基本上有这样的想法,机器将做出所有的决定,人类将无话可说,我们将被某个模糊的黑盒子统治,”Amri说。

机器人霸主仍然坚定地走在科幻小说的领域,但人工智能越来越多地参与对个人产生严重后果的决策。

自2015年以来,温哥华,埃德蒙顿,萨斯卡通和伦敦,安大略省的警察部门。已实施或试行预测性监管 - 基于预测犯罪发生地点或将由何人提交的数据进行自动化决策。

根据公民实验室的一项研究,联邦移民和难民系统依赖于算法驱动的决策,以帮助确定诸如婚姻是否真实或某人应被指定为“风险”等因素,该研究发现这种做法可能会侵犯人权。法。

在加拿大的军队中进行人工智能测试和部署,促使加拿大人工智能先驱杰弗里·辛顿和约瑟夫·本吉奥警告机器人武器的危险并将致命决定外包给机器,并呼吁就其部署达成国际协议。

“当你使用任何类型的黑匣子系统时,你甚至不知道系统中嵌入的标准或系统可能使用的数据类型可能存在延续偏差的风险,” Rashida Richardson,纽约大学AI Now研究所政策研究主任。

她指出了“恐怖案件”,其中包括芝加哥的一项预测性警务策略,其中可能的肇事者名单上的大多数人都是没有逮捕或枪击事件的黑人男子,“同样的人口统计数据是警务和歧视性警察行为。“

理查森说现在是时候从崇高的指导方针转向法律改革了。AI Now Institute最近的一份报告指出,联邦政府应“监督,审计和监督”人工智能在刑事司法,医疗保健和教育等领域的使用,因为“大多数科技公司的内部治理结构未能确保人工智能系统的责任“。

报告指出,鉴于每个行业都有独特的挑战和规定,监管机构应该在各机构或专家组之间进行划分,而不是将其全部纳入单一的AI监管机构。

在医疗保健领域,人工智能有望颠覆医生实践医学的方式,因为机器学习系统现在可以分析大量匿名的患者数据和图像,以识别从骨质疏松症到病变和失明迹象的健康问题。

总部位于蒙特利尔的Stradigi AI联合创始人兼首席科学官Carolina Bessega表示,监管空白阻碍了企业使用AI,阻碍了创新和效率 - 特别是在医院和诊所,其影响可能是生死攸关。

“现在它就像一个灰色区域,每个人都害怕做出决定,'好吧,让我们使用人工智能来改善诊断,或者让我们使用人工智能来帮助为病人推荐一种治疗方法',”Bessega说。

她呼吁制定关于治疗和诊断的“非常强大”的规定,并要求专业人员对任何最终决定负责,而不是软件程序。

批评人士称,加拿大在探索人工智能监管方面落后于美国和欧盟。没有实施全面的法律框架,但国会和欧盟委员会就此问题提出了广泛的报告。

“重要的是,加拿大没有法律框架来指导这些技术的使用或它们与正当程序,行政公平,人权和司法系统透明度相关的基本权利的交叉,”公民实验室3月份的法律简报说。安大略省委员会和其他机构。

曼海姆大学法律和经济学初级教授Miriam Buiten表示,不同的国际标准,商业秘密和算法的“恒定”流动性“对顺利监管构成障碍。

加拿大是最早制定官方人工智能研究计划的州之一,该计划于2017年公布了1.25亿美元的战略。但其重点主要是科学和商业。

去年12月,特鲁多总理和法国总统马克龙宣布成立一个联合工作组,以人权为目标指导人工智能政策的制定。

创新,科学和经济发展部部长Navdeep Bains在4月份向加拿大出版社发布了一份报告“即将在未来几个月内发布”。当被问及政府是否对有关人工智能透明度和问责制的立法持开放态度时,他说:“我认为我们需要退一步来确定核心指导原则是什么。

“我们将提出这些原则,以确立我们在编程方面取得进展的能力,以及立法变革 - 这不仅仅是我的部门,而是整个政府的方法。”

精选图文
热门排行榜
  1. 公共法律打通服务群众“最后一公里”
  2. 在上海垃圾分类有了法律护航
  3. 没有任何法律要求企业安装“后门”
  4. 大力推动法律职业共同体建设
  5. 【土地法律30问系列】承包地租给别人搞非农生产
  6. 连云港市司法局
  7. ​提供坚实法律保障 营造更好营商环境
  8. 打破数据孤岛做好公共服务 互联网背景下司法创
  9. 坠物伤人谁负责?详解台风“吹”来的法律问题
  10. 一带一路视角下国际经贸规则中的法律问题
Copyright 中国网络法律站点 闽ICP备05007636号 联系邮箱:sheng6665588@gmail.com