中国物联网行业门户,IOT资讯、企业及产品供求信息发布--新物联
新闻来源:新物联Newiot 整理       发布时间:2021/9/14       共计:58 浏览
昆士兰警方正准备开始对人工智能系统进行试验,以识别高风险的家庭暴力犯罪者,警官打算在严重升级之前使用这些数据“敲门”。

“精算工具”使用来自警方 Qprime 计算机系统的数据,对所有潜在的家庭暴力犯罪者进行风险评估。



该算法已经开发了大约三年,实际试验将在 2021 年底之前在一些警区开始。

“对于这些肇事者,我们不会等待三零电话和家庭暴力事件达到危机点,”代理警长本·马丁说。

“相反,对于这群犯罪者,我们的预测分析工具告诉我们,他们最有可能升级为进一步的 DFV 犯罪,我们正在主动上门,无需任何服务。”

马丁说,新系统将标志着向更具预防性的警务转变,例如在高风险情况下进行早期干预或转移计划。它不能用于少数派报告式的逮捕,也不能用作法庭证据。

“我们已经发现危机点之外的肇事者,当没有处于高度的情绪状态或受到毒品或酒精的影响时,通常更愿意将其视为他们生活中的一个转折点,”他说。

在家庭暴力领域,许多备受瞩目的案件都遵循熟悉且可预测的升级模式,引发了对系统性“未能”识别这些模式并进行干预的批评。

一些家庭暴力受害者的倡导者——尽管对人工智能的使用持谨慎态度——表示数据驱动的方法可以防止存在这些模式的案件落空。

“该系统确实需要能够更好地识别和应对高风险罪犯,尤其是那些关系不同的人,”活动家安吉拉林奇说。

“就我们如何处理它们而言,我们确实需要创新的反应,但这样做必须安全。

“你必须非常小心,你想看看影响是什么,特别是对可能特别脆弱的群体。”

对潜在“反馈回路”的担忧


人工智能在警务中的使用仍然令人担忧——预测警务系统最终减少犯罪的证据很少——专家警告说存在重大的潜在陷阱。



关于预测性警务的最大担忧之一是创建“反馈循环”的可能性,该循环会强化历史数据中的偏见,而不是对抗它。这在复杂的家庭暴力领域尤为严重,受害者经常被官员误认。

澳大利亚国家妇女安全研究组织发现,“种族主义、与当地社区的不良关系、厌女症和警察部门的重男轻女文化”是持续存在的问题。

新南威尔士大学艾伦斯技术、法律和创新中心主任 Lyria Bennett Moses 教授说,新南威尔士州类似的“敲门”方法导致土著青年成为目标。

Bennett Moses 表示,任何人工智能模型“都必须透明”并接受独立评估。

马丁说,昆士兰警方“敏锐地意识到”模式偏见的可能性,这种偏见不成比例地代表了来自土著或少数民族社区的人。

“[The] QPS 考虑了其他司法管辖区的经验教训,并开发了一个模型监控工具,旨在定期监控和解决模型中的偏见,”他说。

“对于试点,QPS 在训练模型之前删除了具有种族和地理位置直接属性的原始数据。”

他说,警方还参与了一个关于此类系统中减少偏见的研究项目,该项目将在推出之前开发一个关于监控和管理模型的框架。

家庭暴力占要求警察援助的四分之一。

“目的是让肇事者……与 350 多个合作伙伴组织之一接触,并寻求支持以改变他们的犯罪方式,”马丁说。

“我们知道,这群相对小的肇事者对我们社区中的大量伤害和大量犯罪负有不成比例的责任。

“通过主动针对这些肇事者,或者通过转移性选择改变行为……我们可以在应对家庭暴力时显着减少社区伤害和当前对 QPS 的需求。”

马丁说,该算法的理论试验——使用历史数据——“在很大程度上证实了专家/研究所说的因果因素”。

它还对家庭暴力的预测因素产生了“以前未实现的”见解,例如与冒险行为和无视他人安全有关的犯罪。

警方表示,数据驱动的方法并不代表灵丹妙药,大多数家庭暴力凶杀案发生在警方“事先没有可见性”或与犯罪者互动的情况下。

“该模型的目的不是取代官员的专业判断,而是通过整理模式化和客观数据来协助更好地为决策提供信息,”马丁说。
版权说明:
本网站凡注明“新物联Newiot 原创”的皆为本站原创文章,如需转载请注明出处!
本网转载皆注明出处,遵循行业规范,如发现作品内容版权或其它问题的,请与我们联系处理!
您可以扫描右侧微信二维码联系我们。
网站首页 关于我们 联系我们 合作联系 会员说明 新闻投稿 隐私协议 网站地图