人工智能与司法：硬币的两面

mimmita1

去年 1 月，来自哥伦比亚的一位名叫 Juan Manual Padilla 的法官根据ChatGPT  [1]的回应做出了一项健康权利行动的裁决，ChatGPT 是由 OpenAI 开发的人工智能 (AI)，最近几周在全球范围内声名狼藉。



为了支持ChatGPT的使用，Padilla 认为哥伦比亚 2022 年第 2,213 号法律 [2]允许在法律诉讼中使用技术，包括人工智能等工具。
尽管帕迪拉在接受采访时表示“法官需要了解司法和技术的演变”  [3]，但这起案件引起了各国法学家的兴奋和担忧。

不同国家的司法机构采用技术来优化审判的速度和效率并不是什么新鲜事。令人担忧的是，当将分析负载转移给人工智能时，行动的结果会受到人工智能本身的偏见的影响，它并不总是根据它收到的推论得出正确的结论。

作为人工智能存在偏见的一个例子，请阅读下面最近媒体报道的一个故事。

20 世纪 80 年代，一位名叫乔治·温沃德 (George Winward) 的商人购买了一幅 16 至 18 世纪之间绘制的画，画中描绘了耶稣坐在玛丽的腿上。尽管这幅作品没有明确的作者身份，但温沃德始终认为，该画的作者是文艺复兴时期的艺术家拉斐尔·桑齐奥（Rafael Sanzio）。

他的假设从未得到历史学家的证实，但英国布拉德福德大学的哈桑·乌盖尔教授表示，他已经解开了这个谜团。

乌盖尔使用人工智能，将一位不知名作者的作品与名为《西斯廷圣母》的作品 电报号码数据 进行了比较，这是拉斐尔于 1512 年创作的著名画作，看起来与第一幅画非常相似。

通过比较，AI得出的结论是，玛利亚之间有97%的相似度，而代表耶稣的孩子之间有86%的相似度。由于相似度大于75%，考虑到技术的精密程度，这个比例很高，乌盖尔认为这两幅画是相同的，因此，这两幅作品的作者属于意大利拉斐尔 [4]。

事实证明，一些艺术专家并不同意人工智能的结论，认为第一件作品是西斯廷圣母的复制品，是一位不知名画家的作品，而不是拉斐尔的作品。

尽管人工智能比较取得了积极的结果，但由于艺术专家的分歧，他们考虑的是历史事实而不仅仅是画作的客观元素，该作品的作者尚未正式归属于拉斐尔。



不管谁是正确的，只要有一个疑问就会引起不适。现在想想，司法机构使用人工智能也会发生同样的情况，包括在涉及基本权利的流程中。

当检查某个行为的推论和证据时（与检查两幅画的元素相同），人工智能可能会错误地得出是否适用权利的结论（正如乌盖尔教授的人工智能得出的结论，这幅画是拉斐尔本人的作品） ).面对专家的反对立场)。

事实和背景可以改变行动的结果，目前还没有人工智能能够像人类法官一样分析它们。但冷静一点，这并不意味着人工智能不能被国家司法部门使用。

事实上，考虑到巴西有超过 7700 万个案件正在审理中，根据CNJ 2022 年发布的 报告《数字正义》 [5]，任何有助于司法机构速度和效率的人工智能都必须实施，但要谨慎行事，以免权利受到不解释背景的客观分析的压制。