“大数据和人工智能法律前沿问题”系列讲座第四讲丨美国法律体系中的人工智能：挑战与问题

“美国法律体系中的人工智能：挑战与问题”讲座顺利举行        2018年6月20日，大数据和人工智能法律前沿问题系列讲座第四讲“美国法律体系中的人工智能：挑战与问题”在科研楼A913会议室顺利举行。本次讲座由哥伦比亚大学法学院教授、中国法律研究中心主任李本（Benjamin L. Liebman）主讲，中国政法大学法学院院长焦洪昌教授主持。来自北京大学、中国应用法学研究所、中国政法大学的嘉宾和来自国新启迪基金管理公司等企业界的代表以及校内外二十余名学生参与了本次讲座。        焦洪昌院长主持讲座，代表法学院对李本教授的到来表示欢迎，一一介绍了与会来宾。焦老师指出大数据时代，人工智能的法律应用及其面临的挑战是中美面临的共同问题，相信李本教授的讲座会给大家带来美国的经验和思想上的启发。        李本教授指出，最近几年，“AI”（人工智能）一词在中国逐渐流行起来，不同学科的学者均在思考如何面对新技术带来的机遇与挑战。法律界亦不甘落后。与中国相同，美国的法律人工智能发展趋势也引发了学界与实务界的广泛讨论。        李本教授接着对美国法律人工智能的发展情况展开了讨论。他指出，在美国法律人工智能领域，引起最为广泛讨论的问题聚焦于算法在风险评估中的应用，即算法在刑事诉讼程序中的应用。早在几年前，美国就开发了COMPAS、PSA和LSI-R三种主要的风险评估软件。目前，美国已有一半以上的州利用这些软件来辅助法官量刑。        在美国，使用并不透明的算法来取代法官的自由裁量这一做法，实际上在正确性、考量因素和正当程序方面引发了众多的批评。 这一担忧使得人工智能在美国司法系统中的运用引发了大量的批评和争议，并在现实中带来了司法挑战，比如STATE V. LOOMIS引发了算法透明和正当程序问题的广泛讨论。        法律人工智能固然存在被滥用和误用的风险，但不能忽视支持法律人工智能这一方的观点。算法并不一定比人更能克服偏见，但不会被主观情感左右的AI或许能为限制人为偏见提供客观基准。        李本教授还对法律AI在美国其他法律领域的应用进行了简要的介绍。除法院之外，法律AI典型的应用就是美国警察执法使用的软件和算法。一些律所和法律公司也利用AI来进行电子开示和结果预测，并利用自然语言处理技术筛选与案件有关的文档。在法学研究领域，对于机器学习技术、AI和算法的研究，美国法学界也才刚刚起步。        最后，李本教授总结到，多数美国法学家也对电脑技术不甚了解，缺乏相应的技能。因此在研究法律人工智能时，多学科、跨领域的合作相当重要，而法律人工智能亦会是法律实证研究的新领域。        北京大学法学院易继明教授认为，在司法领域中，人工智能等新技术的运用在何种程度上是祛魅的，是否会存在技术操纵司法的局面，值得认真对待。社会管理领域中，利用大数据等新技术进行所谓的网格化管理的模式，这一社会控制的目标的正当性需要反思。        中国政法大学法学院成协中教授就算法在行政法领域中的运用及其限度提出了自己的看法。他认为，由于公平对待原则以及处罚法定原则的要求，行政机关只能考虑具有封闭结构的法定相关因素，而在日益复杂的现代社会，因为算法，性别、种族等社会因素考虑进来以后，实际上会挑战原有的封闭结构。        中国政法大学法学院副院长薛小建教授对人工智能技术的发展表达了担忧。她认为，正如美国大选一样，人工智能对民主政治的影响不容小觑。在法治不成熟的国家，这种做法本质上违反了法律伦理的要求。此外，人工智能仅仅作为一种工具，某些情况下虽然可以提高效率，但法律其实应该更加注重公正而非效率。        中国政法大学证据科学研究院李训虎副教授认为，算法的黑箱化、数据的垄断趋势、以及应用场景问题，都值得关注。比如在应用场景方面，目前公检法如果都使用人工智能技术的话，可能会面临控辩失衡带来的程序正当性的质疑。        中国政法大学法与经济学研究院徐文鸣讲师认为，如果从效率的角度来讲，算法在预测时，一旦把种族因素放进去，算法模型预测的效率其实可能更高，虽然这种做法违法。        中国政法大学法学院马允讲师认为，算法模型可能在裁量基准问题上能够发挥较大的作用，比如在行政执法领域，其实最应该推广这种算法模型，可以减轻行政执法人员的说明理由义务并能够为行政相对人所接受，从而更好地解决行政纠纷。        中国应用法学研究所陈敏光博士后认为，法官能否参与企业开展的数据标注、产品设计等方面的工作，需要讨论。此外，通过大数据技术的分析，创新社会管理的方式，社会纠纷可能会在源头阶段减少，这在很大程度上可以减轻法院系统案多人少的压力。        出门问问法务总监孟洁女士就语音领域的人工智能应用，如何将算法透明度与企业的社会责任相互结合，以及政府与企业在人工智能等新技术领域之间的有效互动等问题作了点评。        嘉宾点评结束之后，在场的同学也积极就本次讲座的主题进行提问。主讲人李本教授对嘉宾和同学们的问题简要作了回应。