■
Artificial Intelligence and the Law: Navigating uKnown Unknowns5 5
By James S.Azadian and Garrett M. Fahy
There are known knowns.There are things we know we know... There are known unknowns ...we know there are some things we do not know. There are also unknown unknowns. The ones we dont know we dont know. ~ Former Secretary of Defense, Donald Rumsfeld (2002)
While former Secretary of Defense Rumsfeld was not speaking about artificial intelligence (Al), the idea of 'known unknowns' aptly captures the relationship between Al and the law: There are many things we know we do not know about how Al will impact the law, and the legal profession must recognize these known unknowns so it can meaningfully respond and protect our most cherished rights.
Most of us rely on Al without knowing it (the check you just deposited with your mobile banking app, the filter you put on your newest Instagram post). Supporters claim Als promises are limitless: It will correctly diagnose our diseases, ensure our medications dont conflict, drive our cars for us and regulate our traffic lights to minimize traffic, choose our investments, and even decide who is entitled to public benefits.
Opponents suggest its liabilities are equally limitless. Al will misdiagnose diseases, confuse our medications and poison us, expose our most sensitive information, crash our cars and incentivize drivers to run the red light to beat the yellow light, and bring on the next Great Recession.
Al, depending on ones viewpoint, is the next best thing, or one of the gravest threats to liberty, privacy, and life itself. When there are tech titans on both sides of the debate, sufficient evidence to amaze and terrify us, and technology advancing at warp speed, how should the
James S. Azadian is a shareholder of Enterprise Counsel Group ALC in Irvine, CA. He serves as the chair of the firms Appellate, Writs, and Constitutional Law Practice Group and can be reached at jazadian@enterprisecounscl.com. Garrett M. Fahy is an associate at Enterprise Counsel Group ALC. His practice focuses on business litigation, appeals, and election law disputes in California and federal forums. He can be reached at gfahy@ enterprisecounsel.com.This work,uArtificial Intelligence and the Law: Navigating Known Unknowns,' by James S.Azadian and Garrett M. Fahy, originally appeared in the October 2017 edition of the Orange County Lawyer Magazine,Vol. 59, No. 10, at pp. 22-29. legal profession——traditionally driven by caution, probity and risk-mitigation—understand and harness AIs benefits for the good of our clients, whoever they may be?
Even if we can discern AIs benefits and burdens and advise our clients accordingly, is Al inherently unstable, warranting a moratorium until it is better harnessed? Its supporters claim its vast, untapped potential requires increased private a^d public investment and limited regulation. Its opponents question its potential, and have called for greater transparency, plenty of regulation and skepticism. The recent debate between Elon Musk and Mark Zuckerberg highlights some of the key sticking points.
Musk, the founder of SpaceX and Tesla, and widely regarded as a visionary entrepreneur, argues Al poses the greatest threat to humanity. When asked by a Facebook user about Musks bold prediction, Zuckerberg, the Facebook pioneer and chief, presented a more optimistic view of Al, focusing on the ways Al will improve the quality of life. In a Facebook Live posting from his backyard on Sunday, July 23, 2017, Zuckerberg labeled as irresponsible the 'naysayers' who 'drum up ... doomsday scenarios,,一presumably a reference to Musk and other thought leaders and tech luminaries, such as Bill Gates and Stephen Hawking, who have warned that Al could result in tragic and unforeseen consequences. Hawking told the BBC, 'The development of full artificial intelligence could spell the end of the human race.'1
Ironically, only days after Zuckerberg criticized Al naysayers, Al researchers at Facebook reportedly shut down one of its Al systems because 'things got out of hand' with a research experiment. The problem? Facebooks Al chatbots, which were negotiating with each other in English, developed their own communication style, which caused Facebooks researchers to pull the plug on the experiment. Although the bots used English words, it could not be understood by humans. The shutdown caused some media outlets to misleadingly report that the bots“invented their own language' In response, Dhruv Batra of Facebooks Artificial Intelligence Research Group, wrote in a July 31, 2()17 Facebook post, 'While the idea of Al agents inventing their own language may sound alarming/unexpected to people outside the field, it is a well-established subfield of Al, with publications dating back decades.'2 Mr. Batra is right, the idea of Al agents inventing their own language is alarming and unexpected, but this and other Al developments brings into sharp relief the legal professions task in understanding and addressing the challenges posed by such technology.
Legal figures, including California Supreme Court Justice Mariano-Florentino Cuellar, have entered the discussion on Big Data and Al, addressing in particular their potential impacts on the legal profession. Earlier this summer, Justice Cuellar spoke to both the Appellate Law Section of the Orange County Bar Association as well as to judges and lawyers attending the annual Ninth Circuit Judicial Conference about Big Data and Al. Justice Cuellar also taught a class at Harvard Law School entitled, 'Frontiers of Cyberlaw: Artificial Intelligence, Automation and Information Se
剩余内容已隐藏，支付完成后下载完整资料
■
人工智能与法律：为已知的未知物确定航向
By James S.Azadian and Garrett M. Fahy
有众所周知的事情，也就是我们知道的已知事件。有大家都知道的未知事件，我们知道有些事情我们并不知道。有无人知道的未知事件，也就是我们不知道的未知事件。——前国务卿拉姆·斯菲尔德（2002）
当前国务卿拉姆斯·菲尔德尚未提及人工智能（人工智能），“已知与未知”的概念恰当地抓住了人工智能与法律之间的关系：我们所知道的许多事情我们知道，但我们不知道人工智能将会影响法律，法律职业必须认识到这些已知与未知，从而可以有意义地作出反应并保护我们最珍贵的权利。
我们之中的大多数人在不知不觉中都依赖着人工智能（你刚刚存入手机银行的应用程序的支票，你在instagram最新上传的帖子的留言）。支持者声称人工智能的承诺是无限的：它将会正确地判断我的错误，确保我们的药物不被滥用，为我们驾驶车辆，调节我们的交通用灯来减少交通，选择我们的投资，甚至能决定谁将有权享有公共福利。
反对者认为它的负债同样是无限的，人工智能会误诊疾病，暴露我们最敏感的信息，撞击我们的车辆以及激励司机闯红灯、闯黄灯，并且带来下一次大衰退。
根据某些人的个人观点，人工智能是下一个最好的东西，或者是对于自由、隐私以及生命本身最严重的威胁之一。当争论双方都是最科技巨头时，足够的证据会让我们感到惊讶与害怕，并且科技迅速发展，法律职业人应当如何做——传统地被谨慎、诚信与降低风险驱使——理解并利用人工智能的益处为我们的客户服务，不论他们是谁？
James S. Azadian是位于加州尔湾的企业法律顾问集团ALC的股东。他是该公司上诉、诉状和宪法实践小组的主席，可以通过jazadian@enterprisecounscl.com与他联系。Garrett M. Fahy是ALC企业法律顾问集团的一名助理。他的业务主要集中在商业诉讼、上诉和加州及联邦法院的选举法纠纷。他的著作《人工智能与法律:导航已知的未知》(uai and the Law: Known Unknowns)，作者詹姆斯·S·詹姆斯(James S。Azadian和Garrett M. Fahy最初出现在2017年10月版的《橘子郡律师》杂志上。10号，第22-29页。
即使我们可以辨别出人工智能的益处与负担以及据此建议我们的客户，人工智能本身也是不稳定的，在它被更好地利用之前，是否有理由暂停开采？它的支持者声称它巨大的、未开发的潜力需要更多的隐私与社会公众投资以及有限的调节，它的反对者质疑它的潜力，并且呼吁更大的透明、更好的监管与怀疑论。最近，埃隆马斯克和马克扎克伯格之间的争论凸显一些关键点。
马斯克，SpaceX和Tesla的创始人，被广泛地认为是一位颇具影响力的企业家，他认为人工智能对人类造成了最大的威胁。当Facebook用户问及马斯克大胆的预测，扎克伯格，Facebook的先锋兼首席，对人工智能的看法更为乐观，他关注的是人工智能改善生活质量的方式。2017年7月23日，周日，扎克伯格在自家后院发布了一份Facebook直播，称那些“唱反调”的人不负责任，“鼓动世界末日场景”。思想领袖和科技名人,如比尔bull;盖茨(Bill Gates)和斯蒂芬·霍金,他警告说,可能导致悲剧和不可预见的后果。霍金告诉BBC，“全面人工智能的发展可能意味着人类的终结。”
具有讽刺意味的是，就在扎克伯格批评人工智能反对者几天后，据报道，Facebook的人工智能研究人员关闭了它的一个人工智能系统，因为一项研究实验“失控了”。这个问题?Facebook的人工智能聊天机器人用英语进行谈判，它们发展出了自己的交流风格，导致Facebook的研究人员终止了这个实验。虽然机器人适用英文单词，但人类无法理解。这次关闭导致了一些媒体误报这些机器人“发明了自己的语言。”作为回应，巴特拉的Facebook的人工智能研究小组，在2017年7月31日的一个Facebook帖子“虽然人工智能代理发明他们自己语言的想法听起来可能令人担忧/意想不到的领域之外的人，这是一个完善的人工智能的子领域，几十年前的产物。”巴特拉先生是正确的，人工智能代理人发明他们自己的语言的想法是令人震惊和意想不到的，但是这和其他人工智能的发展使得法律职业在理解和应对这些技术带来的挑战方面的任务更加清晰。
包括加州最高法院法官奎利亚尔在内的法律界人士已经加入了大数据和人工智能的讨论，他们特别关注了大数据对法律职业的潜在影响。今年夏天早些时候,奎利亚尔说上诉法律奥兰治县的律师协会以及法官和律师参加一年一度的第九巡回司法会议关于大数据和人工智能。奎利亚尔也在哈佛法学院教授一个类资格，“网络法的领域：人工智能、自动化和信息安全。”（我们已经从侵权、合同和不动产的基础上走了很长一段路了！）
即使机器人带来的灾难可能还没有降临到我们头上，但技术的迅速发展，以及工业和政府对机器人的大力支持，预示着法律领域将发生巨大变化，同时也提出了一些至关重要的问题，我们必须回答这些问题，以维护我们有序的自由。更重要的是，我们要考虑四个关键的“已知的未知数”在人工智能与法律的十字路口：（1）人工智能监管；（2）人工智能和正当程序权利；（3）人工智能和电子披露；（4）对“数据歧视”的关注。
人工智能监管:主动还是被动?
第一个已知的未知是对Al的州或联邦监管的范围。也就是说，我们假设需要对人工智能进行一些监管，但具体是什么样的监管，由谁来领导，这对法律行业意味着什么，基本上都是未知的。尽管目前英特尔财产法律制度到位（以及法院正在考虑是否申请技术专利保护），没有国家注册，在专利和商标局没有专门的办公室来管理特定的技术或它们的应用，也没有规范的法律、法规处理人工智能技术。是否需要这样的办公室和具体的法律/法规？版权局决定“将不再登记由机器或机械加工过程随机或自动产生的作品，这些作品没有任何创造性的输入或来自人类作者的干预，但如何监管这些由机器或机械加工过程产生的作品呢？”
2016年10月，奥巴马政府出台了一份题为《为人工智能的未来做准备》的报告，发布了《国家人工智能研发战略规划》，举办公开研讨会，征求公众对人工智能发展的意见。是否当前行政管理参与在这个问题上还有待考虑。
众议院已经开始处理各种问题。2017年5月24日，国会议员约翰·k·德莱尼(MD-6)宣布成立第115届国会两党人工智能核心小组。核心小组的目标是“让政策制定者了解人工智能的发展对技术、经济和社会的影响，并确保人工智能及相关领域的快速创新尽可能让美国人受益。”人工智能核心会议将汇集来自学术、政府、私营部门的专家来讨论最新的技术、影响以及由这些改变创造的机会。清单中没有具体提到律师和法官，这也许是无意的。
“来自学术界、政府和私营部门的专家将汇聚一堂，讨论最新的技术以及这些新变化带来的影响和机遇。”*
马斯克先生是高技术行业政府监管方面的专家，他认为监管通常是积极响应的，但是：
“人工智能是一个罕见的案例，我认为应该有积极的监管，而不是被动的。我认为，等到我们在监管方面做出反应时，已经太晚了。正常情况下，制定规章制度的方式是一系列糟糕的事情发生，公众强烈抗议，然后在很多年以后，建立监管机构来监管这个行业。”
他是正确的吗？扎克伯格可能不同意。但是，对于那些正在开发人工智能技术、正在挑战众所周知的技术极限的客户，律师应该如何为他们提供咨询呢？
在与奥兰治县上诉法律部门的谈话中，奎利亚尔法官理智地表达了对科技公司将抵制监管的担忧，在法院和立法机构有机会解决这个问题之前，寻求阻止限制人工智能使用的规则。这是一个好想法。
另一方面，法律总是在发展变化的，那么法院和立法机构如何监管不断变化的法律呢?考虑到人工智能本质上是自动化的、人工的，法院和立法机构如何让自动配对技术承担责任？
现状似乎有利于大胆的人，除非各州或联邦政府做出协调一致的监管努力，在很大程度上，私营企业将会像Facebook一样自我监管，而我们将依赖于他们的良好判断。这似乎是一件好事，至于这是否符合公众的最佳利益，则是另一回事。
现状似乎有利于大胆的人，除非各州或联邦政府做出协调一致的监管努力，在很大程度上，私营企业将会像Facebook一样自我监管，而我们将依赖于他们的良好判断。这似乎是一件好事，至于这是否符合公众的最佳利益，则是另一回事。包括加州在内的几个州已经通过了管理自动驾驶汽车的法律，其他许多州也在考虑管理这个新兴的行业。
在大西洋彼岸，英国人已经开始努力解决这些问题，并可能提供一条可遵循的道路。正如最近下议院科学技术委员会所说，“虽然现在就为这一新兴领域(人工智能)制定全行业的监管规定还为时过早，但现在就开始对人工智能系统的伦理、法律和社会层面进行仔细审查至关重要。”
在英吉利海峡对岸，欧盟议会在2017年2月通过了一项决议，向机器人民法规则委员会提出了建议，提出人工智能和机器人的责任规则，并要求起草道德行为准则。欧盟2017年2月的一份报告指出：
如今，人类正站在一个新时代的门槛上，越来越复杂的机器人、机器人、机器人以及人工智能（人工智能）的其他表现形式似乎随时准备引发一场新的工业革命，这可能会使社会各阶层都受到影响，这对立法机构来说至关重要去考虑它的合法性以及道德影响和效果，在不会扼杀创新的前提下。
一个建议可能是，我们的立法者应该监控这些发展，着眼于在国内整合最佳实践。
机器人警察和自动决策:职能和正当程序权利
第二个已知的未知因素是民事和刑事法庭以及行政机构在决策过程中对人工智能技术的依赖程度，以及这对那些挑战这些决定的人意味着什么。我们知道技术可以帮助权衡数据，但是对这些结果的挑战呢？当一个决定是依靠人工智能技术做出时，谁是最终的责任人？
如果执法部门或检察官依靠技术手段，根据嫌疑人的数据点确定嫌疑人的犯罪动机，那么检察官是负责指控决定，还是技术的发明者？技术本身的权利持有人？这些沉重的问题正在寻找答案。
在最近的第九巡回司法会议上，奎利亚尔大法官提到了在协商室周围徘徊的机器人，并设想了这样一种假想场景：一个机器人正在进行搜查和扣押，要求一名法官根据宪法第四修正案来判定，这种拦截是否合理。什么将智慧法官的决策？奎利亚尔法官指出，我们人类倾向于给予人工智能系统比我们人类的分析更大的尊重。
统一和可预见性是自由和公正司法制度的基本特征，而这些标准目前在法律顾问中缺乏，需要一些指导。
隐私和公共权利倡导者已经对尊重自动化过程提出了合法的关切，特别是在涉及正当程序权利的情况下。回想一下最近关于加州市政交通摄像头和自动交通罚单合宪性的辩论。开罚单是否违反了无罪推定的基本原则？扩大使用人工智能及其分析能力是否必然侵犯宝贵的公民自由？
1791年批准的宪法第四修正案保证了对隐私的合理期待。但是，当我们通过智能手机应用程序、在线表格和社交媒体消费来放弃更多的个人信息时，作为对人工智能的更大以来的交换，对隐私的合理期待到底是什么呢？我们的技术是否超越了我们的宪法权利？如果警察部门越来越依赖人工智能来指导警察工作，辩护律师、检察官和法院将如何权衡这些决定？没人知道，但人工智能技术的早期采用者可能会获得回报，让其他人迎头赶上。但是，当基本权利受到威胁时，法律界还能容忍这种情况吗？
一种解决方案可能是在整个行业或州的基础上采用并合并人工智能技术的统一指导方案和挑战人工智能决策的同一方法。困难之处在于要确保这些指导方案不会无端地干扰或阻碍创造性天才的诞生。统一和可预见性是自由和公正司法制度的基本特征，而目前缺乏这些有益于指导的法律标准。
电子发现:承诺与陷阱
第三，虽然人工智能已被纳入民事诉讼证据开示程序，一体化的程度及其伴随的风险、收益和成本是未知的。
诉讼成本持续飙升已不是什么秘密，其中很大一部分是由进行发现的费用推动的。当相关信息过去仅以纸质形式存在时，将文档和内容的范围限制在审查范围内相对容易一些。现在，文档和事物在很大程度上都存在于数字世界中，很难划清界限。因此，律师和客户花在查找和梳理数千页电子文档(及其加密)上的时间和费用大幅增加。
尽管存在存在的问题，但在发现阶段，人工智能确实对客户和律师有益。数不清的科技公司现在提供各种各样的电子发现软件，从删除重复的文档到标记相关文档，甚至提供自动化的案例评估。事实上，许多律师事务所已经将其文件审查流程外包或自动化。随着人们对诉讼费用的日益敏感，以及电子数据可被发现的领域日益扩大，人工智能帮助律师在文件审查过程中变得更有效率。
然而，依靠技术在诉讼过程中这一关键步骤要求对技术的可靠性和可靠性基本上不受约束的信心。软件不是绝对可靠的。此外，人工智能的好处，现在，免费律师技能，这当然是可能的，而且可能是可能的，越来越多的任务，通常需要一个律师的技能和智慧，如法律研究和分析备忘录起草，可能会被人工智能取代，这就提出了一个问题:谁对专业过失负有最终责任——雇佣人工智能的律师或人工智能技术的软件设计者。
包括作者在内的一些法律公司——已经开始与人工智能等新兴技术作斗争，并将基于人工智能的技术用于电子发现。其他律师事务所采取了不同的措施。根据《纽瓦克时报》最近的一篇文章，德同律师事务所在2015年启动了一项名为Nextlaw Labs的计划，“监控和投资法律技术，而贝克·麦坚时国际律师事务所则成立了一个委员会，监控法律技术，并制定公司战略。文章指出，新兴技术可以在发现(即:文档审查)、法律研究、甚至合同审查等任务中提高效率。但随着技术的突破，随之而来的是成本和风险，包括新的医疗事故隐患。
就法官们而言，他们似乎对科技在发现领域的应用缺乏信心。电子取证和诉讼软件公司Exter
剩余内容已隐藏，支付完成后下载完整资料
资料编号：[254220]，资料为PDF文档或Word文档，PDF文档可免费转换为Word
以上是毕业论文外文翻译，课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。
