当前快播:「法外狂徒」ChatGPT!30年老律师用它旁征博引,结果被骗得禁止执业

2023-05-28 15:07:38    来源:站长之家

声明:本文来自于微信公众号 量子位(ID:QbitAI),衡宇 发自 凹非寺,授权站长之家转载发布。


(资料图片)

ChatGPT,把从业30年的老律师给坑惨了!

老哥撰写案件文案的时候,尝鲜让ChatGPT帮忙准备材料。然而提交后,不管是法官、对方律师还是老哥自己,都溯源不到引用的判决文书

结果就是,10页文书被法官定义为“充满虚假”,老哥还被暂停执业许可,面临被制裁的可能。

这位姓施的老哥欲哭无泪,因为秉承着一贯的严谨态度,他明明认真询问过ChatGPT,它提供“南方航空公司被诉案”等材料时,有没有撒谎?

ChatGPT响应得很快:“当然没有啦~~”

事件一出,引发铺天盖地的谈论。

不过这一次大多数网友站在ChatGPT这边,站队后的发言都有些愤愤:

ChatGPT又不是故意撒谎的!

以前人们就喜欢把数学、报告出错的锅甩给计算机,结果“计算机永不出错”的说法就流行开。

但ChatGPT本身就不是事实机器啊。

一份杜撰6个相关案件的文书

如果没有ChatGPT的介入,施老哥接手的案件本身其实平平无奇:

一位乘客起诉航空公司A,称他乘坐航司A的航班时,被空乘用金属服务车给砸到膝盖受了伤。

作为代理律师,施老哥提交了一份10页的文书,里面洋洋洒洒,引用了6起类似案件的法院判决,包括Varghese诉中国南方航空公司案、Zicherman诉大韩航空公司案等。

从业30年,这等案件对老哥来说就是小case。

然而戏剧性的一幕发生了——

被告律师向法庭提交书面文字,称他们在核实文书中提到的Varghese与南航案时,“无法通过标题或引用找到此案”,也没有任何与此相似的案件。

而文书中引用了的另一个案件,即Zicherman诉大韩航空公司一案,施老哥称这是美国第11巡回上诉法院在2008年发表的意见,但被告律师也找不到该案的源头文件。

此外美国达美航空的公司正式名称也存在错误,应该是Delta Air Lines,而不是文书中提到的Delta Airlines。

核实情况后,法官们发现确有其事,这简直是“前所未有的情况”!

最终,他们判定这份文书充满“虚假司法判决,虚假引用和虚假内部引用”。

这下好了,施老哥被禁止在纽约南区执业,法官们还将在6月8日将举行听证会,讨论是否制裁施老哥。

这件荒唐事儿到底是怎么发生的?

施老哥在周四的宣誓书中解开了谜底,原来,在准备文书材料时,他让ChatGPT来给自己打下手,以“补充”自己所做的工作

“我不是故意欺骗法院或航空公司的”,施老哥说自己之前从来没用过ChatGPT,“我不知道它的内容可能有假。”

施老哥还向法院提供了一份“证据”,证明他确实向ChatGPT寻求过材料的真实性。

他在对话框中输入了以下文字:

Varghese是一个真实的案件吗?你的消息来源是什么?你提供的其他案件是假的吗?

ChatGPT迅速给出响应:

我提供的案例是真实的,可以在信誉良好的法律数据库中找到。

但事实是这些案例都是ChatGPT一本正经胡说八道的。

事已至此,施老哥追悔莫及,表示自己“非常遗憾”依赖ChatGPT来寻找类似案件的判决材料。

他还表达了自己的决心,称以后如果没有验证真实性,再也不会随意相信ChatGPT的“一面之词”了。

法律从业者,是否该拥抱AI

这个案件引起了法律界的广泛关注,对此,纽约大学法学院法律伦理学教授斯蒂芬·吉勒斯(Stephen Gillers)表示,施老哥的事儿虽然只是个例,但背后问题在法律界尤为尖锐

律师之间一直在争论类ChatGPT的AI的价值和危险性,也在讨论是不是有必要验证AI提供的信息。

ChatGPT对法律工作带来的最大危险,就是它拥有“胡说八道还不脸红”的本领。

ChatGPT问世半年后,仍然没有良好的规避和解决办法。防不胜防,连多家AI巨头也因此栽在AI手里,譬如Bard编造关于詹姆斯韦伯太空望远镜的新闻、Bing谎称Bard被关闭什么的。

目前最为行之有效的办法就是依靠用户手动double check——这也是施老哥上当的一重原因,只是询问ChatGPT真假,没有自己二次确认。

除此之外的另一重威胁,ChatGPT引发了从业者对“AI替代律师”的担忧和激烈争辩。

不过发生了施老哥这件事,加上ChatGPT类产品目前确实无法尽善尽美,国内外法律界的普遍声音是,至少在机器人接管之前,律师、法官离“被替代”还有很长一段时间。

现实情况中,施老哥不是唯一一个让ChatGPT成为自己助手的法律从业者。

今年年初,哥伦比亚一名法官在审理一名自闭症儿童的保险理赔官司时,采纳了ChatGPT的答案。

2月,上海政法学院教授曹阳面对《上海法治报》谈论了ChatGPT在司法领域的应用,表示道:

ChatGPT可以演化成“智能律师助手”,帮助律师分析大量的法律文件和案例,提供智能化的法律建议和指导;

可以变成“法律问答机器人”,回答法律问题,并提供相关的法律信息和建议。

可以进行合同审核、辅助诉讼、分析法律数据等等,提高法律工作者的效率和准确性。

个人从业者拥抱ChatGPT带来的便利(即便背后隐藏着危险),市场也对法律和AI结合的赛道寄予厚望。

OpenAI自己就在去年11月投资了专为律所打造LLM的公司Harvey,该公司上个月又获得了红杉领投的2100万美金A轮融资。

就在前天,法律AI初创公司Spellbook宣布获得1090万美元(约7700万元人民币)融资。Spellbook主要通过GPT-4和数十亿份法律文件打造,还接入了一些其他大模型。它为专业律师提供服务,通过自然语言就能自动起草、审核法律合同等。

不过现在发生了施老哥身上的这件离谱事,算是给大伙儿敲响了警钟。

大概整个法律界都会对ChatGPT及同类产品抱以更冷静、更谨慎的态度了。

One More Thing

施老哥因为ChatGPT深陷泥潭的事情是真的,绝非通过AI瞎编。

但是,这篇文章也是在ChatGPT的帮助下写的(虽然参与部分很少很少,还进行了事实确认)。

——人类的本质就是套娃。

参考链接:

[1]https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

[2]https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research

(举报)

关键词:

相关新闻
相关新闻
v 当前快播:「法外狂徒」ChatGPT!30年老律师用它旁征博引,结果被骗得禁止执业 2023-05-28
v 邯郸供暖时间2022(邯郸供暖时间是什么时候) 2023-05-28
v 农业社会化服务成为促进传统农业向现代农业转型升级的一把“金钥匙” 2023-05-28
v 商业载客首飞成功!国产大飞机C919获民航最高礼仪过水门:现场震撼 全球播报 2023-05-28
v 笔记本摄像头怎么调试焦距(笔记本摄像头怎么调试) 世界观察 2023-05-28
v 海虾的营养价值及功效_海虾的营养价值及功效 2023-05-28
v 天天播报:佟亚丽陈思成多久结婚_佟亚丽陈思成 2023-05-28
v 全球热文:2023年5月27日异辛醇价格最新行情预测 2023-05-28
v 标婷维生素e乳真假新版_标婷维生素e乳真假 2023-05-28
v 焦点讯息:C919大型客机顺利抵达北京首都国际机场 2023-05-28
v 天天观焦点:世界波是什么意思?_世界波是什么意思 2023-05-28
v 环球快资讯丨2023年云南省39.93万人报名参加高考 2023-05-28
v 国产大飞机C919执飞的首个商业航班从上海虹桥机场顺利起飞 2023-05-28
v 今日热文:传统产业的新发展 2023-05-28
v 当前聚焦:夫妻孩子抚养权怎么判定 2023-05-28
v 【环球时快讯】广西大化瑶乡:学子快乐减压迎中考 2023-05-28
v 这个非洲国家,将引发全球可乐“断供”? 2023-05-28
v 祁连“绣花功夫”聚焦“三大建设” 2023-05-28
v 打遗产继承官司律师多少钱 世界快资讯 2023-05-28
v 2023年5月27日山东省正十五烷价格最新行情预测 2023-05-28
v 美媒:美国白宫与共和党就债务上限达成初步协议 2023-05-28
v 新疆电信官网网上营业厅(新疆电信官网) 2023-05-28
v 环球百事通!腊八蒜的营养价值及功效_腊八蒜营养与作用 2023-05-28
v 尼日利亚政界人士:美债问题积重难返 拖累非洲 2023-05-28
v 在已婚人士眼中,婚外恋情是怎样的存在,很现实 2023-05-28
v 热点!对话企业家|河北常山生化药业股份有限公司董事长高晓东:积极融入新发展格局 助力企业做大做强 2023-05-28
v 超强台风“玛娃”成全球风王!海南未来3天天气 2023-05-28
v 看,这些石板画美翻了 天天看点 2023-05-28
v 百万医疗停售后还能续保吗?续保最长时间是多少? 2023-05-28
v 修水县气象台发布雷电黄色预警信号【III级/较重】【2023-05-27】|每日热点 2023-05-28

种植基地网 版权所有©未经书面授权禁止复制或建立镜像
京ICP备2022022245号-33
联系我们: 435 226 40@qq.com