刑事實務預判輔助之研究

以作者查詢圖書館館藏

、以作者查詢臺灣博碩士

、以作者查詢全國書目

、勘誤回報

、線上人數：11

、訪客IP：3.145.91.121

姓名

孫潤德(Ren-Der Sun) 查詢紙本館藏

畢業系所

資訊工程學系

論文名稱

刑事實務預判輔助之研究
(On the practical legal judgement prediction from prosecutor indictments and court verdicts)

相關論文

★ 行程邀約郵件的辨識與不規則時間擷取之研究	★ NCUFree校園無線網路平台設計及應用服務開發
★ 網際網路半結構性資料擷取系統之設計與實作	★ 非簡單瀏覽路徑之探勘與應用
★ 遞增資料關聯式規則探勘之改進	★ 應用卡方獨立性檢定於關連式分類問題
★ 中文資料擷取系統之設計與研究	★ 非數值型資料視覺化與兼具主客觀的分群
★ 關聯性字組在文件摘要上的探討	★ 淨化網頁：網頁區塊化以及資料區域擷取
★ 問題答覆系統使用語句分類排序方式之設計與研究	★ 時序資料庫中緊密頻繁連續事件型樣之有效探勘
★ 星狀座標之軸排列於群聚視覺化之應用	★ 由瀏覽歷程自動產生網頁抓取程式之研究
★ 動態網頁之樣版與資料分析研究	★ 同性質網頁資料整合之自動化研究

檔案

[Endnote RIS 格式]

[Bibtex 格式]

[相關文章]

[文章引用]

[完整記錄]

[館藏目錄]

[檢視]

[下載]

本電子論文使用權限為同意立即開放。
已達開放權限電子全文僅授權使用者為學術研究之目的，進行個人非營利性質之檢索、閱讀、列印。
請遵守中華民國著作權法之相關規定，切勿任意重製、散佈、改作、轉貼、播送，以免觸法。

摘要(中)

法律判決預測（LJP）旨在基於案件之犯罪事實以預測判決結果（如法條、罪名和刑期）。這個領域大多相關研究都是基於法院判決書中所記載之犯罪事實所為模型之犯罪事實輸入。然而，每個判決書所記載之犯罪事實內容實際上都是基於起訴書的內容做延伸。除此外，過去相關研究之目的大多致力於服務法官，作為其工作上之輔助工具。然而實務上有更多的需求來自於檢察官起訴案件後，案件是否會被法官駁回或是法官不受理？如果被告無受法官處罰，則原因為何？若有處罰，則是受到有期徒刑還是罰款之處罰？是違反了哪一條法條與罪名？因此，在這項研究中，我們定義了三個新穎之LJP任務，分別為檢察官提供協助，包括起訴結果預測（LJP#1）、刑事罰款預測（LJP#2）和刑事刑期預測（LJP#3）。

本篇之研究係基於多任務學習(Multi-task Learning)架構，而在上述每個工作中之子任務間亦是具有相依關係，換言之，一項子任務之預測結果也影響了其他子任務之預測結果。在本篇論文中，對於子任務之間應用了不同之拓譜架構如IMN(Iteracitve Message Passing Network)及TopJudge與本篇研究提出結合IMN與TopJudge形成之拓譜架構並搭配不同之語言模型，如Word2Vec、BERT、Lawformer 進行LJP任務，比較子任務形成不同之拓譜架構並應用不同之語言模型對於效能之影響。此外，由於大型語言模型中的參數數量巨大，對每個LJP任務進行Full-Tuning的成本將變得越來越昂貴。為解決這個問題，我們採用了LoRA(Low-Rank Adaptation)架構，這是屬於一種Parameter-Efficient Fine-Tuning(PEFT)的技術，以減少訓練參數數量並節省計算成本與模型訓練時間。實驗結果顯示，使用LoRA進行Fine-Tuning不僅降低了訓練時間（45\%），甚至對某些LJP任務帶來了性能提升效果（2.5\%的Macro F1）。

摘要(英)

Legal Judgment Prediction (LJP) aims to predict the judgement results (such as article, charge, and penalty) based on the criminal facts of the case. Most previous research in this field was based on criminal statements from court verdicts. However, each verdict actually is based on the content from indictments. For prosecutors, will the case be dismissed or processed? If the case is accepted, is the penalty a jail sentence or a fine? What is the charge and article violated? In this study, we therefore define three novel LJP tasks for prosecutors, including prosecution outcome prediction (LJP#1), fine prediction (LJP#2) and imprison prediction (LJP#3).
Due to the huge number of parameters in a large language model, the cost of full-tuning for each LJP task will become increasingly expensive.
To solve this problem, we adopt the LoRA (Low-Rank Adaptation) architecture, a technique for parameter-efficient fine-tuning (PEFT) to reduce the number of tuned parameters and save computational cost/time. The experiments show that using LoRA for fine-tuning not only improves not only reduce training time (45\%) but also brings performance improvement effect (2.5\% F1) for some LJP tasks.

關鍵字(中)

★ 刑事判決預測
★ 大型語言模型
★ LoRA
★ PEFT

關鍵字(英)

★ Legal Judgement Prediction
★ Large Language Model
★ LoRA
★ PEFT

論文目次

中文摘要 i
英文摘要 ii
目錄 iii
圖目錄 v
表目錄 vi
一、介紹.............................................................................. 1
1.1 動機與目標 . . . . . . . . . . . . . . . . . . . . . . . 4
1.2 貢獻 . . . . . . . . . . . . . . . . . . . . . . . . . . 5
二、相關研究....................................................................... 6
2.1 Multi-task Learning Framework . . . . . . . . . . . . 6
2.2 Large Language Model . . . . . . . . . . . . . . . . . 7
2.2.1 GPT-3.5 . . . . . . . . . . . . . . . . . . . . . . . . 7
2.2.2 PromptClue . . . . . . . . . . . . . . . . . . . . . . 8
三、任務描述....................................................................... 9
3.1 任務定義 . . . . . . . . . . . . . . . . . . . . . . . . 9
3.1.1 TWLJP#1-Prosecution Result Prediction . . . . . . 9
3.1.2 TWLJP#2 Criminal Fine Prediction . . . . . . . . . 9
3.1.3 TWLJP#3 Criminal Imprisonment Prediction . . . . 10
四、使用方法....................................................................... 11
4.1 Interactive Message-Passing Network(IMN) . . . . . 11
4.2 IMN+TopJudge . . . . . . . . . . . . . . . . . . . . 12
4.3 Large Language Model . . . . . . . . . . . . . . . . . 13
4.3.1 BERT . . . . . . . . . . . . . . . . . . . . . . . . . . 13
4.3.2 Lawformer . . . . . . . . . . . . . . . . . . . . . . . 14
4.4 Parameter-Efficient Fine-Tuning-LoRA . . . . . . . . 15
五、實驗結果....................................................................... 17
5.1 資料集建構與資料收集 . . . . . . . . . . . . . . . . 17
5.2 效能評估標準 . . . . . . . . . . . . . . . . . . . . . 19
5.2.1 Evaluation for Text Classification . . . . . . . . . . . 19
5.2.2 Evaluation for Text Regression . . . . . . . . . . . . 19
5.3 實驗數據 . . . . . . . . . . . . . . . . . . . . . . . . 19
5.3.1 TWLJP#1-起訴結果預測 . . . . . . . . . . . . . . . 19
5.3.2 TWLJP#2-罰金預測 . . . . . . . . . . . . . . . . . 20
5.3.3 TWLJP#3-刑期預測 . . . . . . . . . . . . . . . . . 22
六、結論及未來展望............................................................ 27
6.1 結論 . . . . . . . . . . . . . . . . . . . . . . . . . . 27
6.2 未來展望 . . . . . . . . . . . . . . . . . . . . . . . . 28
參考文獻 29

參考文獻

[1] Haoxi Zhong, Zhipeng Guo, Cunchao Tu, Chaojun Xiao, Zhiyuan Liu, and Maosong Sun. Legal judgment prediction via topological learning. In Proceedings of the 2018 Conference on Empirical Meth- ods in Natural Language Processing, pages 3540–3549, Brussels, Bel- gium, October-November 2018. Association for Computational Lin- guistics.
[2] Ruidan He, Wee Sun Lee, Hwee Tou Ng, and Daniel Dahlmeier. An interactive multi-task learning network for end-to-end aspect-based sentiment analysis. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pages 504–515, Florence, Italy, July 2019. Association for Computational Linguistics.
[3] Chaojun Xiao, Haoxi Zhong, Zhipeng Guo, Cunchao Tu, Zhiyuan Liu, Maosong Sun, Yansong Feng, Xianpei Han, Zhen Hu, Heng Wang, and Jianfeng Xu. Cail2018: A large-scale legal dataset for judgment prediction, 2018.
[4] Xuanwei Zhang and Liang Xu. Promptclue: A zero-shot learning model that supports full chinese tasks, September 2022.
[5] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computa- tional Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pages 4171–4186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.
[6] Haoxi Zhong, Chaojun Xiao, Cunchao Tu, Tianyang Zhang, Zhiyuan Liu, and Maosong Sun. How does NLP benefit legal system: A summary of legal artificial intelligence. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pages 5218–5230, Online, July 2020. Association for Computational Linguistics.
[7] Sourab Mangrulkar, Sylvain Gugger, Lysandre Debut, Younes Belkada, and Sayak Paul. Peft: State-of-the-art parameter-efficient fine-tuning methods. https://github.com/huggingface/peft, 2022.
[8] Junyun Cui, Xiaoyu Shen, Feiping Nie, Zheng Wang, Jinglong Wang, and Yulong Chen. A survey on legal judgment prediction: Datasets, metrics, models and challenges, 2022.

指導教授

張嘉惠(Chia-Hui Chang)

審核日期

2023-9-5

推文