Một số tác động của trí tuệ nhân tạo tới nghề luật

MỘT SỐ TÁC ĐỘNG CỦA TRÍ TUỆ NHÂN TẠO TỚI NGHỀ LUẬT1 1 Bài viết kế thừa và bổ sung nội dung của tham luận tại Hội thảo “AI và những vấn đề đặt ra đối với pháp luật và quyền con người” do Khoa Luật - Đại học Quốc gia Hà Nội tổ chức, tháng 5/2019. Tóm tắt: Trí tuệ nhân tạo đang tác động đến nhiều mặt của đời sống xã hội, bao gồm cả lĩnh vực pháp luật. Một số quốc gia đã thử nghiệm một số ứng dụng trí tuệ nhân tạo trong lĩnh vực pháp luật và phần nào cho thấy những triển vọng trong tương lai. Hiện nay, trí tuệ nhân tạo được áp dụng phổ biến trong nghiên cứu pháp luật và dự đoán vi phạm pháp luật, hỗ trợ các luật sư và thẩm phán trong xử lý thông tin. Trong một tương lai không xa, trí tuệ nhân tạo có thể được sử dụng để “xét xử” trực tuyến các tranh chấp, thậm chí là cả những vụ án hình sự. Điều này sẽ đặt ra những thách thức đối với nghề luật. Nguyễn Văn Quân* * TS. Khoa Luật - Đại học Quốc gia Hà Nội Abstract Artificial intelligence - AI is providing affects to several aspects of the social activities, including the legal sector. A number of countries have tested a series of artificial intelligence applications in the legal sector, which somewhat has been providing prospects in the future. Currently, artificial intelligence is commonly used in legal studies and prediction of the legal violations, supporting the lawyers and judges in processing information. In the near future, artificial intelligence can be used to "online deal with" the disputes, even criminal cases, which is showing challenges to the legal profession. Thông tin bài viết: Từ khóa: robot; trí tuệ nhân tạo; nghề luật sư; nghề thẩm phán Lịch sử bài viết: Nhận bài : 02/05/2019 Biên tập : 21/05/2019 Duyệt bài : 27/05/2019 Article Infomation: Keywords: robot, artificial intelligence; lawyer profession, judge profession Article History: Received : 02 May 2019 Edited : 21 May 2019 Approved : 27 May 2019 Dẫn nhập Hiện nay, có rất nhiều định nghĩa về trí tuệ nhân tạo (artificial intelligence -AI). Một cách khái quát nhất, có thể hiểu trí tuệ nhân tạo là “tập hợp các lý thuyết và kỹ thuật được sử dụng để tạo nên những máy NHAÂ NÛÚÁC VAÂ PHAÁP LUÊÅT 12 Số 12(388) T6/2019 có khả năng mô phỏng trí thông minh của con người”2. Trí tuệ nhân tạo được sử dụng ngày càng nhiều trong những lĩnh vực trước đây chỉ dành riêng cho con người. Chúng ta chứng kiến sự hiện diện của các hệ thống tự động trong nhiều lĩnh vực rất khác nhau, ví dụ như robot đầu bếp Robotic Kitchen do công ty Moley Robotics chế tạo có thể chuẩn bị các món ăn với chất lượng tương đương đầu bếp hàng đầu3, robot Yumi của hãng Luca có thể điều khiển dàn nhạc giao hưởng4, cho đến robot phẫu thuật nha khoa hoàn toàn tự động ở Trung Quốc5. Có thể nói rằng, tin học hoá, tự động hoá đã, đang và sẽ tác động sâu rộng tới mọi lĩnh vực của đời sống xã hội. Nghề luật cũng phải thích ứng với sự phát triển của công nghệ để không chịu thua thiệt trước những biến động của kỹ thuật số. Giống như đa số các chủ thể trong đời sống kinh tế, các chuyên gia pháp lý dần thích nghi với những phát triển không ngừng của công nghệ. Sự thay đổi lớn gần đây nhất là làn sóng tin học hóa diễn ra trong hai thập kỷ qua. Trong lĩnh vực luật pháp, các luật gia hào hứng với ý tưởng tăng năng suất khi bỏ máy chữ sang phần mềm xử lý văn bản hoặc sử dụng email thay cho thư từ truyền thống. Tin học hóa đã giúp các luật gia làm việc hiệu quả hơn, nhưng chưa đến mức đe dọa sự tồn tại nghề nghiệp của họ. Luật sư vẫn duy trì sự độc quyền trên thực tế về kiến thức pháp lý, kỹ năng tranh tụng và duy trì được cách thức thanh toán thù lao theo giờ. 2 Xem: Từ điển Larousse: https://www.larousse.fr/encyclopedie/divers/intelligence_artificielle/187257, truy cập ngày 15/4/2019. 3 Xem: https://www.futura-sciences.com/tech/videos/robotic-kitchen-robot-cuisinier-met-main-pate-1940/ 4 Xem: https://www.reuters.com/article/us-italy-concert-robot/yumi-the-robot-conducts-verdi-with-italian-orches- tra-idUSKCN1BO0V2, truy cập ngày 15/4/2019. 5 truy cập ngày 20/4/2019 6 Xem: truy cập ngày 15/4/2019. Chuyên gia pháp chế tiếp tục đóng vai trò là nhà phân tích rủi ro pháp lý của doanh nghiệp. Đối với bộ máy tư pháp và hoạt động xét xử, tin học hóa có rất ít tác động. Thẩm phán vẫn tập trung vào chức năng giải quyết tranh chấp như hàng nghìn năm nay. Nhưng cấp độ cao hơn của tiến bộ công nghệ là chuyển dịch từ tin học hoá sang trí tuệ nhân tạo sẽ tạo ra những thách thức đối với nghề luật. Một phần ngày càng lớn các công việc vốn do luật sư, chuyên gia pháp chế doanh nghiệp và thẩm phán thực hiện có thể sẽ được chuyển giao cho máy móc với tốc độ làm việc cao hơn và chi phí thấp hơn. Robot hoá trong nghề luật buộc các luật gia phải thay đổi trong bối cảnh mới. 1. Ứng dụng trí tuệ nhân tạo trong lĩnh vực pháp luật Về mặt kỹ thuật, trí tuệ nhân tạo ứng dụng trong lĩnh vực pháp luật đặc trưng bởi việc sử dụng kết hợp các yếu tố sau6: - Dữ liệu lớn (big data); - Học hỏi và nhận thức của máy móc (máy học hay machine learning): máy móc có khả năng thích ứng với các điều kiện môi trường xung quanh để rút ra các nguyên lý từ tri thức thu nhận được, phục vụ cho việc ra quyết định; - Máy móc có khả năng đọc hiểu và giao tiếp với người bằng ngôn ngữ tự nhiên (natural language processing). Trí tuệ nhân tạo trong lĩnh vực pháp luật thực tế là 2 phần: (i) các công cụ tìm kiếm thế hệ mới; (ii) các hệ thống hỗ trợ ra quyết định. NHAÂ NÛÚÁC VAÂ PHAÁP LUÊÅT 13Số 12(388) T6/2019 - Hệ thống chuyên gia, nơi hợp thức hoá đánh giá của những người có chuyên môn. Các nhà nghiên cứu bị chia rẽ về ảnh hưởng của trí tuệ nhân tạo trong lĩnh vực pháp luật. Một số người cho rằng trí tuệ nhân tạo thực sự là một nguy cơ đối với nghề luật, vì máy móc sẽ thay thế luật sư. Đây là quan điểm của hai tác giả người Mỹ Richard và Daniel Susskind, được trình bày trong cuốn “The Future of the Professions: How Technology Will Transform the Work of Human Experts”7 (Tương lai của các nghề nghiệp: công nghệ mới sẽ chuyển đổi công việc của các chuyên gia như thế nào?) và tóm lược trong một bài viết đăng trên Harvard Business Review8. Theo hai tác giả này, đa phần các công việc do các luật sư cũng như bác sĩ và các nghề nghiệp khác chỉ là thực hiện lặp lại các quy trình mà không sử dụng đến các năng lực chỉ riêng có của con người. Họ cho rằng, nhiều việc chủ yếu dựa theo các quy trình và thói quen, mà không đòi hỏi sự suy xét, sáng tạo hay sự thấu cảm. Và như vậy, hiệu quả nhất là dùng người máy và trí tuệ nhân tạo bắt chước, sao chép cách làm của những người giỏi nhất. Các tác giả này cho rằng, không nên đánh giá thấp khả năng tương lai của trí tuệ nhân tạo trong việc thực hiện các công việc mà hiện nay con người tỏ ra vượt trội hơn. Một ví dụ thực tế có vẻ chứng minh cho quan điểm của hai tác giả này: Công ty luật lớn của Mỹ Bakerhostetler bắt đầu sử dụng phần mềm trí tuệ nhân tạo Ross do IBM thiết kế trên nền tảng công nghệ của Watson. AI 7 Richard và Daniel Susskind, The Future of the Professions: How Technology Will Transform the Work of Human Experts, Oxford University Press, 2015. 8 https://hbr.org/2016/10/robots-will-replace-doctors-lawyers-and-other-professionals, truy cập ngày 20/4/2019. 9 https://www.lemonde.fr/pixels/article/2016/05/27/une-intelligence-artificielle-fait-son-entree-dans-un-cabinet-d-avo- cats_4927806_4408996.html , truy cập ngày 20/4/2019. 10 https://business.lesechos.fr/directions-juridiques/avocats-et-conseils/actualite-des-cabinets/0211658104975-les-ro- bots-seront-ils-vraiment-les-avocats-de-demain-304361.php. Ross hiện đang được sử dụng để giải quyết các vấn đề về phá sản doanh nghiệp9 . Quan điểm khác hoài nghi về tác động của trí tuệ nhân tạo đối với nghề luật, đặc biệt là liên quan đến ý tưởng thay thế con người bằng robot. Có thể kể ra quan điểm của Pierre Aïdan, đồng sáng lập của công ty luật trực tuyến Legalstart.fr và Florence G'Sell, Giáo sư luật tại Đại học Lorraine. Hai tác giả này đã viết bài phản biện quan điểm của hai tác giả người Mỹ nói trên. Hai tác giả người Pháp này phê phán bài viết trên đã không nhìn nhận kỹ lưỡng tầm quan trọng của những kỹ năng của con người trong nghề luật, như sự thấu cảm, tư duy chiến lược hoặc khả năng tiến hành đàm phán. Ngoài ra, các tác giả cho rằng rôbốt sẽ không thể thay thế hay hỗ trợ con người trong một số công việc, xuất phát từ bản chất của “chủ thể” này. Có thể kể ra một số công việc như: đại diện tại tòa án, giao tiếp với khách hàng, tìm kiếm sự thật hoặc thậm chí là viết lách10. Tuy nhiên, hai tác giả này thừa nhận sự tiến bộ đáng kể mà trí tuệ nhân tạo thể hiện và những tiện ích mà trí tuệ nhân tạo mang lại cho nghề luật, nhưng chỉ là ở vai trò hỗ trợ cho các luật gia chứ không thể thay thế hoàn toàn con người. 2. Tác động của trí tuệ nhân tạo tới nghề luật sư Theo một nghiên cứu của trường đại học Oxford công bố vào năm 2013, khoảng 47% số việc làm ở Mỹ có nguy cơ được tự NHAÂ NÛÚÁC VAÂ PHAÁP LUÊÅT 14 Số 12(388) T6/2019 động hoá trong vòng hai thập kỷ tới11. Trong bối cảnh bùng nổ của tự động hoá công việc, một số nhà quan sát dự báo về sự kết thúc được báo trước của nghề luật sư, hoặc chí ít là sự thu hẹp của nghề này. Một báo cáo mới đây của Công ty tư vấn The Boston Consulting Group và Trường Luật Bucerius cho rằng các phần mềm trí tuệ nhân tạo LegalTech có thể thực hiện được 30% đến 50% công việc mà các luật sư mới vào nghề đang làm12, điều này sẽ tác động mạnh mẽ tới tổ chức của các văn phòng luật cũng như số lượng luật sư. Trên thực tế, số lượng luật sư ở nhiều nước có xu hướng gia tăng trong những năm vừa qua. Ví dụ, ở Bỉ số luật sư tăng dần đều từng năm và năm 2017 có 18.594 luật sư13, trong khi ở Pháp có 66.958 luật sư vào năm 2018, so với 48.461 vào năm 200814. Ở Việt Nam, từ năm 2016 đến nay, đội ngũ luật sư đã tăng lên đáng kể. Theo thống kê tháng 4/2015 là hơn 9.000 luật sư thì năm 2019 có 13.000 luật sư đang hàng nghề và gần 5.000 người tập sự hoạt động trong hơn 4.000 tổ chức hành nghề luật sư15. Xu hướng gia tăng số lượng luật sư có thể giải thích bằng nhiều lý do khác nhau: lạm pháp phát luật, sự phát triển ngày càng sâu của các ngành luật, sự phức tạp của các quan hệ kinh tế trong bối cảnh toàn cầu hoá và hội nhập kinh tế. Tuy nhiên, trong những năm gần đây, tại một số nước phát triển, có một số yếu tố tác động tới nghề luật sư. Có thể kể ra 11 C.B. Frey, M. A. OsBorne, « The Future of Employment : How susceptible are jobs to computerisation ? », 17 septem- bre 2013, Xem: https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf, truy cập ngày 20/4/2019. 12 The Boston Consulting Group et Bucerius Law School, How Legal Technology Will Change the Business of Law, 01/2016, tr. 3, xem: https://docs.wixstatic.com/ugd/b30d31_7b407b2c8c6b44d697957b7fa5db48c8.pdf, truy cập ngày 20/4/2019. 13 https://www.lecho.be/entreprises/services/jamais-le-metier-d-avocat-n-a-ete-aussi-prise-mais/9999438.html, truy cập ngày 20/4/2019. 14 truy cập ngày 20/4/2019. 15 https://plo.vn/phap-luat/ca-nuoc-co-hon-13000-luat-su-gan-5000-luat-su-tap-su-811412.html, truy cập ngày 20/4/2019. xu hướng khách hàng yêu cầu nhiều dịch vụ hơn với chi phí thấp hơn (more for less), xu hướng chuyển dịch một phần hoặc toàn bộ dịch vụ pháp lý tới các nước có chi phí rẻ hơn (outsourcing) làm cho nghề luật sư ngày có tính cạnh tranh cao. Ngoài ra, cần phải tính đến sự xuất hiện và phát triển của các công ty LegalTech. Đây là các doanh nghiệp đưa công nghệ số vào lĩnh vực pháp luật. Các giải pháp do loại hình công ty này đưa ra cho phép cá nhân và doanh nghiệp giảm bớt các chi phí tư vấn pháp lý và dịch vụ luật sư. Cùng với sự phát triển nhanh chóng của trí tuệ nhân tạo, LegalTech cung cấp ngày càng đa dạng các dịch vụ pháp lý. Có thể kể ra một số dịch vụ sau: - Tính toán khả năng, xác suất liên quan đến các phán quyết, quyết định của tòa án; - Chi phí tố tụng; - Nền tảng để kết nối với các chuyên gia pháp lý; - Các giải pháp trên nềng tảng đám mây; - Xây dựng các phần mềm pháp lý chuyên biệt; - Giải quyết các tranh chấp phi tố tụng trực tuyến; - Thủ tục trọng tài trực tuyến; - Thủ tục ly hôn trực tuyến; - Chữ ký điện tử; - Xác nhận các giấy tờ (dùng công nghệ blockchain); NHAÂ NÛÚÁC VAÂ PHAÁP LUÊÅT 15Số 12(388) T6/2019 - Thực hiện thủ tục và hồ sơ trực tuyến; - Trực quan hoá các dữ liệu phức tạp có được từ Big Data; - Lập trình cho các hợp đồng thông minh (smart contracts) - Vận hàng các công cụ hợp tác; - Các công cụ tính thuế; - Các công cụ quản lý hợp đồng; - Các công cụ nghiên cứu pháp luật. Tại Pháp, hiện có 94 công ty chuyên phát triển các ứng dụng liên quan đến tin học trong thế giới pháp luật16. Các công này có quy mô và loại hình dịch vụ cung cấp khác nhau. Ứng dụng trí tuệ nhân tạo nổi tiếng nhất được nói đến nhiều nhất trong giới luật sư phương Tây có lẽ là Ross17. Ứng dụng này ban đầu được một nhóm sinh viên Đại học Toronto (Canada) phát triển vào giai đoạn 2014-201618. Thực ra, Ross là một biến thể của phần mềm trí tuệ nhân tạo Watson do IBM phát triển. Hiện tại, Ross chỉ chuyên về luật phá sản và sở hữu trí tuệ của Hoa Kỳ. Một trong số các văn phòng luật lớn nhất của Mỹ là BakerHostetler đã sử dụng Ross hỗ trợ giải quyết các công việc trước đây dành cho các luật sư mới vào nghề. Công ty luật có 900 luật sư này từ tháng 5/2016 đã sử dụng ứng dụng Ross để giải quyết các vụ việc liên quan đến phá sản doanh nghiệp. Dù viễn cảnh AI thay thế hoàn toàn luật sư có lẽ còn khá xa vời, tuy nhiên sự tác động của trí tuệ nhân tạo buộc luật sư phải nghĩ lại nghề nghiệp của mình. Tác động của trí tuệ nhân tạo tới nghề luật sư thường được 16 https://media.wix.com/ugd/c21db1_14b04c49ba7f46bf9a5d88581cbda172.pdf, truy cập ngày 20/4/2019. 17 https://rossintelligence.com 18 https://www.theglobeandmail.com/report-on-business/industry-news/the-law-page/u-of-t-students-artificially-intelli- gent-robot-signs-with-dentons-law-firm/article25898779/ 19 S. Tantin, « Faut-il adhérer aux legaltech pour développer sa stratégie digitale ? », 16 septembre 2016, xem: https:// www.lja.fr/faut-il-adherer-aux-legaltech/, truy cập ngày 20/4/2019. 20 A. LaBaeye, « Quelle concurrence entre avocats et legal start-up ? », mars 2017, p. 34. phân tích ở một số góc độ sau: tự động hoá, tin học hoá một số công việc buộc luật sư phải tập trung vào giá trị gia tăng của mình; làm thay đổi cấu trúc văn phòng luật; điều chỉnh lại thù lao vì các công ty Legaltech công khai chi phí trên internet. Tin học hoá, tự động hoá và ứng dụng trí tuệ nhân tạo sẽ dẫn tới xu hướng chuyên môn hoá nghề luật sư. Trước đây, luật sư thường hành nghề trong nhiều lĩnh vực khác nhau thì nay với sự phát triển của các ứng dụng trí tuệ nhân tạo như Ross ở Mỹ sẽ cho phép khách hàng có được câu trả lời cho các vấn đề pháp lý gần như ngay lập tức với một chi phí thấp hơn. Điều này buộc luật sư phải đầu tư vào một lĩnh vực chuyên môn sâu để nâng cao giá trị gia tăng của nghề nghiệp. Theo một nghiên cứu của Pháp, 85% khách hàng đánh giá là chi phí của các dịch vụ pháp lý quá cao19. Giá trị gia tăng của luật sư không còn nằm ở việc hoàn thành các công việc lặp đi lặp lại mà các công ty dịch vụ LegaTech có thể cung cấp. Ví dụ, một số dịch vụ LegaTech hoàn toàn có thể thay thế luật sư như soạn thảo các hợp đồng phổ biến hay thực hiện một số thủ tục hành chính20. Giá trị gia tăng và riêng có của luật sư là ở việc đánh giá khả năng của con người, khả năng có một cái nhìn tổng thể, đưa ra lời khuyên, khả năng sư phạm và thấu cảm. Ví dụ, việc số hoá nguồn pháp luật, phổ biến các công cụ tìm kiếm và phân tích các vấn đề pháp lý tạo cho các công ty LegalTech một ưu thế lớn về giá dịch vụ và tốc độ xử lý so với luật sư. Tuy nhiên, việc tiếp cận với thông tin và có được một câu trả lời cho NHAÂ NÛÚÁC VAÂ PHAÁP LUÊÅT 16 Số 12(388) T6/2019 một vấn đề pháp lý chỉ là bước đầu của thủ tục tố tụng hay một hoạt động pháp lý. Tư vấn được đưa ra sau khi xem xét các yếu tố nằm bên ngoài luật như tình hình tài chính của khách hàng hay khả năng chấp nhận rủi ro của khách hàng Đây là những kỹ năng khó có thể chuyển giao cho máy móc. Chỉ người luật sư với kinh nghiệm cá nhân đúc kết mới có thể tư vấn cho khách hàng có nên tiến hành hoạt động tiếp theo hay không. Ngoài việc biện hộ trước tòa, luật sư cũng phải nghiên cứu tài liệu, hồ sơ pháp lý. Các công cụ sử dụng trí tuệ nhân tạo có thể giúp luật sư làm việc nhanh hơn. Trước hàng ngàn văn bản luật và án lệ phải sàng lọc, nhờ công cụ tìm kiếm, chỉ còn lại vài chục văn bản phù hợp nhất, điều này sẽ giúp luật sư tiết kiệm rất nhiều thời gian trong việc tìm kiếm, sàng lọc tài liệu và dành thời gian để phân tích sâu tài liệu liên quan đến vụ việc. Các công cụ tin học sử dụng trí tuệ nhân tạo sẽ tác động mạnh mẽ tới nghề luật. Việc tự động hoá, robot hoá các công việc lặp đi lặp lại sẽ giúp giảm nhân sự ở các văn phòng luật để dành thời gian cho việc thu thập và phân tích tài liệu, tập trung thời gian và trí tuệ cho những công việc có giá trị gia tăng cao. Như vậy, tác động của trí tuệ nhân tạo tới nghề luật sư là rõ nét. Và người ta có thể đồng tình với dự đoán của Richard Susskind về sự thay thế của robot đối với những công việc lặp đi lặp lại, không có tính sáng tạo. 3. Trí tuệ nhân tạo và nghề thẩm phán Trong mọi hệ thống tư pháp hiện nay, thẩm phán vẫn là chủ thể thực hiện chức năng xét xử. Hiện nay, bản án là sản phẩm 21 Jean-Pierre Buyle et Adrien van den Branden, La robotisation de la justice, Alexandre de Streel, Hervé Jacquemin, L'intelligence artificielle et le droit, Nxb. Larcier, 2017, tr.315 22 L. Eckhouse, « Big data may be reinforcing racial bias in the criminal justice system », Wash. Post, 10 /02/ 2017, xem: https:// www.washingtonpost.com/opinions/big-data-may-be-reinforcing-racial-bias-in-the-criminal-justice-system/2017/02/10/ d63de518-ee3a-11e6-9973-c5efb7ccfb0d_story.html?utm_term=.cdb3106bbc8d, truy cập ngày 25/4/2019. của con người, không có sự can thiệp của trí tuệ nhân tạo. Sự phát triển của trí tuệ nhân tạo đến một lúc nào đó có thể tự động hoá một phần hoặc toàn bộ việc nghị án. Ở góc độ này, có thể thấy sử dụng trí tuệ nhân tạo vào trong xét xử là tích cực vì sẽ đảm bảo xử lý tranh chấp nhanh và minh bạch hơn21. Sự phát triển của các hình thức giải quyết tranh chấp tự động sẽ tác động tới vai trò của thẩm phán. Thẩm phán sẽ có nhiệm vụ kiểm tra để đảm bảo có bản án công bằng. Vì tự động hoá việc ra quyết định có thể tạo ra nguy cơ lớn ảnh hưởng đến quyền con người. Thẩm phán phải là thành lũy để đề phòng sự lệch đường của phương thức giải quyết tranh chấp tự động. Thẩm phán có thẩm quyền xem xét các khiếu nại đối với các quyết định, bản án được đưa ra một cách tự động, cũng như có vai trò quan trọng trong việc kiểm soát tính chính xác của các thuật toán, đặc biệt là đảm bảo thuật toán không chứa đựng sự kỳ thị chủng tộc hoặc phân biệt đối xử. Có thể kể ra một ví dụ liên quan đến vấn đề này: Trong nghiên cứu của mình, tác giả người Mỹ Laurel Eckhouse chỉ ra những trường hợp phân biệt chủng tộc trong việc lựa chọn các tiêu chí của các thuật toán của một số ứng dụng tin học về “dự đoán tội phạm” (predictive policing)” ở Mỹ22. Một ví dụ khác liên quan đến trí tuệ nhân tạo: Liên đoàn Tự do dân sự Mỹ (American Civil Liberties Union, viết tắt ACLU) đã thử sử dụng phần mềm AI nhận diện khuôn mặt Rekognition của hãng Amazon để kiểm chứng với các thành viên Quốc hội Hoa Kỳ, kết quả là 28 nghị sĩ bị NHAÂ NÛÚÁC VAÂ PHAÁP LUÊÅT 17Số 12(388) T6/2019 ứng dụng AI này nhận diện là tội phạm23. Trong số 28 nghị viên bị phần mềm này xác định là tội phạm có đàn ông, phụ nữ, thành viên của đảng Cộng hoà cũng như Dân chủ ở các độ tuổi khác nhau. Có thể thấy rằng, nếu không có sự kiểm soát của một cơ chế độc lập thì việc sử dụng AI trong hoạt động tư pháp có thể xâm phạm quyền con người. Việc quyết định tước bỏ quyền và tự do của cá nhân (ví dụ bỏ tù một ai đó) là quá nhạy cảm và có thể dẫn tới nhiều hệ quả phức tạp để có thể giao cho một cỗ máy. Tuy nhiên, máy móc, trí tuệ nhân tạo luôn hữu ích khi giúp các thẩm phán suy nghĩ để ra quyết định. Vậy, câu hỏi đặt ra là AI có thể tham gia vào công việc xét xử của Tòa án ở mức độ nào? Hiện nay, chỉ mới có Estonia dự kiến cho AI tham gia xét xử các vụ việc ít quan trọng thay thẩm phán để tiết kiệm chi phí và giúp thẩm phán tập trung cho các vụ việc quan trọng hơn mà trí tuệ nhân tạo chưa thể giải quyết24. Các vụ việc ít quan trọng là các vụ việc có giá trị không vượt quá 7.000 euros. Bản án do AI đưa ra có giá trị pháp lý như bản án thông thường nhưng có thể được chỉnh sửa bởi một thẩm phán. Để đưa ra phán quyết, trí thông minh nhân tạo này được phát triển bởi Ott Velsberg, một nghiên cứu sinh 28 tuổi được chính phủ Estonia thuê làm “giám đốc dữ liệu” của đất nước. Ngoài việc hỗ trợ phân tích các văn bản pháp lý, phần mềm này sẽ phân tích thông tin được hai bên tranh chấp tải lên nền tảng ứng dụng 23 https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-false- ly-matched-28; https://www.theguardian.com/technology/2018/jul/26/amazon-facial-rekognition-congress-mug- shots-aclu, truy cập ngày 20/4/2019. 24 https://www.dailymail.co.uk/sciencetech/article-6851525/Estonia-creating-AI-powered-JUDGE.html, truy cập này 20/4/2019. 25 Xem: https://www.forbes.com/sites/tiriasresearch/2018/01/24/management-ai-bias-criminal-recidivism-and-the-prom- ise-of-machine-learning/#d47ea5b7c8a2, truy cập ngày 20/4/209. 26 Laure Beaudonnet, Justice: Peut-on faire confiance au jugement d'un robot. Xem: https://www.20minutes.fr/culture/2195935-20180104-justice-peut-faire-confiance-jugement-robot, truy cập ngày 20/4/2019. được thiết kế riêng. Các thông tin được đưa lên bao gồm các thông tin cá nhân, các cáo buộc và bằng chứng mà các bên đưa ra. Thực ra, đây không phải là lần đầu tiên Tòa án sử dụng trí tuệ nhân tạo trong xét xử. Tại Mỹ, trí tuệ nhân tạo đã được sử dụng tại 60 tòa án, nhưng người ta không để AI tự đưa ra phán quyết mà sử dụng nó để tư vấn cho thẩm phán trong một số vụ việc. Phần mềm này có tên là COMPAS25 (Correctional Offender Management profiling for Alternative Sanctions), tập hợp 137 câu hỏi khác nhau như: bị cáo có sử dụng điện thoại cá nhân không? Anh ta có thường thanh toán các hoá đơn muộn không để đánh giá khả năng tái phạm của bị cáo thông qua hệ thống tính điểm từ 1 đến 10. Trên thực tế, ở đa số các quốc gia, vấn đề sử dụng AI trong xét xử còn gây nhiều tranh cãi. Một số người phản đối sử dụng AI trong xét xử, ví dụ Winston Maxwell, luật sư tại văn phòng Hogan Lovells và là một chuyên gia về điều chỉnh trong lĩnh vực kỹ thuật số cho rằng: “chúng ta tin tưởng vào thẩm phán vì họ độc lập và là vì họ là con người Ở Anh vào thế kỷ XVII, có hai loại tòa án, một loại tòa án áp dụng luật một cách cứng nhắc và loại còn lại là tòa công bằng dưới quyền của nhà vua, cho phép khắc phục sự cứng nhắc của loại tòa án kia”. Theo ông, không thể chấp nhận được nền công lý (xét xử) cơ học, máy móc, vì mỗi vụ việc là độc nhất, riêng biệt. Cho dù chúng ta có giám sát hay không thì robot cũng không có khả năng đưa ra phán quyết công bằng26. (Xem tiếp trang 33) NHAÂ NÛÚÁC VAÂ PHAÁP LUÊÅT 18 Số 12(388) T6/2019