Công ty luật Wall Street Sullivan & Cromwell đã xin lỗi một thẩm phán liên bang sau khi một hồ sơ tòa án chứa khoảng 40 trích dẫn sai và các lỗi khác liên quan đến nội dung do AI tạo ra

Tóm tắt

• Sullivan & Cromwell thừa nhận các lỗi do AI tạo ra đã lọt vào một hồ sơ tòa án mặc dù có các chính sách kiểm tra nội bộ hiện có.
• Andrew Dietderich cho biết công ty đã chịu trách nhiệm sau khi các trích dẫn sai đã đến một tòa án phá sản liên bang.
• Công ty luật đã tiến hành kiểm tra nội bộ sau khi một công ty đối thủ phát hiện các lỗi trong hồ sơ.

Vấn đề được phát hiện qua một bức thư gửi bởi Andrew Dietderich, đồng trưởng nhóm tái cấu trúc toàn cầu của công ty, gửi tới Chánh án Martin Glenn của Tòa án Phá sản Hoa Kỳ tại Quận Nam New York.

Dietderich nói rằng hồ sơ này là một phần của một đơn khẩn cấp được gửi đi chín ngày trước đó. Ông cho tòa biết rằng công ty chấp nhận trách nhiệm về các sai sót và nói rằng các bước kiểm tra hiện có đã không hoạt động như mong đợi trong trường hợp này.

Công ty thừa nhận lỗi trong hồ sơ và chịu trách nhiệm

Trong thư, Dietderich nói rằng công ty rất tiếc về những gì đã xảy ra và thừa nhận nghĩa vụ đảm bảo các hồ sơ gửi tới tòa là chính xác. Ông viết, ”Chúng tôi vô cùng tiếc về việc này đã xảy ra.”

Ông cũng nói, ”Công ty và tôi đều nhận thức rõ trách nhiệm của mình trong việc đảm bảo tính chính xác của tất cả các hồ sơ gửi đi.” Dietderich thêm rằng ông chịu trách nhiệm về sự thất bại liên quan đến hồ sơ này.

Hồ sơ tòa án chứa khoảng 40 trích dẫn sai và các lỗi khác. Công ty cho biết những vấn đề này do ảo giác AI và các sai sót không bị phát hiện trước khi nộp.

Dietderich nói rằng Sullivan & Cromwell đã có các quy tắc nội bộ về việc sử dụng AI. Các quy tắc này bao gồm kiểm tra các trích dẫn trước khi gửi tài liệu ra tòa.

Chính sách kiểm tra AI hiện có đã không được tuân thủ

Theo Dietderich, công ty đã có các chính sách để ngăn chặn loại vấn đề này, nhưng các thủ tục cần thiết đã không được thực hiện trong trường hợp này. Ông nói rằng quá trình kiểm tra đã không phát hiện ra các trích dẫn sai và các vấn đề khác.

”Thật tiếc, quá trình kiểm tra này đã không phát hiện ra các trích dẫn sai do AI tạo ra, cũng như các lỗi khác dường như do lỗi thủ công gây ra,” ông viết.

Vụ việc này góp phần vào danh sách ngày càng tăng các hồ sơ pháp lý bị ảnh hưởng bởi lỗi của AI. Một cơ sở dữ liệu do nhà công nghệ pháp lý Damien Charlotin điều hành đã ghi nhận 1.334 vụ việc ảo giác của AI trong các hồ sơ tòa án trên toàn thế giới, trong đó hơn 900 vụ ở Hoa Kỳ.

Charlotin cho biết nhiều trong số các vụ này liên quan đến các trích dẫn giả mạo. Trong một số trường hợp, các lập luận pháp lý do AI tạo ra cũng đã xuất hiện trong các hồ sơ.

Kiểm tra nội bộ bắt đầu sau khi đối thủ phát hiện lỗi

Dietderich nói rằng Sullivan & Cromwell đã bắt đầu một cuộc điều tra nội bộ về nguyên nhân dẫn đến các lỗi này. Ông cho biết công ty đã thực hiện các bước khắc phục ngay lập tức và đang xem xét liệu có cần thêm đào tạo hoặc kiểm tra nội bộ chặt chẽ hơn không.

Ông cũng lưu ý rằng các lỗi này đã được công ty đối thủ Boies Schiller Flexner LLP phát hiện. Dietderich nói rằng ông đã liên hệ trực tiếp với công ty này để cảm ơn và xin lỗi.

Sullivan & Cromwell là một trong những công ty luật lớn nhất tại Hoa Kỳ theo doanh thu. Công ty cũng đã tham gia vào các vụ việc nổi bật, bao gồm việc đại diện cho FTX trong vụ phá sản của họ.

Vụ việc này đã thu hút thêm sự chú ý đến các rủi ro liên quan đến việc sử dụng AI trong công việc pháp lý, đặc biệt khi sự kiểm tra của con người không phát hiện ra các lỗi cơ bản trước khi nộp.