Công ty luật của Mỹ bị phạt 5.000 USD do dùng ChatGPT

Luôn kiểm tra các nguồn thông tin là điều hầu hết mọi người cần nhớ trong thời đại thông tin quá nhiều như hiện nay. Tuy nhiên, một luật sư ở New York đã quên mất điều này và nhận về một án phạt khá nặng.

Luật sư Steven Schwartz của công ty luật Levidow, Levidow & Oberman, đại diện cho bên nguyên đơn, đã sử dụng ChatGPT để tìm kiếm thông tin về các phiên tòa có trường hợp tương tự. Thế nhưng chatbot của OpenAI đã đưa 6 vụ án không có thật.

Trong quyết định phạt Schwartz và cộng sự, Thẩm phán P Kevin Castel đã giải thích: "Những tiến bộ về công nghệ là điều bình thường và không có gì là sai trái khi sử dụng một công cụ trí tuệ nhân tạo đáng tin cậy để hỗ trợ. Nhưng các quy tắc hiện hành áp đặt vai trò quan trọng vào tay luật sư để đảm bảo tính chính xác trong hồ sơ của họ”.

Về cơ bản, các luật sư vẫn có thể sử dụng ChatGPT cho công việc của mình, nhưng ít nhất phải kiểm tra tính chính xác của thông tin. Khi không làm như vậy, các luật sư đã "từ bỏ trách nhiệm của mình", kể cả khi họ đứng trước những tuyên bố giả mạo sau khi tòa án đặt câu hỏi về tính hợp pháp của thông tin.

Thẩm phán Castel đã phạt Levidow, Levidow & Oberman 5.000 USD, đồng thời ra lệnh cho công ty luật gửi thư cho từng thẩm phán bị xác định sai trong những vụ án hư cấu.

Theo CBS News, công ty luật Levidow, Levidow & Oberman cho biết sẽ tuân thủ lệnh của Castel, nhưng không đồng ý với kết luận rằng công ty đã hành động thiếu thiện chí. Công ty cũng đưa ra lời xin lỗi đối với Tòa án và khách hàng, thừa nhận sai lầm khi không nhận ra công nghệ AI có thể bịa đặt các vụ án.