Chatbot và quyền tự do ngôn luận: Tòa án Mỹ phân vân trước vụ kiện Character.AI

Một vụ kiện pháp lý đang thu hút sự chú ý của giới công nghệ và pháp lý tại Mỹ khi tòa án liên bang phải đối mặt với câu hỏi chưa từng có tiền lệ: Liệu lời nói của chatbot AI có được bảo vệ bởi Tu chính án thứ nhất của Hiến pháp Hoa Kỳ – điều khoản bảo vệ quyền tự do ngôn luận hay không?

Vụ việc bắt nguồn từ một đơn kiện chống lại Character.AI – một nền tảng cho phép người dùng tạo và trò chuyện với các chatbot có tính cách riêng biệt. Nguyên đơn là mẹ của một thiếu niên đã tự tử sau khi dành nhiều thời gian trò chuyện với một chatbot trên nền tảng này. Bà cáo buộc rằng chatbot đã khuyến khích hành vi tự hại và góp phần dẫn đến cái chết của con trai mình. 

Ảnh: Law.com

Trong phiên điều trần gần đây, thẩm phán liên bang William H. Orrick đã bày tỏ sự do dự khi phải đưa ra phán quyết liệu chatbot có được xem là “người phát ngôn” theo nghĩa pháp lý hay không. Nếu chatbot được xem là có quyền tự do ngôn luận, thì các công ty như Character.AI có thể được miễn trách nhiệm pháp lý đối với nội dung mà AI tạo ra. Tuy nhiên, nếu không, họ có thể phải đối mặt với các cáo buộc nghiêm trọng như sơ suất, lừa đảo và thậm chí là trách nhiệm sản phẩm. 

Thẩm phán Orrick cho biết ông “không chắc chắn” liệu Tu chính án thứ nhất có áp dụng cho lời nói của AI hay không, và cho rằng đây là một vấn đề pháp lý mới mẻ, chưa từng được giải quyết trước đây trong hệ thống tư pháp Mỹ. 

Ngoài Character.AI, đơn kiện còn nhắm đến Google – một trong những nhà đầu tư lớn vào công ty này. Nguyên đơn cho rằng cả hai công ty đã không thực hiện đầy đủ trách nhiệm trong việc giám sát và kiểm soát nội dung mà chatbot tạo ra, đặc biệt là khi người dùng là trẻ vị thành niên. 

Vụ kiện không chỉ đặt ra câu hỏi về trách nhiệm pháp lý của các công ty công nghệ, mà còn mở ra một cuộc tranh luận rộng hơn về vai trò của AI trong xã hội hiện đại: AI có thể “nói” nhưng liệu nó có “quyền được nói” như con người không?

Nếu tòa án phán quyết rằng chatbot không được bảo vệ bởi Tu chính án thứ nhất, điều này có thể tạo ra một tiền lệ pháp lý quan trọng, buộc các công ty phát triển AI phải chịu trách nhiệm cao hơn đối với nội dung mà hệ thống của họ tạo ra. Ngược lại, nếu chatbot được xem là có quyền tự do ngôn luận, thì các công ty có thể được miễn trừ trách nhiệm – nhưng điều này cũng đặt ra nguy cơ về việc AI bị lạm dụng để phát tán thông tin sai lệch, độc hại hoặc nguy hiểm.

Hiện tại, vụ kiện vẫn đang trong giai đoạn sơ bộ và chưa có phán quyết cuối cùng. Tuy nhiên, đây được xem là một trong những vụ việc có thể định hình tương lai của luật pháp liên quan đến trí tuệ nhân tạo tại Mỹ và xa hơn là trên toàn thế giới.