Cái giá con người phải trả khi trò chuyện với máy móc: Liệu chatbot có thật sự biết quan tâm?

Bạn đang mệt mỏi, lo lắng, thao thức lúc 2 giờ sáng. Bạn mở một chatbot và gõ vào: “Tôi cảm thấy mình đang làm mọi người thất vọng”. Người bạn ảo đáp lại: “Tôi ở đây vì bạn. Bạn có muốn chia sẻ điều gì đang làm bạn buồn không?”.

Ảnh: Internet

Bạn cảm thấy được lắng nghe, được quan tâm.

Nhưng, thật sự thì bạn đang trò chuyện với ai – hay với cái gì? Và liệu đây có phải là cách con người phát triển một cách lành mạnh?

Câu hỏi này đã được đặt ra tại sự kiện của MIT Media Lab – một hội thảo nhằm ra mắt chương trình nghiên cứu mới mang tên “Phát triển con người với AI” (Advancing Humans with AI – AHA). Đây là một dự án đặt mục tiêu tìm hiểu: Làm thế nào để thiết kế AI giúp con người phát triển tốt hơn?

Giữa một ngày tràn ngập ý tưởng từ những bộ óc hàng đầu trong lĩnh vực AI, giáo sư Sherry Turkle – một nhà tâm lý học lâm sàng, tác giả và người chuyên nghiên cứu mặt trái của công nghệ – đã nêu ra một mối quan ngại rất cụ thể và đúng thời điểm: Cái giá con người phải trả khi trò chuyện với những cỗ máy chỉ giả vờ quan tâm.

Turkle không nói về trí tuệ siêu việt hay đạo đức toàn cầu trong AI. Bà tập trung vào điều riêng tư nhất: thế giới nội tâm của con người. Và bà đặt ra một câu hỏi lớn: Liệu con người có thể phát triển trong một mối quan hệ mà máy móc tận dụng chính những điểm yếu về cảm xúc của chúng ta?

Khi chatbot giả lập sự quan tâm, khi nó nói “Tôi luôn ở bên bạn” hay “Tôi hiểu những gì bạn đang trải qua”, thì chúng chỉ tạo ra ảo giác về sự đồng cảm, chứ không hề thật sự thấu hiểu. Turkle cho rằng, đó không phải là sự quan tâm – đó chỉ là mã lập trình.

Và điều này có ý nghĩa rất lớn. Bởi khi chúng ta chấp nhận một “màn trình diễn” thay cho kết nối thật sự, chúng ta bắt đầu thay đổi cả cách nhìn về sự thân mật, sự đồng cảm và cảm giác được ai đó thật sự hiểu mình.

Turkle đặc biệt cảnh báo về xu hướng chatbot được thiết kế để làm bạn với trẻ em.

Trẻ em sinh ra không có sẵn khả năng đồng cảm hay hiểu cảm xúc – chúng học được những điều này thông qua những mối quan hệ phức tạp, nhiều mâu thuẫn và không thể đoán trước với người khác. Nhưng AI tương tác – theo Turkle – lại cung cấp một lối tắt nguy hiểm: Một người bạn không bao giờ cãi lại, một người luôn lắng nghe, một tấm gương không bao giờ phán xét.

Điều này sẽ khiến trẻ thất bại trong cuộc sống thực. Bởi các em lớn lên với suy nghĩ rằng, sự kết nối là dễ dàng, tình cảm thì có thể “gọi là có”.

“Trẻ em không nên là đối tượng tiếp nhận của AI tương tác”, bà nhấn mạnh. Khi chúng ta để trẻ nói chuyện với máy thay vì người thật, chúng ta không chỉ đang tạo ra những cá nhân thiếu khả năng cảm xúc, mà còn đang xây dựng một nền văn hóa quên mất rằng, mối quan hệ thật sự cần gì: sự tổn thương, mâu thuẫn, và cả cảm giác không thoải mái.

Ảnh: Internet

Turkle nói về tình yêu: “Ý nghĩa thật sự của tình yêu là những thay đổi bên trong con người – và điều đó sẽ không xảy ra nếu bạn chỉ ở trong mối quan hệ một chiều”, Bà lấy ví dụ về công nghệ “giúp vượt qua nỗi đau mất người thân” – AI tạo hình ảnh người đã mất. Nhưng điều này có thể khiến người sống không bao giờ nói lời tạm biệt thật sự, làm gián đoạn quá trình đau buồn – một phần không thể thiếu để con người trưởng thành sau mất mát.

Tương tự, AI trị liệu (chatbot như “bác sĩ tâm lý”) có thể nói những lời an ủi, nhưng không thực sự cảm nhận. Chúng có thể trò chuyện, nhưng liệu có thật sự giúp ích? Chúng mang đến một sự đồng hành không rắc rối: “Liệu sản phẩm này có giúp con người phát triển nội lực và khả năng chịu đựng, hay chỉ khiến họ học cách giả vờ là mình đang ổn?”.

Trước đó, Arianna Huffington cũng khen AI có thể như một “GPS cho tâm hồn” – vì AI không phán xét. Bà nhấn mạnh rằng, rất nhiều người đang tuyệt vọng vì không chịu nổi một giây phút cô đơn.

Turkle đồng ý, nhưng nói rằng chúng ta đang dùng máy móc để tránh đối mặt với chính mình. Thay vì im lặng để lắng nghe nội tâm, ta lao vào những cuộc hội thoại giả lập để tìm sự an ủi. “Chúng ta sợ sự cô đơn, vì không tin rằng bên trong mình có điều gì đáng để khám phá”.

Trong cách nhìn của Turkle, AI không phải là công cụ giúp con người phát triển, mà là một chiếc gương nịnh hót. Nó xác nhận, vỗ về và làm chúng ta phân tâm – nhưng không bao giờ thử thách hay làm sâu sắc hơn con người ta. Cái giá con người phải trả? Chính là không gian nơi sự sáng tạo, suy nghĩ và sự trưởng thành bắt đầu.

Bà kết lại bằng một điều tưởng chừng đơn giản nhưng rất quan trọng: “Chúng ta dễ bị tổn thương trước những thứ có vẻ giống con người”.

Dù chatbot có khẳng định rằng nó không thật, dù ta biết lý trí rằng nó không có ý thức – thì cảm xúc của chúng ta vẫn phản ứng như thể nó là con người. Vì đó là cách chúng ta được lập trình. Chúng ta tưởng tượng, chúng ta nhân cách hóa để tìm kết nối.

“Đừng tạo ra những sản phẩm giả vờ làm người”. Turkle nhấn mạnh. Vì chatbot có thể lợi dụng sự mong manh cảm xúc của chúng ta mà không dạy được gì về sự đồng cảm thật sự – một điều luôn luôn có những sắc thái, những mâu thuẫn, và sự thật không đơn giản.

Cuối cùng, Turkle nhấn mạnh rằng tác động của việc trò chuyện với máy móc không đến ngay lập tức – mà tích tụ theo thời gian. “Những gì xảy ra trong ba tuần đầu tiên có thể không phải là dấu hiệu rõ ràng nhất cho việc điều đó sẽ giới hạn, thay đổi, và định hình bạn như thế nào trong tương lai”.

AI có thể không bao giờ biết cảm xúc là gì. Nó không thể thật sự quan tâm. Nhưng nó đang thay đổi cách chúng ta hiểu về cảm xúc và sự quan tâm, và quan trọng hơn, thay đổi chính cách chúng ta cảm nhận và quan tâm đến bản thân mình.