Google mở quyền truy cập chatbot Gemini AI cho trẻ dưới 13 tuổi, gây lo ngại về tiêu chuẩn an toàn

Google vừa công bố một bước đi quan trọng trong chiến lược phổ cập trí tuệ nhân tạo khi cho phép trẻ em dưới 13 tuổi tại Mỹ sử dụng chatbot Gemini AI thông qua hệ thống quản lý gia đình Google Family Link. Đây là lần đầu tiên một AI hội thoại mạnh mẽ như Gemini được chính thức cung cấp cho nhóm người dùng nhỏ tuổi, mở ra nhiều cơ hội học tập nhưng cũng đặt ra không ít lo ngại về mức độ an toàn và kiểm soát nội dung.

Theo Google, việc mở quyền truy cập Gemini cho trẻ em dưới 13 tuổi nhằm hỗ trợ giáo dục, khám phá và học hỏi, trong một môi trường được giám sát bởi cha mẹ. Thông qua ứng dụng Google Family Link, phụ huynh có thể thiết lập quyền kiểm soát, theo dõi hoạt động và đặt giới hạn thời gian sử dụng.

Ảnh: Yahoo Finance

Gemini sẽ được sử dụng trong chế độ miễn phí, và hoạt động với các tính năng AI văn bản cơ bản. Tuy nhiên, công cụ tạo hình ảnh của Gemini sẽ bị vô hiệu hóa hoàn toàn với nhóm người dùng nhỏ tuổi để tránh những rủi ro tiềm tàng.

Google khẳng định rằng công ty đã thực hiện các biện pháp huấn luyện bổ sung cho chatbot Gemini nhằm đảm bảo nội dung phù hợp với độ tuổi, đồng thời thiết lập những giới hạn nghiêm ngặt về ngôn ngữ và chủ đề nhạy cảm.

Ngay sau khi công bố mở quyền truy cập cho trẻ em, một báo cáo khác từ TechCrunch tiết lộ rằng một trong những phiên bản mới nhất của Gemini tuy không được sử dụng trực tiếp trong sản phẩm dành cho trẻ – lại ghi nhận điểm số thấp hơn về tiêu chuẩn an toàn trong các thử nghiệm nội bộ so với phiên bản trước đó.

Cụ thể, theo tài liệu nội bộ mà TechCrunch thu thập được, mô hình Gemini mới có tỷ lệ trả lời sai lệch, thiên lệch hoặc có khả năng gây tranh cãi cao hơn, làm dấy lên nghi ngại về độ ổn định và đạo đức của mô hình AI khi được triển khai đại trà.

Việc một mô hình AI chưa đạt chuẩn an toàn cao lại được mở rộng cho nhóm người dùng nhỏ tuổi vốn nhạy cảm và dễ bị tác động đã khiến nhiều chuyên gia lên tiếng yêu cầu Google minh bạch hơn về cơ chế kiểm duyệt, dữ liệu đào tạo và cách đánh giá rủi ro.

Phản hồi trước các lo ngại, Google khẳng định phiên bản Gemini dùng cho trẻ em là phiên bản “được điều chỉnh đặc biệt” và khác với mô hình thử nghiệm đang bị đánh giá thấp về độ an toàn. Tuy nhiên, công ty không công bố rõ ràng mô hình nào đang được sử dụng cụ thể cho trẻ nhỏ, càng làm gia tăng sự mơ hồ.

Trong bối cảnh các quốc gia ngày càng thắt chặt quy định về công nghệ cho trẻ em, đặc biệt liên quan đến dữ liệu và nội dung AI, bước đi của Google có thể trở thành tiền lệ quan trọng, đồng thời là phép thử cho trách nhiệm xã hội của các công ty công nghệ lớn.

Việc mở quyền truy cập AI như Gemini cho trẻ em mang lại tiềm năng giáo dục lớn, nhưng nếu thiếu minh bạch và kiểm soát chặt chẽ, nó cũng có thể dẫn đến hệ lụy nghiêm trọng. Khi AI ngày càng đóng vai trò trong đời sống hàng ngày, đặc biệt với thế hệ nhỏ tuổi, câu hỏi đặt ra không chỉ là “có thể làm được không” mà là “nên làm thế nào để đảm bảo an toàn thực sự cho người dùng trẻ”.