Google tiết lộ cảnh báo quan trọng về AI Gemini thân thiện với trẻ em

Google đang thử nghiệm một trợ lý AI mới có tên “Gemini cho Trẻ em”, nhắm vào đối tượng là trẻ em dưới 13 tuổi, theo một báo cáo mới. Tin tức này được đưa ra trong bối cảnh Ủy viên Trẻ em Anh Quốc, Dame Rachel de Souza, cảnh báo về việc trẻ em tìm đến các chatbot trực tuyến để tìm câu trả lời thay vì hỏi cha mẹ.

Ảnh: Internet

Mối lo ngại về an toàn trẻ em ngày càng gia tăng khi các thượng nghị sĩ Mỹ yêu cầu các nhà sản xuất chatbot AI cung cấp thông tin về các biện pháp bảo vệ của họ.

Trẻ em hiện nay đã sử dụng các chatbot để nhận lời khuyên: Theo Ủy viên, “Nếu chúng ta muốn trẻ em trải nghiệm cuộc sống đầy màu sắc, niềm vui của tuổi thơ, sự ngây thơ của tuổi trẻ, chúng ta phải chứng minh rằng chúng ta sẽ đáp ứng nhanh hơn cả Chat GPT”.

Kế hoạch của Google trong việc phát triển một phiên bản Gemini thân thiện với trẻ em có thể được coi là một biện pháp thay thế có trách nhiệm để ngăn trẻ em sử dụng trợ lý AI, đồng thời đảm bảo phụ huynh có thể kiểm soát việc sử dụng này.

Chuyển sang Google Gemini là điều không thể tránh khỏi

Google đang trong quá trình thay thế trợ lý Google cũ (không phải AI) bằng Gemini và đã có các chính sách cho phép phụ huynh hạn chế việc trẻ em sử dụng trợ lý cũ. Tuy nhiên, khi trợ lý cũ bị loại bỏ, sẽ không còn lựa chọn nào khác ngoài việc sử dụng phiên bản thay thế AI mới. Điều này có nghĩa là người dùng trẻ sẽ cần có những biện pháp bảo vệ tương tự khi chuyển sang Gemini.

Gemini, tuy nhiên, khác biệt hoàn toàn so với Google Assistant và mạnh mẽ hơn rất nhiều. Gemini hoạt động giống như một cuộc trò chuyện với người thật hơn là một robot được lập trình sẵn, do đó tiềm năng lan truyền thông tin sai lệch và nội dung không phù hợp sẽ cao hơn rất nhiều. Điều này có nghĩa là Google phải đặt ra các biện pháp bảo vệ đặc biệt.

Như đã trình bày dưới đây, những thay đổi được đề xuất trong ứng dụng Google trên Android bao gồm một cảnh báo rõ ràng dành cho trẻ em, với nội dung “Gemini không phải là con người và có thể mắc sai lầm, kể cả về con người, vì vậy hãy kiểm tra lại thông tin”. Câu hỏi quan trọng ở đây là liệu trẻ em có đủ kỹ năng tư duy phản biện để kiểm tra các phản hồi của Gemini hay không. Điều này ít trở thành vấn đề với Google Assistant.

Google chuẩn bị chatbot AI Gemini đặc biệt cho trẻ em

Kế hoạch của Google về “Gemini cho Người dùng Trẻ em” đã được phát hiện gần đây bởi chuyên gia ứng dụng Android, AssembleDebug, làm việc với Android Authority. Báo cáo cho thấy mã không hoạt động trong phiên bản mới nhất của ứng dụng Google trên Android, chứa các đoạn văn bản sau (được định dạng lại cho dễ hiểu):

• Assistant_scrappy_welcome_screen_title_for_kid_users – Chuyển sang Gemini từ Google Assistant.
• Assistant_welcome_screen_description_for_kid_users – Tạo câu chuyện, hỏi câu hỏi, nhận trợ giúp bài tập về nhà và nhiều hơn nữa.
• Assistant_welcome_screen_footer_for_kid_users – Điều khoản của Google áp dụng. Google sẽ xử lý dữ liệu của bạn như được mô tả trong Chính sách Quyền riêng tư của Google và Thông báo Quyền riêng tư của Gemini Apps. Gemini không phải là con người và có thể mắc sai lầm, kể cả về con người, vì vậy hãy kiểm tra lại.

Ảnh: Internet

Gemini cho Trẻ em: Một bước đi quan trọng

Vì “Gemini cho Trẻ em” chưa được phát hành công khai, vẫn còn quá sớm để nói liệu Google có thể thực hiện được các biện pháp bảo vệ quan trọng này hay không. Tuy nhiên, việc cho phép phụ huynh kiểm soát là một bước đi quan trọng và việc tích hợp các biện pháp bảo vệ này với hệ thống kiểm soát của Google sẽ giúp Gemini có lợi thế hơn so với các chatbot đối thủ, như ChatGPT, hiện tại chưa có khả năng này.

Sự phổ biến ngày càng tăng của AI có nghĩa là không thể giữ trẻ em hoàn toàn tránh xa công nghệ này, nhưng nỗ lực của Google nên được coi là một bước đi tích cực nhằm tránh những tình huống mà Dame Rachel de Souza đã chỉ ra.

Bạn có thể tìm thấy thông báo đầy đủ về quyền riêng tư của các ứng dụng Gemini trong Trung tâm Quyền riêng tư của Gemini Apps của Google.

Gemini cho Trẻ em: Những lo ngại gia tăng

Cập nhật “Gemini cho Trẻ em” của Google càng trở nên cần thiết và kịp thời khi nhìn vào những diễn biến gần đây.

Cần thiết phải có bản cập nhật Gemini thân thiện với trẻ em của Google khi các thượng nghị sĩ Mỹ Alex Padilla và Peter Welch chính thức yêu cầu các trang web chatbot AI như Character.ai và Replika.com cung cấp thông tin về các biện pháp an toàn của họ, theo CNN, viết: “Chúng tôi viết thư để bày tỏ mối lo ngại về những rủi ro đối với sức khỏe tâm thần và an toàn mà các chatbot AI mô phỏng nhân vật và bạn đồng hành có thể gây ra đối với người dùng trẻ tuổi”.

Yêu cầu của họ được đưa ra sau khi Character.ai bị cha mẹ chỉ trích, cho rằng con cái họ đã gặp phải tổn thương nghiêm trọng sau khi sử dụng chatbot này, theo CNN.

Là một trợ lý AI đa năng, Gemini của Google thuộc một loại khác so với các sản phẩm như Character.ai và Replika, được thiết kế để mô phỏng các nhân vật và bạn đồng hành giống con người. Tuy nhiên, các biện pháp bảo vệ trẻ em vẫn rất quan trọng khi cả người lớn và trẻ em đều tiếp xúc với một lượng thông tin ngày càng tăng do AI tạo ra, và trách nhiệm kiểm tra sự chính xác của thông tin sẽ thuộc về người dùng – điều mà trẻ em thường không đủ khả năng thực hiện.

Lưu ý rằng Character.ai cấm sử dụng đối với người dưới 13 tuổi (dưới 16 tuổi đối với công dân EU) và đã gỡ bỏ các chatbot vi phạm khỏi nền tảng. Ứng dụng Replika yêu cầu người dùng từ 18 tuổi trở lên. Tuy nhiên, cả hai ứng dụng hiện chỉ hiển thị xếp hạng “Hướng dẫn Cha mẹ” trên Cửa hàng Google Play, với hơn 10 triệu lượt tải xuống mỗi ứng dụng.