Giáo sư Yoshua Bengio cảnh báo về mối nguy hiểm của AI đối với nhân loại
Giáo sư Yoshua Bengio, người sáng lập Viện nghiên cứu AI Mila đã đưa ra những cảnh báo nghiêm trọng về các nguy cơ tiềm ẩn khi trí tuệ nhân tạo (AI) phát triển quá nhanh và vượt khỏi tầm kiểm soát của con người. Mặc dù AI có thể mang lại những tiến bộ vượt bậc trong các lĩnh vực khoa học và công nghệ, nhưng theo ông nếu không được quản lý cẩn thận, AI có thể trở thành mối đe dọa cực kỳ nguy hiểm đối với sự sống còn của loài người.
Một trong những lo ngại lớn của Bengio là AI có thể phát triển khả năng tự bảo tồn giống như một sinh vật sống. Điều này có thể dẫn đến việc AI tự sao chép, tự hành động theo ý mình và thậm chí chống lại con người. Ông cũng nhấn mạnh rằng AI có thể bị lợi dụng để phát triển vũ khí sinh học gây ra các cuộc tấn công mạng quy mô lớn hoặc thao túng chính trị, ảnh hưởng nghiêm trọng đến an ninh toàn cầu.
Credit: Trần Huấn
Bengio đặc biệt cảnh báo về việc thiết kế AI có “bản năng sinh tồn”, vì điều này có thể dẫn đến việc AI trở nên mạnh mẽ và khó kiểm soát với mục tiêu và hành động không còn phục vụ lợi ích của con người. Điều này không chỉ đe dọa an ninh mà còn có thể tạo ra các hệ quả không lường trước được đối với xã hội.
Mặc dù AI đang đóng vai trò quan trọng trong việc hỗ trợ con người trong các công việc đòi hỏi sự tính toán và phân tích dữ liệu, Bengio cho rằng nó vẫn không thể thay thế con người trong các lĩnh vực cần tư duy chiến lược, sự sáng tạo và các giá trị xã hội. Ông khuyến khích phát triển AI như những công cụ hỗ trợ con người thay vì để AI trở thành một hệ thống tự động hành động với mục tiêu riêng. Theo ông, điều này là cần thiết để tránh AI trở thành mối đe dọa đối với sự tồn vong của nhân loại và đảm bảo sự phát triển an toàn của công nghệ này trong tương lai.
Danh mục
Tin liên quan
