Google trước đó hồi đầu tháng này đã giới thiệu một công cụ tổng quan về kết quả tìm kiếm do AI tạo ra. Công cụ này tóm tắt kết quả tìm kiếm để người dùng không cần phải nhấp qua nhiều liên kết để nhận được câu trả lời nhanh cho câu hỏi của họ. Tuy nhiên, tính năng đó hồi tuần trước đã vấp phải sự chỉ trích sau khi nó cung cấp thông tin sai lệch hoặc gây hiểu lầm cho một số câu hỏi của người dùng.
Ví dụ, một số người dùng đã đăng trên trang mạng xã hội X rằng bản tóm tắt AI của Google đã nói cựu Tổng thống Barack Obama là người Hồi giáo, một quan niệm sai lầm phổ biến. Trên thực tế, ông Obama là người theo đạo Cơ đốc. Một người dùng khác đã đăng rằng bản tóm tắt AI của Google cho biết “không có quốc gia nào trong số 54 quốc gia được công nhận ở Châu Phi bắt đầu bằng chữ cái ‘K’” - rõ ràng là đã quên Kenya.
Google hồi cuối tuần vừa rồi đã xác nhận với giới báo chí rằng phần tổng quan AI (AI Overview) cho cả hai truy vấn nói trên đã bị xóa do vi phạm chính sách của công ty.
Ông Colette Garcia, phát ngôn viên của Google, cho biết trong một tuyên bố rằng: “Phần lớn các Tổng quan về AI cung cấp thông tin chất lượng cao, có liên kết để tìm hiểu sâu hơn trên web”. Ông Garcia đồng thời cũng cho biết thêm rằng một số ví dụ lan truyền khác về lỗi AI của Google dường như đã bị chỉnh sửa hình ảnh. “Chúng tôi đã tiến hành thử nghiệm rộng rãi trước khi ra mắt trải nghiệm mới này và cũng như các tính năng khác mà chúng tôi đã ra mắt trong công cụ Search (Tìm kiếm), chúng tôi đánh giá cao phản hồi. Chúng tôi đang thực hiện hành động nhanh chóng ở những chỗ thích hợp theo chính sách nội dung của mình.”
Phần cuối của mỗi phần tổng quan về tìm kiếm AI của Google đều thừa nhận rằng “AI tạo sinh đang mang tính thử nghiệm”. Và công ty cho biết họ tiến hành hoạt động thử nghiệm được thiết kế để bắt chước các tác nhân xấu tiềm ẩn nhằm nỗ lực ngăn chặn các kết quả sai hoặc chất lượng thấp hiển thị trong bản tóm tắt AI.
Tổng quan về tìm kiếm của Google là một phần trong nỗ lực lớn hơn của công ty nhằm kết hợp công nghệ Gemini AI trên tất cả các sản phẩm của mình khi họ cố gắng theo kịp cuộc chạy đua AI với các đối thủ như OpenAI và Meta. Nhưng sự thất bại trong tuần trước cho thấy nguy cơ việc bổ sung AI – vốn có xu hướng tự tin đưa ra thông tin sai lệch – có thể làm suy yếu danh tiếng của Google với tư cách là nguồn đáng tin cậy để tìm kiếm thông tin trực tuyến.
Ngay cả trên những tìm kiếm ít nghiêm trọng hơn, tổng quan AI của Google đôi khi dường như cung cấp thông tin sai hoặc khó hiểu.
Trong một thử nghiệm, CNN đã hỏi Google “có bao nhiêu natri trong nước dưa chua”. Tổng quan AI đã trả lời rằng một khẩu phần nước dưa chua 8 ounce chất lỏng chứa 342 miligam natri nhưng một khẩu phần nhỏ hơn một nửa kích thước (3 ounce chất lỏng) chứa nhiều hơn gấp đôi lượng natri (690 miligam). (Nước dưa chua Best Maid, được bán tại Walmart, chứa 250 miligam natri chỉ trong 1 ounce.)
CNN cũng tìm kiếm: “dữ liệu được sử dụng để đào tạo AI của Google”. Trong phản hồi của mình, bộ phận tổng quan AI thừa nhận rằng “không rõ liệu Google có ngăn cản việc đưa các tài liệu có bản quyền vào” dữ liệu trực tuyến được thu thập để đào tạo các mô hình AI của mình hay không, đề cập đến mối lo ngại lớn về cách các công ty AI hoạt động.
Đây không phải là lần đầu tiên Google phải thu hồi khả năng của các công cụ AI của mình vì sai lầm đáng xấu hổ. Hồi tháng 2, công ty từng phải tạm dừng khả năng tạo ảnh người của máy tạo ảnh AI sau khi nó bị chỉ trích vì tạo ra những hình ảnh không chính xác về mặt lịch sử mà phần lớn cho thấy người da màu thay vì người da trắng.
