Vụ việc bắt đầu khi một người dùng mạng xã hội X, Kevin Bankster, đăng tải dòng trạng thái chia sẻ về việc Google Gemini đã tự ý tóm tắt nội dung bản khai thuế cá nhân của anh khi anh đang mở tệp tin trên Google Docs. Sự việc khiến anh lo ngại về việc liệu Google có đang âm thầm thu thập và xử lý dữ liệu người dùng mà không được cho phép hay không. Theo chính sách bảo mật dữ liệu của Google, nội dung Google Workspace, bao gồm email, tài liệu,... sẽ không bị chia sẻ cho người dùng khác khi chưa có sự đồng ý. Cam kết này được áp dụng cho tất cả các sản phẩm Google Workspace cho mục đích cá nhân và doanh nghiệp, bao gồm Gmail, Google Docs, Sheets, Slides, Drive, Calendar, Meet và Chat.
Đại diện Google sau đó đã lên tiếng khẳng định người dùng cần phải chủ động kích hoạt Gemini trong Google Workspace. Khi đó, Google mới có quyền truy cập và sử dụng thông tin đó một cách bảo mật để tạo ra các phản hồi hữu ích cho người dùng, và sẽ không lưu trữ thông tin nếu không được phép. Tuy nhiên, lời giải thích này vẫn chưa thể làm rõ hoàn toàn sự việc. Trang tin công nghệ Tom's Hardware đưa ra một số giả thuyết cho sự cố này, chẳng hạn như AI bị "ảo giác", hệ thống nội bộ của Google gặp trục trặc, hoặc một lý do khó xác định nào khác.
Theo Tom's Hardware, vấn đề mà Bankster gặp phải dường như chỉ xảy ra với Google Drive và chỉ xuất hiện sau khi anh nhấn nút Gemini trên ít nhất một tài liệu. Các tệp tin cùng loại sau đó, trong trường hợp này là PDF, sẽ tự động kích hoạt Google Gemini mỗi khi được mở trong Google Drive. Tom's Hardware cũng đưa ra giả thuyết rằng sự cố có thể bắt nguồn từ việc Bankster đã kích hoạt Google Workspace Labs vào năm 2023, điều này có thể đã ghi đè lên cài đặt AI của Gemini.
Dù nguyên nhân là gì, sự cố này cũng gióng lên hồi chuông cảnh báo về quyền riêng tư trong thời đại AI. Vẫn còn nhiều lo ngại về cách thức dữ liệu được thu thập, lưu trữ và sử dụng bởi các hệ thống AI, đặc biệt là khi công nghệ này ngày càng trở nên phổ biến và được tích hợp vào nhiều sản phẩm, dịch vụ hơn. Google Gemini, một dịch vụ AI đa phương thức được tích hợp vào các sản phẩm của Google như Gmail, Docs và Sheets, được thiết kế để thực hiện mọi việc từ tóm tắt thông tin, tạo tài liệu thuyết trình cho đến tạo hình ảnh tức thì. Về lý thuyết, người dùng phải cấp quyền cho Gemini và Google để AI này có thể đọc nội dung Google Workspace của họ.
Tuy nhiên, sự cố với trường hợp của Bankster cho thấy vẫn còn nhiều lỗ hổng trong việc kiểm soát quyền riêng tư của người dùng. Liệu Google có đang lạm dụng dữ liệu người dùng để huấn luyện AI hay không? Liệu người dùng có thực sự hiểu rõ về cách thức AI hoạt động và những rủi ro tiềm ẩn khi sử dụng các dịch vụ này? Đây là những câu hỏi cần được đặt ra và giải đáp một cách rõ ràng, minh bạch để đảm bảo quyền lợi cho người dùng trong thời đại công nghệ số.