CEO OpenAI Sam Altman cảnh báo người dùng ChatGPT nên cân nhắc kỹ trước khi sử dụng ứng dụng AI này để tham vấn tâm lý hoặc hỗ trợ cảm xúc, do ngành công nghiệp AI chưa tìm ra cách bảo vệ quyền riêng tư người dùng trong những cuộc trò chuyện nhạy cảm này.
Altman đưa ra những bình luận này trong tập gần đây của podcast “This Past Weekend w/ Theo Von” do Theo Von dẫn chương trình. Khi được hỏi về cách AI hoạt động với hệ thống pháp lý hiện tại, Altman cho biết một trong những vấn đề của việc chưa có khung pháp lý hoặc chính sách cho AI là không có tính bảo mật pháp lý cho các cuộc trò chuyện của người dùng.
“Mọi người nói về những chuyện cá nhân nhất trong cuộc sống của họ với ChatGPT,” Altman nói. “Mọi người sử dụng nó – đặc biệt là những người trẻ tuổi – như một nhà trị liệu, một huấn luyện viên cuộc sống; gặp những vấn đề về mối quan hệ và hỏi ‘tôi nên làm gì?’ Và hiện tại, nếu bạn nói chuyện với một nhà trị liệu hoặc luật sư hoặc bác sĩ về những vấn đề đó, có đặc quyền pháp lý cho nó. Có tính bảo mật bác sĩ-bệnh nhân, có tính bảo mật pháp lý. Và chúng tôi chưa tìm ra điều đó khi bạn nói chuyện với ChatGPT.”
Điều này có thể tạo ra mối lo ngại về quyền riêng tư cho người dùng trong trường hợp có vụ kiện, Altman bổ sung, bởi vì OpenAI sẽ được yêu cầu về mặt pháp lý phải cung cấp những cuộc trò chuyện đó hiện tại.
“Tôi nghĩ điều đó rất có vấn đề. Tôi nghĩ chúng ta nên có cùng khái niệm về quyền riêng tư cho các cuộc trò chuyện của bạn với AI như chúng ta có với một nhà trị liệu – và không ai phải nghĩ về điều đó ngay cả một năm trước,” Altman nói.
Công ty hiểu rằng việc thiếu quyền riêng tư có thể là rào cản đối với việc người dùng áp dụng rộng rãi hơn. Ngoài việc AI yêu cầu rất nhiều dữ liệu trực tuyến trong giai đoạn đào tạo, nó đang được yêu cầu cung cấp dữ liệu từ các cuộc trò chuyện của người dùng trong một số bối cảnh pháp lý. OpenAI đã đang chống lại một lệnh của tòa án trong vụ kiện với The New York Times, lệnh này sẽ yêu cầu công ty lưu các cuộc trò chuyện của hàng trăm triệu người dùng ChatGPT trên toàn cầu, không bao gồm những người từ khách hàng ChatGPT Enterprise.
Trong một tuyên bố trên trang web của mình, OpenAI cho biết đang kháng cáo lệnh này, mà họ gọi là “vượt quá thẩm quyền”. Nếu tòa án có thể ghi đè các quyết định của chính OpenAI về quyền riêng tư dữ liệu, nó có thể mở ra cho công ty những yêu cầu thêm về khám phá pháp lý hoặc mục đích thực thi pháp luật.
Các công ty công nghệ ngày nay thường xuyên bị triệu tập để cung cấp dữ liệu người dùng nhằm hỗ trợ trong các vụ truy tố hình sự. Nhưng trong những năm gần đây, đã có thêm những lo ngại về dữ liệu số khi các luật bắt đầu hạn chế quyền truy cập vào các quyền tự do đã được thiết lập trước đây, như quyền lựa chọn của phụ nữ.
Khi Tòa án Tối cao lật ngược phán quyết Roe v. Wade chẳng hạn, khách hàng bắt đầu chuyển sang các ứng dụng theo dõi chu kỳ kinh nguyệt riêng tư hơn hoặc sang Apple Health, vốn mã hóa hồ sơ của họ.
Altman cũng hỏi người dẫn chương trình podcast về việc sử dụng ChatGPT của chính anh, do Von nói rằng anh không nói chuyện nhiều với chatbot AI này vì những lo ngại về quyền riêng tư của riêng mình.
“Tôi nghĩ việc thực sự muốn có sự rõ ràng về quyền riêng tư trước khi bạn sử dụng [ChatGPT] nhiều – như sự rõ ràng về mặt pháp lý – là điều hợp lý,” Altman nói.
Theo: TechCrunch