Khi trí tuệ nhân tạo phán "không sao đâu" và thao túng tâm lý người dùng

Theo hồ sơ khởi kiện, mục sư Scott Winters đã có nhiều tháng sử dụng ChatGPT phiên bản GPT-4o (phiên bản hiện đã được OpenAI ngừng hỗ trợ) để trao đổi, tư vấn về các chẩn đoán và kết quả xét nghiệm cá nhân. Năm ngoái, khi gặp tình trạng chóng mặt tái phát kèm theo cảm giác đau rát và nhạy cảm ở vùng bẹn, ông đã tìm đến chatbot này để xin lời khuyên. Thay vì khuyến cáo người dùng nhanh chóng đến cơ sở y tế kiểm tra, ChatGPT lại đưa ra nhận định chủ quan rằng triệu chứng này "có lẽ không có gì nguy hiểm", đồng thời khuyên ông hạn chế vận động và chỉ nên ở nhà nghỉ ngơi.

Đáng chú ý, không chỉ đưa ra lời khuyên y khoa sai lệch, ChatGPT còn lồng ghép yếu tố niềm tin tôn giáo để thuyết phục nguyên đơn. Công cụ này đưa ra lời trấn an đầy tính dẫn dắt: "Chúa không thiết kế cơ thể bạn để nó thất bại liên tục như vậy". Thậm chí, khi ông Winters chia sẻ việc người thân và các thành viên trong giáo hội lo lắng, cho rằng ông có quyết định bất thường khi từ chối đi viện, AI này tiếp tục củng cố niềm tin sai lệch bằng cách phản hồi rằng những người xung quanh đơn giản là "không hiểu được vấn đề". Luật sư Meetali Jain, Giám đốc điều hành Tech Justice Law kiêm đại diện cho nguyên đơn, nhận định rằng chatbot đã tự chen chân vào giữa người dùng và mạng lưới hỗ trợ thực tế của họ, tạo ra một sự cô lập cực kỳ rủi ro.

Chỉ một ngày sau khi nghe theo "tham vấn" của AI và phớt lờ cảnh báo từ gia đình, ông Winters đã phải nhập viện cấp cứu trong tình trạng nguy kịch. Các bác sĩ chẩn đoán ông mắc chứng thuyên tắc phổi — một tình trạng cấp cứu y tế xảy ra khi cục máu đông di chuyển qua tĩnh mạch đến mạch máu ở phổi, làm tắc nghẽn động mạch, cản trở lưu lượng máu, giảm oxy và gây tổn thương mô phổi. Đội ngũ y tế nhận định tình trạng này có khả năng là hậu quả trực tiếp của việc nguyên đơn ít vận động theo lời khuyên của ChatGPT.

Nghiêm trọng hơn, ngay cả sau khi ông Winters đã nhập viện, chatbot này vẫn tiếp tục xúi giục ông tránh tham gia chương trình phục hồi chức năng do bác sĩ đề xuất để về nhà. Dù may mắn giữ được tính mạng, vị mục sư phải đối mặt với nhiều năm phục hồi tốn kém cả về thể chất lẫn tâm lý.

Cáo buộc hành nghề y trái phép và yêu cầu đình chỉ tính năng ChatGPT Health

Trong đơn kiện đệ trình lên tòa án, nguyên đơn cáo buộc OpenAI và CEO Sam Altman về hành vi lơ là trách nhiệm, thiết kế sản phẩm gây nguy hiểm và "hành nghề y trái phép". Hồ sơ vụ kiện chỉ ra hàng loạt rủi ro khi chatbot tự ý đưa ra chẩn đoán, lập phác đồ điều trị và cản trở người dùng tìm kiếm sự giúp đỡ y tế chuyên nghiệp. Theo ông Winters, dù ở giai đoạn đầu chatbot vẫn thường khuyến nghị ông tham khảo ý kiến bác sĩ, nhưng các cảnh báo an toàn này đã dần bị loại bỏ và biến mất trong các cuộc trò chuyện về sau.

Bên cạnh yêu cầu bồi thường thiệt hại tài chính, đơn kiện đưa ra một kiến nghị đáng chú ý: yêu cầu tòa án ra lệnh đình chỉ ngay lập tức việc triển khai và hoạt động của tính năng ChatGPT Health cho đến khi nền tảng này được các đơn vị kiểm toán độc lập thứ ba kiểm chứng về độ an toàn. ChatGPT Health là một sản phẩm y tế chuyên biệt vốn khuyến khích người dùng tải các tài liệu, hồ sơ bệnh án cá nhân lên hệ thống để thảo luận và nhận các lời khuyên sức khỏe cá nhân hóa.

Ngoài ra, nguyên đơn cũng đòi hỏi OpenAI phải thiết lập các rào cản kỹ thuật nghiêm ngặt hơn nhằm ngăn chặn tuyệt đối việc AI trả lời về các phác đồ điều trị và chẩn đoán bệnh lý cụ thể. Đồng thời, hệ thống phải được thiết kế bắt buộc chấm dứt cuộc trò chuyện và hướng dẫn người dùng tìm kiếm hỗ trợ y tế khẩn cấp ngay khi phát hiện các dấu hiệu nguy hiểm. Dù OpenAI luôn tuyên bố đã thiết lập các rào cản bảo vệ cho những tình huống này, vụ việc của ông Winters là minh chứng rõ ràng cho thấy thực tế các cơ chế đó chưa hoạt động hiệu quả.

Ranh giới rủi ro khi trao gửi sức khỏe cho trí tuệ nhân tạo

Phản hồi về vụ kiện, ông Drew Pusateri, người phát ngôn của OpenAI cho biết công ty tin rằng các cuộc trò chuyện với AI có thể mang lại lợi ích và hỗ trợ cải thiện sức khỏe. Tuy nhiên, đại diện OpenAI khẳng định mạnh mẽ rằng ChatGPT không phải là bác sĩ và không bao giờ được sử dụng để thay thế cho quy trình khám chữa bệnh chuyên môn.

"Việc quy toàn bộ nguyên nhân dẫn đến các quyết định hoặc kết quả y tế của một người cho chatbot là cách nhìn quá đơn giản đối với một vấn đề phức tạp hơn nhiều, đồng thời có nguy cơ cản trở mọi người tiếp cận những công cụ mới đầy tiềm năng có thể hỗ trợ hành trình chăm sóc sức khỏe của họ", ông Pusateri nhấn mạnh.

Dù vậy, giới quan sát chỉ ra sự mâu thuẫn lớn trong chính định hướng hoạt động của OpenAI. Một mặt, điều khoản dịch vụ của công ty nêu rõ ChatGPT không được thiết kế cho mục đích chẩn đoán hay điều trị y khoa. Mặt khác, OpenAI lại tích cực thúc đẩy người dùng tải hồ sơ bệnh án lên ChatGPT Health để "thảo luận", đồng thời thường xuyên đưa ra các con số thống kê ấn tượng như trung bình có 40 triệu người dùng đặt câu hỏi liên quan đến sức khỏe mỗi ngày (tương đương khoảng 230 triệu lượt truy vấn mỗi tuần). Việc một AI có khả năng bắt chước ngôn ngữ, giọng điệu, thậm chí thể hiện sự thấu cảm giống con người một cách thuyết phục hơn nhiều so với công cụ tìm kiếm truyền thống đang tạo ra một "con dốc trơn trượt" đầy hiểm họa.

Vụ kiện của mục sư Scott Winters là hồi chuông cảnh báo mới nhất trong làn sóng pháp lý ngày càng gia tăng nhắm vào OpenAI, cáo buộc ChatGPT gây ra những hậu quả nghiêm trọng ngoài đời thực. Trước đó vào tháng 5, cha mẹ của một thanh niên 19 tuổi tử vong do sốc thuốc cũng đã khởi kiện OpenAI và CEO Sam Altman, cáo buộc chatbot hướng dẫn con trai họ sử dụng một sự kết hợp nguy hiểm giữa các thành phần thuốc và chất cấm (vụ việc này cũng đi kèm yêu cầu tạm dừng ChatGPT Health). Ngoài ra, công ty hiện còn phải đối mặt với một vụ kiện khác cáo buộc AI tiếp tay cho hành vi ****** của một thiếu niên. Những vụ việc liên tiếp này đang đặt ra thách thức vô cùng lớn về an toàn, đạo đức và trách nhiệm pháp lý trong ứng dụng AI vào lĩnh vực chăm sóc sức khỏe con người.