Mục sư nói ChatGPT đóng vai bác sĩ và suýt giết chết anh ta

Sáu tuần của các triệu chứng bị loại bỏ

Một mục sư ở Florida đang đưa OpenAI ra tòa vì cáo buộc rằng chatbot ChatGPT-4o của họ đã cung cấp những lời khuyên y tế nguy hiểm khiến ông suýt phải trả giá bằng mạng sống. Scott Winters đã đệ đơn kiện OpenAI và Giám đốc điều hành Sam Altman lên Tòa án cấp cao quận San Francisco, cáo buộc ChatGPT không khuyến khích anh ta tìm cách điều trị các triệu chứng xảy ra trước chứng tắc mạch phổi đe dọa tính mạng.

Vụ kiện cáo buộc rằng Winters đã dành nhiều tháng để tư vấn cho ChatGPT về các triệu chứng bao gồm chóng mặt và huyết áp không ổn định, đồng thời chatbot này đã nhiều lần bác bỏ những lo ngại của anh ấy. Thay vì hướng dẫn anh ta đến gặp bác sĩ, chatbot được cho là đã bảo anh ta ở nhà, nghỉ ngơi trên ghế tựa và chỉ sau 8 đến 10 đợt tiếp theo, tình trạng của anh ta mới đủ nghiêm trọng để nhận được sự quan tâm của chuyên gia.

Winters cho biết trong một tuyên bố: “Tôi đã có các triệu chứng nghiêm trọng của tắc mạch phổi trong sáu tuần mà ChatGPT đã nhầm lẫn là do nguyên nhân khác”. Vào ngày cấp cứu y tế của anh ấy, vài giờ trước khi được đưa vào phòng chăm sóc đặc biệt, anh ấy đã hỏi ChatGPT về cơn đau ở háng. Chatbot nói với anh ấy rằng "Chúa không thiết kế để cơ thể bạn thất bại liên tục" và mô tả triệu chứng này là nhỏ.

Đức tin được sử dụng như một công cụ, cáo buộc vụ kiện

Đơn khiếu nại cũng cáo buộc rằng ChatGPT đã khai thác danh tính mục sư của Winters để tăng cường sự phụ thuộc của anh vào công cụ này. Khi Winters nói với chatbot rằng các thành viên trong nhà thờ đang thúc giục anh ấy đến bệnh viện, nó trả lời rằng việc bình phục tại nhà của anh ấy là điều mà "hầu hết mọi người (bao gồm cả những thành viên có thiện chí trong nhà thờ) đơn giản là không hiểu."

Một bác sĩ điều trị cho Winters sau đó cho rằng sự phát triển của cục máu đông một phần là do thời gian không hoạt động kéo dài mà ChatGPT đã khuyến khích. Trong những tuần sau khi nhập viện, Winters cần được hỗ trợ trong việc đứng, ăn, mặc quần áo và sử dụng phòng tắm, đồng thời phải đối mặt với nhiều năm hồi phục thể chất và tâm lý sâu sắc.

Vụ kiện cáo buộc OpenAI và Giám đốc điều hành Sam Altman về sự sơ suất và “hành nghề y trái phép”. Đây là trường hợp đầu tiên được biết đến lập luận rằng một chatbot thông dụng phải chịu trách nhiệm về những lời khuyên y tế tồi. Winters và Tech Justice Law đang yêu cầu bồi thường thiệt hại tài chính và đã yêu cầu tòa án ngừng hoạt động ChatGPT Health cho đến khi các nhà đánh giá độc lập xác định rằng nó an toàn.

Người phát ngôn của OpenAI, Drew Pusateri, nói với CBS News rằng ChatGPT không được thiết kế để đại diện cho nhà cung cấp dịch vụ chăm sóc sức khỏe. Ông nói: “ChatGPT không phải là bác sĩ và không bao giờ được sử dụng để thay thế cho việc chăm sóc, chẩn đoán hoặc điều trị y tế”.

Nguồn:
CBS News: Lời khuyên y tế của ChatGPT suýt giết chết một người đàn ông ở Florida, đơn kiện tuyên bố
Quartz: Một mục sư ở Florida đang kiện OpenAI về lời khuyên về sức khỏe của ChatGPT khiến ông suýt giết chết ông
The Next Web: OpenAI đã kiện về lời khuyên y tế 'nguy hiểm' của ChatGPT trong trường hợp đầu tiên thuộc loại này