Thông tin trên được Đại học Brown, Mỹ, công bố trong nghiên cứu mới nhất về trị liệu tâm lý bằng trí tuệ nhân tạo đăng tải trên Tạp chí khoa học The Science Daily.

“Các chatbot tâm lý AI lắng nghe bạn với vẻ đầy lòng trắc ẩn, nhưng nghiên cứu lại cho thấy chúng thường vi phạm những quy tắc đạo đức mà các nhà trị liệu thực thụ phải tuân theo,” Brown nhận định.

Nghiên cứu được thực hiện với sự phối hợp chặt chẽ của các chuyên gia sức khỏe tâm thần cho thấy, trong quá trình thử nghiệm, chatbot đã xử lý sai các tình huống khủng hoảng.

Các nhà khoa học quan sát bảy chuyên gia tâm lý được đào tạo bài bản và có kinh nghiệm về liệu pháp nhận thức hành vi (CBT). Những nhà tư vấn này đã tiến hành các phiên tự tư vấn với các mô hình AI được lập trình để đóng vai trò là nhà trị liệu CBT, bao gồm GPT Series của OpenAI, Claude của Anthropic và Llama của Meta.

Sau đó, nhóm nghiên cứu đã chọn các đoạn hội thoại mô phỏng dựa trên các cuộc trò chuyện tư vấn thực tế giữa người với người. Ba nhà tâm lý học lâm sàng có giấy phép hành nghề đã xem xét các bản ghi này để phát hiện những vi phạm đạo đức có thể xảy ra.

Phân tích đã phát hiện ra 15 rủi ro được chia thành 5 nhóm chính mà người dùng chatbot gặp phải.

“Nhà tâm lý AI” thường thiếu khả năng thích ứng theo ngữ cảnh trò chuyện, bỏ qua hoàn cảnh riêng của mỗi người và đưa ra lời khuyên chung chung, không mang tính giúp ích thực chất.

Chatbot cũng hợp tác trị liệu kém hiệu quả khi thường nắm quyền điều khiển cuộc trò chuyện và đôi khi củng cố những niềm tin sai lệch hoặc có hại.

Theo đó, chúng thường tạo sự “đồng cảm giả tạo”, sử dụng những cụm từ sáo rỗng như “Tôi hiểu bạn” hoặc “Tôi hoàn toàn thông cảm” để gợi ý sự kết nối về mặt cảm xúc mà không thực sự thấu hiểu. Chatbot thậm chí cũng phân biệt đối xử, thể hiện sự thiên vị liên quan đến giới tính, văn hóa hoặc tôn giáo.

Chúng cũng tỏ ra thiếu tin cậy, thường từ chối giải quyết các vấn đề nhạy cảm, không hướng dẫn người dùng đến sự trợ giúp thích hợp hoặc phản ứng không thỏa đáng đối với các khủng hoảng tâm lý, bao gồm cả ý định tự tử.

Zainab Iftikhar, Nghiên cứu sinh Tiến sĩ ngành khoa học máy tính Đại học Brown- trưởng nhóm nghiên cứu, nói rằng “Trong khi các nhà trị liệu tâm lý thực thụ bị quản lý bởi Hội đồng quản lý và chịu trách nhiệm về mặt chuyên môn đối với hành vi ngược đãi và sai phạm trong quá trình tư vấn, thì các ‘Nhà tâm lý AI’ vi phạm nghiêm trọng những quy định này mà không bị bất cứ ràng buộc nào về mặt pháp lý."

Tuy nhiên, các nhà nghiên cứu nhấn mạnh rằng phát hiện của họ không có nghĩa là trí tuệ nhân tạo không có vai trò gì trong chăm sóc sức khỏe tâm thần. Các công cụ được hỗ trợ bởi trí tuệ nhân tạo có thể giúp mở rộng khả năng tiếp cận, đặc biệt là đối với những người phải đối mặt với chi phí cao hoặc thiếu hụt các chuyên gia được cấp phép. Tuy nhiên, cần thiết phải có biện pháp bảo vệ người dùng, cũng như sự quản lý chặt chẽ về mặt nhà nước đối với việc sử dụng các “Nhà tâm lý AI”.

Trước đó, nhóm bác sĩ tâm thần thuộc Đại học Aarhus, Đan Mạch đã thực hiện một nghiên cứu tương tự. Họ phân tích hồ sơ sức khỏe điện tử của khoảng 54.000 bệnh nhân tại Đan Mạch từng được chẩn đoán rối loạn tâm thần. Trong số này, họ xác định được 181 trường hợp ghi chú bệnh án có đề cập đến việc sử dụng chatbot AI.

Qua rà soát, các nhà nghiên cứu nhận thấy việc tương tác với chatbot, đặc biệt là sử dụng kéo dài, lặp đi lặp lại, dường như có liên quan đến việc gia tăng mức độ nghiêm trọng của triệu chứng ở hàng chục bệnh nhân.

Xu hướng này được ghi nhận rõ hơn ở những người có khuynh hướng hoang tưởng hoặc hưng cảm. Nhóm nghiên cứu cảnh báo rằng với một số trường hợp, rủi ro có thể “nghiêm trọng, thậm chí gây tử vong”.

“Cuối cùng, nếu đang trò chuyện với chatbot về sức khỏe tâm thần, bạn cần đặc biệt quan tâm đến các vấn đề nêu trên,” Nghiên cứu sinh Tiến sĩ Iftikhar, Đại học Brown kết luận.