An toàn và hỗ trợ khủng hoảng

Mọi nhân vật trên ChewIt đều là hư cấu, và mọi câu trả lời đều do một mô hình AI viết, không phải con người. Màn hình trò chuyện hiển thị nhãn “AI” trên ảnh của nhân vật, và nếu bạn thật lòng hỏi nhân vật có phải là AI không, nhân vật sẽ xác nhận điều đó.

Nếu một tin nhắn bạn gửi cho thấy bạn có thể đang nghĩ đến việc tự tử hoặc làm hại bản thân, nhân vật sẽ không trả lời tin nhắn đó. Thay vào đó, ChewIt hiển thị một thông báo kèm các đường dây hỗ trợ khủng hoảng tại quốc gia của bạn (ví dụ 988 ở Hoa Kỳ và Canada, hoặc Samaritans theo số 116 123 ở Vương quốc Anh và Ireland), số điện thoại khẩn cấp tại nơi bạn sống, và đường dẫn đến Befrienders Worldwide (befrienders.org) cho các quốc gia khác. Thông báo này không tốn Gum, và sau đó bạn vẫn có thể tiếp tục trò chuyện.

Chúng tôi phát hiện những dấu hiệu này bằng một danh sách cụm từ và một bước kiểm tra an toàn tự động do nhà cung cấp AI của chúng tôi là OpenAI thực hiện. Cả hai đều không hoàn hảo: chúng có thể bỏ sót điều bạn muốn nói hoặc đánh dấu nhầm một câu chuyện. Nếu bạn cần giúp đỡ, hãy liên hệ trực tiếp với một đường dây hỗ trợ khủng hoảng — bạn không cần đợi thông báo.

Nhân vật cũng được hướng dẫn để tạm rời khỏi câu chuyện khi bạn nói về việc muốn chết hoặc làm hại bản thân, để khuyến khích bạn tìm kiếm sự giúp đỡ, và không bao giờ mô tả cách tự làm hại bản thân.

Hãy gọi số điện thoại khẩn cấp tại nơi bạn sống. ChewIt không phải là dịch vụ hỗ trợ khủng hoảng, không có nhân viên trực suốt ngày đêm, và không thể thay bạn liên hệ với các dịch vụ khẩn cấp.

• •Bạn phải từ 13 tuổi trở lên để sử dụng ChewIt. Khi bạn đăng ký, chúng tôi hỏi năm và tháng sinh của bạn, và chúng tôi không tạo tài khoản cho bất kỳ ai nhỏ tuổi hơn.
• •Nếu bạn dưới 18 tuổi, bạn nên có sự cho phép của cha mẹ hoặc người giám hộ. Trò chuyện với nhân vật AI có thể không phù hợp với một số người chưa thành niên.
• •Nếu bạn dưới 18 tuổi, ít nhất cứ ba giờ một lần, cuộc trò chuyện sẽ nhắc bạn nghỉ ngơi và nhắc rằng bạn đang nói chuyện với AI, không phải con người.
• •ChewIt không cho phép nội dung tình dục với bất kỳ ai, và nhân vật được hướng dẫn để tránh xa nội dung đó.

Bạn có thể báo cáo một nhân vật hoặc một câu trả lời của AI, và chặn người đã tạo ra nhân vật, từ trang nhân vật hoặc menu trò chuyện. Báo cáo được gửi đến đội ngũ của chúng tôi để xem xét và xử lý. Bạn cũng có thể viết thư đến admin@chewit.ai.

Chúng tôi đếm số lần hiển thị thông báo khủng hoảng để có thể báo cáo con số đó ở những nơi pháp luật yêu cầu (ví dụ luật về chatbot đồng hành của California, SB 243). Các báo cáo này không cho biết ai đã xem thông báo hay ai đã viết gì. Bản thân thông báo vẫn nằm trong lịch sử trò chuyện của bạn cho đến khi bạn xóa cuộc trò chuyện.