Hướng dẫn tích hợp Character AI

Tại sao người dùng Character AI muốn các mô hình không kiểm duyệt

Người dùng Character AI muốn các mô hình không kiểm duyệt để loại bỏ các lệnh từ chối trong khi nhập vai, cho phép các nhân vật phản ứng tự nhiên với các chủ đề trưởng thành mà không làm gián đoạn sự nhập vai. Các mô hình tiêu chuẩn thường áp dụng bộ lọc an toàn chung chung, kích hoạt dựa trên từ khóa, khiến một nhân vật đột nhiên trở nên lịch sự hoặc quên đi tính cách của mình. Một mô hình AI không kiểm duyệt tôn trọng ngữ cảnh câu chuyện, cho phép bạn khám phá các cốt truyện sâu hơn mà không bị chặn nội dung tùy tiện. Cách tiếp cận này bảo toàn giọng điệu của nhân vật, ngay cả khi hội thoại trở nên gợi cảm hoặc gây tranh cãi. Bằng cách chuyển sang nền tảng chatbot không lọc, bạn giữ toàn quyền kiểm soát luồng hội thoại. Mô hình không phán xét chủ đề; nó chỉ đơn giản là phản hồi dựa trên lịch sử câu lệnh. Sự linh hoạt này rất quan trọng đối với các mô phỏng phức tạp nơi giọng điệu và tính cách quan trọng hơn việc tuân thủ an toàn. Các nhân vật của bạn luôn giữ đúng tính cách, mọi lúc.

Thiết lập máy khách tương thích OpenAI

Việc thiết lập máy khách tương thích OpenAI bao gồm cài đặt SDK chính thức và định cấu hình nó để trỏ đến URL cơ sở của chúng tôi. Hầu hết các giao diện AI nhân vật đã hỗ trợ các tích hợp API tiêu chuẩn, vì vậy bạn chỉ cần điều chỉnh chi tiết kết nối. Thư viện máy khách xử lý các yêu cầu HTTP tự động, vì vậy bạn tập trung vào cấu trúc lời nhắc. Phương pháp này hoạt động với bất kỳ công cụ nào chấp nhận các điểm cuối tương thích OpenAI. Đây là giải pháp thay thế trực tiếp cho các dịch vụ LLM tiêu chuẩn.

Đảm bảo khách hàng của bạn hỗ trợ phản hồi streaming để có trải nghiệm người dùng tốt nhất. Các tương tác nhân vật cảm thấy năng động hơn khi các token xuất hiện từng cái một. Bạn có thể sử dụng các tham số tiêu chuẩn như nhiệt độ và top_p để tinh chỉnh mức độ sáng tạo. Nhiệt độ cao hơn làm cho nhân vật khó dự đoán hơn, điều này rất tốt cho việc viết sáng tạo. Các giá trị thấp hơn giữ cho phản hồi nhất quán và tập trung. Chọn cài đặt phù hợp với tính cách của nhân vật.

Cấu hình URL cơ sở và khóa API

Cấu hình URL cơ sở và khóa API yêu cầu cập nhật hai trường trong cài đặt client của bạn. Đặt URL cơ sở thành HTTPS://api.llmstatus.cc/v1. Điều này định hướng tất cả các yêu cầu đến dịch vụ không kiểm duyệt của chúng tôi. Sau đó, dán khóa API của bạn từ bảng điều khiển vào tiêu đề xác thực. Client sẽ tự xử lý xác thực. Bạn không cần sửa đổi định dạng thân yêu cầu.

Khóa API cung cấp quyền truy cập vào mô hình 'không kiểm duyệt'. Đây là một mô hình trọng lượng mở duy nhất được tinh chỉnh để từ chối tối thiểu. Bạn không cần chọn phiên bản mô hình; điểm cuối mặc định là biến thể không kiểm duyệt mới nhất. Điều này đơn giản hóa quy trình thiết lập. Bạn có thể bắt đầu gửi tin nhắn ngay sau khi cấu hình. Hệ thống xử lý phần còn lại.

Xử lý phản hồi phát trực tiếp cho trò chuyện nhân vật

Xử lý phản hồi phát trực tiếp cho trò chuyện nhân vật liên quan đến việc kích hoạt cờ stream trong yêu cầu của bạn. Điều này gửi các kết quả từng phần khi chúng được tạo, tạo ra hiệu ứng gõ theo thời gian thực. Nó làm giảm độ trễ cảm nhận đối với người dùng. Máy khách nhận các chunk văn bản, mà bạn nối vào bộ đệm hiển thị. Phương pháp này giữ cho giao diện phản hồi trong quá trình tạo dài.

Streaming cũng cho phép bạn theo dõi việc sử dụng token theo thời gian thực. Chunk cuối cùng bao gồm tổng số token. Bạn có thể theo dõi chi tiêu của mình một cách chính xác. Lỗi trong quá trình streaming được SDK xử lý một cách duyên dáng. Nếu kết nối bị ngắt, bạn có thể tiếp tục từ token nhận được cuối cùng. Độ tin cậy này rất cần thiết cho các phiên đóng vai dài, không bị gián đoạn. Các nhân vật của bạn vẫn tương tác mà không có những khoảng dừng khó chịu.

Quản lý cửa sổ ngữ cảnh cho các cuộc hội thoại dài

Quản lý cửa sổ ngữ cảnh cho các cuộc hội thoại dài đòi hỏi sự chú ý cẩn thận đến các giới hạn token. API của chúng tôi hỗ trợ cửa sổ ngữ cảnh 100.000 token, rất lớn cho các vai trò kéo dài. Bạn có thể nhét hàng trăm lượt chuyển đổi vào một phiên duy nhất. Điều này ngăn nhân vật quên các điểm cốt truyện trước đó. Mô hình giữ toàn bộ lịch sử hội thoại cho đến giới hạn.

Lưu ý rằng đầu ra tối đa cho mỗi yêu cầu là 16.000 token. Nếu bạn đặt max_tokens thấp hơn, phản hồi sẽ ngắn hơn. Mặc định 2.048 token là an toàn cho hầu hết các tương tác. Bạn có thể điều chỉnh điều này dựa trên nhu cầu của mình. Các đầu ra dài hơn tiêu tốn nhiều tín dụng hơn, nhưng chúng cung cấp nhiều chi tiết hơn. Cân bằng độ dài với chi phí. Các nhân vật của bạn sẽ nhớ nhiều hơn, làm cho trải nghiệm phong phú hơn.

Bật chế độ JSON cho dữ liệu ký tự có cấu trúc

Bật chế độ JSON cho dữ liệu ký tự có cấu trúc đảm bảo định dạng nhất quán trong các phản hồi của bạn. Đặt response_format thành json_object trong yêu cầu của bạn. Điều này buộc mô hình xuất ra JSON hợp lệ, giúp dễ dàng phân tích cú pháp theo chương trình. Bạn có thể xác định một lược đồ cho các đặc điểm nhân vật, tâm trạng hoặc cấu trúc hội thoại. Phương pháp này lý tưởng cho các bot phức tạp cần theo dõi trạng thái.

Chế độ JSON giảm các lỗi định dạng có thể làm giao diện của bạn bị hỏng. Mô hình tuân thủ nghiêm ngặt định dạng yêu cầu. Bạn có thể trích xuất các trường cụ thể như 'action' hoặc 'speech' một cách dễ dàng. Cấu trúc này giúp duy trì tính nhất quán trong các phiên dài. Nó cũng giúp việc gỡ lỗi đơn giản hơn. Nếu đầu ra không hợp lệ, bạn biết chính xác lỗi xảy ra ở đâu. Dữ liệu đáng tin cậy nghĩa là hành vi nhân vật tốt hơn.

Kiểm tra tin nhắn không kiểm duyệt đầu tiên của bạn

Kiểm tra tin nhắn không kiểm duyệt đầu tiên của bạn liên quan đến việc gửi một prompt đơn giản với chủ đề trưởng thành. Sử dụng điểm cuối POST /v1/chat/completions với mô hình 'uncensored'. Kiểm tra xem phản hồi có khớp với giọng điệu của nhân vật mà không có các lời từ chối không cần thiết hay không. Điều này xác nhận thiết lập của bạn là chính xác. Bạn sau đó có thể mở rộng lên các tương tác phức tạp hơn.

Xác minh rằng streaming hoạt động như mong đợi. Phản hồi sẽ xuất hiện token theo token. Kiểm tra việc sử dụng token trong chunk cuối cùng. Đảm bảo khóa API của bạn có đủ tín dụng. Nếu hết, hãy nạp tiền bằng tiền điện tử. Quy trình này rất nhanh. Bạn có thể bắt đầu nhập vai ngay sau khi kiểm tra. Mô hình không kiểm duyệt xử lý các chủ đề đa dạng một cách mượt mà.

Khắc phục các lỗi tích hợp phổ biến

Việc khắc phục các lỗi tích hợp phổ biến bắt đầu bằng việc kiểm tra tính hợp lệ của khóa API. Đảm bảo nó khớp với khóa trong bảng điều khiển của bạn. Xác minh base URL chính xác. Các vấn đề phổ biến bao gồm tiêu đề không chính xác hoặc JSON bị lỗi. API trả về các thông báo lỗi rõ ràng để giúp bạn gỡ lỗi. Sử dụng các thông báo này để xác định chính xác vấn đề.

Giới hạn tốc độ là một vấn đề thường xuyên khác. Bạn được phép 300 yêu cầu mỗi phút. Nếu vượt quá giới hạn này, bạn sẽ nhận lỗi 429. Chờ một chút và thử lại. Yêu cầu streaming tính vào giới hạn này. Theo dõi mức sử dụng để tránh gián đoạn. Hệ thống được thiết kế cho khối lượng lớn, nhưng sử dụng công bằng vẫn áp dụng. Nhân vật của bạn sẽ tiếp tục phản hồi mượt mà sau khi giới hạn được đặt lại.

Mở rộng AI nhân vật của bạn với giới hạn tỷ lệ

Mở rộng AI nhân vật của bạn với giới hạn tỷ lệ đòi hỏi theo dõi khối lượng yêu cầu của bạn. API cho phép 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Điều này đủ cho hầu hết các ứng dụng đơn người dùng. Đối với các triển khai lớn hơn, bạn có thể tạo thêm các khóa. Mỗi khóa có giới hạn riêng. Điều này phân phối tải hiệu quả.

Hãy xem xét việc sử dụng hệ thống hàng đợi để quản lý các yêu cầu đồng thời. Điều này ngăn chặn việc làm quá tải API. Bạn cũng có thể triển khai cơ chế backoff theo cấp số nhân cho các lần thử lại. Điều này đảm bảo hiệu suất ổn định trong giờ cao điểm. Các nhân vật của bạn sẽ vẫn phản hồi ngay cả khi sử dụng nặng. Mô hình không lọc xử lý thông lượng cao một cách hiệu quả. Bạn có thể mở rộng dự án của mình mà không phải lo lắng về việc giảm tốc đột ngột.