NVIDIA ra mắt 'Chat With RTX' | AI Chatbot Free nếu bạn dùng GPU GeForce RTX 30/40

NVIDIA mới đây đã giới thiệu một tính năng mới có tên “Chat With RTX”. Chatbot AI này hoạt động cục bộ trên GPU GeForce RTX 30 và 40, tận dụng phần mềm TensorRT-LLM & Retrieval Augmented Generation (RAG) được GPU RTX hỗ trợ đầy đủ và được tăng tốc bằng nhân Tensor tích hợp. Hôm nay, hãy cùng Phúc Anh tìm hiểu về nó. 

Chat With RTX của NVIDIA được tạo ra nhằm mục đích cho phép mọi người khai thác sức mạnh của card đồ họa của họ để thực hiện các tác vụ AI. Hầu hết chúng ta đều thấy AI làm được những điều thú vị bằng hình ảnh và video, nhưng cho đến nay, các cuộc trò chuyện gần như bị mắc kẹt trong các trung tâm dữ liệu lớn vì các tài nguyên cần thiết cho các mô hình AI phức tạp với rất nhiều dữ liệu phải được cập nhật liên tục. 

Giờ đây, cách bạn có thể tải về một số phiên bản có đã sẵn miễn phí. Tuy nhiên, giống như bất kỳ công nghệ mới nào, việc thiết lập nó có đôi chút phức tạp vì nó là một mô hình mới. NVIDIA rõ ràng muốn làm cho quá trình này đơn giản hơn nhiều thông qua một ứng dụng duy nhất chạy trên máy của bạn và bạn có thể kích hoạt nó thông qua trình duyệt của mình, giúp toàn bộ quá trình trở nên thân thiện hơn với người dùng. Link tải về các bạn có thể tham khảo tại đây. 

NVIDIA ra mắt tính năng Chat With RTX

Chat With RTX không chỉ là một trình xử lý văn bản đơn thuần mà còn có thể truy cập nhiều định dạng tệp khác nhau, bao gồm văn bản, pdf, doc/docx và xml. Nó khai thác khả năng của mô hình phổ biến như Mistral hoặc Llama2 để tạo phản hồi và cũng có thể sử dụng các tài nguyên trực tuyến như video YouTube. Hiện tại, NVIDIA xác nhận chỉ hỗ trợ GPU GeForce RTX 30 và RTX 40 mà không đề cập đến dòng RTX 20. GPU phải có VRAM tối thiểu 8GB, chỉ trừ mẫu RTX 3050 6GB vấn sẽ được hỗ trợ. 

Hãy theo dõi Phúc Anh để tìm hiểu những tin tức công nghệ mới nhất.