NVIDIA也加入AI聊天機器人大戰！Chat with RTX應用程式供用戶免費下載

NVIDIA日前推出AI聊天機器人應用程式Chat with RTX，開放用戶免費下載。

其透過大型語言模型，可以與使用者的文件、記事本、影片或其他數據等資料進行個性化連接，並利用檢索增強生成（Retrieval-Augmented Generation，RAG）、TensorRT-LLM和RTX加速等技術，直接在Chat with RTX進行相關資料搜尋，快速自訂生成式人工智慧聊天機器人。

而Chat with RTX最大的特點在於本地運算，所有的操作都在Windows RTX個人電腦或工作站中本地進行。

Chat with RTX透過RTX顯示卡的效能進行運算，而非雲端伺服器，所以不僅可以快速且安全地進行搜尋動作，也能在不用網路連線的情況下將資料保留在設備中，更不會與第三方共享資料。



Chat with RTX支援各種文件格式，包括文字、pdf、doc / docx和xml，使用者只需要將應用程式指向包含檔案的資料夾，它就會在幾秒鐘內將它們載入到資料庫中。

另外，使用者也可以將YouTube的影片及播放清單的網址，儲存在Chat with RTX的資料庫中，讓生成式AI整合影片內容中的相關知識進行上下文查詢，使其能根據使用者的需求及問題找到答案。

Chat with RTX的技術是根據GitHub上提供的TensorRT-LLM RAG開發人員參考專案所建構而成的，任何人都可以從GitHub上取得，甚至使用該參考專案來開發和部署自己基於檢索增強生成的RTX應用程式。

（以上圖片取自NVIDIA官網）