NVIDIA AI 聊天機器人「ChatRTX」推出更新 支援更多大型語言模型與影像辨識

NVIDIA 今日宣布，旗下 AI 聊天機器人「ChatRTX」進行版本更新，增加對其他大型語言模型（LLM）的支援，包括由 Google 訓練出最新的開放式、可在本地端運行的 Gemma，與支援 ChatGLM3 大型語言模型。

• 
  
  
  NVIDIA 近日舉辦 AI on RTX 最新技術與應用展示活動，介紹 ChatRTX 新版本功能
  

NVIDIA 今年三月曾公開 AI 聊天機器人 ChatRTX，使用者可以在有著 NVIDIA RTX 技術支援的 Windows PC和工作站上，與儲存在本地端的資料互動。ChatRTX 利用檢索增強生成、NVIDIA TensorRT-LLM 軟體與 NVIDIA RTX 加速等技術，將聊天機器人功能帶至有著 RTX 技術支援的 Windows PC和工作站上。在 LLM 的支援下，使用者可以透過 ChatRTX 查詢他們的筆記和檔案，且由於ChatRTX在使用者裝置本機端運行，能夠快速生成相關回應。

NVIDIA 表示，最新版本加入支援其他 LLM，包括由 Google 訓練出最新的開放式、可在本地端運行的Gemma。Gemma 是 Google 使用與自家 Gemini 模型相同的研究和技術，專為負責任 AI 開發而打造的模型。ChatRTX 現在也支援基於通用語言模型框架的開放式中英雙語 ChatGLM3 大型語言模型。

• 
  

NVIDIA 指出，由於支援 OpenAI 的對比語言和影像預訓練（Contrastive Language-Image Pre-training，CLIP）技術，使用者能與影像資料進行互動。經過訓練和細化後的 CLIP 神經網絡，從自然語言監督中學習視覺概念。也就是說，這個模型會辨識在影像集裡「看到」的東西。因ChatRTX支援 CLIP，使用者可透過單字、術語和短語，與裝置本機端的相片和影像進行互動，無需使用複雜的詮釋資料標記。

另外，新版本的 ChatRTX 還讓使用者可以用自己的聲音與資料進行聊天。由於有支援使用 AI 處理口語的自動語音識別系統 Whisper，使用者可以在應用程式上用語音進行查詢，ChatRTX 將以文字加以回應。