NVIDIA的设备上AI聊天机器人现在支持Google Gemma和ChatGLM3

NVIDIA的ChatRTX应用程序的第三次更新已经到来。它增加了新的图像识别功能、语音输入功能和扩展的开源LLM选择。

NVIDIA ChatRTX，以前被称为“与RTX聊天”，是一款可在Windows PC上本地运行的个性化AI聊天机器人。它充当一种个人助理，在没有任何云交互的情况下回答有关计算机上文档、笔记和其他文件的问题。它还可以总结YouTube视频，当你想在不听别人漫谈15分钟的情况下获得食谱或完成教程时，这些视频可能会很有用。（但是，自0.2安全补丁以来，YouTube扫描一直不可用。）

ChatRTX的一个有趣之处在于它能够运行各种LLM。ChatRTX推出时支持Mistral和Llama 2，但现在支持Google Gemma（Gemini的轻量级分支）和ChatGLM3（基于GLM框架的中英文LLM）。这些LLM中的每一个都适合特定的任务，因此需要多样化。

新发布的ChatRTX还集成了Whisper和Open AI CLIP。Whisper为语音输入添加了基于人工智能的语音识别，而CLIP增强了ChatRTX的图像识别能力。例如，摄影师可以使用ChatRTX来查找和组织一堆未标记的图片。

需要明确的是，ChatRTX仍然被认为是一个“技术演示”。这是开发者可以使用TensorRT LLM RAG开源参考项目构建的一个例子，它可能有助于普通计算机用户更加熟悉LLM。

我应该注意到，这些与ChatRTX兼容的LLM实际上都不需要ChatRTX。ChatRTX的好处是，它不需要任何专业知识，可以让你在没有太多跑腿的情况下训练一个个性化的本地聊天机器人。虽然我希望ChatRTX成长为一个真正的产品，但它不需要这样做，因为它将激励开发人员构建更好的人工智能应用程序。

您可以从NVIDIA网站免费安装ChatRTXtoday。然而，ChatRTX需要具有至少8GB VRAM的RTX 30或40系列GPU（是的，一些笔记本电脑符合这些规格）。您还需要足够的耐心来等待30GB的下载——ChatRTX是一个相对较大的应用程序。

来源：NVIDIA