AIGC前途无量 开学返校GeForce RTX笔记本电脑选购推荐

RTX 40笔记本：强劲AI算力助力学习效率起飞

在当下，GeForce RTX 40系列GPU在保持着强劲游戏性能的同时，还逐渐成为了创作者的法宝，其中AI就是工作效率的倍增器。

GeForce RTX 40系列GPU支持全球最先进的AI平台——NVIDIA AI。NVIDIA AI支持人工智能超级计算机、 AI 平台软件以及 AI 模型和服务等等，为每个用户带来前沿进步，让用户可以在任何地方与AI平台互动，实现AI自由。

最近生成式人工智能AI 方面的突破为用户带来了全新水平的多功能性和洞察力，学生们可通过NVIDIA AI加速更快完成功课，减少等待，从而将更多的时间投入到学习当中。

不仅如此，近日NVIDIA还推出了最新的NVIDIA RTX AI PC 信息定制聊天机器人——Chat With RTX，该技术可以让任何拥有GeForce RTX 30 系列或更高版本GPU（至少 8GB显存）的用户都能享受到强大的个人定制化的GPT聊天机器人。

Chat with RTX借助检索增强生成（RAG）、NVIDIA TensorRT-LLM软件及NVIDIA RTX加速技术，将生成式AI功能引入由GeForce赋能的本地Windows PC，让用户可以快速轻松地将桌面端上的资料当成数据集，连接到Mistral或Llama 2这一类开源大语言模型，以便快速查询与上下文有关的内容。Chat With RTX的使用十分方便，用户只要输入查询内容即可，无需搜寻笔记或储存的内容。

Chat with RTX工具支持包括.txt、.pdf、.doc/.docx和.xml在内的多种文件格式。将应用程序指向含有这些资料的文件夹，Chat with RTX 工具在几秒钟内就能将它们载入到资料库中。

另外，用户还能加入YouTube视频和播放列表里的信息。在Chat with RTX里加入视频网址，用户便能将这些知识与聊天机器人进行整合，进行上下文查询。

Chat with RTX可以在Windows RTX PC和工作站上以本地部署的方式运行，再加上用户的数据还是保留在本地设备装置上，因此能够快速提供查询结果。与依赖云端环境的LLM服务不同的是，Chat with RTX让用户能够在PC桌面端处理敏感资料，无需分享给第三方或是连接到网络。

除了Chat With RTX之外，NVIDIA还于近日携手Google在所有NVIDIA AI平台上发布了面向Gemma的优化功能。Gemma是Google最先进的新型轻量级2B和7B开放语言模型，可在任何地方运行，可降低成本并加快特定领域用户案例的创新工作。

NVIDIA和Google的团队紧密合作，利用NVIDIA TensorRT-LLM (用于优化大语言模型推理性能的开源库)，在数据中心的NVIDIA GPU、云计算和搭载NVIDIA RTX GPU的PC上运行时，加速Gemma性能。

需要提及的是，NVIDIA Chat with RTX技术演示版也即将支持Gemma，该Demo使用检索增强生成(RAG)和TensorRT-LLM软件，为用户提供在本地Windows RTX PC上的生成式AI功能。借助Chat with RTX，用户可将PC上的本地文件轻松连接到大语言模型，利用自己的数据打造个性化聊天机器人。