AI PC这两年很火，从第一代发展到第二代，性能和体验都有了很大提升。我半年前换了一台AI PC二代的笔记本，这半年用下来，积累了不少经验。

这篇文章我想分享一下AI PC二代的最佳实践，从硬件选择、系统设置、软件使用，到性能优化，聊聊我总结的经验。如果你正在用或者准备买AI PC，希望能给你一些参考。

什么是AI PC二代

先简单说说什么是AI PC二代。

AI PC，简单来说就是带有专门AI加速硬件的个人电脑。它有一个独立的NPU（神经网络处理单元），专门用来跑AI模型，不需要依赖云端。

第一代AI PC，NPU的算力比较有限，一般只能跑一些小模型，比如7B以下的大模型，而且速度比较慢。主要的应用场景是一些轻量级的AI功能，比如语音降噪、背景模糊、人脸解锁等。

第二代AI PC，NPU的算力有了很大提升，一般能达到40 TOPS以上，有的甚至能到100 TOPS。能跑更大的模型，比如14B甚至30B的大模型，速度也快了很多。而且，第二代AI PC的内存带宽和容量也有提升，能更好地支持大模型运行。

AI PC二代的核心优势是，能在本地运行大模型，不需要联网，数据不会泄露，而且响应速度快，没有API调用费用。对于注重隐私和效率的用户来说，很有吸引力。

硬件选择的经验

如果你准备买AI PC二代，硬件选择很重要。

第一个是NPU的算力。NPU是AI PC的核心，算力越强，能跑的模型越大，速度越快。建议选择算力在40 TOPS以上的，最好是60 TOPS以上的。算力太低的话，跑大模型会很慢，体验不好。

第二个是内存。跑大模型很吃内存，模型本身就要占很多内存。建议至少32GB内存，如果预算允许，64GB更好。内存大了，能跑更大的模型，也能同时开更多的应用。

第三个是存储。大模型的文件都很大，一个14B的模型，量化后也要十几GB。建议至少1TB的SSD，如果有很多模型要存，2TB更好。而且，SSD的速度也很重要，模型加载的时候，SSD快的话，加载时间会短很多。

第四个是CPU和GPU。虽然AI主要靠NPU，但CPU和GPU也很重要。有些AI任务，还是需要CPU和GPU来处理的。建议选择最新一代的CPU，性能强，能效比高。GPU方面，集成显卡就够了，如果有独立显卡更好，有些框架可以用GPU来加速。

第五个是散热。跑大模型的时候，NPU和CPU都会发热，散热不好的话，会降频，影响性能。建议选择散热好的机型，或者用散热底座。

第六个是续航。AI PC的优势是便携，如果续航太差，就失去了意义。建议选择续航在8小时以上的机型，这样外出的时候不用带充电器。

系统设置的经验

硬件选好之后，系统设置也很重要。

第一个是，更新到最新的系统和驱动。AI PC的NPU驱动，更新很频繁，每次更新都会有性能提升和bug修复。要及时更新系统和NPU驱动，确保用的是最新的版本。

第二个是，开启NPU的硬件加速。有些系统默认没有开启NPU加速，需要手动开启。在系统设置里，找到AI相关的选项，把NPU加速打开。这样，应用才能调用NPU来跑AI任务。

第三个是，设置电源模式。跑AI任务的时候，对性能要求比较高。建议在插电的时候，用"最佳性能"模式；用电池的时候，用"平衡"模式。这样，既能保证性能，又能兼顾续航。

第四个是，管理后台应用。跑大模型的时候，需要大量的内存和CPU资源。如果后台开了很多没用的应用，会占用资源，影响AI的运行速度。建议在跑大模型之前，关掉不需要的后台应用。

第五个是，设置虚拟内存。虽然AI PC的内存一般都比较大，但跑大模型的时候，还是可能会用到虚拟内存。建议把虚拟内存设置得大一些，比如物理内存的1.5倍，放在速度快的SSD上。

模型选择的经验

AI PC的核心是跑大模型，模型的选择很重要。

第一个是，模型大小的选择。不是越大的模型越好，要根据你的NPU算力和内存来选择。一般来说，40 TOPS的NPU，跑7B的模型比较流畅，14B的模型也能跑，但速度会慢一些。60 TOPS以上的NPU，跑14B的模型比较流畅。

第二个是，量化方式的选择。大模型一般都要量化之后才能在本地跑。常见的量化方式有FP16、INT8、INT4。量化程度越高，模型越小，速度越快，但精度会有损失。一般来说，INT8是一个比较好的平衡点，速度和精度都不错。如果内存紧张，可以用INT4。

第三个是，模型类型的选择。不同的模型，擅长的领域不一样。比如，有的模型擅长写代码，有的模型擅长中文，有的模型擅长推理。要根据你的使用场景，选择合适的模型。不要什么都用一个模型。

第四个是，模型的来源。要从正规的渠道下载模型，比如Hugging Face、模型官网等。不要随便从网上下载来路不明的模型，可能有安全风险。

第五个是，模型的管理。下载的模型多了，管理起来很麻烦。建议用模型管理工具，比如Ollama、LM Studio等，能方便地下载、管理、切换模型。

软件使用的经验

有了硬件和模型，还需要好的软件来使用。

第一个是，本地大模型运行框架。常用的有Ollama、LM Studio、llama.cpp等。Ollama比较简单，命令行操作，适合开发者；LM Studio有图形界面，适合普通用户；llama.cpp比较底层，适合需要深度定制的用户。可以根据自己的需求选择。

第二个是，AI助手软件。如果不想自己折腾框架，可以用一些现成的AI助手软件，比如微软的Copilot+、英特尔的AI Boost等。这些软件集成了常用的AI功能，比如AI助手、图像生成、语音转录等，开箱即用。

第三个是，生产力工具的AI功能。现在很多生产力工具都加入了AI功能，比如Office的Copilot、Photoshop的生成式填充、浏览器的AI助手等。这些功能，在AI PC上能本地运行，速度快，还能保护隐私。要善于利用这些功能，提升工作效率。

第四个是，开发工具的AI功能。如果你是开发者，很多开发工具也有AI功能，比如代码补全、代码解释、bug修复等。在AI PC上，这些功能可以本地运行，不需要把代码传到云端，更安全。

性能优化的经验

AI PC的性能优化，能让你用得更顺畅。

第一个是，模型预热。第一次加载模型的时候，会比较慢，因为要把模型从硬盘读到内存，还要做一些初始化。可以在开机之后，先加载一次常用的模型，这样后面用的时候就快了。

第二个是，模型常驻内存。如果你经常用某个模型，可以把它常驻内存，不要用完就卸载。这样，下次用的时候，不需要重新加载，能节省很多时间。当然，这会占用内存，要根据你的内存大小来决定。

第三个是，批量处理。如果有很多AI任务要处理，可以批量处理，而不是一个一个来。批量处理能提高NPU的利用率，减少开销。

第四个是，任务调度。不同的AI任务，对硬件的需求不一样。有的适合用NPU，有的适合用CPU，有的适合用GPU。要合理调度，把任务分配给最合适的硬件。比如，大模型推理用NPU，图片处理用GPU，文本处理用CPU。

第五个是，关闭不必要的效果。系统的一些视觉效果，比如透明、动画，会占用一些资源。如果追求极致性能，可以关闭这些效果，把资源留给AI任务。

常见的使用场景

分享几个我常用的AI PC使用场景。

第一个是，本地AI助手。我用Ollama跑了一个14B的中文大模型，作为日常的AI助手。问问题、写文案、查资料，都用它。不需要联网，响应速度快，而且不用担心数据泄露。

第二个是，代码辅助。写代码的时候，用本地的代码模型做补全和解释。特别是一些敏感的项目代码，不方便传到云端，用本地模型就很安全。

第三个是，文档处理。有时候需要处理一些敏感的文档，比如合同、财务报表，不方便传到云端。用本地的AI模型来总结、翻译、分析，既方便又安全。

第四个是，图像生成。AI PC也能本地跑图像生成模型，比如Stable Diffusion。虽然速度不如云端的GPU，但生成一些简单的图片还是够用的，而且不需要付费。

第五个是，语音转录。开会的时候，用本地的语音识别模型，实时转录会议内容。不需要联网，也不用担心会议内容泄露。

常见的坑

用AI PC的过程中，我也踩了不少坑。

第一个坑是，对NPU的性能期望太高。虽然AI PC二代的NPU比一代强了很多，但和云端的大模型比，还是有差距的。不要指望本地模型能达到GPT-4的水平，本地模型适合做一些轻量级的、对隐私要求高的任务。

第二个坑是，软件兼容性不好。AI PC是新事物，很多软件还没有很好地适配NPU。有些软件只能用CPU跑，不能调用NPU，这样就浪费了AI PC的优势。买之前，要确认你常用的软件是否支持NPU加速。

第三个坑是，模型选择困难。现在的大模型太多了，哪个好哪个不好，很难判断。建议多试几个，找到最适合自己的。也可以看一些评测和对比，参考别人的经验。

第四个坑是，散热问题。跑大模型的时候，NPU发热很大，笔记本会很烫，风扇也会很响。如果长时间跑大模型，建议用散热底座，或者在空调房里用。

第五个坑是，续航下降。开了AI功能之后，续航会明显下降。特别是跑大模型的时候，耗电很快。如果要外出用，要注意省电，或者带充电器。

给准备入手的朋友的建议

如果你准备入手AI PC二代，我有几个建议。

第一，明确需求。先想清楚你要用AI PC做什么。如果只是日常办公、上网，AI PC的优势不明显，普通电脑就够了。如果你经常用AI功能，或者对隐私有要求，AI PC才值得买。

第二，看评测再买。AI PC的型号很多，性能和体验差别很大。买之前，多看一些评测，特别是NPU性能和实际AI体验的评测，不要只看参数。

第三，去实体店体验。有条件的话，去实体店实际体验一下，试试AI功能的速度和效果，看看是不是符合你的预期。

第四，不要买太早。AI PC发展很快，新一代的产品很快就会出来。如果不是很急，可以等一等，或者等老款降价了再买。

第五，做好学习准备。AI PC的使用，比普通电脑复杂一些，需要学习一些新的知识和技能。要有耐心，慢慢摸索，才能用好它。

写在最后

用了半年AI PC二代，整体体验还是不错的。虽然它还有一些不足，比如软件生态不够完善、本地模型能力有限，但它的优势也很明显：隐私安全、响应快速、没有API费用。

我相信，随着技术的发展，AI PC会越来越成熟，软件生态会越来越好，本地模型的能力也会越来越强。未来，AI PC可能会成为主流的电脑形态。

如果你对AI感兴趣，或者对隐私有要求，AI PC二代是一个值得考虑的选择。

最后用一句话来结束这篇文章："AI PC的意义，不是让电脑更复杂，而是让AI更贴近你，更安全、更自由。"

愿每一个人，都能用好AI这个工具，让工作和生活更高效。