摘要：，，关于纯CPU运行大模型的话题备受关注。在linux系统下，Deepseek-R1 70b Q4模型的部署也成为技术爱好者们热议的焦点。这款模型在纯娱乐环境下也有着广泛的应用前景。，，Deepseek-R1 70b Q4是一款高性能的大模型，在纯CPU环境下运行需要一定的计算资源。在linux系统的支持下，该模型能够稳定运行并展现出强大的性能。对于技术爱好者而言，这一模型的部署过程也是一大挑战和乐趣。，，在纯娱乐场景下，Deepseek-R1 70b Q4模型也有着广泛的应用。它可以用于智能语音助手、智能游戏等场景，提供更加智能的娱乐体验。该模型还可以应用于语音识别、图像识别等领域，为娱乐场景带来更多的可能性。，，纯CPU运行大模型是一个值得探索的领域。Deepseek-R1 70b Q4模型的部署和应用，不仅为技术爱好者带来了挑战和乐趣，也为纯娱乐场景带来了更多的智能化和便捷性。随着技术的不断发展，我们有理由相信这一领域将会有更加广阔的应用前景。

最近在自己服务器上部署了下deepseek-r1 70b q4大模型，不过我肯定是没显卡，就用纯cpu来跑，顺便写个简单的教程。https://post.smzdm.com/p/ae548m0z/

先科普下上面的名词，deepseek-r1是模型参数，最近火爆的deepseek就是这个模型（以及迭代）；70b指的是参数。b代表亿，说明这个是70亿的参数，参数越大，需要消耗越多算力（还需要更多的存储空间、内存容量）但也更智能；q4指的是量化，有q8 fp16等等，是指的量化，q8也要比q4消耗更多资源同时也更准确。https://post.smzdm.com/p/ae548m0z/

那我这里就直接使用ollama部署了，什么，为什么要使用这个，因为简单，不用动脑子。https://post.smzdm.com/p/ae548m0z/

一、准备系统

为了性能最大化，建议是直接裸机部署，不过我这里就是在用的lxc部署的，记得系统选择debian这种，如果是alpine就不行，因为不兼容libc，嗯我一开始就是用alpine，下载了半天才发现装不上.....为什么不用windows？因为windows系统本身就要比linux吃性能。https://post.smzdm.com/p/ae548m0z/

当然也可以选择docker，不过我这是proxmox，不好直接用docker，一般家庭服务器也不太会直接裸机用docker，都是在虚拟机里面，相当于做了次套娃，而跑ai本来就吃性能，所以能裸机部署就裸机部署。https://post.smzdm.com/p/ae548m0z/

二、部署ollama&运行模型

这个其实没啥好说的，直接输入以下命令，运行就完事了：https://post.smzdm.com/p/ae548m0z/

curl -fsSL https://post.smzdm.com/p/ae548m0z/