为个人深度学习机器选择合适的配置_[#第一枪]

发布时间：2021-06-07 14:56:05 阅读：次来源：铝丝网厂家

AI科技评论按，对于那些一直想进行深度学习研究的同学来说，如何选择合适的配置一直是个比较纠结的问题，既要考虑到使用的场景，又要考虑到价格等各方面因素，日前，medium上的一篇文章为我们详细描述了该如何为个人的深度学习机器选择配置，主要该进行哪些方面的考虑。雷锋网 AI科技评论编译整理如下：

作为一名业余爱好者，在探索和解决深度学习问题时，亚马逊 EC2 实例的运行成本太高了。在一开始，我采用的是 Reserved 实例收费模式，因为我对云生态系统不是很懂。后来，在运行结构良好的实验时，Spot 实例也成了我的选择之一。但用这种方法去启动和执行实验往往会碰到问题，我主要会在为备份和恢复数据/进程设置环境时碰到问题。很感谢 Alex Ramos 和 Slav Ivanov 提供的 Classic 和 24X7 版本的 EC2 Spotter 工具，这在使用 spot 实例时很有用。(如果你仍然使用 Spot 实例的话可以试试他们的提供的工具)

在使用亚马逊 EC2 实例大约6个月后，我意识到，长远来看，还是买一个属于自己的机器会更加便宜。买机器之后，我可以更好地控制实验，并且可能会取得比在云端更好的效果。在互联网上进行详尽的调查之后，我下定决心买属于自己的机器，然后我开始研究如何为本地深度学习来选择组件。

如何选择深度学习的组件？这真的很困扰那些刚开始实验的新手。这要求用户拥有一些关于构建系统的基本知识，以保证较高的性价比。

这篇文章试图帮助刚开始进行深度学习的读者选择机器配置，在选择产品之前帮助他们了解更多参数。

开始

首先，你必须定下你最大需要多少块GPU，如果你经常进行机器学习研究，那你可能需要更多 GPU，这可以帮助你并行运行多个任务，你可以同时尝试不同的模型结构、数据规范化、超参数等等。

我的建议：如果你是一个普通研究员/学生/业余爱好者，可以考虑双 GPU。如果你打算运行大型的模型，并参加像 ImageNet 那样需要大量计算的竞赛，你可能需要考虑多 GPU 结构。

一旦你想清楚自己想要进行哪种研究，接下来就可以考虑需要的 PCIe 通道数了。

双 GPU（最多两块GPU）：24条 PCIe 通道（当使用共享 PCle 通道的 SSD 或同时使用两块 GPU 时，可能会出现延迟）

多 GPU (最多4 块 GPU): 40到44条 PCIe 通道

为什么首先考虑 PCIe 通道?

实际情况下，在对磁盘进行访问操作或数据增加时，数据流到GPU上会出现瓶颈。一块 GPU 需要16条 PCIe 通道才能满负荷运转。

这篇文章将着重为大家介绍双 GPU 系统，下次我也将带来多 GPU 系统的介绍。

双 GPU

1)主板

一旦确定了 PCIe 通道的需求，接下来就可以挑选主板芯片组了:

下表给出了在不同芯片组下可用 PCIe 通道的个数:

注：理想情况下，单个 GPU 发挥最优性能需要16个 PCIe 通道。

因此，即使 B150、B250、H110、H170、H270 这样的芯片组支持英特尔处理器，它们也很少用于深度学习，因为对于深度学习应用来说，需要更多的 PCIe 通道数。因此，首选芯片组如下：

Z170?—?支持第6/7代英特尔处理器。使用第7代可能需要BIOS更新。

Z270?—?支持第6/7代英特尔处理器。

(最新的) Z370?—?支持第8代英特尔处理器。

一旦你决定了芯片组，可以利用 PC Partpicker 来选择主板，下面是