Login / Register
人工智能和机器学习需要高性能存储系列, part three: Execute
Hi again! In this edition of my Artificial Intelligence series, I wanted to look at the third, and final, AI实现的主要阶段:执行(参见下图中的整体AI过程). As you may recall, in my previous two blogs, 我回顾了人工智能过程的摄取和转换以及训练阶段. As we saw, 在这两个阶段中，通过以ssd和内存的形式集成闪存会对整体性能产生非常大的影响.
In the ingest/transform phase, 你就能越快地从无数来源获得原始数据，并将其转换为适合你建模的可用标准化格式, the faster you will move to the train phase. 而训练阶段非常以CPU为中心，更具体地说是以GPU为中心, 我们证明了在解决方案中添加闪存和内存会产生很大的影响. For more details, read my colleague Wes Vaske’s blog on the effect of memory and storage on AI.
AI过程的执行阶段是真正开始的阶段. This phase is where you realize the useful benefits of AI. In the execution phase, 我们经过训练和改进的人工智能模型必须部署-通常部署到各种目标边缘设备(相机), sensors, etc.)——用来做决定，在人工智能领域也被称为“推理”.在很多情况下，当你进行推理时，你还需要不断地评估自己的准确性. 这种趋势或反馈分析通常不会在边缘或物联网设备上进行, 而是作为分析过程的一部分，使用设备捕获的数据和推理结果.
使用场景的广度实际上是无限的，并且通常跨越主要关注实时分析和决策制定的用例, 或者需要实时决策和后实时分析的场景. 根据用例的不同，将会有不同的内存和存储的比例或依赖. Below I present a pair of illustrative real-world use cases.
Real-Time Analysis
一个我们可能都很熟悉的用例:使用我们的手机摄像头来识别本地企业, 或者用我们的手机摄像头作为尺寸测量设备(回答“我的沙发有多长”这个问题)?” for example). 根据您使用的手机，该推断完全在本地设备上执行. In these examples, 一旦完成推理，你的手机就不需要保留信息了. This scenario is purely real-time. 这个用例更多地依赖于内存而不是存储，因为智能手机处理相机数据. 在这个用例中，不需要任何长期甚至中期的存储. 一旦推理完成，数据——图像——就不再需要了.
在这些小型远程/移动设备上执行推理时，提供高性能和低功耗良好平衡的内存是重点. Micron offers low-power DRAM solutions 适合移动、汽车和定制边缘设备的各种形状因素.
Real-time Analysis with Post-Inference Analytics
在许多业务环境中，必须不断重新分析推理过程，以确保人工智能推理引擎满足期望——这是一个不断改进流程的反馈循环. In these use cases, flash plays a very important role. 您执行此分析的速度越快，您就能越快地改进实时推断. Also, 所需的存储量及其位置将取决于几个因素, whether short-term, on-device retention to long-term, off-device big data repositories. 最后，数据保留时间也会影响您对部署的存储解决方案的决策.
可能需要设备上的存储——就像在许多汽车用例中一样——以满足监管要求. 而自动驾驶汽车正在进行大量的实时推理, 他们还需要保留来自各种传感器(摄像头)的所有数据, engine performance data, etc.) for a specific amount of time so that agencies such as the U.S. NHTSA can use it to analyze a crash. In fact, by 2020, 一辆典型的汽车预计将包含超过3亿行代码和超过1tb (TB)的存储空间!
沙巴体育安卓版下载这些和其他美光沙巴体育结算平台，以及它们如何帮助你在下一个AI/ML项目中取得成功.\n
Stay up to date by connecting with us on Linkedin.
\n"}}' id="text-a5ed473246">In other cases, 设备上的存储容量只需要支持将数据传输到更大的大数据存储库，以进行广泛的后处理分析. This is something those of us here at Micron are keenly familiar with. As we have discussed in the past, 美光使用晶圆分析过程(人工智能推理)的数据来执行持续的制造过程改进. 我们在去年的数据工作峰会上谈到了这一点，我们展示了存储不仅对后推理分析很重要, but the type of storage dramatically impacts analytics performance. In this case, 甚至在现有的hdd遗留大数据环境中添加单个高性能NVMe SSD也可以提供巨大的改进.
Micron Infrastructure Accelerates Intelligence
Micron offers SSDs suitable for a wide variety of application workloads as well as industrial grade microSD cards targeted at the network edge and IoT space.
请继续关注美光博客，了解我们对AI/ML工作负载使用存储和内存的持续评估的更多伟大结果.
Learn more at micron.沙巴体育安卓版下载这些和其他美光沙巴体育结算平台，以及它们如何帮助你在下一个AI/ML项目中取得成功.
Stay up to date by connecting with us on Linkedin.