Vitis™ AI 是一款赛灵思开发套件,用于在赛灵思®硬件平台上进行 AI 推理。机器学习中的推理是计算密集型的,需要高内存带宽来满足各种应用程序的低延迟和高吞吐量要求。Vitis AI 优化器提供了优化神经网络模型的能力。目前,葡萄AI 优化器仅包含一个称为修剪器的工具。Vitis AI 修剪器修剪冗余神经网络中的内核,从而降低了推理的总体计算成本。这然后,Vitis AI 修剪器生成的修剪模型由 Vitis AI 量化器进行量化,并且部署到赛灵思 FPGA、SoC 或 ACAP 器件。有关 Vitis AI 量化器的更多信息和部署,请参阅 Vitis AI 用户指南 (UG1414)。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉