文本半导体行业是否消耗过多的功率?有人认为这是真的,并且相信减少能耗的有效性已经很明显。该行业越来越关注人工智能的能源消耗问题,但是对于这个问题来说,没有简单的解决方案。这需要更深入地了解应用程序级别,半导体和系统的软件和硬件体系结构,以及如何设计和实施。每个链接都会影响能源消耗和总效用。这是最后需要测量的东西。首先,我们需要解决电力的实用性。电力会浪费吗? ANSYS产品营销总监Marc Swinnen说:“我们将电力用于有价值的东西。” “这不是徒劳的。这是一种工业电力应用,只有另一个行业,例如钢铁和铜。”在许多情况下,可以为WI补偿这种共识UMO大量节省。 Microchip产品高级营销经理Diptesh Nandi说:“农民使用人工智能为农业运营自动拖拉机。” “他们在喷洒农药和肥料时使用AI来推断。这节省了时间,以及它们使用的化学物质数量。使用AI可以节省电力,因为需要电力来生产这些化学物质。在今年的设计自动化会议上,一些学者使一些简单的改进来减少能源消耗。”分配。 “我们远没有实现所有优化目标。此外,对应用的需求越来越快,以至于与自然消耗的困难计算机科学相比。“如果您查看诸如Cocatiel之类的生物,并考虑您的大脑可以消耗20瓦的力量,您可以飞行,您可以飞行,” Arrigation of Computical Lawley周围的围绕CADADENTION CADENTICT of CADDECTION CADETICT of CADENTICE of CADENTICE of CADENCES VIVENTICE of CADETITS,可以使用。环境,进行3D计算,飞过森林。从这个角度来看,许多事情都是可能的。这是我们可以保持步伐多长时间的问题。许多所有者与数据中心的培训有关,但从长远来看,这可能是一个错误的问题。测试过程中计算机技术的根本变化,该模型执行了几个步骤,思想树和流动性工作的推理思维链接。每次咨询都会触发数十个推理操作,它们的能耗可与训练强度相媲美。这可能会迫使设计团队节省更多的力量。 “ Edge AI消耗了更多的功率,但取决于电池的功率。它在我们的日常生活中分布更多。相对,说话,与能耗相比,可以注入这些电池的能量量微不足道数据中心本身以及用户需要最长的电池寿命。 DWE不应考虑将生产能量运输到需求,而应考虑创造当地能源。小反应堆的年龄在这里。 “还有其他没有碳的排放可以产生必要的电力。”优点是数据中心是电动的,“我们可以在一个地方建造的东西”,Ansys的Swinnen补充说。 “想想撒哈拉沙漠。有很多土地和阳光,您可以建造一个太阳能农场。AI的吸引力是,您可以简单地将光纤电缆放在那里,并且可以在没有太多基础设施的情况下输入和生成所有数据。没有端口。需要道路。“这解决了数据中心的问题,但是还应考虑边缘计算。“ LLM运行时,执行设备的设备AI仍然是一种巨大的能量过程,”正常计算机科学的高级工程师Maxim Khomiakov说。“有效控制模型的有效控制是一个巨大的挑战。蛮力解决方案是非常能源的咨询。已知的技术是同时生成许多有用轨迹的输出和子集轨迹。自治正在发展。 “ Edge使用的客户的主要需求是减少延迟。需要大量时间和功率将数据发送到数据中心并获得答案。它是在将数据发送到数据中心之前执行一些边缘计算。例如,75%的工作负载检测并跟踪板的位置。通过将数据传递给云和识别的范围,可以将数据发送到云中,并且可以将识别范围置于范围内。在这些大语言模型中。 “目前的目标是创建一个更大,更统一的模型。” Synopsys Schirrmeister说,您可以优化的第一件事是模型本身。这些模型可能会限制以使其更适合应用程序。在所有消耗能量的模型中执行的应用程序都更加优化,不再仅限于概括。 “这可能会使事情朝着不同的方向发展。”除了硅晶圆行业已经采用了多个领域,观察激活和能量激活以节省能源,也可以应用类似于AI系统的概念。通过实时预测所需的模块,并动态激活所需的组件(类似于工作量的预测),可以通过在LevelSystem的级别的智能能源管理来实现大量节能。 Expedera软件工程总监Premivendran说:“一些优化需要Codiseño。”这些改进可以释放硬件的潜在效率,但是如果需要在硬件之间进行潜在的调整,这些改进可以实现潜在的硬件效率。即使已经具有高效的加速器,硬件也可以实现重要的好处。 “有些人朝两个方向移动。首先,减少规模。当前使用INT8,INT4,有时甚至INT1,但是INT1可以降低存储空间,带宽和计算。即使使用FP16和FP8,您也可以看到,在使用8位或16位的非线性模型时,您可以看到浮点可以获得更好的结果。”首先是设计足以执行IA工作负载的体系结构。第二个是提高现有体系结构的效率。 “您创造了更短的时间。它确实与制造时间表兼容。”减少能源消耗似乎很简单,最大程度地减少了p =fcv²的术语,这是能源消耗,性能和面积之间的固有补偿(PPA(PPA)这使它变得复杂。”这些复杂性在AI芯片的数学特征中呈指数增长,因为有缺陷的能量的消耗难以测量和优化。因此,必须在每个设计抽象的每个级别上进行由准确分析的有效优化,并且在每个级别的设计抽象级别上进行,并最大程度地降低了50%的级别,以达到50%的级别。升至50%的级别。升至20%。步骤,了解工作量很重要,”概述的研究人员戈德温·马本(Godwin Maben)说,“能源消耗主要取决于动态消耗,这主要取决于向量。”消耗量主要取决于数据流动,主要取决于从计算到记忆到记忆到内存,然后再进行记忆的消耗,这对于能源效率的层次结构和架构造成的层次结构都很重要,例如,在架构上是重要的。可扩展e同一计算机单元的实例反复执行数千次,一个单元的优化大大减少了能源的总体消耗。 “在所有讨论中,数据流动是能源消耗的最重要问题。” AI的工作负载意味着在计算机单元,内存和加速器之间传输大量数据。未来的互连设计将成为扭转AI消耗的最重要杠杆。劳里说:“法律是唯一将在整个人工智能领域扩展的常数。”这个parit并没有改变您。量化发生了变化,激活功能已经改变,带宽已经改变,并且人们放置不同层的方式改变了。但是,矩阵中的乘法功能尚未更改。我们已经确认有一个非常健壮的矩阵乘法解决方案,同时,还有一个更高的程序员可以在激活功能中工作和其他方面。 “最重要的建筑变化仍在继续。” Schirrmeister说,关于记忆计算机科学的讨论尚未结束。不必移动数据以进行计算。这些是未充分利用的领域。其他人正在认真考虑对神经形态的计算。我们不认为我们被冯·诺伊曼(Von Neumann)强迫。只是有太多的继承问题取决于它。我们可以使用其他方法,尤其是在AI加速的情况下?当然。在市场上有很多方法可以做到这一点。有什么办法继续这样做吗?为了满足这些特定的需求,例如减少能源和能源消耗是要做的事情。劳利说:“要处理大脑的工作原理,应考虑模拟技术。”劳利说:“我们有一个非常有趣的模拟创业公司。”对于模拟加速器良好并且消耗非常低功率的区域,它确实非常好。但是在男人y案例,他们必须返回数字技术。仿真技术是一个复杂的制造过程。为了达到所需的控制水平,您必须确保与线路连接的所有电流,电阻和电容器都是正确的。这是一个更难解决的问题。也许将来将解决这一问题,但是公司已经努力解决这个问题。 “ EDA EDA的作用有助于减少AI的能源消耗方式。首先是提供您制定决策所需的信息。第二是提供有效的实施和优化的工具。Exapera的Theivendran状态”,EDA的状态通过将过去的猜想转换为数据和数据组织的数据设计,来参加AI架构。不同的AI工作负载(训练,推理或这些新的试验时间计算机模式)具有不同的能量和热特性。 EDA工具应根据实际工作来帮助分析和优化这些系统中的交互系统的负载特征。 “硬件体系结构的快速迭代将允许更多的选择。”自动化必须支持拓扑和设计的快速迭代,并模拟电气绩效补偿。基于AI的设计空间探索提供了最佳的分区,电缆和资源设计也很有用。已经是桌子了。 “但是,这与其他行业的增长没有什么不同。我们登录的登录方式有什么关系?理解您的决定的含义?
特殊声明:先前的内容(包括照片和视频(如果有),如有)已由网络自我媒体平台的用户收费和发布。该平台仅提供信息存储服务。
注意:Netetesha的用户已经收取和发布了先前的内容(包括照片或视频,包括视频)O,一个社交网络平台。我们提供信息存储服务。
AI不仅消耗数据中心,而且消耗能源