起源：华尔街见闻 　　剖析以为，假如亚马逊可能将客户付出转移到其自研的效劳器芯片上，因为这些芯片局部由于耗电量远低于英伟达芯片而对云客户愈加廉价，这将晋升亚马逊的利润率。别的，这也能禁止英伟达经由过程直接向企业出租其芯片效劳器，抢占更多云市场份额。 　　与其余云效劳供给商一样，亚马逊租用给开辟者跟企业的效劳器重要实用的是英伟达AI芯片。但是媒体报道，亚马逊现在正试图压服这些客户转而应用由亚马逊自研AI芯片驱动的效劳器。 　　The Information报道，亚马逊芯片部分Annapurna的营业开辟担任人Gadi Hutt表现，包含苹果、Databricks、Adobe跟Anthropic在内的一些盼望找到英伟达芯片替换计划的科技公司，曾经在测试亚马逊最新的AI芯片，并获得了令人鼓励的成果。 　　Hutt在亚马逊AWS年度客户年夜会表现：“客岁，人们开端认识到，‘嘿，亚马逊在AI芯片上的投资是当真的。’本周，更多人信任这是一个实在且连续的投入。” 　　剖析以为，假如亚马逊可能将客户付出转移到其自研的效劳器芯片上，因为这些芯片局部由于耗电量远低于英伟达芯片而对云客户愈加廉价，这将晋升亚马逊的利润率。别的，这也能禁止英伟达经由过程直接向企业出租其芯片效劳器，抢占更多云市场份额。 　　英伟达在AI芯片范畴的主导位置始终难以撼动，这局部归因于其芯片比包含亚马逊、微软跟谷歌在内的竞争敌手出产的芯片更强盛，同时，软件开辟者习气于应用英伟达专有的Cuda编程言语为其芯片编写软件。 　　只管如斯，Hutt跟其余亚马逊高管本周表现，年夜客户正在追求更廉价的替换计划。AWS CEO Matt Garman表现，应用亚马逊的AI芯片本钱比英伟达的旗舰H100芯片低30%到40%，但能实现等同机能。 　　现在，亚马逊曾经在开辟传统效劳器芯片方面树立了必定的影响力，并胜利压服客户租用这些芯片。比年来，AWS客户越来越多地应用亚马逊的Graviton效劳器芯片，而不是由英特尔跟AMD供给芯片的效劳器，由于Graviton平日性价比更高。 　　比方，企业软件公司Databricks曾经成为Graviton的主要客户，其高管Naveen Rao表现，打算应用亚马逊的新AI芯片以下降运转软件的本钱。 　　亚马逊开辟芯片（包含AI芯片Trainium）的举动是其更普遍策略的一局部，这一策略旨在将盘算的“基础构件”——从效劳器到云软件——改变为便宜的通用商品。相似地，亚马逊CEO Andy Jassy本周发布了一款由亚马逊打造的新对话式AI模子，他表现，其机能与Anthropic跟OpenAI的最新模子相称，但价钱却低了三倍以上。 　　Hutt还谈到了公司的新Trainium芯片，以及AWS正在为Anthropic制作的一套超等盘算效劳器集群。Anthropic是OpenAI的竞争敌手，也是AWS比年来营收增加的主要奉献者之一，现在是AWS上最多应用英伟达效劳器的客户之一。 　　以下是媒体采访Gadi Hutt的对话节选： 　　1． 应用Trainium2（亚马逊芯片的最新版本），为什么你们要专一于把这款芯片卖给那些在英伟达芯片上破费宏大的公司？ 　　Hutt：那些存眷呆板进修本钱的客户，平日是破费较年夜的客户，包含苹果、Adobe、Databricks等，另有一些资金富余的始创公司，比方Poolside跟Anthropic。 　　对他们来说，要害指标是“每1美元能取得几多机能”。另有很多其余客户，咱们称之为“临时客户”，他们有种种名目十分合适咱们的芯片。但兴许他们每月的破费只有1000美元，这种情形下不值得工程师投入时光去摸索这种选项。 　　现实上，在Trainium2性命周期的这个阶段，我并不追求吸引上百万个客户。就呆板进修而言，咱们还处于十分晚期的阶段。人们还在实验霸占通用人工智能（AGI）跟种种百般的主意，这个范畴还在一直演化。 　　咱们不克不及从第一天起就支撑全部的用例。假如客户实验运转一些无奈畸形任务的货色，这会是一种十分蹩脚的休会。因而，咱们专一于听取最年夜客户的需要，“嘿，这是咱们须要的”，而这每每是对全部市场将来需要的一个很好的猜测。 　　2． Trainium2在来岁的目的是什么？ 　　Hutt：当咱们安排大批芯片时，咱们的目的是确保它们被充足应用。以是咱们起首须要与这些年夜客户配合，而后再扩大到我所说的“临时客户”。对咱们这些制作芯片的人来说，胜利的权衡尺度是确保全部芯片都被充足应用。不论是10个客户仍是1000个客户，数目是主要的。 　　这是场马拉松，而不是长跑。跟着时光的推移，咱们盼望看到越来越多的客户。我不会在外部制订目的，划定要启用几多客户。咱们更存眷的是确保为客户供给适合的东西跟机能，采取率天然会随之进步。 　　3． 为什么第一代Trainium芯片不胜利推广？第二代有什么差别？ 　　Hutt：起首，这是咱们的第一款练习芯片。你能够看看Trainium1（2022年宣布）与Graviton1（2019年宣布）的对照，同样的故事。Graviton1现实上是为了启用全部生态体系，包含软件生态体系，并确保咱们为客户构建了准确的产物。 　　Trainium1的客户（包含亚马逊外部的团队）辅助咱们强化了软件，但任务仍未实现。在支撑更多任务负载方面，咱们另有良多任务要做。不外，当初咱们能够说，咱们对Trainium2可能支撑的任务负载觉得十分满足，包含年夜型言语模子（LLM）、专家模子、多模态模子以及盘算机视觉模子。 　　这须要时光，并且很庞杂。假如很轻易，更多人早就做到了。 　　3． AWS的客户能否在斟酌来岁抉择租用Trainium2仍是英伟达的Blackwell芯片？ 　　Hutt：客户爱好有抉择的余地。咱们的任务是确保咱们的芯片即便与英伟达的最新芯片比拟，也仍然存在吸引力，现在确切如斯。 　　趁便说一句，咱们还不见到72芯片的Blackwell体系投入应用，但假设英伟达可能交付，Trainium2仍然会更具本钱效益。 　　Trainium3（估计2025岁尾宣布）的盘算才能是Trainium2的四倍，因而客户懂得咱们的发汗道路图。他们有信念以为，这是一个值得投资的偏向，不然他们不会抉择它。 　　4． 你以为英伟达GPU的需要能否会产生变更？ 　　Hutt：有良多客户想应用英伟达芯片，不肯懂得Trainium芯片。假如你是小型GPU花费者，每次稳固应用10、20、30乃至100个GPU，不能源去转变近况。即便每月能省下多少千美元，你可能也更乐意让工程师去做其余事件。 　　当客户关怀本钱成绩时，平日是在他们开端扩展范围时，但年夜范围的客户并未几。以是对咱们来说，这些芯片是临时投资，以确保咱们为客户供给抉择。假如客户抉择应用它们很好，但假如不抉择，咱们仍然是运转GPU的最佳平台。 　　咱们的软件成熟度会跟着时光的推移而进步，盼望届时会有更多客户抉择应用Trainium。但GPU对咱们来说也是一项好营业，咱们在卖良多。以是，假如客户盼望咱们为他们供给GPU，咱们会永久这么做。 　　5． 应用Trainium芯片能否会进步AWS的利润率？ 　　Hutt：咱们不会表露利润率的详细情形，但咱们在这些芯片上并不盈余。营业必需有存在的意思，不然咱们不会在这里投资。 　　6． 客户何时开端对Trainium2感兴致？ 　　Hutt：我记得与Poolside（一家AI编码助手始创公司）的第一次集会。当咱们向他们展现Trainium2的规格时，他们说，“好吧，这恰是咱们须要的。” 　　7． Anthropic的超等盘算机集群名目Rainier的耗电量是几多？ 　　Hutt：咱们不表露详细数据。但我能够告知你，它比等效的GPU效力高50%。 　　8． 超等盘算机何时能在Anthropic投入应用？ 　　Hutt：Rainier名目很快就会实现，咱们曾经在制作中。他们能够逐渐开端应用局部集群，而不须要比及最后一颗芯片上线后再应用。跟着集群扩大，他们能够逐渐增添应用量。 　　9． Anthropic能否是独一能够应用Rainier名目的公司？ 　　Hutt：是的，仅供Anthropic应用。 　　咱们正在建立更多的产能，以满意其余客户应用Trainium的需要。现在，短期内需要年夜于供给。以是第一季度将十分缓和，跟着产能增添，情形会有所改良。 　　危险提醒及免责条目 　　市场有危险，投资需谨严。本文不形成团体投资倡议，也未斟酌到一般用户特别的投资目的、财政状态或须要。用户招考虑本文中的任何看法、观念或论断能否合乎其特定状态。据此投资，义务自信。