与OpenAI的死对头Anthropic合作,打造全球最强大的AI超级计算机;准备与苹果合作训练Apple Intelligence(苹果AI);明年底推出下一代更先进的3纳米训练芯片Trainium 3。此外,亚马逊还推出了新一代基础模型Amazon Nova。
联合Anthropic,打造人工智能超级计算机
这个云服务平台将用于一个雄心勃勃的计划——AI超级计算机。亚马逊在大会上宣布,将与Anthropic合作开发AI超级计算机UltraCluster,代号Rainer。
更强大的新一代芯片,挑战英伟达霸主地位?
Garman在Re:Invent大会上表示,Tranium 2将在专门用于训练前沿AI的Trn2 UltraServer集群中普遍可用。
Garman表示,亚马逊的目标是降低AI的成本。
今天,在GPU方面真的只有一个选择,那就是英伟达。我们认为客户会欣赏有多个选择。
希望Trainium能够开辟出一个良好的细分市场,我认为它将成为许多工作负载的极佳选择——不是所有工作负载。
会上,亚马逊还发布其下一代更先进的3纳米训练芯片Trainium 3,据称该芯片的性能将是现有芯片的四倍,定于2025年底向客户推出。
Moore Insight & Strategy首席执行官兼首席分析师Patrick Moorhead表示,Trainium 3的“数据相当惊人”,它的性能似乎因芯片间互连的改进而获得了显著提升。互连对于开发超大型AI模型至关重要,它们能够实现芯片之间的快速数据传输,AWS似乎已在其最新设计中对此进行了优化。
Moorehead还说,未来一段时间内英伟达可能仍是AI训练领域的霸主,但未来几年它将面临越来越激烈的竞争,亚马逊的创新“表明英伟达并不是训练领域唯一的玩家”。
与苹果的合作拉开新篇章?
据媒体此前报道,苹果正在考虑将Trainium 2芯片用于Apple Intelligence训练。Garman在会上表示,苹果是其客户之一,已经采用了一些AWS芯片,如Amazon GraViTon和Inferentia,为包括Siri在内的服务提供支持。
AWS能够跟上步伐,我们已经是超过十年的客户了。
Dupin表示,苹果正在对Trainium 2芯片进行初步测试,以帮助训练Apple Intelligence。
新一代生成式AI模型
大会上,亚马逊还推出了新一代的基础模型——Amazon Nova。
其中,Amazon Nova Micro、Lite和Pro支持200多种语言。Amazon Nova Micro支持128K输入token的上下文长度,而Amazon Nova Lite和Pro的上下文长度可达300K token,处理视频时长可达30分钟。
“Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro至少比Amazon Bedrock中各自智能类别中表现最好的模型便宜75%。”
此外,亚马逊还推出了两个全新模型——用于生成高质量图像的Amazon Nova Canvas和用于生成高质量视频的Amazon Nova Reel。
AI代理管理员、推理检查员……
比如,周三官宣的一款新云工具Bedrock Agents可用于创建和管理AI代理,这些代理可自动执行客户支持、订单处理和分析等有用任务。它包含了一个主代理,用于管理AI下属团队,提供有关其运作方式的报告并协助调整。
Garman说:
你基本上可以创建一个代理,让你成为所有其他代理的老板。