Amazon останавливает разработку чипов вывода AI Conferenteria, чтобы сосредоточиться на тренировочных чипах для обучения на линии.
С момента объявления о своем входе на рынок AI Chips в 2018 году, Amazon AWS разработал Conferentia Chips для вывода и чипсов для обучения моделей обучения ИИ.
Рахул Кулкарни, директор Compute At Amazon AWS, заявил: «Две линии продуктов сходится.Мы сосредоточимся на Tradium для выполнения как вывода, так и для обучения ».
Sonferentia была разработана для выполнения меньших вычислений за более низкие затраты.Однако, поскольку генеративный ИИ продолжает развиваться, как обучение, так и вывод все чаще требуют большей вычислительной способности.Преимущества использования отдельных чипов для этих задач уменьшаются.
Tradium, напротив, предлагает большую емкость памяти и поддерживает более широкий спектр форматов данных.Он также включает механизмы для быстрой вычисления и связи при обработке массовых наборов данных на нескольких серверах.
На своей ежегодной технической конференции в Лас -Вегасе Amazon объявила о запуске чипа Trainium2.Компания также выявила планы по выпуску чипа Trainium3 во второй половине 2025 года. Trainium3 будет изготовлен с использованием расширенного 3 -нм процесса, причем вычислительные характеристики, как ожидается, удвоят производительность Trainium2.
Amazon стремится оспорить доминирование NVIDIA на рынке AI Chips, где NVIDIA в настоящее время владеет примерно 90% мировой доли.Amazon активно продвигает Trainium2 для облачных клиентов, подчеркивая его более низкие эксплуатационные расходы по сравнению с продуктами NVIDIA.
Apple объявила, что будет использовать чипы Trainium2 для разработки ИИ.Кроме того, американский AI Startup Antropic, который получил инвестиции в Amazon в размере 8 миллиардов долларов, приобретает сотни тысяч чипов Trainium2, чтобы помочь в разработке своих моделей Generative AI.