Apple обучает собственный ИИ на кастомных чипах Google, а не Nvidia

Apple использовала тензорные процессоры (TPU) Google вместо широко используемых графических процессоров (GPU) Nvidia для создания двух критически важных компонентов Apple Intelligence. Это следует из пояснительной записки Apple, в которой указывается конфигурация вычислительных кластеров, использованных компания для обучения своих больших языковых моделей.

Прямо Apple не упоминает разработчика процессоров, которые использовала для обучения своей языковой модели Apple Foundation Model, но в тексте записки фигурирует формулировка «облачные кластеры на основе TPU». Так сокращённо называет свои тензорные процессоры именно Google. Помимо прочего, это откровение Apple говорит об использовании компанией арендованных у Google облачных вычислительных ресурсов. Для стадии становления систем искусственного интеллекта Apple это вполне оправданный подход.

Большая языковая модель, предназначенная для устройств Apple, обучалась на кластере из 2048 процессоров Google серии v5p, а серверная часть модели — на кластере с 8192 процессорами v4. Google сдает такие кластеры в аренду по $2 за час с каждого процессора при бронировании на три года вперёд.

Google впервые представила свои TPU в 2015 году для внутренних рабочих нагрузок и сделала их доступными для публики в 2017 году. Сейчас они являются одними из самых зрелых специализированных чипов, разработанных для искусственного интеллекта.

Тем не менее, Google является одним из крупнейших клиентов Nvidia. Он использует графические процессоры Nvidia и собственные TPU для обучения систем ИИ, а также продает доступ к технологиям Nvidia в своём облаке.

Графические процессоры (GPU) компании Nvidia доминируют на рынке высокопроизводительных чипов для обучения искусственного интеллекта. Однако в последние пару лет спрос на них настолько вырос, что их стало трудно закупать в необходимых количествах. OpenAI, Microsoft и Anthropic используют графические процессоры Nvidia для своих моделей, в то время как другие технологические компании, включая Google, Meta, Oracle и Tesla, скупают их для создания своих систем и предложений на основе искусственного интеллекта.