
Groq создает LPUs — специализированные процессоры для ускоренной работы ИИ-моделей, отличающиеся от привычных решений Nvidia. Продукты компании доступны как в виде облачных сервисов, так и как серверные кластеры на месте у клиента. Они поддерживают популярные ИИ-модели от Google, OpenAI и других и обеспечивают высокую производительность при меньших затратах. Основатель Groq Джонатан Росс ранее работал над чипами Google TPU для машинного обучения.
По данным компании, её технологии используют более 2 миллионов разработчиков, тогда как год назад было 356 тысяч.