Стартап Fastino придумал обучать ИИ на дешёвых видеокартах

Компания разрабатывает компактные ИИ-модели, которые работают на недорогих игровых видеокартах (GPU), а не на дорогостоящих серверных кластерах, как у крупных игроков рынка. Fastino создаёт модели, оптимизированные для конкретных задач, таких как удаление конфиденциальных данных или резюмирование документов. По словам генерального директора Эша Льюиса, их решения быстрее, точнее и дешевле в обучении, чем крупные языковые модели (LLM), которые требуют тысяч GPU. Например, модели Fastino могут выдавать ответ за миллисекунды, используя всего один токен — единицу обработки данных в ИИ.

Подход компании привлекает корпоративных клиентов, хотя имена первых пользователей пока не раскрываются. Fastino планирует расширить команду, нанимая исследователей с «нестандартным подходом к созданию ИИ».