Parakeet.cpp — пернатая скорость распознавания речи на чистом C++
Легкий, быстрый и аккуратный фреймворк для распознавания речи: Parakeet.cpp приносит модели NVIDIA Parakeet в мир C++ без Python и лишних зависимостей, с аппаратным ускорением Metal.
Metal
Как ИИ‑ядра Metal ускорили PyTorch на устройствах Apple на 87%
Команда исследователей проверила, смогут ли фронтир‑модели сами писать оптимизированные Metal‑ядра для PyTorch — и смогли: средний прирост 1.87× по 215 модулям, местами — сотни раз. Лучшие результаты даёт «рой» агентов с принципом Best‑of‑N и контекстом из CUDA‑кода и профилинга.