Железо для ИИ | AI, Hardware, GPU, Cerebras | Podlodka Podcast #461

विवरण

Этот выпуск – луч надежды для отчаявшихся геймеров, смирившихся, что все видеокарты сметут ИИ-корпорации. Говорим про чипы, на которых обучение и инференс работают кратно быстрее, чем на GPU. В чем секрет, и чего ожидать в будущем – обсуждаем с Зигфридом Звездиным из Cerebras! Полезные ссылки: — Telegram-канал гостя https://t.me/zzigfrid — Telegram гостя https://t.me/ziggerzz — LinkedIn гостя https://www.linkedin.com/in/zigfrid/ ❓ Хочешь обсудить выпуск или задать вопрос эксперту? Вступай в наш Telegram-чат: https://t.me/podlodka 📰 Не любишь чаты, но хочешь оставаться в курсе дел и прокачивать свой IT кругозор? Подписывайся на наш Telegram-канал: там публикуются анонсы новых выпусков, а в комментах идут ценные и горячие обсуждения! 7 тысяч опытных IT-специалистов уже с нами: https://t.me/podlodkanews 👉Предложить себя в подкаст https://a37921.webask.io/211d3eec0 Тайм-коды: 00:00 О чём выпуск? 05:14 Какие ограничения есть в индустрии? 12:03 Ограничения текущих GPU 21:27 Преимущества новых чипов 24:01 Зависимость компьютера и памяти 26:18 Технологии интерконнекта 28:22 Метрики для сравнения производительности 35:05 Энергопотребление и экономика 43:06 Скорость инференса и параллельные запросы 49:29 Обзор чипов 52:20 Будущее GPU 59:04 Проблема нехватки чипов 01:04:01 Как производятся чипы? 01:05:27 Выбор чипов для домашних серверов 01:07:08 Какие модели оказания услуг бывают? 01:12:02 Преимущества и недостатки архитектуры 01:14:03 Заключение