DUC meetup #1: приручаем Cilium и строим домашний LLM-кластер на Deckhouse

DUC meetup #1: приручаем Cilium и строим домашний LLM-кластер на Deckhouse

Даты проведения
Все даты прошли
Смотреть все даты
Цена

Описание

  1. Cilium: всё, о чём вы догадывались, но боялись спросить — Дмитрий Попков, Архитектор решений Deckhouse, Флант
    Что такое Container Network Interface и как Cilium реализует этот стандарт. Как Cilium устроен «под капотом», а также его функциональные возможности и особенности.

  2. Разделяй и шардируй: бюджетный домашний GPU-кластер для распределённого инференса с vLLM, Deckhouse и Ray — Александр Подмосковный, Руководитель центра компетенций, Московский кредитный банк
    Как сделать вход в мир ИИ проще и доступнее, нацелившись на запуск крупных языковых моделей без внушительных бюджетов. Используя Proxmox для проброса GPU, Kubernetes-кластер под управлением Deckhouse и инструменты вроде vLLM и Ray Serve, он покажет, как организовать эффективный и масштабируемый инференс, не переплачивая за инфраструктуру.

После докладов проведём расширенную сессию вопросов и ответов.

Источник
IT Meeting - митапы и конференции по разработке

Вы организатор этого мероприятия?

РедактированиеСтатистикаКонтакты

Другие мероприятия в Без городе

Смотреть все мероприятия в Без городе
Бесплатное
Онлайн-встречи группы АА в ZOOM
Бесплатное
Собрание группы АА Пряники
Разместить свой анонс
Организаторам
Тарифы и условияЛичный кабинет
Мы помогаем искать мероприятия
©2022-2025 «Pixel Afisha»