Свои GPU плюс облако: как LLM-шлюз живёт в продакшене — ноды, отказы, ключи, обновления
В прошлой статье я рассказывал про маршрутизацию и деньги в Keystone. The Model Switchboard. (KTMS), нашем open-source LLM-шлюзе на Go. Эта статья про эксплуатацию: как подключить свои видеокарты, что происходит, когда отказывает каждая зависимость, как менять ключи шифрования, как проверять, что вы скачали именно наш релиз, и как обновляться без простоя.
По теме
Сначала RTX 5090, теперь RTX 5080: Nvidia убирает флагманские видеокарты из своего магазина, теперь самая мощная модель — GeForce RTX 5070 Ti
Приглашаем на AI Journey — конференцию для тех, кто создаёт и внедряет ИИ
26–28 ноября пройдёт AI Journey — ежегодная международная конференция по ИИ. Мероприятие будет полезно разработчикам, исследователям…
Google сам построил машину, которая убивает его рекламный бизнес
Google только что показал, как выглядит ловушка, в которую он сам себя загнал: компания, десятилетиями продававшая клики по рекламе, теперь…
Фотосессия стоматологов без фотосессии за $3: FLUX.3 klein + ComfyUI + RunPod = 290 кадров
Я настраиваю платный трафик для стоматологических клиник (и не только). Для хороших креативов всегда нужны Но для клиники фотосессия врачей…