Линейное внимание может больше
Привет, Хабр! Мы — студенты мастерской по сервисам и платформам ИИ Инженерно-математической школы НИУ ВШЭ и VK: Павел Алексеев, Александр Рожкин, Андрей Аргаткин, Алексей Павлов и Матвей Каменев. В этом проекте мы проверяли, как повысить качество моделей с линейным вниманием до уровня обычного трансформера. Такой механизм позволяет обрабатывать длинные последовательности без квадратичного роста…
По теме
Сначала RTX 5090, теперь RTX 5080: Nvidia убирает флагманские видеокарты из своего магазина, теперь самая мощная модель — GeForce RTX 5070 Ti
Приглашаем на AI Journey — конференцию для тех, кто создаёт и внедряет ИИ
26–28 ноября пройдёт AI Journey — ежегодная международная конференция по ИИ. Мероприятие будет полезно разработчикам, исследователям…
Google сам построил машину, которая убивает его рекламный бизнес
Google только что показал, как выглядит ловушка, в которую он сам себя загнал: компания, десятилетиями продававшая клики по рекламе, теперь…
Фотосессия стоматологов без фотосессии за $3: FLUX.3 klein + ComfyUI + RunPod = 290 кадров
Я настраиваю платный трафик для стоматологических клиник (и не только). Для хороших креативов всегда нужны Но для клиники фотосессия врачей…