От учителя к студенту: путь к изотропным эмбеддингам в 29M модели. Часть 2/10
В этой части мы создаем базовый корпус текстов для дистилляции представлений учителя. За основу общей скмантики возьмем дамп Википедии и добавим к нему доменные тексты (психология, психиатрия, психотерапия). Парсим тексты и формируем корпус, немного приводим текст в порядок (устраняем самые явные проблемы).
По теме
Сначала RTX 5090, теперь RTX 5080: Nvidia убирает флагманские видеокарты из своего магазина, теперь самая мощная модель — GeForce RTX 5070 Ti
Приглашаем на AI Journey — конференцию для тех, кто создаёт и внедряет ИИ
26–28 ноября пройдёт AI Journey — ежегодная международная конференция по ИИ. Мероприятие будет полезно разработчикам, исследователям…
Google сам построил машину, которая убивает его рекламный бизнес
Google только что показал, как выглядит ловушка, в которую он сам себя загнал: компания, десятилетиями продававшая клики по рекламе, теперь…
Фотосессия стоматологов без фотосессии за $3: FLUX.3 klein + ComfyUI + RunPod = 290 кадров
Я настраиваю платный трафик для стоматологических клиник (и не только). Для хороших креативов всегда нужны Но для клиники фотосессия врачей…