Podcasts · Организованное программирование

#74 Как работает Search Engine под капотом: ранжирование и релевантность | Рауф Алиев

· 1 h 37 min · Episode 78

Episode #74 Как работает Search Engine под капотом: ранжирование и релевантность | Рауф Алиев

0:00 1:37:06

Сегодня у меня в гостях Рауф Алиев — человек, который варится в поиске уже четверть века. Он начинал с самописного inverted index в начале 2000-х, когда всё приходилось изобретать руками, и дошёл до современных гибридных систем — с векторным поиском, трансформерами и рекомендациями поверх всего этого.

Мы обсудили, как вообще устроен полнотекстовый поиск: что такое inverted index на практике, зачем нужен BM25, почему важно учитывать длину документа, что дают proximity и exact match. Отдельно разобрали, почему фасеты — это не совсем «поиск», как работают стемминг и лемматизация, зачем иногда хранить и нормализованный, и оригинальный текст, и почему работа с разными языками — это отдельная инженерная боль.

Потом ушли в гибридные модели: как смешиваются ключевые слова, query expansion, синонимы и векторные представления. Поговорили о том, почему векторный поиск лучше понимает смысл, но хуже объясняет свои решения, и как LLM можно использовать не для болтовни в чате, а как инструмент, который превращает человеческий запрос в понятные системе фильтры.

Ну и, конечно, обсудили качество. Что такое precision, recall, NDCG на практике, как собрать свой ground truth и как сравнивать конфигурации поиска без мучительных A/B-экспериментов на пользователях. И почему почти всегда, улучшая одну метрику, ты неизбежно просаживаешь другую — и с этим просто приходится жить.

Полезные ссылки: https://testmysearch.com/my-books.html

Подписывайтесь на канал «Организованное программирование» в Telegram: https://ttttt.me/orgprog – Список подкаст-платформ (Apple Podcast, Google Podcast, Spotify, Яндекс.Музыка и другие): https://podcast.ru/1734325321

🔹 Telegram-канал Организованного Программирования: https://t.me/orgprog 🔹Хекслет Клуб в Telegram https://t.me/HexletClubBot 🔹Курсы по программированию — начни учиться уже сегодня: https://ru.hexlet.io/courses

#программирование #разработка #кириллмокевнин #подкаст #организованноепрограммирование #поисковыесистемы #invertedindex #векторныйпоиск

Как работает Search Engine под капотом: ранжирование и релевантность

• (00:00) - Введение. Поиск сложнее, чем вы думаете - 25 лет опыта за 2 часа • (01:07) - От Сфинкса до Elastic: как менялся рынок поисковых систем • (06:00) - Теория или практика? Как правильно входить в сложные системы • (14:42) - Как SEO и маркетплейсы ломают алгоритмы • (19:55) - SEO началось с манипуляций: как PageRank всё изменил • (31:12) - Архив за 100 лет и гибридный поиск на практике • (44:05) - Гибридный поиск — будущее индустрии • (01:01:04) - Транслитерация и языковые ловушки • (01:13:53) - Как искать Go или C и не сломать поиск • (01:21:54) - LLM как ревизор поисковой системы • (01:28:19) - Локальные поисковики против Google • (01:32:21) - Китайский без пробелов и другие языковые боли • (01:36:45) - Заключение. Поиск — это компромисс между математикой и бизнесом

★ Support this podcast ★

The episode on the publisher’s site (opens in a new tab)

Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.