Week 1Course Intro, IR and the Web, Architecture
How the course works, what information retrieval is, types of search engines, databases vs. search engines, relevance and retrieval models, classic vs. web IR, and search engine architecture.
Last edited on October 22, 2026
Week 2The Web Corpus, SEO, Web Crawling
Corpus and tokenization, the web graph, web users and queries, the ad business model, SEO and spam, URLs, and the first steps toward a crawler.
Last edited on October 22, 2026
Week 3Web Crawling
The basic crawl loop, robots.txt and sitemaps, politeness, crawler traps, duplicates, freshness, distributed and focused crawling, and ethics, privacy and copyright.
Last edited on October 22, 2026
Week 4Encodings, Storing Documents, Duplicates, Zipf's Law
Document conversion and character encodings (Unicode, UTF-8), storing documents (TREC Web, compression, BigTable), exact and near-duplicate detection (checksums, n-gram fingerprints, Simhash), removing page noise, and text statistics with Zipf's law.
Last edited on October 28, 2026
Week 5Text Processing, Term-Document Matrices
Tokenizing problems, stopping, stemming (suffix-s, Porter, Krovetz), phrases with POS tagging and n-grams, document structure and anchor text, and the term-document incidence matrix.
Last edited on October 28, 2026
Week 1课程介绍、信息检索与网络、搜索引擎架构
课程安排、什么是信息检索、搜索引擎的类型、数据库与搜索引擎的区别、相关性与检索模型、传统 IR 与网络 IR,以及搜索引擎架构。
最后编辑于 2026 年 10 月 22 日
Week 2网络语料、搜索引擎优化与网络爬虫
语料与分词、网络图、网络用户与查询、广告商业模式、SEO 与垃圾信息、URL,以及走向爬虫的第一步。
最后编辑于 2026 年 10 月 22 日
Week 3网络爬虫
基本爬取循环、robots.txt 与 sitemap、礼貌性、爬虫陷阱、重复内容、新鲜度、分布式与聚焦爬取,以及伦理、隐私与版权。
最后编辑于 2026 年 10 月 22 日
Week 4字符编码、文档存储、重复检测与 Zipf 定律
文档转换与字符编码(Unicode、UTF-8)、文档存储(TREC Web 格式、压缩、BigTable)、精确与近似重复检测(校验和、n-gram 指纹、Simhash)、去除网页噪声,以及文本统计与 Zipf 定律。
最后编辑于 2026 年 10 月 28 日
Week 5文本处理、词项-文档矩阵
分词难点、停用词去除、词干提取(suffix-s、Porter、Krovetz)、用词性标注和 n-gram 识别短语、文档结构与锚文本,以及词项-文档关联矩阵。
最后编辑于 2026 年 10 月 28 日