从网页中提取链接
Bun 的 HTMLRewriter API 可用于高效地从 HTML 内容中提取链接。它的工作原理是将 CSS 选择器链接在一起，以匹配您想要处理的元素、文本和属性。这是一个如何从网页中提取链接的简单示例。您可以将 .transform 传递 Response、Blob 或 string。
async function extractLinks(url: string) {
const links = new Set<string>();
const response = await fetch(url);
const rewriter = new HTMLRewriter().on("a[href]", {
element(el) {
const href = el.getAttribute("href");
if (href) {
links.add(href);
}
},
});
// Wait for the response to be processed
await rewriter.transform(response).blob();
console.log([...links]); // ["https://bun.net.cn", "/docs", ...]
}
// Extract all links from the Bun website
await extractLinks("https://bun.net.cn");
将相对 URL 转换为绝对 URL
在抓取网站时，您通常希望将相对 URL（如 /docs）转换为绝对 URL。以下是如何处理 URL 解析
async function extractLinksFromURL(url: string) {
const response = await fetch(url);
const links = new Set<string>();
const rewriter = new HTMLRewriter().on("a[href]", {
element(el) {
const href = el.getAttribute("href");
if (href) {
// Convert relative URLs to absolute
try {
const absoluteURL = new URL(href, url).href;
links.add(absoluteURL);
} catch {
links.add(href);
}
}
},
});
// Wait for the response to be processed
await rewriter.transform(response).blob();
return [...links];
}
const websiteLinks = await extractLinksFromURL("https://example.com");
有关使用 Bun 进行 HTML 转换的完整文档，请参阅文档 > API > HTMLRewriter。