Web Scraping

Kham pha Agent Skill cho Web Scraping trong Xu ly du lieu va so sanh workflow, cong cu va tinh huong lien quan.

23 skills
A
data-scraper-agent

bởi affaan-m

data-scraper-agent giúp xây dựng một pipeline dữ liệu công khai có thể lặp lại cho web scraping, làm giàu dữ liệu và lưu trữ. Skill này được thiết kế để theo dõi theo lịch các job, giá cả, tin tức, repo, thể thao và danh sách bằng GitHub Actions, với đầu ra đẩy tới Notion, Sheets hoặc Supabase. Phù hợp nhất cho việc theo dõi liên tục, không phải trích xuất một lần.

Web Scraping
Yêu thích 0GitHub 156.1k
B
remote-browser

bởi browser-use

remote-browser giúp các agent chạy trong môi trường sandbox điều khiển trình duyệt headless cho Browser Automation. Dùng để mở trang, kiểm tra trạng thái, nhấp vào phần tử theo chỉ mục, nhập liệu, chụp ảnh màn hình và kết nối với ứng dụng cục bộ hoặc các phiên trình duyệt dùng CDP.

Browser Automation
Yêu thích 0GitHub 84.9k
B
browser-use

bởi browser-use

browser-use là skill tự động hóa trình duyệt dùng để mở trang, kiểm tra trạng thái, nhấp vào các phần tử theo chỉ mục, nhập liệu vào trường, chụp màn hình và tái sử dụng phiên trình duyệt liên tục. Phù hợp cho điền biểu mẫu ổn định, điều hướng và các quy trình cần đăng nhập bằng browser-use CLI.

Browser Automation
Yêu thích 0GitHub 84.9k
J
baoyu-url-to-markdown

bởi JimLiu

baoyu-url-to-markdown chuyển URL đang hoạt động thành Markdown bằng CLI baoyu-fetch đi kèm, sử dụng Chrome CDP, adapter theo từng trang và cơ chế dự phòng chung. Tìm hiểu yêu cầu Bun runtime, thiết lập EXTEND.md cho lần dùng đầu, và cách dùng với X, YouTube, Hacker News cùng các trang đã render.

Format Conversion
Yêu thích 0GitHub 13.2k
H
huggingface-datasets

bởi huggingface

Dùng skill huggingface-datasets cho các quy trình với Hugging Face Dataset Viewer API để xác thực dataset, xử lý split, xem trước và phân trang các hàng, tìm kiếm văn bản, áp dụng bộ lọc, và lấy liên kết parquet hoặc thống kê. Đây là hướng dẫn thực dụng về huggingface-datasets cho việc khám phá dataset chỉ đọc.

Web Scraping
Yêu thích 0GitHub 10.4k
T
burpsuite-project-parser

bởi trailofbits

burpsuite-project-parser giúp tìm kiếm và trích xuất dữ liệu từ file dự án Burp Suite (.burp) bằng Burp Suite Professional và extension burpsuite-project-file-parser. Hãy dùng skill này để rà soát phát hiện kiểm tra bảo mật, lịch sử proxy, các mục site map, và tìm kiếm regex trên lưu lượng HTTP đã ghi lại.

Security Audit
Yêu thích 0GitHub 5k
S
web-to-markdown

bởi softaworks

web-to-markdown là skill Format Conversion dùng để chuyển các trang web đang hoạt động thành Markdown sạch thông qua CLI `web2md` cục bộ, sử dụng trình duyệt họ Chromium cho các trang render bằng JS, luồng tương tác và chuyển đổi hàng loạt URL. Skill chỉ chạy khi được gọi đích danh.

Format Conversion
Yêu thích 0GitHub 1.3k
D
query

bởi duckdb

Skill query chạy các truy vấn DuckDB trên một cơ sở dữ liệu đã gắn vào hoặc trực tiếp trên các tệp. Nó chấp nhận SQL hoặc câu hỏi bằng ngôn ngữ tự nhiên, hỗ trợ chế độ session và ad-hoc, và hữu ích cho phân tích dữ liệu, kiểm tra nhanh, cũng như công việc truy vấn lặp lại với DuckDB Friendly SQL.

Data Analysis
Yêu thích 0GitHub 443
F
firecrawl-agent

bởi firecrawl

firecrawl-agent giúp trích xuất JSON có cấu trúc từ các website phức tạp, nhiều trang. Tìm hiểu khi nào nên dùng, cách chạy tác nhân Firecrawl CLI, thêm schema, đặt URL bắt đầu và lưu đầu ra để trích xuất dữ liệu về giá, sản phẩm và các danh mục dạng directory.

Web Scraping
Yêu thích 0GitHub 234
F
firecrawl-browser

bởi firecrawl

firecrawl-browser là một skill Firecrawl cho tự động hóa web tương tác. Skill này đã bị ngừng dùng như một lệnh trình duyệt độc lập và hiện hướng người dùng sang cách dùng firecrawl scrape kết hợp firecrawl interact cho thao tác nhấp, điền biểu mẫu, quy trình đăng nhập, phân trang và các trang nặng JavaScript.

Browser Automation
Yêu thích 0GitHub 234
F
firecrawl

bởi firecrawl

Kỹ năng firecrawl để cài đặt, xác thực và sử dụng Firecrawl CLI chính thức cho web scraping, tìm kiếm, crawling và tương tác với trang. Tìm hiểu cách thiết lập, chạy `firecrawl --status`, đăng nhập, ghi file an toàn vào `.firecrawl/` và các cách dùng thực tế dựa trên repo.

Web Scraping
Yêu thích 0GitHub 234
F
firecrawl-crawl

bởi firecrawl

firecrawl-crawl giúp agent trích xuất nội dung hàng loạt từ một website hoặc mục tài liệu, với bộ lọc đường dẫn, giới hạn độ sâu, giới hạn số trang, chế độ chờ và kiểm tra trạng thái job.

Web Scraping
Yêu thích 0GitHub 234
F
firecrawl-download

bởi firecrawl

firecrawl-download giúp bạn tải toàn bộ website hoặc một phần tài liệu thành các tệp cục bộ được sắp xếp gọn trong `.firecrawl/`. Skill này kết hợp lập bản đồ website và thu thập nội dung, hỗ trợ markdown, liên kết và ảnh chụp màn hình, phù hợp để lưu bản sao tài liệu ngoại tuyến, thu thập hàng loạt trang và triển khai các quy trình Web Scraping thực tế.

Web Scraping
Yêu thích 0GitHub 234
F
firecrawl-search

bởi firecrawl

firecrawl-search là skill nghiên cứu web giúp tìm nguồn, chạy tìm kiếm có cấu trúc và tùy chọn trích xuất toàn bộ nội dung trang dưới dạng JSON bằng Firecrawl CLI.

Web Research
Yêu thích 0GitHub 234
F
firecrawl-map

bởi firecrawl

firecrawl-map giúp agent khám phá và liệt kê URL trên một website, với các tùy chọn lọc tìm kiếm, giới hạn, xuất JSON, chế độ sitemap và kiểm soát subdomain trước khi scrape hoặc crawl sâu hơn.

Web Scraping
Yêu thích 0GitHub 234
F
firecrawl-scrape

bởi firecrawl

firecrawl-scrape giúp trích xuất nội dung sạch, thân thiện với LLM từ các URL đã biết, כולל cả trang được render bằng JS. Dùng kỹ năng này để scrape markdown, liên kết hoặc lấy câu trả lời theo từng trang bằng Firecrawl CLI hoặc `npx firecrawl`.

Web Scraping
Yêu thích 0GitHub 234
X
x-twitter-scraper

bởi Xquik-dev

Dùng x-twitter-scraper để lấy dữ liệu X (Twitter) và các tác vụ có xác nhận qua Xquik. Skill này hỗ trợ tìm kiếm tweet, tra cứu người dùng, trích xuất follower, tải media, monitors, webhooks, MCP và các tác vụ ghi. Phù hợp nhất cho nghiên cứu kiểu web scraping với API key, không phải với thông tin đăng nhập X.

Web Scraping
Yêu thích 0GitHub 71
K
parallel-web

bởi K-Dense-AI

parallel-web là một skill nghiên cứu và trích xuất nội dung web được hỗ trợ bởi parallel-cli. Skill này giúp bạn tìm kiếm web, trích xuất nội dung từ URL, làm giàu dữ liệu từ các nguồn, và thực hiện nghiên cứu chuyên sâu với ưu tiên cho nguồn học thuật và khoa học. Phù hợp khi bạn cần dùng parallel-web, nghiên cứu web, trích dẫn, và các quy trình làm việc ưu tiên bằng chứng.

Web Research
Yêu thích 0GitHub 0
K
geomaster

bởi K-Dense-AI

geomaster là một skill khoa học địa không gian dành cho GIS, viễn thám, phân tích không gian và các quy trình quan trắc Trái Đất. Hãy dùng nó cho các tác vụ Phân tích Dữ liệu như thao tác raster và vector, xử lý ảnh vệ tinh, chỉ số không gian và lập kế hoạch quy trình làm việc. Hướng dẫn geomaster giúp bạn cài đặt, xem xét và áp dụng skill này với ít phải đoán mò hơn.

Data Analysis
Yêu thích 0GitHub 0
K
exa-search

bởi K-Dense-AI

exa-search là một skill nghiên cứu web được hỗ trợ bởi Exa, dùng để tìm thông tin mới nhất và trích xuất nội dung từ các URL. Hãy dùng nó cho tìm kiếm, khám phá nguồn, trích xuất bài viết và PDF, cũng như nghiên cứu kỹ thuật hoặc khoa học với truy xuất ngữ nghĩa, lọc kiểu học thuật và hướng dẫn cài đặt, sử dụng rõ ràng.

Web Research
Yêu thích 0GitHub 0
R
asc-aso-audit

bởi rudrankriyam

asc-aso-audit giúp bạn thực hiện audit ASO ngoại tuyến trên metadata App Store chuẩn trong `./metadata`, rồi phát hiện khoảng trống từ khóa với Astro MCP. Hãy dùng kỹ năng asc-aso-audit sau `asc metadata pull` để rà soát `subtitle`, `keywords`, `description` và `whatsNew` với ít phải đoán mò hơn.

Data Analysis
Yêu thích 0GitHub 0
J
ffuf-web-fuzzing

bởi jthack

ffuf-web-fuzzing là một kỹ năng thực dụng để phát hiện nội dung web ẩn, kiểm tra route và tham số, đồng thời fuzz các mục tiêu đã xác thực bằng raw request, tự hiệu chuẩn và phân tích kết quả. Kỹ năng này phù hợp với người kiểm thử bảo mật cần một hướng dẫn ffuf-web-fuzzing có thể lặp lại cho kiểm thử xâm nhập và quy trình Security Audit.

Security Audit
Yêu thích 0GitHub 0
R
twitter

bởi ReScienceLab

Skill twitter truy xuất dữ liệu Twitter/X trực tiếp qua twitterapi.io, bao gồm hồ sơ người dùng, tweet, trả lời, người theo dõi, đang theo dõi, cộng đồng, Spaces, xu hướng và kết quả tìm kiếm. Dùng khi cần thông tin Twitter chính xác, nghiên cứu tài khoản và xác minh dữ liệu mạng xã hội thay vì đoán theo prompt.

Social Media
Yêu thích 0GitHub 0
Web Scraping agent skills