Web Scraping

Explore agent skills de Web Scraping em Processamento de Dados e compare workflows, ferramentas e casos de uso relacionados.

23 skills
A
data-scraper-agent

por affaan-m

data-scraper-agent ajuda a montar um pipeline repetível de dados públicos para raspagem web, enriquecimento e armazenamento. Ele foi pensado para monitorar jobs, preços, notícias, repositórios, esportes e anúncios em uma agenda usando GitHub Actions, com saídas para Notion, Sheets ou Supabase. É mais indicado para acompanhamento contínuo do que para extrações pontuais.

Web Scraping
Favoritos 0GitHub 156.1k
B
remote-browser

por browser-use

remote-browser ajuda agentes em sandbox a controlar um navegador headless para automação de navegador. Use para abrir páginas, inspecionar o estado, clicar em elementos indexados, preencher campos, tirar capturas de tela e conectar-se a apps locais ou sessões de navegador com CDP.

Browser Automation
Favoritos 0GitHub 84.9k
B
browser-use

por browser-use

browser-use é uma skill de automação de navegador para abrir páginas, inspecionar o estado, clicar em elementos indexados, preencher campos, tirar capturas de tela e reutilizar uma sessão persistente do navegador. Use para preencher formulários com mais confiabilidade, navegar e executar fluxos com login usando a CLI do browser-use.

Browser Automation
Favoritos 0GitHub 84.9k
J
baoyu-url-to-markdown

por JimLiu

baoyu-url-to-markdown converte URLs ativas em Markdown com uma CLI baoyu-fetch vendorizada, usando Chrome CDP, adaptadores de sites e fallback genérico. Veja os requisitos de runtime com Bun, a configuração inicial do EXTEND.md e como usar a skill com X, YouTube, Hacker News e páginas renderizadas.

Format Conversion
Favoritos 0GitHub 13.2k
H
huggingface-datasets

por huggingface

Use a skill huggingface-datasets para fluxos de trabalho da API do Dataset Viewer do Hugging Face: validar datasets, resolver splits, pré-visualizar e paginar linhas, buscar texto, aplicar filtros e obter links de parquet ou estatísticas. É um guia prático de huggingface-datasets para exploração somente leitura de datasets.

Web Scraping
Favoritos 0GitHub 10.4k
T
burpsuite-project-parser

por trailofbits

burpsuite-project-parser busca e extrai dados de arquivos de projeto do Burp Suite (.burp) usando o Burp Suite Professional e a extensão burpsuite-project-file-parser. Use-o para achados de auditoria de segurança, histórico de proxy, entradas do sitemap e buscas com regex em tráfego HTTP capturado.

Security Audit
Favoritos 0GitHub 5k
S
web-to-markdown

por softaworks

web-to-markdown é uma skill de conversão de formato que transforma páginas web ao vivo em Markdown limpo por meio do CLI local `web2md`, usando um navegador da família Chromium para páginas renderizadas por JS, fluxos interativos e conversão em lote de URLs. Ela só é executada quando é chamada explicitamente pelo nome.

Format Conversion
Favoritos 0GitHub 1.3k
D
query

por duckdb

A skill query executa consultas DuckDB em um banco de dados conectado ou diretamente em arquivos. Ela aceita SQL ou perguntas em linguagem natural, oferece suporte aos modos de sessão e avulso e é útil para análise de dados, verificações rápidas e trabalho iterativo de consultas com DuckDB Friendly SQL.

Data Analysis
Favoritos 0GitHub 443
F
firecrawl-agent

por firecrawl

O firecrawl-agent ajuda a extrair JSON estruturado de sites complexos com várias páginas. Entenda quando usar, como executar o agente Firecrawl CLI, adicionar schemas, definir URLs iniciais e salvar saídas para extração de preços, produtos e dados em estilo diretório.

Web Scraping
Favoritos 0GitHub 234
F
firecrawl-browser

por firecrawl

firecrawl-browser é uma skill do Firecrawl para automação web interativa. Ela foi descontinuada como comando de navegador independente e agora orienta o uso de firecrawl scrape junto com firecrawl interact para cliques, formulários, fluxos de login, paginação e páginas com muito JavaScript.

Browser Automation
Favoritos 0GitHub 234
F
firecrawl

por firecrawl

Skill firecrawl para instalar, autenticar e usar a CLI oficial do Firecrawl para web scraping, busca, crawling e interação com páginas. Veja como configurar, usar `firecrawl --status`, fazer login, salvar saídas com segurança em `.firecrawl/` e aplicar padrões práticos de uso respaldados pelo repositório.

Web Scraping
Favoritos 0GitHub 234
F
firecrawl-crawl

por firecrawl

O firecrawl-crawl ajuda agentes a extrair conteúdo em massa de um site ou seção de documentação com filtros de caminho, limites de profundidade, limite de páginas, modo de espera e verificação do status do job.

Web Scraping
Favoritos 0GitHub 234
F
firecrawl-download

por firecrawl

firecrawl-download ajuda você a baixar um site ou uma seção de documentação em arquivos locais organizados dentro de .firecrawl/. Combina mapeamento do site e scraping, oferece suporte a markdown, links e capturas de tela, e é útil para manter cópias offline da documentação, capturar páginas em massa e viabilizar fluxos práticos de Web Scraping.

Web Scraping
Favoritos 0GitHub 234
F
firecrawl-search

por firecrawl

firecrawl-search é uma skill de pesquisa na web para encontrar fontes, fazer buscas estruturadas e, opcionalmente, extrair o conteúdo completo de páginas em JSON com o Firecrawl CLI.

Web Research
Favoritos 0GitHub 234
F
firecrawl-map

por firecrawl

A firecrawl-map ajuda agentes a descobrir e listar URLs de um site, com opções de filtro por busca, limites, saída em JSON, modos de sitemap e controle de subdomínios antes de um scraping ou crawling mais aprofundado.

Web Scraping
Favoritos 0GitHub 234
F
firecrawl-scrape

por firecrawl

O firecrawl-scrape ajuda a extrair conteúdo limpo e amigável para LLMs de URLs conhecidas, incluindo páginas renderizadas com JS. Use para capturar markdown, links ou respostas específicas da página com Firecrawl CLI ou `npx firecrawl`.

Web Scraping
Favoritos 0GitHub 234
X
x-twitter-scraper

por Xquik-dev

Use o x-twitter-scraper para recuperar dados do X (Twitter) e executar ações com confirmação via Xquik. Ele oferece suporte a busca de tweets, consulta de usuários, extração de seguidores, download de mídia, monitores, webhooks, MCP e ações de gravação. É mais indicado para pesquisa no estilo web scraping com chave de API, não para segredos de login do X.

Web Scraping
Favoritos 0GitHub 71
K
parallel-web

por K-Dense-AI

parallel-web é uma skill de pesquisa e extração na web, potencializada pelo parallel-cli. Ela ajuda você a pesquisar na web, extrair conteúdo de URLs, enriquecer dados a partir de fontes e conduzir pesquisas mais profundas, com prioridade para fontes acadêmicas e científicas. Use-a para uso do parallel-web, pesquisa na web, citações e fluxos de trabalho orientados por evidências.

Web Research
Favoritos 0GitHub 0
K
geomaster

por K-Dense-AI

geomaster é uma skill de ciência geoespacial para GIS, sensoriamento remoto, análise espacial e fluxos de trabalho de observação da Terra. Use-a em tarefas de Análise de Dados como operações com raster e vetor, processamento de imagens de satélite, métricas espaciais e planejamento de workflows. O guia do geomaster ajuda você a instalar, inspecionar e aplicar a skill com menos suposições.

Data Analysis
Favoritos 0GitHub 0
K
exa-search

por K-Dense-AI

exa-search é uma skill de pesquisa na web, powered by Exa, para encontrar informações atuais e extrair conteúdo de URLs. Use para busca, descoberta de fontes, extração de artigos e PDFs e pesquisa técnica ou científica com recuperação semântica, filtros no estilo acadêmico e orientação clara de instalação e uso.

Web Research
Favoritos 0GitHub 0
R
asc-aso-audit

por rudrankriyam

O asc-aso-audit ajuda você a fazer uma auditoria de ASO offline nos metadados canônicos da App Store em `./metadata` e, em seguida, identificar lacunas de palavras-chave com o Astro MCP. Use a skill asc-aso-audit depois de `asc metadata pull` para revisar `subtitle`, `keywords`, `description` e `whatsNew` com menos tentativa e erro.

Data Analysis
Favoritos 0GitHub 0
J
ffuf-web-fuzzing

por jthack

ffuf-web-fuzzing é uma skill prática para descobrir conteúdo oculto em sites, testar rotas e parâmetros e fazer fuzzing de alvos autenticados com requisições brutas, auto-calibração e análise de resultados. É ideal para profissionais de teste de segurança que precisam de um guia repetível de ffuf-web-fuzzing para pentests e fluxos de trabalho de auditoria de segurança.

Security Audit
Favoritos 0GitHub 0
R
twitter

por ReScienceLab

A skill de twitter recupera dados em tempo real do Twitter/X via twitterapi.io, incluindo perfis de usuários, tweets, respostas, seguidores, seguindo, comunidades, Spaces, tendências e resultados de busca. Use-a para verificação factual no Twitter, pesquisa de contas e checagem de informações em redes sociais, em vez de adivinhar com base em prompts.

Social Media
Favoritos 0GitHub 0
Web Scraping agent skills