Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Scrape with requests and BeautifulSoup

Scrape with requests and BeautifulSoup

Avatar for Ricardo Portela

Ricardo Portela

March 07, 2017

Other Decks in Technology

Transcript

  1. quem sou eu? Analista Desenvolvedor Python e especialista em Mainframe(15

    anos). Atualmente trabalho na IBM no time de DST - Suporte ao desenvolvimento [email protected] twitter - ricaportelas 15 981444871
  2. Legal ou ilegal existem discussões a respeito de raspagem de

    dados. Os dados estão lá site, se não houver nada especificando nos termos de uso do site. Você até pode fazer data scraping. Um site que começou com isso foi o Buscapé
  3. scrape html pages O que é scrape? o que é

    web crawling? - Scrapy (framework)
  4. Tips / Issues - muitas requisições ao servidor podem até

    a derrubar o servidor (ética) - faça uma cópia local da html - a html pode estar mal formatada (maioria das vezes), você terá um certo trabalho
  5. Beautiful soup - biblioteca Python que fornece métodos simples para

    navegar, procurar e até modificar parse tree - não é necessário se preocupar com Encoding - ele faz o parse de lxml e html5