pythonオリンピック

オリンピックが楽しみです

スクレイピング

xvideosのリンク切れ・削除された動画の自動チェック

今回は、xvidoesのリンク切れまたは削除された動画の自動チェック方法についてご紹介したいと思います。結論: スクレイピングが必要動画のページへアクセスし、特定のタグ内に表示されているエラー文字列にて削除されたかを判断します。 たったこれだけです…

スクレイピングならpythonがオススメ

なぜpythonなのか? もちろんスクレイピングをする上で役立つライブラリが豊富と言う理由もありますが、pythonと言う言語を習得する機会にもなるためです。 学習コストが掛かってしまいますが、pythonを学んでおくと今後良かった思える日が来るかと思います…

スクレイピングの目的

主に、下記の目的があるのではないかと思います。・作業の自動化 ・収益目的作業を自動化ですが、ブラウザ上での作業は良くあるかと思います。 私が今までやってきた自動化の作業は下記のようなものがあります。・ドメインの更新、取得 ・レンタルサーバーの…

スクレイピングは簡単

結論:スクレイピングは簡単スクレイピング自体は、物凄く簡単である。 例えば、ヤフートップページのタイトルを取得しようと思えば、pythonだと下記1行で取得できる。page_title = BeautifulSoup(requests.get(url).text()).find("title").stringスクレイピ…

Amazon 全カテゴリの人気ランキングをpythonで取得

はじめまして 今回、Amazonの人気ランキングをpython言語を使ってスクレイピングしてみました。 処理内容 カテゴリIDの取得(親と子)し、データベースに保存 ランキングデータを取得しデータベースに保存(全カテゴリ) CSVで出力 アマゾン人気ランキング…