Selenium

Selenium(作成仕様書カテゴリー)の作成例イメージ画像

image
カテゴリー 作成仕様書
記事登録日 2020-01-06 06:06:30
テクノロジー Selenium | スクレイピング |
概要 XserverのAnaconda環境にmysql-connector-pythonをインストールする
https://nori-life.com/xserver-anaconda-install-mysql-connector-python/
vps xserver

さくら selenium
PythonでSeleniumを操作する「SeleniumBase」レビュー
https://knowledge.sakura.ad.jp/5695/

Google Chrome のバージョンを確認する
https://cs.zaq.ne.jp/knowledgeDetail?an=000004134
Chrome 76 ダウングレード

chromedriver-binary 79.0.3945.36.0
https://pypi.org/project/chromedriver-binary/79.0.3945.36.0/

[selenium向け] ChromeDriverをpipでインストールする方法(パス通し不要、バージョン指定可能)
https://qiita.com/hanzawak/items/2ab4d2a333d6be6ac760

https://chromedriver.storage.googleapis.com/index.html?path=78.0.3904.70/
https://chromedriver.chromium.org/downloads

seleniumで「Message: session not created: This version of ChromeDriver only supports Chrome version 75」のエラーが表示される場合の対処法
https://qiita.com/stoneBK7/items/9f258e8ab9ce2d4fa4f5

Seleniumブラウザ更新処理
https://yamanote.info/valletta/user/Valletta3/status/99

headless-chrome リスト アクセス
ヘッドレスChromeでWebサイトのスクリーンショットを一括生成する
https://www.webopixel.net/javascript/1468.html

ヘッドレス Chrome ことはじめ
https://developers.google.com/web/updates/2017/04/headless-chrome?hl=ja

コマンドラインでWebサイトのスクリーンショットを撮る簡単な方法
https://blog.ver001.com/chrome_headless_screenshot/

【完全版】PythonとSeleniumでブラウザを自動操作(クローリング/スクレイピング)するチートシート
https://tanuhack.com/selenium/#Web

スクレイピング(Selenium, Beautiful Soup)をサーバー上(Heroku)で定期実行させる方法
https://tanuhack.com/selenium-bs4-heroku/#Python-2

SeleniumでDevToolsActivePort file doesn’t exist
https://isgs-lab.com/368/

vps Chrome の起動に失敗

CentOS7でselenium、Chrome Web Driveのインストール方法
https://qiita.com/tatetate55/items/e35e268bdf5ee0518324

VPSからselenium+chromeでクローリング
http://bttb.s1.valueserver.jp/wordpress/blog/2019/06/30/vps-crawling/

【EC2】seleniumが実行できないエラーの対処法(No module named selenium)
https://qiita.com/yuta-38/items/5851c5359529904d43d0

PythonでSeleniumを利用してWebサイトのログインを自動化する方法を現役エンジニアが解説【初心者向け】
https://techacademy.jp/magazine/28392

CentOS8にPython3 + Seleniumを10分で構築する!
https://yuki-yamashita.site/blog/post/install-selenium/

pyenvにより、pythonのバージョンを変更する
https://qiita.com/Kohey222/items/19eb9b3cbcec9b176625

【サンプルあり】Selenium * Chromedriver を使ってPythonスクレイピング環境を整えよう!【Mac OS】
https://blog.proglearn.com/2020/07/02/%E3%80%90%E3%82%B5%E3%83%B3%E3%83%97%E3%83%AB%E3%81%82%E3%82%8A%E3%80%91selenium-chromedriver-%E3%82%92%E4%BD%BF%E3%81%A3%E3%81%A6python%E3%82%B9%E3%82%AF%E3%83%AC%E3%82%A4%E3%83%94%E3%83%B3/

PythonのUnicodeEncodeErrorを知る
https://lab.hde.co.jp/2008/08/pythonunicodeencodeerror.html

さくらのVPSセッティングメモ
https://lil.la/archives/3636#toc9

さくらVPS基本設定 ~ファイルの所有者の変更~
https://soho.ti-da.net/e3366285.html

Pythonで文字コードを指定して日本語を扱う方法
https://uxmilk.jp/8851
20190424

画面の無いVPSサーバーでSeleniumを使ってChromeブラウザを操作して
https://dreamerdream.hateblo.jp/entry/2019/04/24/170000

さくらVPSでcronを使いPythonファイルを定期的に実行する
https://code-schools.com/cron-sakura/

pipのインストール方法
https://qiita.com/suzuki_y/items/3261ffa9b67410803443

sudo pip installでsudo: pip: command not foundのエラー
https://ja.stackoverflow.com/questions/18218/sudo-pip-install%E3%81%A7sudo-pip-command-not-found%E3%81%AE%E3%82%A8%E3%83%A9%E3%83%BC

CentOSにPyenvをインストールしてPython3の開発環境を構築する
https://worklog.be/archives/3402

CentOSにSeleniumとGoogle Chrome & ChromeDriverをインストールする
https://worklog.be/archives/3422

さくら VPS CentOS7 に Python3.7 をインストールしてみる
https://mycodingjp.blogspot.com/2018/12/vps-centos7-python37.html

FTPアップロードで 何故か「permission denied」で弾かれる!?
https://affi-info.com/ftp%E3%82%A2%E3%83%83%E3%83%97%E3%83%AD%E3%83%BC%E3%83%89%E6%99%82%E3%81%AB%E3%80%8Cpermission-denied%E3%80%8D%E3%81%A7%E5%BC%BE%E3%81%8B%E3%82%8C%E3%81%A6%E3%81%97%E3%81%BE%E3%81%86%EF%BC%81%EF%BC%9F/

su - ユーザーを変更する - Linuxコマンド
https://webkaru.net/linux/su-command/

Download Composer
https://getcomposer.org/download/

CentOS7(さくらVPS)Google Chrome、ChromeDriver、Seleniumのインストール方法
公開日:2019/04/13更新日:2019/04/13投稿者:n bit
Pythonでのスクレイピング作業などには必須となるSelenium、Google Chrome、ChromeDriverをさくらVPSのCentOS7にインストールする方法を解説します。インストール時のバージョンの注意事項なども掲載していますので確認しておきましょう。

サーバ
この記事は約 3.9 分で読めます。(2329文字)

Google Chromeのインストール手順
最初にGoogle Chromeのインストール手順から解説していきます。

google-chrome.repoファイルを作成
さくらVPSのCentOS7にGoogle Chromeをインストールするには、まず、google-chrome.repoファイルを作成します。

$ sudo vim /etc/yum.repos.d/google-chrome.repo
BashCopy
以下の内容を記述してください。

[google-chrome]
name=google-chrome
baseurl=http://dl.google.com/linux/chrome/rpm/stable/x86_64
enabled=1
gpgcheck=1
gpgkey=https://dl.google.com/linux/linux_signing_key.pub
BashCopy
記述したら、esc、『:wq』で保存しましょう。

yumでインストール
google-chrome.repoファイルが作成できましたらyumを使ってインストールしましょう。

$ sudo yum -y install google-chrome-stable libOSMesa
BashCopy
インストールしたChromeのバージョン確認
動作チェックを兼ねてインストールしたChromeのバージョンを確認しておきましょう。

$ google-chrome --version
BashCopy
この後インストールするChromeDriverはGoogle Chromeのバージョンとあわせておく必要があります。表示されるバージョン番号をメモしておきましょう。

Google Chrome 73.0.3683.103
BashCopy
正常にバージョンが表示されれば、これでGoogle Chromeのインストール作業は完了です。

ChromeDriverのインストール手順
次は、SeleniumからGoogle Chromeを利用するためにChromeDriverをインストールしていきます。

必要パッケージのインストール
ChromeDriverのインストールに必要となるパッケージを事前にインストールしておきましょう。既にインストール済みの方は飛ばして大丈夫です。

$ sudo yum -y install libX11 GConf2 fontconfig
BashCopy
ChromeDriverをダウンロード
ChromeDriverを公式からダウンロードします。ダウンロードするバージョンは公式サイトでご確認ください。

公式サイト:Downloads - ChromeDriver - WebDriver for Chrome
私がインストールしたときの最新バージョンは『ChromeDriver 74.0.3729.6』でしたが、先ほどインストールしたGoogle Chromeのバージョンが『Google Chrome 73.0.3683.103』でしたので、『ChromeDriver 73.0.3683.68』をダウンロードしました。

ChromeDriverはGoogle Chromeのバージョンとあわせておく必要があります。
$ wget https://chromedriver.storage.googleapis.com/73.0.3683.68/chromedriver_linux64.zip
BashCopy
圧縮ファイルを解凍
ダウンロードした圧縮ファイルを解凍します。

$ unzip chromedriver_linux64.zip
BashCopy
ChromeDriverをインストール
解凍したChromeDriverを/usr/local/bin/下に移動してインストールします。

$ sudo mv chromedriver /usr/local/bin/
BashCopy
利用できるようにパーミッションを変更しておきましょう。

$ chmod 755 /usr/local/bin/chromedriver
BashCopy
これでChromeDriverのインストール作業は完了です。

Seleniumのインストール手順
最後にSeleniumをインストールしましょう。Seleniumはpipを利用することで簡単にインストールできます。

仮想環境に入る
仮想環境を構築している人は仮想環境に入りましょう。

$ cd ~/$ source analyzen_tools_env/bin/activate
BashCopy
Seleniumをインストール
インストールします。

$ pip install -U selenium
BashCopy
これでSeleniumのインストール作業は完了です。

さくらのVPSセッティングメモ
https://lil.la/archives/3636#toc13

CentOS8でSelenium+Python3を10分で動かす方法
https://yuki-yamashita.site/blog/post/install-selenium/


CentOS7とSeleniumとPythonとChromeで定期実行処理を作ってみた
https://qiita.com/kotanbo/items/093fc71b71ee5f20baf0

【Python】Seleniumでスクレイピング 待機処理のまとめ
https://your-3d.com/scraping-wait/

レンタルサーバーでPHPからPythonを呼び出す
https://your-3d.com/callpython-fromphp-server/
参照URL
SNS