黄a在线观看-黄a在线-黄a大片-黄色片在线看-黄色毛片免费-黄色大片网站

您的位置:首頁技術(shù)文章
文章詳情頁

Docker 部署 Prometheus的安裝詳細(xì)教程

瀏覽:1134日期:2024-11-25 10:35:46
目錄1.安裝Node Exporter2.安裝cAdvisor3.安裝 Prometheus Server4.創(chuàng)建運(yùn)行Grafana5.添加監(jiān)控模板6.鍵值查詢7.使用Prometheus監(jiān)控8.各個(gè)監(jiān)控項(xiàng)的含義9.Prometheus UI中Target表達(dá)式查詢10.安裝blackbox_exporter11.Docker部署nginx-module-vts模塊Docker 搭建 Consul集群(未完)

Docker 部署 Prometheus 說明:

監(jiān)控端安裝:Prometheus Server(普羅米修斯監(jiān)控主服務(wù)器 )Node Exporter (收集Host硬件和操作系統(tǒng)信息)cAdvisor (負(fù)責(zé)收集Host上運(yùn)行的容器信息)Grafana (展示普羅米修斯監(jiān)控界面)

被監(jiān)控安裝:Node Exporter (收集Host硬件和操作系統(tǒng)信息)cAdvisor (負(fù)責(zé)收集Host上運(yùn)行的容器信息)

1.安裝Node Exporter 所有服務(wù)器安裝 Node Exporter 收集系統(tǒng)信息,用于監(jiān)控CPU、內(nèi)存、磁盤使用率、磁盤讀寫等系統(tǒng)信息 –net=host,這樣 Prometheus Server 可以直接與 Node Exporter 通信

docker run -d -p 9100:9100 -v '/proc:/host/proc' -v '/sys:/host/sys' -v '/:/rootfs' -v '/etc/localtime:/etc/localtime' --net=host prom/node-exporter --path.procfs /host/proc --path.sysfs /host/sys --collector.filesystem.ignored-mount-points '^/(sys|proc|dev|host|etc)($|/)'[root@k8s-m1 ~]# docker ps|grep exporteree30add8d207 prom/node-exporter '/bin/node_exporter …' About a minute ago Up About a minute condescending_shirley2.安裝cAdvisor 所有服務(wù)器安裝 cAdvisor 收集docker信息,用于展示docker的cpu、內(nèi)存、上傳下載等信息 –net=host,這樣 Prometheus Server 可以直接與 cAdvisor 通信

docker run -d -v '/etc/localtime:/etc/localtime' --volume=/:/rootfs:ro --volume=/var/run:/var/run:rw --volume=/sys:/sys:ro --volume=/var/lib/docker/:/var/lib/docker:ro --volume=/dev/disk/:/dev/disk:ro --publish=18104:8080 --detach=true --name=cadvisor --privileged=true google/cadvisor:latest[root@k8s-m1 ~]# docker ps|grep cadvisorcf6af6118055google/cadvisor:latest '/usr/bin/cadvisor -…' 38 seconds ago Up 37 seconds 0.0.0.0:18104->8080/tcp cadvisor

可以進(jìn)入容器查看:[root@agent ~]# sudo docker exec -it 容器id /bin/sh3.安裝 Prometheus Server

監(jiān)控端安裝

1)編輯配置文件

首先在本地創(chuàng)建 prometheus.yml 這是普羅米修斯的配置文件 將下方內(nèi)容寫入到文件中 將監(jiān)聽的地址改為自己本機(jī)地址

# my global configglobal: scrape_interval: 15s # Set the scrape interval to every 15 seconds. Default is every 1 minute. evaluation_interval: 15s # Evaluate rules every 15 seconds. The default is every 1 minute. # scrape_timeout is set to the global default (10s).# Alertmanager configurationalerting: alertmanagers: - static_configs: - targets: # - alertmanager:9093# Load rules once and periodically evaluate them according to the global ’evaluation_interval’.rule_files: # - 'first_rules.yml' # - 'second_rules.yml'# A scrape configuration containing exactly one endpoint to scrape:# Here it’s Prometheus itself.scrape_configs: # The job name is added as a label `job=<job_name>` to any timeseries scraped from this config. - job_name: ’prometheus’ # metrics_path defaults to ’/metrics’ # scheme defaults to ’http’. static_configs: #監(jiān)聽的地址 - targets: [’localhost:9090’,’172.23.0.241:8088’,’172.23.0.241:9090’]

2)啟動(dòng)容器

1> prometheus.yml配置文件

prometheus.yml內(nèi)需配置外網(wǎng)ip,內(nèi)網(wǎng)ip除了本機(jī),在grafana識(shí)別不到!

# my global configlobal: scrape_interval: 15s # Set the scrape interval to every 15 seconds. Default is every 1 minute. evaluation_interval: 15s # Evaluate rules every 15 seconds. The default is every 1 minute. # scrape_timeout is set to the global default (10s).# Alertmanager configurationalerting: alertmanagers: - static_configs: - targets: # - alertmanager:9093# Load rules once and periodically evaluate them according to the global ’evaluation_interval’.rule_files: # - 'first_rules.yml' # - 'second_rules.yml'# A scrape configuration containing exactly one endpoint to scrape:# Here it’s Prometheus itself.scrape_configs: # The job name is added as a label `job=<job_name>` to any timeseries scraped from this config. - job_name: ’prometheus’ # metrics_path defaults to ’/metrics’ # scheme defaults to ’http’. static_configs: #監(jiān)聽的地址(此處為服務(wù)器內(nèi)網(wǎng)ip) - targets: [’10.27.158.33:9090’,’10.27.158.33:9100’,’10.27.158.33:18104’] - targets: [’10.29.46.54:9100’,’10.29.46.54:18104’] - targets: [’10.27.163.172:9100’,’10.27.163.172:18104’]# - job_name: ’GitLab’# metrics_path: ’/-/metrics’# static_configs:# - targets: [’172.23.0.241:10101’] - job_name: ’jenkins’ metrics_path: ’/prometheus/’ scheme: http bearer_token: bearer_token static_configs: - targets: [’172.23.0.242:8080’] - job_name: 'Nginx' metrics_path: ’/status/format/prometheus’ static_configs: - targets: [’172.23.0.242:8088’]

2>啟動(dòng)命令

–net=host,這樣 Prometheus Server 可以直接與 Exporter 和 Grafana 通

docker run -d -p 9090:9090 -v /root/Prometheus/prometheus.yml:/etc/prometheus/prometheus.yml -v '/etc/localtime:/etc/localtime' --name prometheus --net=host prom/prometheus:latest# 當(dāng)Prometheus容器啟動(dòng)成功后訪問# PS:服務(wù)器需開啟eth0的外網(wǎng)端口,才可用瀏覽器訪問 9090 0.0.0.0106.15.0.11:90904.創(chuàng)建運(yùn)行Grafana 監(jiān)控服務(wù)器安裝 用于圖像化顯示

docker run -d -i -p 3000:3000 -v '/etc/localtime:/etc/localtime' -e 'GF_SERVER_ROOT_URL=http://grafana.server.name' -e 'GF_SECURITY_ADMIN_PASSWORD=admin8888' --net=host grafana/grafana# PS:服務(wù)器需開啟eth0的外網(wǎng)端口,才可用瀏覽器訪問:3000 0.0.0.0Grafana啟動(dòng)后,在瀏覽器中打開 172.23.0.241:3000 登錄界面,登錄:用戶名:admin密碼:admin8888

1)添加普羅米修斯服務(wù)器

Docker 部署 Prometheus的安裝詳細(xì)教程Docker 部署 Prometheus的安裝詳細(xì)教程Docker 部署 Prometheus的安裝詳細(xì)教程Docker 部署 Prometheus的安裝詳細(xì)教程

然后為添加好的數(shù)據(jù)源做圖形顯示

Docker 部署 Prometheus的安裝詳細(xì)教程Docker 部署 Prometheus的安裝詳細(xì)教程Docker 部署 Prometheus的安裝詳細(xì)教程

5.添加監(jiān)控模板 自己手工創(chuàng)建dashboard有點(diǎn)困難,可以借助開元的力量訪問 [監(jiān)控模板地址]https://grafana.com/grafana/dashboards將會(huì)看到很多用于監(jiān)控 Docker 的 Dashboard。監(jiān)控模板地址(多種監(jiān)控模板根據(jù)自己需求下載不同的模板) 監(jiān)控模板地址 有些dashboard可以下載后直接導(dǎo)入,而有些需要修改后再導(dǎo)入,需要看dashboard的overview 最后效果

Docker 部署 Prometheus的安裝詳細(xì)教程

這時(shí)候可以自己選擇編譯對(duì)應(yīng)的模板,在prometheus上取值傳到grafana上。就可以了。挺好用的!

6.鍵值查詢

通過指標(biāo) io_namespace_http_requests_total 我們可以:

查詢應(yīng)用的請(qǐng)求總量sum(io_namespace_http_requests_total)查詢每秒Http請(qǐng)求量sum(rate(io_wise2c_gateway_requests_total[5m]))查詢當(dāng)前應(yīng)用請(qǐng)求量Top N的URItopk(10, sum(io_namespace_http_requests_total) by (path))

配置Prometheus監(jiān)控Nginx

1、需給Nginx安裝兩個(gè)模塊,才可用Prometheus來監(jiān)控:nginx-module-vts、geoip

2、思路:原來無論是編譯、還是yum裝的nginx,都需要下載同版本的tar包,基于原來安裝選項(xiàng)的基礎(chǔ)上,增加以上兩個(gè)模塊選項(xiàng),進(jìn)行編譯安裝,來替換原來的nginx,最終將原nginx目錄的配置文件如nginx.conf文件、conf.d目錄再移動(dòng)到編譯安裝后的nignx目錄內(nèi),最后啟動(dòng)nginx即可。

這里官方源安裝:1)配置官方源

[root@web01 ~]# vim /etc/yum.repos.d/nginx.repo[nginx-stable]name=nginx stable repobaseurl=http://nginx.org/packages/centos/7/$basearch/gpgcheck=1enabled=1gpgkey=https://nginx.org/keys/nginx_signing.keymodule_hotfixes=true

2)安裝依賴

yum install -y gcc gcc-c++ autoconf pcre pcre-devel make automake wget httpd-tools vim tree

3)安裝nginx

[root@web01 ~]# yum install -y nginx

4)配置nginx

[root@web01 ~]# vim /etc/nginx/nginx.confuser www;

5)啟動(dòng)服務(wù)

1.方法一:直接啟動(dòng)如果有報(bào)錯(cuò)==》重大錯(cuò)誤,80端口有占用==》查看占用端口的服務(wù)HTTPD,停掉,在重啟nginx[root@web01 ~]# systemctl start nginx2.方法二:[root@web01 ~]# nginx

1.查看當(dāng)前Nginx安裝選項(xiàng)

[root@db01 nginx-1.12.2]# nginx -V[root@db01 nginx-1.12.2]# ./configure --prefix=/usr/share/nginx --sbin-path=/usr/sbin/nginx --modules-path=/usr/lib64/nginx/modules --conf-path=/etc/nginx/nginx.conf --error-log-path=/var/log/nginx/error.log --http-log-path=/var/log/nginx/access.log --http-client-body-temp-path=/var/lib/nginx/tmp/client_body --http-proxy-temp-path=/var/lib/nginx/tmp/proxy --http-fastcgi-temp-path=/var/lib/nginx/tmp/fastcgi --http-uwsgi-temp-path=/var/lib/nginx/tmp/uwsgi --http-scgi-temp-path=/var/lib/nginx/tmp/scgi --pid-path=/run/nginx.pid --lock-path=/run/lock/subsys/nginx --user=nginx --group=nginx --with-compat --with-debug --with-file-aio --with-google_perftools_module --with-http_addition_module --with-http_auth_request_module --with-http_dav_module --with-http_degradation_module --with-http_flv_module --with-http_gunzip_module --with-http_gzip_static_module --with-http_image_filter_module=dynamic --with-http_mp4_module --with-http_perl_module=dynamic --with-http_random_index_module --with-http_realip_module --with-http_secure_link_module --with-http_slice_module --with-http_ssl_module --with-http_stub_status_module --with-http_sub_module --with-http_v2_module --with-http_xslt_module=dynamic --with-mail=dynamic --with-mail_ssl_module --with-pcre --with-pcre-jit --with-stream=dynamic --with-stream_ssl_module --with-stream_ssl_preread_module --with-threads --with-cc-opt=’-O2 -g -pipe -Wall -Wp,-D_FORTIFY_SOURCE=2 -fexceptions -fstack-protector-strong --param=ssp-buffer-size=4 -grecord-gcc-switches -specs=/usr/lib/rpm/redhat/redhat-hardened-cc1 -m64 -mtune=generic’ --with-ld-opt=’-Wl,-z,relro -specs=/usr/lib/rpm/redhat/redhat-hardened-ld -Wl,-E’

2.準(zhǔn)備模塊

# 下載、解壓新包[root@k8s-n1 packages]# wget http://nginx.org/download/nginx-1.16.1.tar.gz[root@k8s-n1 packages]# tar xf nginx-1.16.1.tar.gz#克隆下載 nginx-module-vts 模塊[root@k8s-n1 packages]# git clone https://github.com/vozlt/nginx-module-vts# .安裝GeoIP模塊[root@k8s-n1 packages]# yum -y install epel-release geoip-devel

3.停止Nginx服務(wù)

# 停止nginx服務(wù)[root@k8s-n1 packages]# nginx -s stop# 備份原nginx啟動(dòng)文件[root@k8s-n1 packages]# which nginx/usr/sbin/nginx[root@k8s-n1 packages]# mv /usr/sbin/nginx /usr/sbin/nginx.bak# 備份原nignx目錄[root@k8s-n1 packages]# mv /etc/nginx nginx-1.12.2.bak

4.編譯安裝

1> 安裝所需依賴

編譯安裝時(shí)可能會(huì)出現(xiàn) `make: *** 沒有規(guī)則可以創(chuàng)建“default”需要的目標(biāo)“build”。 停止`的報(bào)錯(cuò),是因?yàn)槿鄙僖蕾噷?dǎo)致# 管他三七21,裝一波兒在進(jìn)行編譯,否則裝完依賴還得重新./configure ~yum install -y gcc gcc++ bash-completion vim lrzsz wget expect net-tools nc nmap tree dos2unix htop iftop iotop unzip telnet sl psmisc nethogs glances bc pcre-devel zlib zlib-devel openssl openssl-devel libxml2 libxml2-dev libxslt-devel gd gd-devel perl-devel perl-ExtUtils-Embed GeoIP GeoIP-devel GeoIP-data pcre-devel

2> 編譯安裝

進(jìn)入剛剛解壓的nginx目錄,編譯安裝 基于原來安裝參數(shù),尾部追加連個(gè)參數(shù)

–add-module=/root/packages/nginx-module-vts–with-http_geoip_module

[root@db01 nginx-1.12.2]# ./configure --prefix=/usr/share/nginx --sbin-path=/usr/sbin/nginx --modules-path=/usr/lib64/nginx/modules --conf-path=/etc/nginx/nginx.conf --error-log-path=/var/log/nginx/error.log --http-log-path=/var/log/nginx/access.log --http-client-body-temp-path=/var/lib/nginx/tmp/client_body --http-proxy-temp-path=/var/lib/nginx/tmp/proxy --http-fastcgi-temp-path=/var/lib/nginx/tmp/fastcgi --http-uwsgi-temp-path=/var/lib/nginx/tmp/uwsgi --http-scgi-temp-path=/var/lib/nginx/tmp/scgi --pid-path=/run/nginx.pid --lock-path=/run/lock/subsys/nginx --user=nginx --group=nginx --with-compat --with-debug --with-file-aio --with-google_perftools_module --with-http_addition_module --with-http_auth_request_module --with-http_dav_module --with-http_degradation_module --with-http_flv_module --with-http_gunzip_module --with-http_gzip_static_module --with-http_image_filter_module=dynamic --with-http_mp4_module --with-http_perl_module=dynamic --with-http_random_index_module --with-http_realip_module --with-http_secure_link_module --with-http_slice_module --with-http_ssl_module --with-http_stub_status_module --with-http_sub_module --with-http_v2_module --with-http_xslt_module=dynamic --with-mail=dynamic --with-mail_ssl_module --with-pcre --with-pcre-jit --with-stream=dynamic --with-stream_ssl_module --with-stream_ssl_preread_module --with-threads --with-cc-opt=’-O2 -g -pipe -Wall -Wp,-D_FORTIFY_SOURCE=2 -fexceptions -fstack-protector-strong --param=ssp-buffer-size=4 -grecord-gcc-switches -specs=/usr/lib/rpm/redhat/redhat-hardened-cc1 -m64 -mtune=generic’ --with-ld-opt=’-Wl,-z,relro -specs=/usr/lib/rpm/redhat/redhat-hardened-ld -Wl,-E’ --add-module=/root/package/nginx-module-vts --with-http_geoip_module

# 編譯安裝# -j 多核編譯(配置低的不建議使用此參數(shù),會(huì)卡住~)[root@k8s-n1 nginx-1.12.2]# make -j && make install

5.配置Nginx

[root@k8s-n1 packages]# cp -r nginx-1.12.2.bak/conf.d/ /etc/nginx/[root@k8s-n1 packages]# cp -r nginx-1.12.2.bak/nginx.conf /etc/nginx/[root@k8s-n1 packages]# rm -f /etc/nginx/conf.d/default.conf

配置Nginx配置文件

http層

server層

···http {··· include /etc/nginx/conf.d/*.conf;##################### 1.http層:添加三行配置 ##################### vhost_traffic_status_zone; vhost_traffic_status_filter_by_host on; geoip_country /usr/share/GeoIP/GeoIP.dat;##################### 2.server層:指定server層端口號(hào),建議8088端口,不沖突直接復(fù)制粘貼即可##################### server {listen 8088;server_name localhost;# 以下vhost配置寫在此location內(nèi)location /status {vhost_traffic_status on;# 流量狀態(tài),默認(rèn)即為on,可不寫此行vhost_traffic_status_display;vhost_traffic_status_display_format html;vhost_traffic_status_filter_by_set_key $uri uri::$server_name; #每個(gè)uri訪問量vhost_traffic_status_filter_by_set_key $geoip_country_code country::$server_name; #不同國(guó)家/區(qū)域請(qǐng)求量vhost_traffic_status_filter_by_set_key $status $server_name; #http code統(tǒng)計(jì)vhost_traffic_status_filter_by_set_key $upstream_addr upstream::backend; #后端>轉(zhuǎn)發(fā)統(tǒng)計(jì)vhost_traffic_status_filter_by_set_key $remote_port client::ports::$server_name; #請(qǐng)求端口統(tǒng)計(jì)vhost_traffic_status_filter_by_set_key $remote_addr client::addr::$server_name; #請(qǐng)求IP統(tǒng)計(jì)location ~ ^/storage/(.+)/.*$ { set $volume $1; vhost_traffic_status_filter_by_set_key $volume storage::$server_name; #請(qǐng)求路徑統(tǒng)計(jì)}} } ##################### server層:可新建一個(gè)server,或在原有的不打緊的配置上修改也可以#####################}

6.啟動(dòng)Nginx

[root@k8s-n1 packages]# nginx[root@k8s-n1 packages]# netstat -lntp|grep nginxtcp0 0 0.0.0.0:80 0.0.0.0:* LISTEN 62214/nginx: master tcp0 0 0.0.0.0:8088 0.0.0.0:* LISTEN 62214/nginx: master 瀏覽器訪問:172.23.0.243:80# nginx 默認(rèn)官方頁面172.23.0.243:8088/status # nignx 監(jiān)控項(xiàng)頁面

Docker 部署 Prometheus的安裝詳細(xì)教程

7.使用Prometheus監(jiān)控 prometheus服務(wù)端配置prometheus.yml,并重啟prometheus容器 metrics_path:定義接口后綴類型,默認(rèn)為/metrics 即我們輸入ip+端口后,瀏覽器會(huì)自動(dòng)追加/metrics后綴

[root@k8s-m1 ~]# vim prometheus.yml···scrape_configs: - job_name: 'Nginx' metrics_path: ’/status/format/prometheus’ static_configs: - targets: [’172.23.0.243:8088’]···[root@k8s-m1 ~]# docker restart prometheus# 此時(shí)進(jìn)入prometheus管理頁面,則能查詢nginx的監(jiān)控項(xiàng)8.各個(gè)監(jiān)控項(xiàng)的含義

Nginx-module-vts提供了多種監(jiān)控項(xiàng),了解監(jiān)控項(xiàng)含義,有助于幫助自己生成需要的圖表

# HELP nginx_vts_info Nginx info# TYPE nginx_vts_info gaugenginx_vts_info{hostname='hbhly_21_205',version='1.16.1'} 1# HELP nginx_vts_start_time_seconds Nginx start time# TYPE nginx_vts_start_time_seconds gaugenginx_vts_start_time_seconds 1584268136.439# HELP nginx_vts_main_connections Nginx connections# TYPE nginx_vts_main_connections gauge# 區(qū)分狀態(tài)的nginx連接數(shù)nginx_vts_main_connections{status='accepted'} 9271nginx_vts_main_connections{status='active'} 7nginx_vts_main_connections{status='handled'} 9271nginx_vts_main_connections{status='reading'} 0nginx_vts_main_connections{status='requests'} 438850nginx_vts_main_connections{status='waiting'} 6nginx_vts_main_connections{status='writing'} 1# HELP nginx_vts_main_shm_usage_bytes Shared memory [ngx_http_vhost_traffic_status] info# TYPE nginx_vts_main_shm_usage_bytes gauge# 內(nèi)存使用量nginx_vts_main_shm_usage_bytes{shared='max_size'} 1048575nginx_vts_main_shm_usage_bytes{shared='used_size'} 24689nginx_vts_main_shm_usage_bytes{shared='used_node'} 7# HELP nginx_vts_server_bytes_total The request/response bytes# TYPE nginx_vts_server_bytes_total counter# HELP nginx_vts_server_requests_total The requests counter# TYPE nginx_vts_server_requests_total counter# HELP nginx_vts_server_request_seconds_total The request processing time in seconds# TYPE nginx_vts_server_request_seconds_total counter# HELP nginx_vts_server_request_seconds The average of request processing times in seconds# TYPE nginx_vts_server_request_seconds gauge# HELP nginx_vts_server_request_duration_seconds The histogram of request processing time# TYPE nginx_vts_server_request_duration_seconds histogram# HELP nginx_vts_server_cache_total The requests cache counter# TYPE nginx_vts_server_cache_total counter# 分Host的進(jìn)出流量nginx_vts_server_bytes_total{host='10.160.21.205',direction='in'} 22921464nginx_vts_server_bytes_total{host='10.160.21.205',direction='out'} 1098196005# 分狀態(tài)碼的請(qǐng)求數(shù)量統(tǒng)計(jì) 1** 2** 3** 4** 5**nginx_vts_server_requests_total{host='10.160.21.205',code='1xx'} 0nginx_vts_server_requests_total{host='10.160.21.205',code='2xx'} 86809nginx_vts_server_requests_total{host='10.160.21.205',code='3xx'} 0nginx_vts_server_requests_total{host='10.160.21.205',code='4xx'} 2nginx_vts_server_requests_total{host='10.160.21.205',code='5xx'} 0nginx_vts_server_requests_total{host='10.160.21.205',code='total'} 86811# 響應(yīng)時(shí)間nginx_vts_server_request_seconds_total{host='10.160.21.205'} 0.000nginx_vts_server_request_seconds{host='10.160.21.205'} 0.000# 分狀態(tài)的緩存的統(tǒng)計(jì)nginx_vts_server_cache_total{host='10.160.21.205',status='miss'} 0nginx_vts_server_cache_total{host='10.160.21.205',status='bypass'} 0nginx_vts_server_cache_total{host='10.160.21.205',status='expired'} 0nginx_vts_server_cache_total{host='10.160.21.205',status='stale'} 0nginx_vts_server_cache_total{host='10.160.21.205',status='updating'} 0nginx_vts_server_cache_total{host='10.160.21.205',status='revalidated'} 0nginx_vts_server_cache_total{host='10.160.21.205',status='hit'} 0nginx_vts_server_cache_total{host='10.160.21.205',status='scarce'} 0nginx_vts_server_bytes_total{host='devapi.feedback.test',direction='in'} 3044526nginx_vts_server_bytes_total{host='devapi.feedback.test',direction='out'} 41257028# 分狀態(tài)的連接數(shù)的統(tǒng)計(jì)nginx_vts_server_requests_total{host='devapi.feedback.test',code='1xx'} 0nginx_vts_server_requests_total{host='devapi.feedback.test',code='2xx'} 3983nginx_vts_server_requests_total{host='devapi.feedback.test',code='3xx'} 0nginx_vts_server_requests_total{host='devapi.feedback.test',code='4xx'} 24nginx_vts_server_requests_total{host='devapi.feedback.test',code='5xx'} 11nginx_vts_server_requests_total{host='devapi.feedback.test',code='total'} 4018nginx_vts_server_request_seconds_total{host='devapi.feedback.test'} 327.173nginx_vts_server_request_seconds{host='devapi.feedback.test'} 0.000# nginx緩存計(jì)算器,精確到狀態(tài)和typenginx_vts_server_cache_total{host='devapi.feedback.test',status='miss'} 0nginx_vts_server_cache_total{host='devapi.feedback.test',status='bypass'} 0nginx_vts_server_cache_total{host='devapi.feedback.test',status='expired'} 0nginx_vts_server_cache_total{host='devapi.feedback.test',status='stale'} 0nginx_vts_server_cache_total{host='devapi.feedback.test',status='updating'} 0nginx_vts_server_cache_total{host='devapi.feedback.test',status='revalidated'} 0nginx_vts_server_cache_total{host='devapi.feedback.test',status='hit'} 0nginx_vts_server_cache_total{host='devapi.feedback.test',status='scarce'} 0nginx_vts_server_bytes_total{host='testapi.feedback.test',direction='in'} 55553573nginx_vts_server_bytes_total{host='testapi.feedback.test',direction='out'} 9667561188nginx_vts_server_requests_total{host='testapi.feedback.test',code='1xx'} 0nginx_vts_server_requests_total{host='testapi.feedback.test',code='2xx'} 347949nginx_vts_server_requests_total{host='testapi.feedback.test',code='3xx'} 31nginx_vts_server_requests_total{host='testapi.feedback.test',code='4xx'} 7nginx_vts_server_requests_total{host='testapi.feedback.test',code='5xx'} 33nginx_vts_server_requests_total{host='testapi.feedback.test',code='total'} 348020nginx_vts_server_request_seconds_total{host='testapi.feedback.test'} 2185.177nginx_vts_server_request_seconds{host='testapi.feedback.test'} 0.001nginx_vts_server_cache_total{host='testapi.feedback.test',status='miss'} 0nginx_vts_server_cache_total{host='testapi.feedback.test',status='bypass'} 0nginx_vts_server_cache_total{host='testapi.feedback.test',status='expired'} 0nginx_vts_server_cache_total{host='testapi.feedback.test',status='stale'} 0nginx_vts_server_cache_total{host='testapi.feedback.test',status='updating'} 0nginx_vts_server_cache_total{host='testapi.feedback.test',status='revalidated'} 0nginx_vts_server_cache_total{host='testapi.feedback.test',status='hit'} 0nginx_vts_server_cache_total{host='testapi.feedback.test',status='scarce'} 0nginx_vts_server_bytes_total{host='*',direction='in'} 81519563nginx_vts_server_bytes_total{host='*',direction='out'} 10807014221# 分host請(qǐng)求數(shù)量統(tǒng)計(jì)nginx_vts_server_requests_total{host='*',code='1xx'} 0nginx_vts_server_requests_total{host='*',code='2xx'} 438741nginx_vts_server_requests_total{host='*',code='3xx'} 31nginx_vts_server_requests_total{host='*',code='4xx'} 33nginx_vts_server_requests_total{host='*',code='5xx'} 44nginx_vts_server_requests_total{host='*',code='total'} 438849nginx_vts_server_request_seconds_total{host='*'} 2512.350nginx_vts_server_request_seconds{host='*'} 0.007# 分host緩存統(tǒng)計(jì)nginx_vts_server_cache_total{host='*',status='miss'} 0nginx_vts_server_cache_total{host='*',status='bypass'} 0nginx_vts_server_cache_total{host='*',status='expired'} 0nginx_vts_server_cache_total{host='*',status='stale'} 0nginx_vts_server_cache_total{host='*',status='updating'} 0nginx_vts_server_cache_total{host='*',status='revalidated'} 0nginx_vts_server_cache_total{host='*',status='hit'} 0nginx_vts_server_cache_total{host='*',status='scarce'} 0# HELP nginx_vts_upstream_bytes_total The request/response bytes# TYPE nginx_vts_upstream_bytes_total counter# HELP nginx_vts_upstream_requests_total The upstream requests counter# TYPE nginx_vts_upstream_requests_total counter# HELP nginx_vts_upstream_request_seconds_total The request Processing time including upstream in seconds# TYPE nginx_vts_upstream_request_seconds_total counter# HELP nginx_vts_upstream_request_seconds The average of request processing times including upstream in seconds# TYPE nginx_vts_upstream_request_seconds gauge# HELP nginx_vts_upstream_response_seconds_total The only upstream response processing time in seconds# TYPE nginx_vts_upstream_response_seconds_total counter# HELP nginx_vts_upstream_response_seconds The average of only upstream response processing times in seconds# TYPE nginx_vts_upstream_response_seconds gauge# HELP nginx_vts_upstream_request_duration_seconds The histogram of request processing time including upstream# TYPE nginx_vts_upstream_request_duration_seconds histogram# HELP nginx_vts_upstream_response_duration_seconds The histogram of only upstream response processing time# TYPE nginx_vts_upstream_response_duration_seconds histogram# 分upstream流量統(tǒng)計(jì)nginx_vts_upstream_bytes_total{upstream='::nogroups',backend='10.144.227.162:80',direction='in'} 12296nginx_vts_upstream_bytes_total{upstream='::nogroups',backend='10.144.227.162:80',direction='out'} 13582924nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.144.227.162:80',code='1xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.144.227.162:80',code='2xx'} 25nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.144.227.162:80',code='3xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.144.227.162:80',code='4xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.144.227.162:80',code='5xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.144.227.162:80',code='total'} 25nginx_vts_upstream_request_seconds_total{upstream='::nogroups',backend='10.144.227.162:80'} 1.483nginx_vts_upstream_request_seconds{upstream='::nogroups',backend='10.144.227.162:80'} 0.000nginx_vts_upstream_response_seconds_total{upstream='::nogroups',backend='10.144.227.162:80'} 1.484nginx_vts_upstream_response_seconds{upstream='::nogroups',backend='10.144.227.162:80'} 0.000nginx_vts_upstream_bytes_total{upstream='::nogroups',backend='10.152.218.149:80',direction='in'} 12471nginx_vts_upstream_bytes_total{upstream='::nogroups',backend='10.152.218.149:80',direction='out'} 11790508nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.152.218.149:80',code='1xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.152.218.149:80',code='2xx'} 24nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.152.218.149:80',code='3xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.152.218.149:80',code='4xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.152.218.149:80',code='5xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.152.218.149:80',code='total'} 24nginx_vts_upstream_request_seconds_total{upstream='::nogroups',backend='10.152.218.149:80'} 1.169nginx_vts_upstream_request_seconds{upstream='::nogroups',backend='10.152.218.149:80'} 0.000nginx_vts_upstream_response_seconds_total{upstream='::nogroups',backend='10.152.218.149:80'} 1.168nginx_vts_upstream_response_seconds{upstream='::nogroups',backend='10.152.218.149:80'} 0.000nginx_vts_upstream_bytes_total{upstream='::nogroups',backend='10.160.21.205:8081',direction='in'} 3036924nginx_vts_upstream_bytes_total{upstream='::nogroups',backend='10.160.21.205:8081',direction='out'} 33355357nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8081',code='1xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8081',code='2xx'} 3971nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8081',code='3xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8081',code='4xx'} 24nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8081',code='5xx'} 11nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8081',code='total'} 4006nginx_vts_upstream_request_seconds_total{upstream='::nogroups',backend='10.160.21.205:8081'} 326.427nginx_vts_upstream_request_seconds{upstream='::nogroups',backend='10.160.21.205:8081'} 0.000nginx_vts_upstream_response_seconds_total{upstream='::nogroups',backend='10.160.21.205:8081'} 300.722nginx_vts_upstream_response_seconds{upstream='::nogroups',backend='10.160.21.205:8081'} 0.000nginx_vts_upstream_bytes_total{upstream='::nogroups',backend='10.160.21.205:8082',direction='in'} 55536408nginx_vts_upstream_bytes_total{upstream='::nogroups',backend='10.160.21.205:8082',direction='out'} 9650089427nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8082',code='1xx'} 0nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8082',code='2xx'} 347912nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8082',code='3xx'} 31nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8082',code='4xx'} 7nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8082',code='5xx'} 33nginx_vts_upstream_requests_total{upstream='::nogroups',backend='10.160.21.205:8082',code='total'} 347983nginx_vts_upstream_request_seconds_total{upstream='::nogroups',backend='10.160.21.205:8082'} 2183.271nginx_vts_upstream_request_seconds{upstream='::nogroups',backend='10.160.21.205:8082'} 0.001nginx_vts_upstream_response_seconds_total{upstream='::nogroups',backend='10.160.21.205:8082'} 2180.893nginx_vts_upstream_response_seconds{upstream='::nogroups',backend='10.160.21.205:8082'} 0.0019.Prometheus UI中Target表達(dá)式查詢

1)CAdvisor中獲取的典型監(jiān)控指標(biāo)

指標(biāo)名稱 類型 含義 container_cpu_load_average_10s gauge 過去10秒內(nèi)容器CPU的平均負(fù)載 container_cpu_usage_seconds_total counter 容器在每個(gè)CPU內(nèi)核上的累積占用時(shí)間 (單位:秒) container_cpu_system_seconds_total counter System CPU累積占用時(shí)間(單位:秒) container_cpu_user_seconds_total counter User CPU累積占用時(shí)間(單位:秒) container_fs_usge_bytes gauge 容器中文件系統(tǒng)的使用量(單位:字節(jié)) container_network_receive_bytes_total counter 容器網(wǎng)絡(luò)累計(jì)接受數(shù)據(jù)總量(單位: 字節(jié)) container_network_transmit_bytes_total counter 容器網(wǎng)絡(luò)累計(jì)傳輸數(shù)據(jù)總量(單位: 字節(jié))

2)容器相關(guān)

# 容器的CPU使用率sum(irate(container_cpu_usage_seconds_total{image!=''}[1m])) without (cpu)# 容器內(nèi)存使用量(單位: 字節(jié))container_memory_usage_bytes{image!=''}# 容器網(wǎng)絡(luò)接收量速率(單位: 字節(jié)/秒)sum(rate(container_network_receive_bytes_total{image!=''}[1m])) without (interface)# 容器網(wǎng)絡(luò)傳輸量速率sum(rate(container_network_transmit_bytes_total{image!=''}[1m])) without (interface)# 容器文件系統(tǒng)讀取速率sum(rate(container_fs_reads_bytes_total{image!=''}[1m])) without (device)# 容器文件系統(tǒng)寫入速率(單位: 字節(jié)/秒)sum(rate(container_fs_writes_bytes_total{image!=''}[1m])) without (device)

3)http相關(guān)

# HTTP請(qǐng)求總數(shù)prometheus_http_requests_total# HTTP請(qǐng)求持續(xù)時(shí)間秒桶prometheus_http_request_duration_seconds_bucket# HTTP請(qǐng)求持續(xù)時(shí)間秒數(shù)計(jì)數(shù)prometheus_http_request_duration_seconds_count# HTTP請(qǐng)求持續(xù)時(shí)間秒數(shù)之和prometheus_http_request_duration_seconds_sum# HTTP響應(yīng)大小字節(jié)prometheus_http_response_size_bytes_bucket# HTTP響應(yīng)大小字節(jié)計(jì)數(shù)計(jì)數(shù)prometheus_http_response_size_bytes_count# HTTP響應(yīng)大小字節(jié)的總和prometheus_http_response_size_bytes_sum

4)Nginx相關(guān)

# Nginxvts過濾字節(jié)總數(shù)nginx_vts_filter_bytes_total# Nginx VTS過濾器緩存總數(shù)nginx_vts_filter_cache_total# Nginx VTS過濾請(qǐng)求秒數(shù)nginx_vts_filter_request_seconds# Nginx VTS過濾器請(qǐng)求總秒數(shù)nginx_vts_filter_request_seconds_total# Nginx VTS過濾器請(qǐng)求總數(shù)nginx_vts_filter_requests_total# nginx信息nginx_vts_info# Nginx VTS主連接nginx_vts_main_connections# Nginx VTS主SHM使用字節(jié)nginx_vts_main_shm_usage_bytes# Nginx VTS服務(wù)器字節(jié)總數(shù)nginx_vts_server_bytes_total# Nginx VTS服務(wù)器緩存總數(shù)nginx_vts_server_cache_total# Nginx_vts服務(wù)器請(qǐng)求秒nginx_vts_server_request_seconds# Nginx_vts服務(wù)器請(qǐng)求總秒數(shù)nginx_vts_server_request_seconds_total# Nginx_vts服務(wù)總請(qǐng)求數(shù)nginx_vts_server_requests_total# Nginx VTS開始時(shí)間秒數(shù)nginx_vts_start_time_seconds10.安裝blackbox_exporter blackbox收集服務(wù)狀態(tài)信息,如判斷服務(wù)http請(qǐng)求是否返回200繼而報(bào)警 blackbox_exporter是Prometheus 官方提供的 exporter 之一,可以提供 http、dns、tcp、icmp 的監(jiān)控?cái)?shù)據(jù)采集

功能:HTTP 測(cè)試 定義 Request Header 信息 判斷 Http status / Http Respones Header / Http Body 內(nèi)容 TCP 測(cè)試 業(yè)務(wù)組件端口狀態(tài)監(jiān)聽 應(yīng)用層協(xié)議定義與監(jiān)聽 ICMP 測(cè)試主機(jī)探活機(jī)制POST 測(cè)試接口聯(lián)通性SSL 證書過期時(shí)間# 下載、解壓[root@11 Prometheus]# wget https://github.com/prometheus/blackbox_exporter/releases/download/v0.14.0/blackbox_exporter-0.14.0.linux-amd64.tar.gz[root@11 Prometheus]# tar -xvf blackbox_exporter-0.14.0.linux-amd64.tar.gz[root@11 Prometheus]# mv blackbox_exporter-0.14.0.linux-amd64 /usr/local/blackbox_exporter# 查看安裝是否成功[root@11 Prometheus]# /usr/local/blackbox_exporter/blackbox_exporter --versionblackbox_exporter, version 0.14.0 (branch: HEAD, revision: bba7ef76193948a333a5868a1ab38b864f7d968a) build user: root@63d11aa5b6c6 build date: 20190315-13:32:31 go version: go1.11.5# 加入systemd管理[root@11 Prometheus]# cat /usr//lib/systemd/system/blackbox_exporter.service[Unit]Description=blackbox_exporter [Service]User=rootType=simpleExecStart=/usr/local/blackbox_exporter/blackbox_exporter --config.file=/usr/local/blackbox_exporter/blackbox.ymlRestart=on-failure[root@11 Prometheus]# # 啟動(dòng)[root@11 Prometheus]# systemctl daemon-reload[root@11 Prometheus]# systemctl enable --now blackbox_exporter11.Docker部署nginx-module-vts模塊

由于yum安裝的nginx,默認(rèn)是沒有nginx-module-vts模塊的,需要下載對(duì)應(yīng)的nginx源碼,進(jìn)行重新編譯才行。

Docker 搭建 Consul集群(未完)

1.啟動(dòng)第一個(gè)consul服務(wù):consul1

docker run --name consul1 -d -p 8500:8500 -p 8300:8300 -p 8301:8301 -p 8302:8302 -p 8600:8600 --restart=always consul:latest agent -server -bootstrap-expect 2 -ui -bind=0.0.0.0 -client=0.0.0.0# 獲取 consul server1 的 ip 地址docker inspect --format ’{{ .NetworkSettings.IPAddress }}’ consul1172.17.0.2# PS: 8500 http 端口,用于 http 接口和 web ui 8300 server rpc 端口,同一數(shù)據(jù)中心 consul server 之間通過該端口通信 8301 serf lan 端口,同一數(shù)據(jù)中心 consul client 通過該端口通信 8302 serf wan 端口,不同數(shù)據(jù)中心 consul server 通過該端口通信 8600 dns 端口,用于服務(wù)發(fā)現(xiàn) -bbostrap-expect 2: 集群至少兩臺(tái)服務(wù)器,才能選舉集群leader -ui:運(yùn)行 web 控制臺(tái) -bind: 監(jiān)聽網(wǎng)口,0.0.0.0 表示所有網(wǎng)口,如果不指定默認(rèn)為127.0.0.1,則無法和容器通信 -client : 限制某些網(wǎng)口可以訪問

2.啟動(dòng)第二個(gè)consul服務(wù):consul2, 并加入consul1(使用join命令)

docker run -d --name consul2 -d -p 8501:8500 consul agent -server -ui -bind=0.0.0.0 -client=0.0.0.0 -join 172.17.0.2docker run -d -p 8501:8500 --restart=always -v /XiLife/consul/data/server3:/consul/data -v /XiLife/consul/conf/server2:/consul/config -e CONSUL_BIND_INTERFACE=’eth0’ --privileged=true --name=consu2 consul agent -server -ui -node=consul2 -client=’0.0.0.0’ -datacenter=xdp_dc -data-dir /consul/data -config-dir /consul/config -join=172.17.0.2

3.啟動(dòng)第三個(gè)consul服務(wù):consul3,并加入consul1

docker run --name consul3 -d -p 8502:8500 consul agent -server -ui -bind=0.0.0.0 -client=0.0.0.0 -join 172.17.0.2

4.查看運(yùn)行的容器(consul集群狀態(tài))

[root@k8s-m1 consul]# docker exec -it consul1 consul membersNode Address Status Type Build Protocol DC Segment013a4a7e74d2 172.17.0.4:8301 alive server 1.10.0 2 dc1 <all>3c118fa83d47 172.17.0.3:8301 alive server 1.10.0 2 dc1 <all>4b5123c97c2b 172.17.0.5:8301 alive server 1.10.0 2 dc1 <all>a7d272ad157a 172.17.0.2:8301 alive server 1.10.0 2 dc1 <all>

5.服務(wù)注冊(cè)與剔除

接下來,我們要注冊(cè)服務(wù)到 Consul 中,可以通過其提供的 API 標(biāo)準(zhǔn)接口來添加 那么先注冊(cè)一個(gè)測(cè)試服務(wù),該測(cè)試數(shù)據(jù)為本機(jī) node-exporter 服務(wù)信息,服務(wù)地址及端口為 node-exporter 默認(rèn)提供指標(biāo)數(shù)據(jù)的地址,執(zhí)行如下命令

# 注冊(cè)241的 node-exporter 服務(wù)信息curl -X PUT -d ’{'id': 'node-exporter','name': 'node-exporter-172.23.0.241','address': '172.23.0.241','port': 9100,'tags': ['prometheus'],'checks': [{'http': 'http://172.23.0.241:9100/metrics', 'interval': '5s'}]}’ http://172.23.0.241:8500/v1/agent/service/register# 注冊(cè)242的 node-exporter 服務(wù)信息將上面所有IP地址改為242的即可,端口不變

如果要注銷掉某個(gè)服務(wù),可以通過如下 API 命令操作,例如注銷上邊添加的 node-exporter 服務(wù)

curl -X PUT http://172.23.0.241:8500/v1/agent/service/deregister/node-exporter

附:升級(jí)Centos6內(nèi)核

rpm -Uvh https://hkg.mirror.rackspace.com/elrepo/kernel/el6/x86_64/RPMS/elrepo-release-6-12.el6.elrepo.noarch.rpmyum源報(bào)錯(cuò)解決:找不到鏡像源cd /etc/yum.repos.dmv CentOS-Base.repo CentOS-Base.repo.backupwget http://mirrors.163.com/.help/CentOS6-Base-163.repomv CentOS6-Base-163.repo CentOS-Base.repoyum clean allwget -O /etc/yum.repos.d/CentOS-Base.repo http://file.kangle.odata.cc/repo/Centos-6.repowget -O /etc/yum.repos.d/epel.repo http://file.kangle.odata.cc/repo/epel-6.repoyum makecache

到此這篇關(guān)于Docker 部署 Prometheus的文章就介紹到這了,更多相關(guān)Docker 部署 Prometheus內(nèi)容請(qǐng)搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!

標(biāo)簽: Docker
相關(guān)文章:
主站蜘蛛池模板: 亚洲精品www久久久 亚洲精品www久久久久久 | 久久国产欧美一区二区 | 激情内射亚洲一区二区三区 | 日韩高清不卡一区 | 一级女人18片毛片蜜桃av | 舌吻激情大尺度做爰视频 | 日批免费观看视频 | 国产视频麻豆 | 丁香美女社区 | 五月天丁香久久 | 欧美变态另类牲交 | 亚洲色图在线视频 | 亚洲日韩av一区二区三区中文 | 蜜桃视频无码区在线观看 | 欧美激情国产在线 | 色哟哟免费 | 久久精品国产99久久6动漫亮点 | 农村一级毛片 | 色8久久人人97超碰香蕉987 | 亚洲精品激情视频 | 亚洲中文字幕无码永久在线 | 粉嫩av淫片一区二区三区 | 91国内精品 | 久久亚洲国产精品成人av秋霞 | 国产精品麻豆成人av电影艾秋 | 白嫩少妇和二男三p爽的大声呻吟 | 亚洲一区二区三区四区五区中文 | 波多野结衣家庭主妇 | 97成人在线 | 一二三区精品视频 | 一二三四视频社区在线 | 国产综合图区 | 欧美黄色激情视频 | 欧美激情在线一区 | 交换配乱吟粗大农村大坑性事视频 | 日韩精品一区二区三区不卡 | 丁香桃色午夜亚洲一区二区三区 | 国产又爽又黄无码无遮挡在线观看 | 欧美丰满bbw | 蜜臀av免费一区二区三区久久乐 | 国产乱子伦精品免费无码专区 | 亚洲少妇色 | 人妻少妇无码精品视频区 | 成人18视频日本 | 全部免费的毛片在线看 | 色婷婷丁香 | 亚洲国产精品久久久久久久 | 狠狠色噜噜狠狠狠888米奇视频 | 三上悠亚人妻中文字幕在线 | 99vv1com这只有精品 | 激情综合亚洲色婷婷五月app | 不卡av影片| 最新在线中文字幕 | 热99在线观看 | a√天堂在线 | 色狠狠久久av五月综合 | 男女激情啪啪18 | 亚洲三页 | 亚洲综合伊人 | 特级西西人体444www高清大胆 | 午夜成年人视频 | 一本大道卡一卡二卡三乱码全集资源 | 日本福利一区二区 | 国产自产精品 | 91桃色成人wangxhab | 爱爱一区 | 欧美日韩一区二区三区四区在线观看 | 国产强伦姧在线观看无码 | 无码色偷偷亚洲国内自拍 | 天堂在线观看av | 久久久精品久久日韩一区综合 | 国产尤物av一区二区三区 | 国产男女猛烈无遮挡免费视频 | 少妇裸体长淫交视频免费观看 | 美女一区 | 国产乱淫av片 | 亚洲国产a∨无码中文777 | 一级做a爰片久久毛片潮喷 一级做a爰片欧美激情床 | 日韩av自拍偷拍 | 亚洲乱码精品久久久久.. | 成人未满十八无毛片 | 黄色一级视频片 | 中文字幕不卡在线播放 | 天天鲁一鲁摸一摸爽一爽 | 日韩欧群交p片内射中文 | 日本做爰高潮视频 | 日本精品一区二区三区在线观看 | 中国女人和老外的毛片 | 国产美女特级嫩嫩嫩bbb片 | 久久在线免费观看 | 日韩乱码一区二区 | 一区二区视屏 | 乱子伦一区二区 | 美女免费视频网站 | 国产又色又刺激高潮视频 | 九色丨porny丨肥臀 | av中文字幕不卡 | 日本熟妇成熟毛茸茸 | 99久久精品国产成人一区二区 | 国产精品粉嫩懂色av | 深夜视频在线免费 | 久久精品天堂av | 日韩三级免费 | 成人做爰在线观看 | 色噜噜视频 | 男人和女人做爽爽视频 | 天堂婷婷 | 国产日产欧产精品浪潮安卓版特色 | 一色桃子av大全在线播放 | 婷婷在线一区 | www.亚洲视频 | 亚洲一二三精品 | 精品久久久久久久久久久久包黑料 | 久久无码人妻精品一区二区三区 | 思思久久99热只有频精品66 | 欧美黑人疯狂性受xxxxx野外 | 国产成人精品日本亚洲第一区 | 亚洲va欧美va天堂v国产桃 | 狠狠插视频 | 绝色美妇性调教沦为玩物 | 天堂欧美城网站网址 | 国产精品18久久久久久首页狼 | 一本到在线观看 | 韩国19禁无遮挡啪啪无码网站 | 国产图片区 | 一级做a爰片性色毛片武则天 | 久久精品久久久精品美女 | 亚洲视频一区在线观看 | 中文字幕第一页亚洲 | 国产又粗又猛又爽又黄的视频在线观看动漫 | 欧美老熟妇喷水 | 久久久久久国产精品美女 | 日本大尺度吃奶做爰久久久绯色 | 免费aⅴ网站 | 国产精品久久久毛片 | 国产97人人超碰caoprom亮点 | 精品国产91久久久久久 | 影音先锋中文字幕资源 | 成人福利视频在线 | 糖心vlog一区二区三区在线 | 亚洲午夜片 | 日本视频在线观看免费 | 中文字幕亚洲精品日韩 | 欧美久久久 | 少妇乱淫36部 | 久草中文在线 | 极品少妇hdxx天美hdxx | 一级网站在线观看 | 欧美在线三区 | 在线精品视频一区二区三区 | 在线观看av的网站 | 无码av岛国片在线播放 | 在线亚洲人成电影网站色www | 亚洲最大成人av | 日本美女视频一区 | 你懂的网址国产,欧美 | 亚洲国产精品91 | 成年黄色片 | 免费观看又色又爽又黄的韩国 | 毛片网站在线 | 久久久精品视频免费 | 男人的天堂2019 | 狠狠97人人婷婷五月 | 一级特黄aaa毛片在线视频 | 中文字幕久久av | 亚洲一区av | 女人十八特级淫片清 | 日本亲子乱子伦xxxx | 美女视频黄a视频全免费 | 国产精品久久久久一区二区国产 | 国产精品第八页 | 人妻熟女欲求不满在线 | 成人福利av| 日韩欧美国产综合 | 亚洲国产成人综合精品 | 色橹橹欧美在线观看视频高清 | 国产原创在线视频 | 成人日韩欧美 | 6699嫩草久久久精品影院 | 亚洲精品乱码久久久久久v 精品国产a∨无码一区二区三区 | 七月丁香婷婷 | 乳孔很大能进去的av番号 | 国产精品女人特黄av片 | 天天碰天天干 | 亚洲天堂视频在线播放 | 国产精品va在线播放我和闺蜜 | 激情网综合 | 日本人乱人乱亲乱色视频观看 | 动漫av网站 | 日韩一区二区三免费高清 | 网址你懂的在线 | 丰满少妇在线观看资源站 | 亚洲熟女乱综合一区二区 | a天堂在线观看 | 久久久久久久成人 | 九色丨porny丨喷水 | 黑人操bb| 亚洲欧美精品一中文字幕 | 国内免费av | 丰满少妇大力进入av亚洲 | 国产精品码在线观看0000 | 成人未满十八无毛片 | 亚洲日韩av一区二区三区中文 | 国产三级黄色 | 日日摸天天添天天添破 | 国产精品国产三级国产专区53 | 三级黄色片免费观看 | 69久久夜色精品国产69乱青草 | 日韩亚洲欧美在线 | 久久九 | 亚洲精品久久久久国产 | a亚洲精品| 三级4级全黄在线 | 日本一级一片免费视频 | 日本少妇久久 | 国产69精品久久久久99尤物 | 亚洲精品一区二区国产精华液 | 久久人国产 | 色九九九| 成熟亚洲日本毛茸茸凸凹 | 欧美精品自拍偷拍 | 国产又粗又猛又大爽又黄 | 小萝莉末成年一区二区 | 男人久久久 | 国产高清一区 | 13一15学生毛片视频软件 | 爱爱中文字幕 | 在线观看亚洲大片短视频 | 无码人妻精品一区二区三区久久久 | 人人干人人爱 | 欧美女人交配视频 | 日韩在线观看网址 | 国产尤物av一区二区三区 | 牲欲强的熟妇农村老妇女视频 | yy6080高清性理论片啪 | 亚洲国色天香卡2卡3卡4 | 国产精品永久久久久 | 亚洲丁香花色 | 奇米影视第四色7777 | 91性高潮久久久久久久久 | 九九久久久 | 精品国模一区二区三区 | 国产成人精品视频ⅴa片软件竹菊 | 欧美婷婷久久五月精品三区 | 天天黄色片 | 国产91丝袜在线播放 | 久久精品丝袜高跟鞋 | 日日爱886| 露脸叫床粗话东北少妇 | 夜夜av| 成在线人视频免费视频 | 日韩一区在线播放 | 99久久国产福利自产拍 | 一道本在线 | 伊人婷婷色 | 欧美性折磨bdsm激情另类视频 | 日韩av一级| 亚洲 卡通 欧美 制服 中文 | 欧美肥婆姓交大片 | 大桥未久亚洲精品久久久强制中出 | 好吊妞视频788gao在线观看 | 可以免费看污视频的网站 | 蜜桃av蜜臀av色欲av麻 | 久久精品人妻中文系列 | 精品人妻人人做人人爽 | 国产色99| 波多野结衣乳巨码无在线观看 | 在线观看网站 | 黄色大片aaa| 91高清视频 | 欧美国产二区 | 中文字幕在线观看 | 成人午夜看片 | 国产不卡视频 | 国产人与禽zoz0性伦免费 | 国产新婚疯狂做爰视频 | 国产精品毛片 | 色欲综合一区二区三区 | 黄色成人小视频 | 亚洲无人区午夜福利码高清完整版 | 丰满少妇女裸体bbw 无码av免费一区二区三区试看 | 性涩av| 精品国产乱码久久久久久天狼 | www久久久久久久 | 91在线小视频 | 少妇愉情理伦片丰满丰满午夜 | 午夜美女福利视频 | 亚洲成a人v欧美综合天堂麻豆 | 国产伦精品一区二区三区免费迷 | 在线亚洲欧美 | 少妇真人直播免费视频 | 久久综合影视 | 国产精品毛片久久久久久久明星 | 成视频年人黄网站免费视频 | 激情欧美一区 | 男人的天堂日韩 | 欧美日韩精品乱国产 | 99国产精品久久久久久久成人热 | 日本欧美一区二区 | 少妇又色又紧又爽又刺激视频 | h视频网站在线观看 | 久久精品99国产国产精 | 性猛交xxxx乱大交孕妇2十 | 国产精品51麻豆cm传媒 | 邻居少妇张开腿让我爽了在线观看 | 97久久人人超碰caoprom欧美 | 国产欧美一级片 | 丰满岳妇乱一区二区三区 | 国产aⅴ夜夜欢一区二区三区 | 国产高清免费在线观看 | 国产视频麻豆 | 亚洲国产成人无码av在线播放 | 国产日韩av在线播放 | 宅男666在线永久免费观看 | 国产无在线观看 | 一级成人免费视频 | 婷婷成人亚洲综合国产xv88 | 爱情岛亚洲品质自拍极速福利网站 | 午夜美女福利视频 | 天天草夜夜操 | 亚洲高清无专砖区 | 婷婷黄色网 | 69a∨色欧美丰满少妇 | 欧美高清x | 免费在线观看中文字幕 | 91精品国产91久久久久久 | 宅男噜噜噜66一区二区 | 热re99久久精品国99热线看 | 草草福利视频 | 99精品众筹模特自拍视频 | 成人欧美一区二区三区1314 | 一本色道久久爱88av | 欧美一级淫片 | 东日韩二三区 | 男人天堂免费视频 | 野外做受又硬又粗又大视频√ | 九七超碰在线 | 毛片基地在线观看 | 一本之道色综合网站 | 亚洲国产成人精品女人 | 边添小泬边狠狠躁视频 | 久久久久久福利 | 日本人的性生活视频 | 亚洲娇小业余黑人巨大汇总 | 色噜噜av亚洲色一区二区 | 亚洲黄色大全 | 日韩视频一区在线观看 | 欧美性折磨bdsm另类 | 亚洲视频手机在线 | 亚洲国产精品女人 | 国产裸体美女永久免费无遮挡 | 久久久久久久综合 | 日韩成人福利 | 在线看片无码永久免费视频 | 灌满闺乖女h高h调教尿h | 日韩亚洲欧美一区二区 | 九九在线免费视频 | 伊人网在线 | 精品伦一区二区三区免费视频 | 狠狠躁天天躁夜夜添人人 | 偷拍一女多男做爰免费视频 | 91久久综合| 欧美日韩免费高清一区色橹橹 | 欧美日韩国产精品 | 欧美国产日韩在线 | 成人免费视频在线看 | 少妇中文字幕乱码亚洲影视 | 亚洲女则毛耸耸bbw 亚洲女子a中天字幕 | 欧美乱大交做爰xxxⅹ | 国产激情无码一区二区三区 | 在线观看91精品国产网站 | 他揉捏她两乳不停呻吟动态图 | 国产片av国语在线观看 | 欧美视频一区二区三区四区 | 97se亚洲国产一区二区三区 | 97久久精品人人澡人人爽 | 国产高潮好爽受不了了夜夜做 | 九九影院理论片私人影院 | 欧美日韩一区二区三区视频播放 | 国产精品国产三级国产专播i12 | 成人精品久久久 | 4455四色成人网 | 亚洲天堂一区二区三区四区 | 国精产品一品二品国在线 | 天天做天天爱天天爽综合网 | 日本美女视频网站 | 少妇又色又紧又大爽又刺激 | 国产精品久久无码一区二区三区网 | 日韩xxx视频| 欧美黑人狂野猛交老妇 | 日日碰狠狠丁香久燥 | 国产911在线观看 | 色播久久人人爽人人爽人人片av | 国产在线精品成人欧美 | 老司机67194精品线观看 | 美女露胸无遮挡 | 少妇高潮惨叫久久久久久 | 欧美激情精品久久久久久蜜臀 | 污视频91 | 四影虎影免费在线观看 | 国产日韩一级 | 成年在线视频 | 天天拍夜夜拍 | 午夜激情一区二区 | 亚洲精品蜜夜内射 | 成人免费av影院 | 久热精品在线 | 风韵犹存少妇69xx视频 | 日韩精品一区二区三区亚洲综合 | 国产在线精品拍揄自揄免费 | 男人天堂视频在线 | 亚洲女人网 | 久久99热久久99精品 | 免费看成人av | 天堂在线免费观看视频 | 狠狠色狠狠色综合日日92 | 日韩美女乱淫免费看视频大黄 | 青青青在线视频 | 韩国呻吟大尺度激情视频 | 国产aaaaa免费大片 | 狠狠撸在线视频 | 亚洲色偷偷男人的天堂 | 日韩亚洲欧美在线观看 | 国产精品九九热 | 男人j进女人p免费视频 | 欧美日韩网 | 精品免费在线视频 | 在线观看免费av网站 | 免费av小说 | 强奷人妻日本中文字幕 | 永久免费精品精品永久-夜色 | 亚洲另类春色偷拍在线观看 | 亚洲欧美国产精品久久 | 色呦呦在线免费观看 | 国产网红主播一区二区三区 | 国产精品日本一区二区在线播放 | 石原莉奈在线播放 | 成人一级在线 | 精品视频久久久久久 | 日韩一区二区免费看 | www日韩大片 | a级黄色网址 | 一级做a爰片欧美激情床 | 青青草视频免费 | www.欧美色图| 欧美大肚乱孕交hd孕妇 | 无遮挡aaaaa大片免费看 | 亚洲爆乳无码一区二区三区 | 日韩在线不卡免费视频一区 | 国产精品99久久免费观看 | 免费观看成人38网站 | 狠狠色狠狠色综合人人 | 天天爽夜夜爽夜夜爽 | 欧洲av片| 亚洲激情视频小说 | 欧美成人一区二区三区片免费 | 超薄肉色丝袜一二三四区 | 国产精品爽爽久久 | 伊人春色视频 | 久久嗨 | 亚洲三级网站 | 欧美成人精品第一区 | 久久精品国产片 | 色鬼久久 | 女人18毛片一区二区三区 | 欧美xxxxx精品 | 成人免费观看男女羞羞视频 | 外国特级免费片 | 麻豆免费观看视频 | 999亚洲欲妇| 美女啪啪国产 | 亚洲激情成人网 | 国产免费av一区 | 国产一区二区三区久久久久久久 | 2020久久超碰国产精品最新 | 全部免费播放在线毛片 | a级高清免费毛片 | 97高清国语自产拍 | 国产伦理一区二区 | 国产无遮挡又黄又爽在线视频 | 99久久久无码国产精品9 | 欧美三级欧美成人高清www | 亚洲乱妇老熟女爽到高潮的片 | 欧美一区网站 | 国产公妇伦在线观看 | 亚洲性xxxx | 超碰精品在线观看 | 中文字幕无限2021 | 丁香六月婷婷综合 | 亚洲女同2 | 好会夹宝h1v1 | 青草影院内射中出高潮 | 国产乱xxxxx79国语对白 | 玩弄放荡人妻一区二区三区 | 亚洲欧美国产免费综合视频 | 久久久噜噜噜久久中文福利 | 91麻豆精品国产91久久久久久久久 | 国产精品内射后入合集 | 九九免费在线视频 | 日本三级一区二区三区 | 1000部羞羞视频在线看视频 | 国产操视频 | 精品二区视频 | 日本边添边摸边做边爱喷水 | 欧美九九视频 | 98超碰在线| 99产精品成人啪免费网站 | 国产痴汉av久久精品 | 天天躁日日躁狠狠躁精品推荐 | 亚洲免费网站观看视频 | 纤纤影视理伦片在线看 | 欧美激情一区二区在线 | 无码乱肉视频免费大全合集 | 欧美第二区| 7799精品视频 | 第一页国产 | 一级a性色生活片久久毛片 一级a性色生活片久久毛片明星 | 亚洲免费资源 | 诱人的乳峰奶水hd | 国产毛片毛片精品天天看软件 | 熟女少妇a性色生活片毛片 熟人妇女无乱码中文字幕 熟透的岳跟岳弄了69视频 | av无遮挡 | 一级毛片黄色 | 无码任你躁久久久久久老妇 | av噜噜在线观看 | 久久无码人妻丰满熟妇区毛片 | 精品欧美一区二区三区精品久久 | 亚洲男人天堂 | 亚洲精品在线观看网站 | 日本福利一区二区 | 日韩在线不卡 | 999国产精品999久久久久久 | 影音先锋国产在线 | 91久久久久久久 | 波多野结衣91| 久久精品视频一区二区三区 | 欧美日韩在线观看精品 | 亚洲视频日韩 | 日日摸日日添日日碰9学生露脸 | 人与动物av | 日日噜狠狠噜天天噜av | 91插插插影院 | 日韩三级av在线 | 亚洲超丰满肉感bbw 亚洲超碰在线 | 亚洲人精品午夜 | 日韩av一区在线 | 欧美在线 | 亚洲 | 在线精品亚洲 | 精品国产_亚洲人成在线 | 五月天导航| 中文字幕人成乱码在线观看 | 欧美另类交在线观看 | 精品97国产免费人成视频 | 97国产精品一区二区 | 五月天爱爱 | 中文字幕aⅴ人妻一区二区 性色av免费网站 | 狠狠色综合久久婷婷色天使 | 中文字幕人妻熟女人妻 | 日韩第四页| 国产精品国产三级国产专区53 | 中文字幕在线观看国产 | 黄色一级视频 | 免费不卡的av | 国产福利99| 国产成人a人亚洲精v品无码 | 亚洲国产精品久久精品怡红院 | 日本人做爰大片免费网站 | 亚州毛片 | 少妇性xxxxxxxxx色野 | 亚洲国产亚洲 | 激情综合色综合啪啪五月丁香 | 日本老肥婆bbbwbbbwzr | 国产黄a三级三级三级看三级男男 | 免费看黄色片的网站 | 国产情侣小视频 | 黄色不打码视频 | 国产毛片91 | 亚洲va国产日韩欧美精品色婷婷 | 国产91精品高清一区二区三区 | 午夜精品一区二区三区在线观看 | 中文字幕一区三区 | 国产做无码视频在线观看 | 免费无码一区二区三区蜜桃 | 国产黄色特级片 | 欧产日产国产精品乱噜噜 | 久热精品在线观看视频 | 亚洲无av码一区二区三区 | 成人a视频在线观看 | 欧美日韩a级 | 性高湖久久久久久久久 | 成人精品国产一区二区4080 | 国产亚洲xxxx在线播放 | 国产欧美日韩亚洲 | 无套内内射视频网站 | 日本三级韩国三级三级a级按摩 | 日韩一级二级 | 丁香六月天婷婷 | 亚洲天码中字一区 | 黄色一级在线 | 精品在线视频播放 | 久久天天躁狠狠躁夜夜网站 | 欧美男女视频 | 国内精品国产三级国产在线专 | 中文字幕日韩有码 | 99国产精品久久久久久久日本竹 | 少妇高潮露脸国语对白 | 海角国产乱辈乱精品视频 | 99reav| 国产精选中文字幕 | 特黄特色大片免费播放器图片 | 好吊操视频| 男女无套免费视频 | 最全aⅴ番号库 | 日韩中文字幕成人免费视频 | 欧美人与动物xxx |