root@test:/usr/local/nginx/logs# cat search_log.sh
```
#!/bin/bash
#Author:zhangya
#Blog:doc.vim26.com
#Time:2017-08-02 22:35:07
#Name:log.sh
#Version:V1.0
#Description:This is check nginx log script.
#用戶輸入的查詢開始時間
#input_log_time1="2017:"$1
#input_log_time2="2017:"$2
#將用戶輸入的時間轉換為日志記錄的時間
log_time1="2017:"$1
log_time2="2017:"$2
#日志路徑
log_path=$3
#生成的臨時日志
tmp_path=/tmp/${log_path}.tmp
#訪問最高的IP記錄
top_ip_path=/tmp/top_ip.log
#IP歸屬地查詢
ip_where_path=/tmp/ip_where.log
#響應時間排名
nginx_time_path=/tmp/nginx_time.log
#平均響應時間
avg_time_path=/tmp/avg_time.log
#pv數量
pv_num_path=/tmp/pv_num.log
#服務器IP地址
server_ip=$(hostname -I)
#服務器名為
server_name=$(cat /etc/hostname)
#搜索關鍵詞
key_word_bbs="GET /thread-"
key_word_m="GET /bbs/thread-"
key_word_mall="GET /mall/list"
#輸入幫助
usage(){
echo "執行格式為:\nsh $0 \"18:00\" \"22:00\" bbs.vim26.com_access.log"
}
#查詢服務器的信息
server_info(){
echo "=============================="
echo "服務器名:${server_name}"
echo "服務器IP:${server_ip}"
echo "查詢日志為:${log_path}"
echo "查詢時間為:${input_log_time1} - ${input_log_time2}"
echo "=============================="
}
#提取行數并生成臨時日志
time_line(){
line1=$(grep -n "${log_time1}" ${log_path}|head -1|awk -F":" '{print $1}')
line2=$(grep -n "${log_time2}" ${log_path}|head -1|awk -F":" '{print $1}')
sed -n "${line1},${line2}p" $log_path > ${tmp_path}
}
#PV數
pv_num(){
awk '{print $1}' ${tmp_path}|wc -l > ${pv_num_path}
echo " PV數量為: $(cat ${pv_num_path})"
echo "=============================="
}
#最多IP
top_ip(){
awk '{print $1}' ${tmp_path}|sort|uniq -c|sort -n|tail -10 > ${top_ip_path}
echo "訪問最多IP前10為:"
cat ${top_ip_path}
echo "=============================="
}
#IP歸屬地查詢
ip_where(){
> ${ip_where_path}
for i in $(cat ${top_ip_path}|awk '{print $2}')
do
ip_where_host=$(curl -s "http://ip138.com/ips138.asp?ip=${i}&action=2"|iconv -f gb2312 -t utf-8|grep '<ul class="ul1"><li>'|awk -F "[:<>]+" '{print $5}'|cut -c 15-)
echo "$i $ip_where_host" >> ${ip_where_path}
done
echo "=============================="
echo "IP歸屬地查詢結果為:"
cat -n ${ip_where_path}
}
#日志查詢
log_info(){
[ "${log_path}" = "bbs.vim26.com_access.log" ] && key_word=${key_word_bbs}
[ "${log_path}" = "m.vim26.com_access.log" ] && key_word=${key_word_m}
[ "${log_path}" = "mall.vim26.com_access.log" ] && key_word=${key_word_mall}
#監控關鍵詞
echo "監控關鍵鏈接為:${key_word}"
echo "=============================="
#關鍵詞PV次數
key_word_pv=$(grep "${key_word}" ${tmp_path}|wc -l)
echo "關鍵鏈接PV訪問次數: ${key_word_pv}"
echo "=============================="
#關鍵詞PV次數
#關鍵詞平均響應時間
grep "${key_word}" ${tmp_path}|awk '{sum+=$NF} END {print sum/NR}' > ${avg_time_path}
echo "關鍵鏈接平均響應時間為: $(cat ${avg_time_path})"
echo "=============================="
#關鍵詞訪問響應時間排名
echo "關鍵鏈接訪問響應時間排名"
grep "${key_word}" ${tmp_path}|awk '{printf ("%.1f\n",$NF)}'|sort -nk 1 -t.|uniq -c> ${nginx_time_path}
cat ${nginx_time_path}
echo "=============================="
}
#搜索引擎搜索情況
bot_search(){
echo "搜索情況匯總"
bot_all=$(egrep "bot|spider|brandwatch" ${tmp_path}|wc -l)
bot_baidu=$(grep "Baiduspider" ${tmp_path}| wc -l)
bot_bing=$(grep "bingbot" ${tmp_path}| wc -l)
bot_Google=$(grep "Googlebot" ${tmp_path}| wc -l)
bot_sougou=$(grep "Sogou web spider" ${tmp_path}| wc -l)
bot_toutiao=$(grep "ToutiaoSpider" ${tmp_path}| wc -l)
bot_brandwatch=$(grep "brandwatch" ${tmp_path}| wc -l)
echo "搜索引擎總計訪問次數" ${bot_all}
echo " Baidu訪問次數: ${bot_baidu}"
echo " bing訪問次數: ${bot_bing}"
echo " Google訪問次數: ${bot_Google}"
echo " sougou訪問次數: ${bot_sougou}"
echo " toutiao訪問次數: ${bot_toutiao}"
echo " brandwatch訪問次數: ${bot_brandwatch}"
echo "=============================="
}
#bbs的執行動作
all_info(){
time_line
server_info
pv_num
time_line
bot_search
top_ip
log_info
#ip_where
}
#判斷參數是否正確
[ $# != 3 ] && {
usage
exit 1;
}
all_info
```
- 運維筆記
- 零: 安裝部署篇
- Zabbix
- HAproxy
- Nginx
- Apache
- Tomcat
- Mysql
- Redis
- ELK
- MongoDB
- hadoop
- GIt
- JDK
- Docker
- OpenVPN
- iRedMail
- GitLab
- ESXi
- Jenkins
- NFS
- rsync
- Python
- Keepalived
- 軟件打包篇
- 私有倉庫篇
- kafka
- zookeeper
- Spark
- Linux基礎篇
- 1.1 Linux系統介紹
- 1.3 系統優化
- 1.4 問題總結
- Linux核心命令
- 聲明
- 1-文件和目錄操作命令
- 1.3 tree: 以樹形結構顯示目錄下的內容
- 2-文件過濾及內容編輯處理命令
- find:查找目錄下的文件
- 3-文本處理三劍客
- 4-Linux信息顯示與搜索文件命令
- du:統計磁盤空間使用情況
- 5-文件備份與壓縮命令
- rsync:文件同步工具
- 6-Linux用戶管理及用戶信息查詢命令
- 7-Linux磁盤與文件系統管理命令
- 8-Linux進程管理命令
- 9-Linux網絡管理命令
- 10-Linux系統管理命令
- 11-Linux系統常用內置命令
- 服務相關
- Nginx
- 安裝部署
- 文件路徑說明
- 服務啟動管理
- 配置文件說明
- json格式日志的配置文件
- https代理
- nginx負載均衡代理websocket
- 服務優化
- 維護腳本
- 問題總結
- rewrite帶?跳轉
- nginx查看默認安裝的模塊
- HAproxy
- 2.2.1 安裝部署
- 2.2.2 文件路徑說明
- 2.2.3 服務啟動管理
- 2.2.4 配置文件說明
- ha代理websocket
- 2.2.5 集群高可用
- 2.2.6 服務優化
- 2.2.7 維護腳本
- 2.2.8 問題總結
- PHP
- 2.3.1 安裝部署
- keepalived
- 配置文件注釋
- 配置多組VIP
- Java
- 安裝部署java
- ansible部署java
- supervisor
- supervisor安裝部署測試
- iptables
- CentOS7安裝配置iptables
- pm2相關
- kafka相關
- kafka和zookeeper集群安裝部署
- nodejs
- 安裝部署nodejs
- sersync
- sersync備份圖片服務
- gitlab相關
- gitlab安裝部署
- gitlab強制修改密碼
- gitlab不同的連接方式
- jenkins相關
- 安裝部署jenkins
- python相關
- python虛擬環境
- debian安裝pyhton3.6
- Turnserver服務器搭建
- NFS相關
- 固定NFS和rsync端口
- go相關
- 安裝go
- maven相關
- debian私有倉庫搭建
- 翻墻
- linux下的百度云盤
- 私有網盤owncloud部署
- crontab定時任務
- 數據庫相關
- mongodb
- 重用操作命令
- 副本集配置文件
- 慢查詢設置
- 數據備份恢復以及數據導入導出
- 從庫允許只讀設置
- redis
- redis單節點安裝部署
- 配置文件注釋
- redis分析工具rdbtools使用
- redis數據導入導出集群工具
- redis內存信息解釋
- redis警告優化
- PHP會話session保存到redis集群
- redis啟動關閉腳本
- elk相關
- elastersearch常用命令
- elasticsearch6所需配置文件
- elasticsearch6的head插件安裝
- elk6安裝腳本
- filebeat收集php日志多行轉換
- filebeat自定義index
- elk-dockercompes配置
- docker部署elk收集runtime日志
- elasticsearch6添加新節點報錯
- elasticsearch查看索引
- docker部署es+filebeat+kibana
- mysql相關
- mysql日志
- mysql密碼過期
- mysql用戶授權訪問庫
- mysql安裝部署
- MariaDB安裝部署
- 大數據相關
- hadoop相關
- Ambari2.6離線安裝hadoop
- Ambari安裝出現的問題
- 檢測hadoop當前運行了哪些服務端口腳本
- 監控相關
- CentOS7安裝Zabbix3.4
- docker安裝zabbix
- 運維腳本
- 根據配置文件檢查服務端口運行狀態
- nginx日志分析
- ngixn日志合并腳本
- nginx查詢關鍵鏈接響應時間
- 圖片同步腳本
- 批量獲取iptables設置的端口然后驗證本機端口是否存活
- 按日期統計不同接口的響應時間
- php進程假死狀態定時清理
- 運維自動化
- deb打包命令
- ansible相關
- ansible部署
- ansible配置推送
- 編程語言
- 1-SHELL
- 2-Python
- 3-GO
- 有趣的工具
- vim
- 聲明
- 第1章: Vim解決問題的方式
- 技巧1-認識 . 命令
- 技巧2-不要自我重復
- 技巧3-以進為退
- 技巧4-執行,重復,回退
- 技巧5-查找并手動替換
- 技巧6-認識 . 范式
- 第2章: 普通模式
- 第3章: 插入模式
- 第4章: 可視模式
- 第5章: 命令行模式
- 第6章: 管理多個文件
- 第7章: 打開及保存文件
- 第8章: 用動作命令在文檔中移動
- 第9章: 在文件間跳轉
- 第10章: 復制與粘貼
- 第11章: 宏
- 第12章: 按模式匹配及按原義匹配
- 第13章: 查找
- 第14章: 替換
- 第15章: global命令
- 第16章: 通過ctags建立索引并用其瀏覽源代碼
- 第17章: 編譯代碼并通過Quickfix列表瀏覽錯誤信息
- 第18章: 通過grep,vimgrep以及其他工具對整個工程進行查找
- 第19章: 自動補全
- 第20章: 利用Vim的拼寫檢查器查找并更正拼寫錯誤
- 第21章: 接下來干什么
- 附錄A 根據個人喜好定制Vim
- 終端命令記錄回放工具
- screen使用
- iftop查看網絡流量
- dna螺旋
- shell下的俄羅斯方塊
- 正經英語
- 有意思
- 問題記錄
- python相關
- pip安裝缺少openssl和libssl
- shell相關
- debian下執行數組變量報錯
- 服務相關問題
- ububtu安裝apache2報錯
- php升級mongo拓展插件
- elk節點分片失敗
- 操作系統相關問題
- 運維記錄
- 數據庫相關
- mongo3.4安裝以及優化參數腳本
- mongodb版本升級及優化
- redis動態取消rdb保存配置
- 代理負載均衡相關
- haproxy匹配ua規則分離搜索引擎流量
- haproxy不記錄某個域名或多個域名的日志
- 其他相關
- ImageMagick升級
- NFS強制卸載掛載
- 命令相關
- curl獲取指定域名ip的狀態碼
- awk相關記錄
- rsync傳輸限速指定ssh端口
- 操作系統相關
- centos使用阿里源
- ubuntu更換國內源
- 查看操作系統版本
- 內核優化
- Centos7修改語言為英文
- debian安裝xfs格式化工具
- 查看磁盤信息
- debian的啟動管理工具
- debian安裝vmtools
- debian重啟網卡不生效的解決
- 容器虛擬化
- Docker相關
- dokcer安裝
- docker常用命令
- docker簡單腳本
- Dockerfile相關
- 帶ssh的debian鏡像
- deocker創建簡單鏡像
- 官方文檔
- docker-compose安裝
- 報錯
- docker鏡像加速
- k8s相關
- k8s常用命令
- k8s名詞解釋
- k8s相關的 yaml文件
- VM相關
- 使用VMwareWorkstation批量操作linux虛擬機
- 在windows下使用shell批量操作Vmwarworkstation
- windows下批量操作虛擬機
- ESXI相關
- vsphere網絡相關
- 小愛好
- 不方便展示