awk實現group by功能分組統計條數
log日誌初始檔案內容如下:'
"2017-04-26 09:23:04","ac:c1:ee:3c:f9:63","http://www.wangfanwifi.com:16621/api/pageTime?uid=&hitID=bootstrap&browserID=2Cxz4MWqDSJDHJ5RliLg7QtfIpaxkt4h","192.168.10.29","1","2","未知","chrome","3000fa","手工上線[3000fa]" "2017-04-26 09:23:04","d8:1d:72:7b:f5:68","http://www.wangfanwifi.com:16621/api/pageTime?uid=&hitID=bootstrap&browserID=c6EnFEB1pMN1CrbAYgjYQK8r3Lkdaufi","192.168.10.183","3","2","iPhone","Safari","3000fa","手工上線[3000fa]" "2017-04-27 19:30:16","18:59:36:17:bd:e7","http://www.wangfanwifi.com:16621/api/pageTime?uid=&hitID=bootstrap&browserID=koTps7bV3WZnhp1xAzXtxUhVsNqIsYXZ","192.168.10.62","1","2","未知","chrome","703d6d","魯FJ27035" "2017-04-27 19:32:20","18:59:36:17:bd:e7","http://www.wangfanwifi.com:16621/api/pageTime?uid=&hitID=bootstrap&browserID=koTps7bV3WZnhp1xAzXtxUhVsNqIsYXZ","192.168.10.62","1","2","未知","chrome","703d6d","魯FJ27035" "2017-04-24 11:27:04","fc:64:ba:ef:51:44","http://www.wangfanwifi.com:16621/api/pageTime?uid=&hitID=bootstrap&browserID=mGoclWIMCvbGwaJm4GZJRq6ltQd4yuAM","192.168.10.84","1","2","未知","chrome","705de1","手工上線[705de1]" "2017-04-24 11:27:04","fc:64:ba:ef:51:44","http://www.wangfanwifi.com:16621/api/pageTime?uid=&hitID=bootstrap&browserID=mGoclWIMCvbGwaJm4GZJRq6ltQd4yuAM","192.168.10.84","1","2","未知","chrome","705de1","手工上線[705de1]" "2017-04-24 11:27:05","fc:64:ba:ef:51:44","http://www.wangfanwifi.com:16621/api/pageTime?uid=&hitID=bootstrap&browserID=mGoclWIMCvbGwaJm4GZJRq6ltQd4yuAM","192.168.10.84","1","2","未知","chrome","705de1","手工上線[705de1]"
我需要統計除第一列以外的每一行的後面部分作為group by的欄位,並且計算出group by之後每組的條數:
cat aio.log-2017-04-19-23.log|grep 'api/pageTime' |awk -F "," '{for(i=2;i<=NF;i++) printf("%s,",$i); print("")}' |awk '{a[$0]+=1}END{for(i in a) {printf "%s %d\n",substr(i,0,16),a[i]}}'
留作備忘
相關推薦
awk實現group by功能分組統計條數
log日誌初始檔案內容如下:' "2017-04-26 09:23:04","ac:c1:ee:3c:f9:63","http://www.wangfanwifi.com:16621/api/page
awk 雜湊陣列實現group by 功能
有時候我們統計比較大的檔案中的資料的時候需要根據檔案的某個欄位進行彙總,也就是資料庫中的group by 功能,但shell命令 處理檔案是沒有類似資料庫的group by 功能的,這時我們可以通過awk雜湊陣列實現檔案中的group by功能,示例如下: 待處理的檔案格式
Java Dao實現group by 分組查詢功能
前言 今天要實現一個功能,去資料庫查詢一個欄位,查出該欄位有幾個不同的值,以及每個值有多少條記錄。我想到的是group by分組查詢功能,以前雖然學習過,但是沒具體去實踐,沒想到今天實現過程中糾結了很久,我把遇見的問題記錄下來供參考 實現效果 實現
mysql按日期分組(group by)查詢統計的時候,沒有數據補0的解決辦法
details map對象 有一個 end creat 對象 結果 插入 數據返回 轉載自:http://blog.csdn.net/jie11447416/article/details/50887888 1、案例中的數據結構和數據如下 2、在沒有解決的時候,是這樣的
SQL實現group by 分組後組內排序
在一個月黑風高的夜晚,自己無聊學習的SQL的時候,練習,突發奇想的想實現一個功能查詢,一張成績表有如下欄位,班級ID,英語成績,資料成績,語文成績如下圖 實現 查詢出 每個班級英語成績最高的前兩名的記錄。 看起來不難的業務,做起來才知道還挺麻煩的,說白了其實就是實現分組後的組
mysql按日期分組(group by)查詢統計的時候,沒有資料補0的解決辦法
寫部落格真實個費時費力的差事,好佩服那些部落格閱讀幾十上百萬的人。今天研究了半天按照日期分組統計,沒有資料就為空了,我要讓他顯示0呀。想了辦法,都沒有找到一個好的,解決方案,然後用了一個很low的方法實現了,還是把它記錄下來。方法是用於MySQL,與開發語言無關。 1、案例中的資料結構和資料如下 2、
mysql按日期分組(group by)查詢統計的時候,沒有資料補0的解決辦法。
寫部落格真實個費時費力的差事,好佩服那些部落格閱讀幾十上百萬的人。今天研究了半天按照日期分組統計,沒有資料就為空了,我要讓他顯示0呀。想了辦法,都沒有找到一個好的,解決方案,然後用了一個很low的
[MySQL]group by 與 having 結合函數 的統計技巧
borde for border style sql effective ble post fec group by 與 having 允許字段使用函數,根據函數運行的結果group by分組或having設置選擇條件; 同時group by 與 having 也允許使用字
20180519001 - DataTable Group by功能參考
ray temp 異常 金額 foreach item 功能 clone .text DataSet6 = DataSet1.Copy(); DataRow[] dr = DataSet6.Tables[0].Select(" 完工狀態 = ‘完工異常‘ "); Dat
sys_connect_by_path函式配合group by 進行分組拼接
最近,碰到一個需求將 approval_code值對應的多個FIRST_NAME值通過line_no的asc排序 合併為一個最長的欄位 ,對應的表 如下: 對應表的sql 語句如下: SELECT DISTINCT t1.FIRST_NAME, t2.approval_code,
distinct 去重複,group by 資料分組,還是說拿起就用篇--2(嗯算是吧。)
<?php include('./Conf.php'); include('./CEMysql.class.php'); $DB = new CEMysql; $sql = 'select distinct fieldOne,fieldTwo from
一張圖讓你詳細理解Group By的分組聚合過程
Group By分組聚合是我們在使用過程中使用最多的SQL之一(另外一個使用最多的估計就是JOIN了吧),為了讓大家詳細瞭解Group By的計算執行過程,我們下面使用一張圖來詳細講解一下。
【15】group by子句與聚合函數
字段 min sum count() span bsp 學生 空值 查詢 1.group by簡介 -> 使用group by子句可以將數據分組-> 語法group by 字段-> 註意-> 查詢中只允許出現分組的字段或聚合函數-> 分組查詢中
針對於需要先擷取字串,再根據擷取字串進行group by ,並且取記錄數大於2的,再用having count(*)
針對於需要先擷取字串,再根據擷取字串進行group by ,並且取記錄數大於2的,再用having count(*) 業務場景是這樣的,要求查詢user_name的前兩位相同的並且記錄條數大於二的記錄 解決方案 SELECT *,LEFT(user_name,2) FROM USER
linux之>>追加多行變成一行,wc -l統計條數不變
應用場景: 需要將一條資料的a.txt插入到40G的檔案result.txt末尾,result.txt總共有268566151條資料。因此使用追加>>命令,追加後使用wc -l統計行數 出現的問題: 將資料追加到末尾後(cat a.txt >>result.txt),
mysql獲取group by的總記錄行數方法 親測
mysql獲取group by的總記錄行數方法 原方法: 1. group by 後分組的前十條,在頁面展示:size=20 SELECT column_name as count FROM mac_activity ma left join mac_ticket_channel mtc on
mysql使用GROUP BY分組實現取前N條記錄的方法
cls class ges rom 當前 分組 實現 一個 images MySQL中GROUP BY分組取前N條記錄實現 mysql分組,取記錄 GROUP BY之後如何取每組的前兩位下面我來講述mysql中GROUP BY分組取前N條記錄實現方法。 這是測試表(也
elasticsearch聚合操作——本質就是針對搜索後的結果使用桶bucket(允許嵌套)進行group by,統計下分組結果,包括min/max/avg
per 找到 只需要 語句 所有 smi 即使 log 以及 分析 Elasticsearch有一個功能叫做聚合(aggregations),它允許你在數據上生成復雜的分析統計。它很像SQL中的GROUP BY但是功能更強大。 舉個例子,讓我們找到所有職員中最大的共同點(興
關於MYSQL group by 分組按時間取最大值的實現方法!
類如 有一個帖子的回覆表,posts( id , tid , subject , message , dateline ) , id 為 自動增長欄位, tid為該回復的主題帖子的id(外來鍵關聯), subject 為回覆標題, message 為回覆內容, dateline 為回覆時間,用UNIX 時間
用group by 分組後,沒有分組的欄位隨便取一條記錄sql如何寫?
假設表有order_info_details 訂單詳情表 欄位包含: 大家都知道,訂單詳情表中,就存的是一個訂單號有多個食物id。 那麼我們group by order_id後,就只能得到order_id。 但是我們想要得到同一個order_id中的某一條完整的