請教如何用.NET做實時數(shù)據(jù)采集
-
我想把GOOGLE的生活中的出租數(shù)據(jù)實時放在我自己的網(wǎng)上,因為GOOGLE實時是更新的,但是我不希望像用ifrom一樣把全部都弄過來,有關(guān)GOOGLE的東西我都不要,只要其中的數(shù)據(jù),謝謝怎么實現(xiàn)... 我想把GOOGLE的生活中的出租數(shù)據(jù)實時放在我自己的網(wǎng)上,因為GOOGLE實時是更新的,但是我不希望像用ifrom一樣把全部都弄過來,有關(guān)GOOGLE的東西我都不要,只要其中的數(shù)據(jù),謝謝怎么實現(xiàn)呢 http://shenghuo.google.cn/shenghuo/search?a_y0=9&a_n0=%E6%88%BF%E5%B1%8B&a_n1=%E5%9F%8E%E5%B8%82&a_y1=1&a_o1=0&a_v1=%E6%AD%A6%E6%B1%89&a_n2=%E7%B1%BB%E5%88%AB&a_y2=1&a_o2=0&a_v2=%E5%87%BA%E7%A7%9F 展開
全部評論(3條)
-
- 有智慧的小姑涼 2009-01-21 00:00:00
- 下面的程序是我自己寫的,可以獲取urls的網(wǎng)頁源代碼。你可以根據(jù)返回的tempstr,你再找到他讀取數(shù)據(jù)那里的規(guī)律,再用Substring IndexOf LastIndexOf這些函數(shù)來截取你想要的內(nèi)容保存到數(shù)據(jù)庫,或者用 正則表達式也可以??茨阕约旱氖煜こ潭攘?。 至于你要實時的,那你定期執(zhí)行這個程序就可以了啊。你把已采集的地址存一下,以后采集保存前判斷下有沒有保存同樣的數(shù)據(jù)就可以了。 public string getfiles(string urls) { WebRequest wrq; HttpWebResponse wrp; wrq=HttpWebRequest.Create(urls); wrp=(HttpWebResponse)wrq.GetResponse(); Stream resStream=wrp.GetResponseStream(); StreamReader sr = new StreamReader(resStream, System.Text.Encoding.Default); string tempstr = sr.ReadToEnd(); return tempstr; } 另我覺得這個“不厚道”看從哪方面理解,現(xiàn)在都要資源共享,才能共同進步嘛。
-
贊(14)
回復(0)
-
- youchengyin 2009-01-13 00:00:00
- 這樣的話就只能自己寫個 爬蟲了 只爬你需要的那個網(wǎng)頁 然后不管你用正則表達式還是 截取字符串的方法都能 搞到你所需要的數(shù)據(jù) 一次做個 幾十個或者 100來個線程 會很快的 關(guān)鍵代碼: WebClient client = new WebClient(); string html = client.DownloadString(url); 通過分析你那網(wǎng)頁的源碼 發(fā)現(xiàn) 那些一行行的數(shù)據(jù)是有規(guī)律的都是以 <tr id="sprr 加上id號 開頭 以 </tr>結(jié)尾 所以用正則表達式形式只保存那些格式相同的 Regex r = new Regex(@"<tr id="sprr([\w\W]*?)</tr>"); MatchCollection ms = r.Matches(html); 這保存的就是源碼形式 到這你應(yīng)該就明白了 ps 正如樓上所說的 確實很不厚道
-
贊(1)
回復(0)
-
- 效益專家 2009-01-13 00:00:00
- 分析頁面源代碼,結(jié)構(gòu)化其中的數(shù)據(jù)(主要是字符串的處理和匹配,推薦正則表達式) 另外說一句,你這樣是不厚道的
-
贊(12)
回復(0)
熱門問答
- 請教如何用.NET做實時數(shù)據(jù)采集
- 我想把GOOGLE的生活中的出租數(shù)據(jù)實時放在我自己的網(wǎng)上,因為GOOGLE實時是更新的,但是我不希望像用ifrom一樣把全部都弄過來,有關(guān)GOOGLE的東西我都不要,只要其中的數(shù)據(jù),謝謝怎么實現(xiàn)... 我想把GOOGLE的生活中的出租數(shù)據(jù)實時放在我自己的網(wǎng)上,因為GOOGLE實時是更新的,但是我不希望像用ifrom一樣把全部都弄過來,有關(guān)GOOGLE的東西我都不要,只要其中的數(shù)據(jù),謝謝怎么實現(xiàn)呢 http://shenghuo.google.cn/shenghuo/search?a_y0=9&a_n0=%E6%88%BF%E5%B1%8B&a_n1=%E5%9F%8E%E5%B8%82&a_y1=1&a_o1=0&a_v1=%E6%AD%A6%E6%B1%89&a_n2=%E7%B1%BB%E5%88%AB&a_y2=1&a_o2=0&a_v2=%E5%87%BA%E7%A7%9F 展開
2009-01-12 06:19:55
483
3
- 如何用Java實現(xiàn)數(shù)據(jù)采集?
- 從實時數(shù)據(jù)庫中,通過在線數(shù)據(jù)采集模塊實現(xiàn)數(shù)據(jù)采集?如何用Java來實現(xiàn)這個模塊?謝謝...... 從實時數(shù)據(jù)庫中,通過在線數(shù)據(jù)采集模塊實現(xiàn)數(shù)據(jù)采集? 如何用Java來實現(xiàn)這個模塊? 謝謝... 展開
2007-11-15 00:09:48
531
3
- 如何用C#編寫數(shù)據(jù)采集模塊USB
2017-04-09 06:05:59
304
2
- 如何用礦泉水瓶做量杯
- 如何用礦泉水瓶做量杯
2015-09-12 12:59:24
366
1
- 如何用VC做組態(tài)軟件
- Z近要用歐姆龍的PLC做一個項目,需要用VC做一個組態(tài)軟件實施監(jiān)控,但不知道從何下手!... Z近要用歐姆龍的PLC做一個項目,需要用VC做一個組態(tài)軟件實施監(jiān)控,但不知道從何下手! 展開
2011-09-12 08:16:49
595
3
- 如何用吸管做燈籠
2016-11-30 00:23:48
547
1
- 如何用msp430做信號發(fā)生器
2018-11-24 09:10:37
260
0
- 請教如何用質(zhì)譜法或液相色譜法檢測
2016-12-21 09:18:37
292
1
- python 做監(jiān)控數(shù)據(jù)采集,怎么做.新手請教
2015-01-31 15:20:56
461
1
- 同步數(shù)據(jù)采集與實時數(shù)據(jù)采集的區(qū)分?
- 同步數(shù)據(jù)采集與實時數(shù)據(jù)采集是一回事嗎?... 同步數(shù)據(jù)采集與實時數(shù)據(jù)采集是一回事嗎? 展開
2013-09-11 11:25:17
478
2
- 如何用plc做缺陷檢測
2018-06-29 06:40:53
455
2
- 如何用VB程序做計時器?
2017-11-23 14:26:59
517
1
- 如何用堿發(fā)面做包子?
2013-07-09 04:44:32
363
4
- 如何用origin做拉曼光譜圖
2015-05-18 01:13:59
382
1
- 如何用運動控制卡做數(shù)控系統(tǒng)
2017-11-03 18:32:11
429
1
- 如何用紫蘇做酸堿指示劑
2017-05-03 01:44:26
517
1
- 如何用黑豆做酸堿指示劑
2017-02-18 18:31:10
520
1
- 如何用ps做汽車投影
2016-10-21 12:14:29
509
2
- 請教機器視覺系統(tǒng)如何用PLC去控制
2018-12-02 10:35:48
394
0
- 請教水流量傳感器 脈沖信號 如何用示波器標定
- 現(xiàn)有管徑40MM的水流量傳感器,RIGOL數(shù)字示波器DS1052E。請老師們具體講解,如何標定,求得流量和脈沖的關(guān)系
2014-04-18 07:43:28
563
2
4月突出貢獻榜
推薦主頁
最新話題





參與評論
登錄后參與評論