mirror of
https://github.com/LCTT/TranslateProject.git
synced 2024-12-29 21:41:00 +08:00
350 lines
18 KiB
Markdown
350 lines
18 KiB
Markdown
博客中最好的 8 种语言
|
||
============================================================
|
||
|
||
|
||
长文示警：这篇文章我们将对一些各种各样的博客的流行度相对于他们在谷歌上的排名进行一个分析。所有代码可以在 [github][38] 上找到.
|
||
|
||
### 想法来源
|
||
|
||
我一直在想，各种各样的博客每天到底都有多少页面浏览量，以及在博客阅读中最受欢迎的是什么编程语言。我也很感兴趣的是，它们在谷歌的网站排名是否与它们的受欢迎程度直接相关。
|
||
|
||
为了回答这些问题，我决定做一个 Scrapy 项目，它将收集一些数据，然后对所获得的信息执行特定的数据分析和数据可视化。
|
||
|
||
### 第一部分：Scrapy
|
||
|
||
我们将使用 [Scrapy][39] 为我们的工作，因为它为抓取和管理处理请求的反馈提供了干净和健壮的框架。我们还将使用 [Splash][40] 来解析需要处理的 Javascript 页面。Splash 使用自己的 Web 服务器充当代理，并处理 Javascript 响应，然后再将其重定向到我们的爬虫进程。
|
||
|
||
我这里没有描述 Scrapy 的设置，也没有描述 Splash 的集成。你可以在[这里][34]找到 Scrapy 的示例，而[这里][35]还有 Scrapy+Splash 指南。
|
||
|
||
#### 获得相关的博客
|
||
|
||
第一步显然是获取数据。我们需要谷歌关于编程博客的搜索结果。你看，如果我们开始仅仅用谷歌自己来搜索，比如说查询 “Python”，除了博客，我们还会得到很多其他的东西。我们需要的是做一些过滤，只留下特定的博客。幸运的是，有一种叫做 [Google 自定义搜索引擎][41]的东西，它能做到这一点。还有一个网站 [www.blogsearchengine.org][42]，它可以执行我们需要的东西，将用户请求委托给 CSE，这样我们就可以查看它的查询并重复它们。
|
||
|
||
所以，我们要做的是到 [www.blogsearchengine.org][43] 网站，搜索 “python”，在网络标签页旁边将打开一个Chrome开发者工具。这截图是我们将要看到的。
|
||
|
||
|
||
|
||
突出显示的搜索请求是博客搜索引擎向谷歌委派的，所以我们将复制它并在我们的 scraper 中使用。
|
||
|
||
这个博客抓取爬行器类会是如下这样的:
|
||
|
||
```
|
||
class BlogsSpider(scrapy.Spider):
|
||
name = 'blogs'
|
||
allowed_domains = ['cse.google.com']
|
||
|
||
def __init__(self, queries):
|
||
super(BlogsSpider, self).__init__()
|
||
self.queries = queries
|
||
```
|
||
|
||
[view raw][3] [blogs.py][4] 代码托管于
|
||
|
||
[GitHub][5]
|
||
|
||
与典型的 Scrapy 爬虫不同，我们的方法覆盖了 `__init__` 方法，它接受额外的参数 `queries`，它指定了我们想要执行的查询列表。
|
||
|
||
现在，最重要的部分是构建和执行这个实际的查询。这个过程是在执行 `start_requests` 爬虫的方法，我们愉快地覆盖下来：
|
||
|
||
```
|
||
def start_requests(self):
|
||
params_dict = {
|
||
'cx': ['partner-pub-9634067433254658:5laonibews6'],
|
||
'cof': ['FORID:10'],
|
||
'ie': ['ISO-8859-1'],
|
||
'q': ['query'],
|
||
'sa.x': ['0'],
|
||
'sa.y': ['0'],
|
||
'sa': ['Search'],
|
||
'ad': ['n9'],
|
||
'num': ['10'],
|
||
'rurl': [
|
||
'http://www.blogsearchengine.org/search.html?cx=partner-pub'
|
||
'-9634067433254658%3A5laonibews6&cof=FORID%3A10&ie=ISO-8859-1&'
|
||
'q=query&sa.x=0&sa.y=0&sa=Search'
|
||
],
|
||
'siteurl': ['http://www.blogsearchengine.org/']
|
||
}
|
||
|
||
params = urllib.parse.urlencode(params_dict, doseq=True)
|
||
url_template = urllib.parse.urlunparse(
|
||
['https', self.allowed_domains[0], '/cse',
|
||
'', params, 'gsc.tab=0&gsc.q=query&gsc.page=page_num'])
|
||
for query in self.queries:
|
||
for page_num in range(1, 11):
|
||
url = url_template.replace('query', urllib.parse.quote(query))
|
||
url = url.replace('page_num', str(page_num))
|
||
yield SplashRequest(url, self.parse, endpoint='render.html',
|
||
args={'wait': 0.5})
|
||
```
|
||
|
||
[view raw][6] [blogs.py][7] 代码托管于
|
||
|
||
[GitHub][8]
|
||
|
||
在这里你可以看到相当复杂的 `params_dict` 字典持有所有我们之前找到的 Google CSE URL 的参数。然后我们准备 `url_template` 一切，除了已经填好的查询和页码。我们对每种编程语言请求10页，每一页包含10个链接，所以是每种语言有100个不同的博客用来分析。
|
||
|
||
在 `42-43` 行，我使用一个特殊的类 `SplashRequest` 来代替 Scrapy 自带的 Request 类。它可以抓取 Splash 库中的重定向逻辑，所以我们无需为此担心。十分整洁。
|
||
|
||
最后，这是解析程序：
|
||
|
||
```
|
||
def parse(self, response):
|
||
urls = response.css('div.gs-title.gsc-table-cell-thumbnail') \
|
||
.xpath('./a/@href').extract()
|
||
gsc_fragment = urllib.parse.urlparse(response.url).fragment
|
||
fragment_dict = urllib.parse.parse_qs(gsc_fragment)
|
||
page_num = int(fragment_dict['gsc.page'][0])
|
||
query = fragment_dict['gsc.q'][0]
|
||
page_size = len(urls)
|
||
for i, url in enumerate(urls):
|
||
parsed_url = urllib.parse.urlparse(url)
|
||
rank = (page_num - 1) * page_size + i
|
||
yield {
|
||
'rank': rank,
|
||
'url': parsed_url.netloc,
|
||
'query': query
|
||
}
|
||
```
|
||
|
||
[view raw][9] [blogs.py][10] 代码托管于
|
||
|
||
[GitHub][11]
|
||
|
||
所有 scraper 的心脏和灵魂就是解析器的逻辑。可以有多种方法来理解响应页面结构和构建 XPath 查询字符串。您可以使用 [Scrapy shell][44] 尝试和调整你的 XPath 查询在没有运行爬虫的 fly 上。不过我更喜欢可视化的方法。它再次涉及到谷歌 Chrome 的开发人员控制台。只需右键单击你想要用在你的爬虫里的元素，然后按下 Inspect。控制台将定位到你指定位置的 HTML 代码。在本例中，我们想要得到实际的搜索结果链接。他们的源位置是这样的:
|
||
|
||
|
||
|
||
在查看这个元素的描述后我们看到所找到的 `<div>` 有一个 `.gsc-table-cell-thumbnail` 类，它是 `.gs-title` 的子类，所以我们把它放到响应对象的 `css` 方法（`46` 行）。然后，我们只需要得到博客文章的 URL。它很容易通过`'./a/@href'` XPath 字符串来获得，它能从我们的 `<div>` 子类中将 `href` 属性的标签找到。
|
||
|
||
#### 发现流量数据
|
||
|
||
下一个任务是估测每个博客每天接收到的查看 数量。有[各种各样的选择][45]，可以获得免费和付费的数据。在快速搜索之后，我决定坚持使用这个简单且免费的网站 [www.statshow.com][46]。我们在前一步获得的博客的 URL 将用作这个网站的爬虫，通过它们并添加流量信息。爬虫的初始化是这样的:
|
||
|
||
```
|
||
class TrafficSpider(scrapy.Spider):
|
||
name = 'traffic'
|
||
allowed_domains = ['www.statshow.com']
|
||
|
||
def __init__(self, blogs_data):
|
||
super(TrafficSpider, self).__init__()
|
||
self.blogs_data = blogs_data
|
||
```
|
||
|
||
[view raw][12][traffic.py][13] 代码托管于
|
||
|
||
[GitHub][14]
|
||
|
||
`blogs_data` 将被格式化为词典的列表项：`{"rank": 70, "url": "www.stat.washington.edu"， "query": "Python"}`.
|
||
|
||
请求构建函数如下：
|
||
|
||
```
|
||
def start_requests(self):
|
||
url_template = urllib.parse.urlunparse(
|
||
['http', self.allowed_domains[0], '/www/{path}', '', '', ''])
|
||
for blog in self.blogs_data:
|
||
url = url_template.format(path=blog['url'])
|
||
request = SplashRequest(url, endpoint='render.html',
|
||
args={'wait': 0.5}, meta={'blog': blog})
|
||
yield request
|
||
```
|
||
|
||
[view raw][15][traffic.py][16] 代码托管于
|
||
|
||
[GitHub][17]
|
||
|
||
它相当的简单，我们只是添加了字符串 `/www/web-site-url/` 到 `'www.statshow.com'` URL 中。
|
||
|
||
现在让我们看一下语法解析器是什么样子的：
|
||
|
||
```
|
||
def parse(self, response):
|
||
site_data = response.xpath('//div[@id="box_1"]/span/text()').extract()
|
||
views_data = list(filter(lambda r: '$' not in r, site_data))
|
||
if views_data:
|
||
blog_data = response.meta.get('blog')
|
||
traffic_data = {
|
||
'daily_page_views': int(views_data[0].translate({ord(','): None})),
|
||
'daily_visitors': int(views_data[1].translate({ord(','): None}))
|
||
}
|
||
blog_data.update(traffic_data)
|
||
yield blog_data
|
||
```
|
||
|
||
[view raw][18][traffic.py][19] 代码托管于
|
||
|
||
[GitHub][20]
|
||
|
||
与博客解析程序类似，我们只是通过 StatShow 示例的返回页面，并跟踪包含每日页面查看 和每日访问者的元素。这两个参数都确定了网站的受欢迎程度，所以我们只需要为我们的分析选择页面查看 。
|
||
|
||
### 第二部分：分析
|
||
|
||
这部分是分析我们搜集到的所有数据。然后，我们用名为 [Bokeh][47] 的库来可视化准备好的数据集。我在这里没有给出其他的可视化代码，但是它可以在 [GitHub repo][48] 中找到，包括你在这篇文章中看到的和其他一切东西。
|
||
|
||
最初的结果集含有少许偏离中心过大的数据，（如 google.com、linkedin.com、Oracle.com 等）。它们显然不应该被考虑。即使有些人有博客，他们也不是特定的语言。这就是为什么我们基于这个 [this StackOverflow answer][36] 中所建议的方法来过滤异常值。
|
||
|
||
#### 语言流行度比较
|
||
|
||
首先，让我们对所有的语言进行直接的比较，看看哪一种语言在前 100 个博客中有最多的浏览量。
|
||
|
||
这是能进行这个任务的函数：
|
||
|
||
```
|
||
def get_languages_popularity(data):
|
||
query_sorted_data = sorted(data, key=itemgetter('query'))
|
||
result = {'languages': [], 'views': []}
|
||
popularity = []
|
||
for k, group in groupby(query_sorted_data, key=itemgetter('query')):
|
||
group = list(group)
|
||
daily_page_views = map(lambda r: int(r['daily_page_views']), group)
|
||
total_page_views = sum(daily_page_views)
|
||
popularity.append((group[0]['query'], total_page_views))
|
||
sorted_popularity = sorted(popularity, key=itemgetter(1), reverse=True)
|
||
languages, views = zip(*sorted_popularity)
|
||
result['languages'] = languages
|
||
result['views'] = views
|
||
return result
|
||
|
||
```
|
||
|
||
[view raw][21][analysis.py][22] 代码托管于
|
||
|
||
[GitHub][23]
|
||
|
||
在这里，我们首先使用语言（词典中的关键字“query”）来分组我们的数据，然后使用 python 的 `groupby` 函数，这是一个从 SQL 中借来的奇妙函数，从我们的数据列表中生成一组条目，每个条目都表示一些编程语言。然后，在第 `14` 行我们计算的每一种语言的总页面查看 ，然后添加表单的元组`('Language', rank)`到 `popularity` 列表中。在循环之后，我们根据总查看 对流行数据进行排序，并将这些元组解压缩到两个单独的列表中，并在 `result` 变量中返回这些元组。
|
||
|
||
最初的数据集有很大的偏差。我检查了到底发生了什么，并意识到如果我在 [blogsearchengine.org][37] 上查询“C”，我就会得到很多无关的链接，其中包含了 “C” 的字母。因此，我必须将 C 排除在分析之外。它几乎不会在“R”和其他类似 C 的名称中出现:“C++”，“C”。
|
||
|
||
因此，如果我们将 C 从考虑中移除并查看其他语言，我们可以看到如下图:
|
||
|
||
|
||
|
||
据评估。Java 每天有超过 400 万的浏览量，PHP 和 Go 有超过 200 万，R 和 JavaScript 也突破了百万大关。
|
||
|
||
#### 每日网页浏览量与谷歌排名
|
||
|
||
现在让我们来看看每日访问量的数量和谷歌的博客排名之间的联系。从逻辑上来说，不那么受欢迎的博客应该排名靠后，但这并不容易，因为其他因素也会影响排名，例如，如果在人气较低的博客上的文章是最近的，那么它很可能会首先出现。
|
||
|
||
数据准备工作以下列方式进行：
|
||
|
||
```
|
||
def get_languages_popularity(data):
|
||
query_sorted_data = sorted(data, key=itemgetter('query'))
|
||
result = {'languages': [], 'views': []}
|
||
popularity = []
|
||
for k, group in groupby(query_sorted_data, key=itemgetter('query')):
|
||
group = list(group)
|
||
daily_page_views = map(lambda r: int(r['daily_page_views']), group)
|
||
total_page_views = sum(daily_page_views)
|
||
popularity.append((group[0]['query'], total_page_views))
|
||
sorted_popularity = sorted(popularity, key=itemgetter(1), reverse=True)
|
||
languages, views = zip(*sorted_popularity)
|
||
result['languages'] = languages
|
||
result['views'] = views
|
||
return result
|
||
```
|
||
|
||
[view raw][24][analysis.py][25] 代码托管于
|
||
|
||
[GitHub][26]
|
||
|
||
该函数需要考虑接受爬到的数据和语言列表。我们对这些数据进行排序，就像我们对语言的受欢迎程度一样。后来，在类似的语言分组循环中，我们构建了 `(rank, views_number)` 元组（以1为基础）被转换为 2 个单独的列表。然后将这一对列表写入到生成的字典中。
|
||
|
||
前 8 位 GitHub 语言（除了 C）是如下这些：
|
||
|
||
|
||
|
||
|
||
|
||
据评估。我们看到，[PCC （皮尔逊相关系数）][49]的所有图都远离 1/-1，这表示每日查看 与排名之间缺乏相关性。值得注意的是，在大多数图表(7/8)中，相关性是负的，这意味着排名的下降会导致查看的减少。
|
||
|
||
### 结论
|
||
|
||
因此，根据我们的分析，Java 是目前最流行的编程语言，其次是 PHP、Go、R 和 JavaScript。在谷歌的日常浏览和排名中，排名前 8 的语言都没有很强的相关性，所以即使你刚刚开始写博客，你也可以在搜索结果中获得很高的评价。不过，成为热门博客究竟需要什么，可以留待下次讨论。
|
||
|
||
这些结果是相当有偏差的，如果没有额外的分析，就不能过分的考虑这些结果。首先，在较长的一段时间内收集更多的流量信息，然后分析每日查看和排名的平均值（中值）值是一个好主意。也许我以后还会再回来讨论这个。
|
||
|
||
### 引用
|
||
|
||
1. Scraping:
|
||
|
||
2. [blog.scrapinghub.com: Handling Javascript In Scrapy With Splash][27]
|
||
|
||
3. [BlogSearchEngine.org][28]
|
||
|
||
4. [twingly.com: Twingly Real-Time Blog Search][29]
|
||
|
||
5. [searchblogspot.com: finding blogs on blogspot platform][30]
|
||
|
||
6. Traffic estimation:
|
||
|
||
7. [labnol.org: Find Out How Much Traffic a Website Gets][31]
|
||
|
||
8. [quora.com: What are the best free tools that estimate visitor traffic…][32]
|
||
|
||
9. [StatShow.com: The Stats Maker][33]
|
||
|
||
--------------------------------------------------------------------------------
|
||
|
||
via: https://www.databrawl.com/2017/10/08/blog-analysis/
|
||
|
||
作者：[Serge Mosin ][a]
|
||
译者：[Chao-zhi](https://github.com/Chao-zhi)
|
||
校对：[校对者ID](https://github.com/校对者ID)
|
||
|
||
本文由 [LCTT](https://github.com/LCTT/TranslateProject) 原创编译，[Linux中国](https://linux.cn/) 荣誉推出
|
||
|
||
[a]:https://www.databrawl.com/author/svmosingmail-com/
|
||
[1]:https://bokeh.pydata.org/
|
||
[2]:https://bokeh.pydata.org/
|
||
[3]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee/raw/4ebb94aa41e9ab25fc79af26b49272b2eff47e00/blogs.py
|
||
[4]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee#file-blogs-py
|
||
[5]:https://github.com/
|
||
[6]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee/raw/4ebb94aa41e9ab25fc79af26b49272b2eff47e00/blogs.py
|
||
[7]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee#file-blogs-py
|
||
[8]:https://github.com/
|
||
[9]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee/raw/4ebb94aa41e9ab25fc79af26b49272b2eff47e00/blogs.py
|
||
[10]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee#file-blogs-py
|
||
[11]:https://github.com/
|
||
[12]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee/raw/4ebb94aa41e9ab25fc79af26b49272b2eff47e00/traffic.py
|
||
[13]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee#file-traffic-py
|
||
[14]:https://github.com/
|
||
[15]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee/raw/4ebb94aa41e9ab25fc79af26b49272b2eff47e00/traffic.py
|
||
[16]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee#file-traffic-py
|
||
[17]:https://github.com/
|
||
[18]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee/raw/4ebb94aa41e9ab25fc79af26b49272b2eff47e00/traffic.py
|
||
[19]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee#file-traffic-py
|
||
[20]:https://github.com/
|
||
[21]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee/raw/4ebb94aa41e9ab25fc79af26b49272b2eff47e00/analysis.py
|
||
[22]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee#file-analysis-py
|
||
[23]:https://github.com/
|
||
[24]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee/raw/4ebb94aa41e9ab25fc79af26b49272b2eff47e00/analysis.py
|
||
[25]:https://gist.github.com/Greyvend/f730ccd5dc1e7eacc4f27b0c9da86eee#file-analysis-py
|
||
[26]:https://github.com/
|
||
[27]:https://blog.scrapinghub.com/2015/03/02/handling-javascript-in-scrapy-with-splash/
|
||
[28]:http://www.blogsearchengine.org/
|
||
[29]:https://www.twingly.com/
|
||
[30]:http://www.searchblogspot.com/
|
||
[31]:https://www.labnol.org/internet/find-website-traffic-hits/8008/
|
||
[32]:https://www.quora.com/What-are-the-best-free-tools-that-estimate-visitor-traffic-for-a-given-page-on-a-particular-website-that-you-do-not-own-or-operate-3rd-party-sites
|
||
[33]:http://www.statshow.com/
|
||
[34]:https://docs.scrapy.org/en/latest/intro/tutorial.html
|
||
[35]:https://blog.scrapinghub.com/2015/03/02/handling-javascript-in-scrapy-with-splash/
|
||
[36]:https://stackoverflow.com/a/16562028/1573766
|
||
[37]:http://blogsearchengine.org/
|
||
[38]:https://github.com/Databrawl/blog_analysis
|
||
[39]:https://scrapy.org/
|
||
[40]:https://github.com/scrapinghub/splash
|
||
[41]:https://en.wikipedia.org/wiki/Google_Custom_Search
|
||
[42]:http://www.blogsearchengine.org/
|
||
[43]:http://www.blogsearchengine.org/
|
||
[44]:https://doc.scrapy.org/en/latest/topics/shell.html
|
||
[45]:https://www.labnol.org/internet/find-website-traffic-hits/8008/
|
||
[46]:http://www.statshow.com/
|
||
[47]:https://bokeh.pydata.org/en/latest/
|
||
[48]:https://github.com/Databrawl/blog_analysis
|
||
[49]:https://en.wikipedia.org/wiki/Pearson_correlation_coefficient
|
||
[50]:https://www.databrawl.com/author/svmosingmail-com/
|
||
[51]:https://www.databrawl.com/2017/10/08/
|