webdevqa.jp.net

PythonアプリからのGoogle検索

pythonアプリからGoogle検索クエリを実行しようとしています。これを可能にするpythonインターフェイスはありますか?どのGoogle APIがこれを可能にするかは誰にもわかりません。ありがとう。

51
Res

簡単な例があります here (特別な引用符の欠落;-)。 Webで表示されるもののほとんどは、Python古い、廃止されたインターフェースへのインターフェースSOAP API-私が指している例では、より新しいものを使用していますサポートされているAJAX API、それは間違いなくあなたが望むものです!-)

Edit:ここに、より完全なPython 2.6必要なすべての引用符付きの例&c;-)...:...

#!/usr/bin/python
import json
import urllib

def showsome(searchfor):
  query = urllib.urlencode({'q': searchfor})
  url = 'http://ajax.googleapis.com/ajax/services/search/web?v=1.0&%s' % query
  search_response = urllib.urlopen(url)
  search_results = search_response.read()
  results = json.loads(search_results)
  data = results['responseData']
  print 'Total results: %s' % data['cursor']['estimatedResultCount']
  hits = data['results']
  print 'Top %d hits:' % len(hits)
  for h in hits: print ' ', h['url']
  print 'For more results, see %s' % data['cursor']['moreResultsUrl']

showsome('ermanno olmi')
70
Alex Martelli

Python3に移植されたAlexの回答はこちら

#!/usr/bin/python3
import json
import urllib.request, urllib.parse

def showsome(searchfor):
  query = urllib.parse.urlencode({'q': searchfor})
  url = 'http://ajax.googleapis.com/ajax/services/search/web?v=1.0&%s' % query
  search_response = urllib.request.urlopen(url)
  search_results = search_response.read().decode("utf8")
  results = json.loads(search_results)
  data = results['responseData']
  print('Total results: %s' % data['cursor']['estimatedResultCount'])
  hits = data['results']
  print('Top %d hits:' % len(hits))
  for h in hits: print(' ', h['url'])
  print('For more results, see %s' % data['cursor']['moreResultsUrl'])

showsome('ermanno olmi')
17
John La Rooy

これに対する私のアプローチは次のとおりです。 http://breakingcode.wordpress.com/2010/06/29/google-search-python/

いくつかのコード例:

    # Get the first 20 hits for: "Breaking Code" WordPress blog
    from google import search
    for url in search('"Breaking Code" WordPress blog', stop=20):
        print(url)

    # Get the first 20 hits for "Mariposa botnet" in Google Spain
    from google import search
    for url in search('Mariposa botnet', tld='es', lang='es', stop=20):
        print(url)

このコードはGoogle APIを使用しておらず、現在も機能しています(2012年1月)。

11
Mario Vilas

私はpythonで新しいです。これを行う方法を調査していました。提供されている例はどれも適切に動作していません。 google検索htmlの解析(リクエストにヘッダーを追加)は、googleがhtml構造を再度変更するまで機能します。同じロジックを使用して、html(view-source)を調べて他の検索エンジンで検索できます。

import urllib2

def getgoogleurl(search,siteurl=False):
    if siteurl==False:
        return 'http://www.google.com/search?q='+urllib2.quote(search)
    else:
        return 'http://www.google.com/search?q=site:'+urllib2.quote(siteurl)+'%20'+urllib2.quote(search)

def getgooglelinks(search,siteurl=False):
   #google returns 403 without user agent
   headers = {'User-agent':'Mozilla/11.0'}
   req = urllib2.Request(getgoogleurl(search,siteurl),None,headers)
   site = urllib2.urlopen(req)
   data = site.read()
   site.close()

   #no beatifulsoup because google html is generated with javascript
   start = data.find('<div id="res">')
   end = data.find('<div id="foot">')
   if data[start:end]=='':
      #error, no links to find
      return False
   else:
      links =[]
      data = data[start:end]
      start = 0
      end = 0        
      while start>-1 and end>-1:
          #get only results of the provided site
          if siteurl==False:
            start = data.find('<a href="/url?q=')
          else:
            start = data.find('<a href="/url?q='+str(siteurl))
          data = data[start+len('<a href="/url?q='):]
          end = data.find('&amp;sa=U&amp;ei=')
          if start>-1 and end>-1: 
              link =  urllib2.unquote(data[0:end])
              data = data[end:len(data)]
              if link.find('http')==0:
                  links.append(link)
      return links

使用法:

links = getgooglelinks('python','http://www.stackoverflow.com/')
for link in links:
       print link

(編集1:特定のサイトにGoogle検索を絞り込むためのパラメーターを追加します)

(編集2:この回答を追加したとき、Python字幕を検索するスクリプトをコーディングしていました。最近Githubにアップロードしました: Subseek

AJAX APIは廃止されているため、Google検索エンジンの結果ラッパーである Serp API のようなサードパーティのサービスを使用できます。

Pythonとの統合は簡単です。

from lib.google_search_results import GoogleSearchResults

params = {
    "q" : "Coffee",
    "location" : "Austin, Texas, United States",
    "hl" : "en",
    "gl" : "us",
    "google_domain" : "google.com",
    "api_key" : "demo",
}

query = GoogleSearchResults(params)
dictionary_results = query.get_dictionary()

GitHub: https://github.com/serpapi/google-search-results-python

0
Hartator