这篇文章给大家聊聊关于深入解析Elasticsearch批量操作技巧与应用,以及对应的知识点,希望对各位有所帮助,不要忘了收藏本站哦。
Solution:
我需要解决两个问题:
查询多个Index的内容,然后将符合条件的数据写入新的Index:
这个问题比较简单。 elasticsearch的helpers模块提供了一个完美的方法来做到这一点:reindex()
elasticsearch.helpers.reindex(client,source_index,target_index,query=None,target_client=None,chunk_size=500,scroll=u"5m",scan_kwargs={},bulk_kwargs={}) 该方法的参数提供了source_index( )可以是List)、target_index、query、scroll_size和滚动存储时间,所以直接运行就可以了。
批量更新现有Index中的所有数据,为每个文档添加一个字段并赋值:
官方文档中的api签名如下:
elasticsearch.helpers.bulk(客户端,操作,stats_only=False,** kwargs)
我一直不明白参数动作是什么类型。我认为它是函数类行的参数。然后看源码,发现其实是一个List,而且是要操作的文档的集合。官方文档显示必须满足这个要求。看起来像search() 返回的结果格式: { "_index": "index-name", "_type": "document", "_id": 42, "_parent": 5, "_ttl": "1d" , "_source": { "title": "你好世界!", "body": "." }}
但他也说:Thebulk()
api 接受索引、创建、删除和更新操作。使用_op_type字段指定操作(_op_type默认为index):
{ "_op_type": "删除", "_index": "索引名称", "_type": "文档", "_id": 42,}{ "_op_type": "更新", "_index": "索引- name", "_type": "document", "_id": 42, "doc": {"question": "生命、宇宙和一切。"}}
我将"_op_type":"update" 添加到我的数据中,然后运行时不断出现错误:
TransportError(400, u"action_request_validation_exception",u"验证失败: 1: 脚本或文档丢失
直到我尝试删除"_op_type"字段,它终于成功了。下面是我的代码:
def queryInES(esinstance):
search_body={"query":{"match_all":{}}}
page=esinstance.search(index="my_index", body=search_body, search_type="scan", doc_type="Tweet",scroll="5s", size=1000)
sid=页面["_scroll_id"]
滚动大小=页面["点击数"]["点击数"]
而(scroll_size0):
pg=es.scroll(scroll_id=sid,scroll="30s")
滚动大小=len(pg["hits"]["hits"])
print "滚动大小:" + str(scroll_size)
sid=pg["_scroll_id"]
数据=pg["点击数"]["点击数"]
……
对于我在范围内(0,scroll_size):
data[i]["_source"]["attributes"]["senti"]={"label":label, "score": 分数, "confidence": 置信度}
用户评论
我正在学习 Elasticsearch,Bulk API 看起来很有用!
有16位网友表示赞同!
想了解更多关于使用Bulk API优化索引速度的信息。
有11位网友表示赞同!
不知道 Bulk API 是否可以用来更新多个文档?
有13位网友表示赞同!
有没有关于Bulk API错误处理的教程?
有16位网友表示赞同!
刚开始学习 Elasticsearch,Bulk API 对我来说有点儿模糊
【深入解析Elasticsearch批量操作技巧与应用】相关文章:
1.动物故事精选:寓教于乐的儿童故事宝库
2.《寓教于乐:精选动物故事助力儿童成长》
3.探索动物旅行的奇幻冒险:专为儿童打造的童话故事
4.《趣味动物刷牙小故事》
5.探索坚韧之旅:小蜗牛的勇敢冒险
6.传统风味烤小猪,美食探索之旅
7.探索奇幻故事:大熊的精彩篇章
8.狮子与猫咪的奇妙邂逅:一场跨界的友谊故事
9.揭秘情感的力量:如何影响我们的生活与决策
10.跨越两岸:探索彼此的独特世界
免责声明:部分作品来自网友发布,或收集于互联网,目的在于更好的传递 好内容 ,正能量内容。如果侵犯了您的权益,或者您不想在本站发布,请及时联系我们,我们第一时间删除信息!
农夫与马的寓言故事—农夫与马的读后感
细说《鬼子来了》:现实版农夫与蛇的寓言故事2000年的影片《鬼子来了》是姜文继1994年《...
农夫与蛇英文版简短;农夫与蛇英文版简短版带读音
意大利“报恩”俄罗斯,《农夫与蛇》现实版“滴水之恩,当涌泉相报”,这是中国一句老话,出自...
农夫与蛇类似的故事;农夫与蛇 类似典故
1996年海南巨蟒为报恩当小孩“保姆”,与主人同眠,还能看家护院1996年8月,海南省的一名种...
10个数学趣味小故事简短(数学趣味小故事200)
酷酷猴:“我们第一站上哪里去呢?”馋嘴的帅帅猪说道:“我们到太上老君那里去,听说他那里有...