业界动态
优化大数据量查询方案——SpringBoot(Cloud)整合Elasticsearch
2024-11-01 01:15

实际业务场景中,多端的查询功能都有很大的优化空间。常见的处理方式有:建索引、建物化视图简化查询逻辑、DB层之上建立缓存、分页…

优化大数据量查询方案——SpringBoot(Cloud)整合Elasticsearch

然而随着业务数据量的不断增多,总有那么一张表或一个业务,是无法通过常规的处理方式来缩短查询时间的。在查询功能优化上,作为开发人员应该站在公司的角度,本着优化客户体验的目的去寻找解决方案。本人有幸做过Tomcat整合solr,今天一起研究一下当前比较火热的Elasticsearch搜索引擎。

Elasticsearch 是一个非常强大的搜索引擎。它目前被广泛地使用于各个 IT 公司。Elasticsearch 是由 Elastic 公司创建。它的代码位于 。目前,Elasticsearch 是一个免费及开放(free and open)的项目。

同时,Elastic 公司也拥有 Logstash 及 Kibana 开源项目。这个三个项目组合在一起,就形成了 ELK 软件栈。他们三个共同形成了一个强大的生态圈。简单地说,Logstash 负责数据的采集,处理(丰富数据,数据转换等,Kibana 负责数据展示,分析,管理,监督及应用。Elasticsearch 处于最核心的位置,它可以帮我们对数据进行快速地搜索及分析。

1.1下载

下载的方式有很多中,下面介绍我使用的方式。(MacOS系统

1)weget命令下载,其中第三步是对下载内容进行完整性校验,当出现OK时,说明下载的内容共是完整无误的。

550a35dc2c0d909646c1ca7933cc379a.png

2)brew命令下载

我的电脑是macOS12.0系统,下载时提示我的Xcode版本过低不兼容。网上有很多使用brew命令下载成功的,可以进行参考。

1.2启动Elasticsearch

完成下载后,在bin目录下进行启动

完成启动后,控制台显示如下

ae811579ddbd9528ce2cba7945c66ce5.png

而后进行页面测试访问,postman也可以, curl也行,默认启动端口9200。

78d030b5d2a628afc0d367ab835843ff.png

当出现如上图显示,表示ES第一步启动成功。

同时,为了方便查看ES中的相关数据,可以安装一下elasticsearch-head 可视化插件,网址如下

  • https://github.com/mobz/elasticsearch-head

下载完成后打开代码,是一个前端项目

ee36fde567a87e546ed13df414f6c9e7.png

控制台启动

eb77067a28e721715723dfc18fcdbb37.png

启动成功如上图,打开浏览器访问9100

ddf48a8bd2585aa53db30dbdc64e37a1.png

做到这步感觉对了又好像有点问题,打开控制台查看

db9a47181ef1e2d941dbfc3df991378a.png

发现全部是CORS错误。到下载的ESconfig文件夹下,修改文件elasticsearch.yml ,添加下面两行配置。

若出现如下图显示的内容,标识启动成功。如果未有下图这样显示,留言交流。

646ed1939fb75bd5304c7a00bd053c03.png

1.3Kibana

除了上面下载的可视化插件。官方提供的是Kibana。Kibana 是一个开源分析和可视化平台,旨在与 Elasticsearch 协同工作。你使用 Kibana 搜索,查看和与存储在 Elasticsearch 索引中的数据进行交互。你可以轻松执行高级数据分析,并在各种图表,表格和地图中可视化你的数据。

Kibana 使你可以轻松理解大量数据。其简单的基于浏览器的界面使你能够快速创建和共享动态仪表板,实时显示 Elasticsearch 查询的更改。

1.3.1 安装

官网

  • https://www.elastic.co/cn/kibana/

不支持运行 Kibana 和 Elasticsearch 的不同主要版本(例如 Kibana 5.x 和 Elasticsearch 2.x,也不支持比 Elasticsearch 版本更新的 Kibana 次要版本(例如 Kibana 5.1 和 Elasticsearch 5.0)。

同时也可以使用brew命令下载

启动命令

0057121f4d7b20bb1114b3196818a850.png

当出现上图所示以后,访问端口,默认5601

353e72da6151d185a5f05d0411cd39f9.png

我们也可以在浏览器中输入如下的地址 http://localhost:5601/status 以查看 Kibana 的状态

5cbde7efd839c719040d5de3b57336c1.png
1.3.2 汉化Kibana

进入Kibana的config文件下,修改yml文件

完成后 重新启动Kibana,访问地址如下

3671564387c50999b2abcbd57e08839f.png

成功汉化。

1.4创建索引及文档

有了上面的实例化工具,下面在页面上创建一个索引(index,并插入一个文档(document)。在日常的DB层,我们通常需要有专用的语句来生产相应的数据库,表格,然后才可以让我们输入相应的记录,但是针对 Elasticsearch 来说,这个是不必须的。ES是resultful请求完成操作。我们在左边的窗口中输入如下

98d7dbfb580e22d28dd9652f7769030d.png

请求参数解析:PUT请求。estest为索引名称, 为索引类型。json为存储的内容。返回时候,表示成功。其实,从创建就可以看出来一个很明显的问题,我们的字段定义,如user,uid,city等我们并没有像常规数据库中把每个目标值定义数据类型,数据长度。为了提高入门时的易用性,Elasticsearch 可以自动动态地为你创建索 mapping。

当我们建立一个索引的第一个文档时,如果你没有创建它的 schema,那么 Elasticsearch 会根据所输入字段的数据进行猜测它的数据类型,比如上面的 user 被被认为是 text 类型,而 uid 将被猜测为整数类型。这种方式我们称之为 schema on write,也即当我们写入第一个文档时,Elasticsearch 会自动帮我们创建相应的 schema。

写入文档时,如ID已存在,则更新文档内容,如不存在,创建文档。

bda5859642fb0c16fbcc9db27b9e419b.png

根据索引名称_mapping请求,可以得到在ES中各字段被定义的类型。

关于控制台的resultful请求有很多,在这里不做过多诠释,创建(Create,读取(Read,修改(Update,删除文档(Delete(CRUD)全部包含。具体的请求及参数可以查看官方文档。

9a3fd04a560a3fcc2cc2291adde5089c.png

至此,完成ES的配置、安装、启动。下面进行关键的一步,整合SpringBoot。

1.4整合SpringBoot

Sringboot整合ES的方法有很多,我也查询了相关资料,分别是TransportClient、RestClient、SpringData-Es、Elasticsearch-SQL。官方推荐的是RestClient。相关依赖

1.4.1引入依赖
1.4.2配置bean

该配置指向启动的ES服务。

1.4.3测试

做一个添加测试,代码如下

debug查看,发现执行完成。

494dc6f7f501a15dfb1eb0f8b962dd10.png

从Kibana控制台查看资源,像索引为users里 添加一条用户信息。通过控制台查询资源可以看到,数据已成功放入ES。

aaa32624f9d7e40ef30898b1a8b05d56.png

修改操作

删除操作

查询操作

以上以以简单的样例实现了springboot整合ES。使用起来很方便,对20W+的数据进行了测试,结果是毫秒级的响应。当然在实际项目应用当中,要充分根据项目的业务、框架进行拓展,充分发挥搜索引擎的优势,不断的提高客户体验,这样的产品才会得到客户的青睐。

注意问题

ES是个近实时查询引擎,和solr一样,所有的数据是在建立索引之上进行。在项目中对某一条数据的CUD一定要和数据库同步,对ES中的数据就行了相关调整后,也要异步对DB层的数据进行调整。确保数据的一致性。由于近段时间项目工作时间紧张,很多的细节操作及底层的实现包括结合项目的整体设计思路没有一一说明,需要用到的朋友可以对此篇文章做一个参考,有疑问欢迎留言沟通。

    以上就是本篇文章【优化大数据量查询方案——SpringBoot(Cloud)整合Elasticsearch】的全部内容了,欢迎阅览 ! 文章地址:http://www.glev.cn/news/8856.html 
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 歌乐夫资讯移动站 http://wlb.glev.cn/ , 查看更多   
最新新闻
10万女性的减肥秘籍:瘦下来的女人,原来可以这么性感!
  要说这段时间最火的女明星,非出演了《下一站是幸福》的——宋茜莫属。  剧中宋茜饰演的女主角,不仅有成功的事业还有甜甜
麦当劳携手百度玩大数据营销 “让我们好在一起”
在陌生城市里奔波求职的男孩,突然想起少年时那些打羽毛球的小伙伴,如今都不知道散落在何方。带着失落,他走进路边的麦当劳,点
2020最全最新A股龙头股名单(收藏!)
1.迈瑞医疗:医疗器械龙头。ROE在28%-42%之间,毛利率66%,净利润增长43%-75%,2.片仔癀:稀缺中药品种。ROE在16%-24%之间.毛利率4
深度解析索象5个新锐品牌案例八种不同打法
背景BACKGROUND:流量红利消退殆尽,市场呼唤出奇制胜的营销打法刚过去的两年,是真正的艰难时世。小红书、抖音、电商直播等等顶
江苏工会APP用户隐私政策
(一)责任说明本应用只负责搜集您在本应用产生的行为信息;江苏工会统一用户系统负责收集、管理及维护用户真实信息;省、市、县
小兴知法丨“办卡”的坑您踩过吗?看法官教您如何“避雷”
        预付式消费,即经营者以收取预付款方式提供商品或者服务的消费模式。这种收费模式,既可以让消费者享有一定优惠
淘宝手淘搜索关键词卡位怎么卡?要注意什么?
手机淘宝上搜索关键词寻找宝贝的买家还是非常多的,所以无线流量是非常重要的一个部分,很多商家都在积极的做好手淘关键词的流量
史上最系统的算法与数据结构书籍推荐!!!!!吐血整理!!
史上最系统的算法与数据结构书籍推荐!!!!!吐血整理!! 前言:技术书阅
微博排名前十热搜要花多少钱 热搜榜是怎么计算出来的
微博热搜榜是怎么计算出来的,想必大家对于微博热搜榜也是非常好奇,这玩意究竟怎么上去的,是根据阅读量还是点击量呢,那么如果
如何查询个人名下所有手机号码?工信部回应来了
  中工网讯 据“工信微报”微信公众号消息,为牢固树立以人民为中心的发展思想,把“我为群众办实事”实践活动落细落实,工业
本企业新闻
推荐企业新闻