solr集群的搭建和使用


阅读数: 次   

一、SolrCloud简介

1.什么是SolrCloud

SolrCloud(solr 云)是Solr提供的分布式搜索方案，当你需要大规模，容错，分布式索引和检索能力时使用 SolrCloud。当一个系统的索引数据量少的时候是不需要使用SolrCloud的，当索引量很大，搜索请求并发很高，这时需要使用SolrCloud来满足这些需求。

SolrCloud是基于Solr和Zookeeper的分布式搜索方案，它的主要思想是使用Zookeeper作为集群的配置信息中心。

它有几个特色功能：

1）集中式的配置信息

2）自动容错

3）近实时搜索

4）查询时自动负载均衡

1.1Zookeeper是个什么玩意？

顾名思义zookeeper就是动物园管理员，他是用来管hadoop（大象）、Hive(蜜蜂)、pig(小猪)的管理员， Apache Hbase和 Apache Solr 的分布式集群都用到了zookeeper；Zookeeper:是一个分布式的、开源的程序协调服务，是hadoop项目下的一个子项目。

1.2Zookeeper可以干哪些事情

1、配置管理

在我们的应用中除了代码外，还有一些就是各种配置。比如数据库连接等。一般我们都是使用配置文件的方式，在代码中引入这些配置文件。但是当我们只有一种配置，只有一台服务器，并且不经常修改的时候，使用配置文件是一个很好的做法，但是如果我们配置非常多，有很多服务器都需要这个配置，而且还可能是动态的话使用配置文件就不是个好主意了。这个时候往往需要寻找一种集中管理配置的方法，我们在这个集中的地方修改了配置，所有对这个配置感兴趣的都可以获得变更。比如我们可以把配置放在数据库里，然后所有需要配置的服务都去这个数据库读取配置。但是，因为很多服务的正常运行都非常依赖这个配置，所以需要这个集中提供配置服务的服务具备很高的可靠性。一般我们可以用一个集群来提供这个配置服务，但是用集群提升可靠性，那如何保证配置在集群中的一致性呢？ 这个时候就需要使用一种实现了一致性协议的服务了。Zookeeper就是这种服务，它使用Zab这种一致性协议来提供一致性。现在有很多开源项目使用Zookeeper来维护配置，比如在HBase中，客户端就是连接一个Zookeeper，获得必要的HBase集群的配置信息，然后才可以进一步操作。还有在开源的消息队列Kafka中，也使用Zookeeper来维护broker的信息。在Alibaba开源的SOA框架Dubbo中也广泛的使用Zookeeper管理一些配置来实现服务治理。

2、名字服务

名字服务这个就很好理解了。比如为了通过网络访问一个系统，我们得知道对方的IP地址，但是IP地址对人非常不友好，这个时候我们就需要使用域名来访问。但是计算机是不能是别域名的。怎么办呢？如果我们每台机器里都备有一份域名到IP地址的映射，这个倒是能解决一部分问题，但是如果域名对应的IP发生变化了又该怎么办呢？于是我们有了DNS这个东西。我们只需要访问一个大家熟知的(known)的点，它就会告诉你这个域名对应的IP是什么。在我们的应用中也会存在很多这类问题，特别是在我们的服务特别多的时候，如果我们在本地保存服务的地址的时候将非常不方便，但是如果我们只需要访问一个大家都熟知的访问点，这里提供统一的入口，那么维护起来将方便得多了。

3、分布式锁

其实在第一篇文章中已经介绍了Zookeeper是一个分布式协调服务。这样我们就可以利用Zookeeper来协调多个分布式进程之间的活动。比如在一个分布式环境中，为了提高可靠性，我们的集群的每台服务器上都部署着同样的服务。但是，一件事情如果集群中的每个服务器都进行的话，那相互之间就要协调，编程起来将非常复杂。而如果我们只让一个服务进行操作，那又存在单点。通常还有一种做法就是使用分布式锁，在某个时刻只让一个服务去干活，当这台服务出问题的时候锁释放，立即fail over到另外的服务。这在很多分布式系统中都是这么做，这种设计有一个更好听的名字叫Leader Election(leader选举)。比如HBase的Master就是采用这种机制。但要注意的是分布式锁跟同一个进程的锁还是有区别的，所以使用的时候要比同一个进程里的锁更谨慎的使用。

4、集群管理

在分布式的集群中，经常会由于各种原因，比如硬件故障，软件故障，网络问题，有些节点会进进出出。有新的节点加入进来，也有老的节点退出集群。这个时候，集群中其他机器需要感知到这种变化，然后根据这种变化做出对应的决策。比如我们是一个分布式存储系统，有一个中央控制节点负责存储的分配，当有新的存储进来的时候我们要根据现在集群目前的状态来分配存储节点。这个时候我们就需要动态感知到集群目前的状态。还有，比如一个分布式的SOA架构中，服务是一个集群提供的，当消费者访问某个服务时，就需要采用某种机制发现现在有哪些节点可以提供该服务(这也称之为服务发现，比如Alibaba开源的SOA框架Dubbo就采用了Zookeeper作为服务发现的底层机制)。还有开源的Kafka队列就采用了Zookeeper作为Cosnumer的上下线管理。

2.Solr集群的结构

SolrCloud为了降低单机的处理压力，需要由多台服务器共同来完成索引和搜索任务。实现的思路是将索引数据进行Shard（分片）拆分，每个分片由多台的服务器共同完成，当一个索引或搜索请求过来时会分别从不同的Shard的服务器中操作索引。

SolrCloud需要Solr基于Zookeeper部署，Zookeeper是一个集群管理软件，由于SolrCloud需要由多台服务器组成，由zookeeper来进行协调管理。

img

2.1相关概念

collection

Collection在SolrCloud集群中是一个逻辑意义上的完整的索引结构。它常常被划分为一个或多个Shard（分片），它们使用相同的配置信息。

比如：针对商品信息搜索可以创建一个collection。

collection=shard1+shard2+….+shardX

Shard

Collection的逻辑分片。每个Shard被化成一个或者多个replication，通过选举确定哪个是Leader。

Master或Slave

Master是master-slave结构中的主结点（通常说主服务器），Slave是master-slave结构中的从结点（通常说从服务器或备服务器）。同一个Shard下master和slave存储的数据是一致的，这是为了达到高可用目的。

Core

每个Core是Solr中一个独立运行单位，提供 索引和搜索服务。一个shard需要由一个Core或多个Core组成。由于collection由多个shard组成所以collection一般由多个core组成。

2.2物理结构

三个Solr实例（ 每个实例包括两个Core），组成一个SolrCloud。

2.3逻辑结构

索引集合包括两个Shard（shard1和shard2），shard1和shard2分别由三个Core组成，其中一个Leader两个Replication，Leader是由zookeeper选举产生，zookeeper控制每个shard上三个Core的索引数据一致，解决高可用问题。

用户发起索引请求分别从shard1和shard2上获取，解决高并发问题。

二、SolrCloud搭建

本教程采用伪集群的方式进行安装，如果是真正的生产环境，将伪集群的ip改下就可以了，步骤是一样的。

img

1.前提条件

Zookeeper也是java开发的所以需要安装jdk。同时solr需要HTTP服务器，我们这里采用tomcat。

jdk和tomcat的安装详见另两篇博客《Linux安装jdk(CentOS为例)》《Linux安装tomcat并配置开机自启动(CentOS为例)》

2.zookeeper集群安装

1、把zookeeper的安装包上传到服务器，解压缩。

tar -zxf zookeeper-3.4.6.tar.gz

2、在/usr/local/目录下创建一个solrcloud目录。把zookeeper解压后的文件夹复制到此目录下三份。分别命名为zookeeper1、2、3

1
2
3
4
5
mkdir /usr/local/solrcloud
mv zookeeper-3.4.6 /usr/local/solrcloud/zookeeper1
cd /usr/local/solrcloud
cp -r zookeeper1/ zookeeper2
cp -r zookeeper1/ zookeeper3

3、配置zookeeper。在每个zookeeper文件夹下创建一个data目录。在data文件夹下创建一个文件名称为myid，文件的内容就是此zookeeper的编号1、2、3。

1
2
mkdir zookeeperx/data
echo x >> zookeeperx/data/myid

4、把zookeeper1下conf目录下的zoo_sample.cfg文件复制一份改名为zoo.cfg。修改zoo.cfg的配置

img

对zookeeper2、3中的设置做相同修改。

这里有个vim小技巧：在光标的位置按“yy”，复制当前行；然后再光标的行按“p”,粘贴到下一行，原来的往下顺移。

5、启动三个zookeeper

1
2
3
4
5
6
7
/usr/local/solrcloud/zookeeper1/bin/zkServer.sh start
/usr/local/solrcloud/zookeeper2/bin/zkServer.sh start
/usr/local/solrcloud/zookeeper3/bin/zkServer.sh start
#查看集群状态：
/usr/local/solrcloud/zookeeper1/bin/zkServer.sh status
/usr/local/solrcloud/zookeeper2/bin/zkServer.sh status
/usr/local/solrcloud/zookeeper3/bin/zkServer.sh status

image-20200605230149824

6、开启zookeeper用到的端口，或者直接关闭防火墙。

service iptables stop

3.Solr实例的搭建

第一步：创建4个tomcat实例，修改其端口。8080-8083

第二步：解压solr-4.10.3.tar.gz压缩包。从压缩包中复制solr.war到tomcat。

第三步：启动tomcat解压war包。把solr-4.10.3目录下example目录下的关于日志相关的jar包添加到solr工程中。

第四步：创建solrhome。修改web.xml指定solrhome的位置。

这里由于我们之前搭建了单机版的solr，我们可以直接复制文件夹修改配置文件即可。单机版solr搭建参见Linux下Solr的安装及配置

修改每个tomcat/conf/server.xml中的port

image-20200606111914099

image-20200606111947111

image-20200606112040366

以上每个中这三个都要同时修改，这里再分享一个vim小技巧，/port能快速找到第一个port，然后光标选中按n，就能快速查找下一个

接着，我们需要修改solrhome，修改每个solr工程下web.xml指定的地址即可。

编辑startall.sh,shoutdownall.sh

1
2
3
4
5
6
7
8
9
10
11
tomcat1/bin/startup.sh
tomcat2/bin/startup.sh
tomcat3/bin/startup.sh
tomcat4/bin/startup.sh
chmod +x startall.sh

tomcat1/bin/shutdown.sh
tomcat2/bin/shutdown.sh
tomcat3/bin/shutdown.sh
tomcat4/bin/shutdown.sh
chmod +x shoutdownall.sh

这里再提一下，vim中按yy复制当前行，再按p就能直接粘贴当前行到下一行

启动startall.sh，查看日志

tail -f /usr/local/solrcloud/tomcatx/logs/catalina.out

成功

image-20200606112539905

4.solr集群的搭建

4.1zookeeper管理配置文件

由于zookeeper统一管理solr的配置文件（主要是schema.xml、solrconfig.xml）， solrCloud各各节点使用zookeeper管理的配置文件。把solrhome中的配置文件上传到zookeeper集群。使用zookeeper的客户端上传。

客户端命令位置：/root/solr-4.10.3/example/scripts/cloud-scripts

此命令为单条命令，虽然很长o(╯□╰)o

1
./zkcli.sh -zkhost 192.168.10.130:2181,192.168.10.130:2182,192.168.10.130:2183 -cmd upconfig -confdir /usr/local/solrcloud/solrhome1/collection1/conf -confname myconf

查看配置文件是否上传成功：

1
2
3
cd /usr/local/solrcloud/zookeeper1
./bin/zkCli.sh 
ls /configs/myconf

image-20200606114006013

4.2修改SolrCloud监控端口

修改每个solrhome的solr.xml文件。将host改成虚拟机ip地址，port改成对应的tomcat的端口号。

img

4.3每一台solr和zookeeper关联

修改每一台solr的tomcat 的 bin目录下catalina.sh文件中加入DzkHost指定zookeeper服务器地址：

4.4访问solrcloud

重新启动tomcat。

image-20200606115531373

这里发现8004端口为灰色，说明tomcat4启动不成功，我们可以查看日志

tail -f /usr/local/solrcloud/tomcat4/logs/catalina.out

发现日志如下说明：

image-20200606130440794

端口被占用，我们修改配置文件一个不常用的端口即可

image-20200606130532324

4.5SolrCloud集群配置

上图中的collection1集群只有一片，可以通过下边的方法配置新的集群。

如果集群中有四个solr节点创建新集群collection2，将集群分为两片，每片两个副本。

http://192.168.10.130:8081/solr/admin/collections?action=CREATE&name=collection2&numShards=2&replicationFactor=2

image-20200606130043764

image-20200606130106646

错误页面（没有success）别问，问就是上面tomcat4没配好😭

image-20200606130903499

删除集群命令：

http://192.168.10.130:8081/solr/admin/collections?action=DELETE&name=collection1

image-20200606130157873

image-20200606130227929

三、Solr集群的使用

1.Solrj测试

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
public class SolrCloudTest {

	@Test
	public void testAddDocument() throws Exception {
		//创建一个和solr集群的连接
		//参数就是zookeeper的地址列表，使用逗号分隔
		String zkHost = "192.168.10.130:2181,192.168.10.130:2182,192.168.10.130:2183";
		CloudSolrServer solrServer = new CloudSolrServer(zkHost);
		//设置默认的collection
		solrServer.setDefaultCollection("collection2");
		//创建一个文档对象
		SolrInputDocument document = new SolrInputDocument();
		//向文档中添加域
		document.addField("id", "test001");
		document.addField("item_title", "测试商品");
		//把文档添加到索引库
		solrServer.add(document);
		//提交
		solrServer.commit();
	}
	
	@Test
	public void deleteDocument() throws SolrServerException, IOException {
		//创建一个和solr集群的连接
		//参数就是zookeeper的地址列表，使用逗号分隔
		String zkHost = "192.168.10.130:2181,192.168.10.130:2182,192.168.10.130:2183";
		CloudSolrServer solrServer = new CloudSolrServer(zkHost);
		//设置默认的collection
		solrServer.setDefaultCollection("collection2");
		
		
		solrServer.deleteByQuery("*:*");
		solrServer.commit();
	}
}

image-20200606134550405

2.Solrj和spring集成

修改spring的配置文件，添加集群版的配置：

1
2
3
4
5
<!-- 集群版 -->
<bean id="cloudSolrServer" class="org.apache.solr.client.solrj.impl.CloudSolrServer">
    <constructor-arg name="zkHost" value="192.168.10.130:2181,192.168.10.130:2182,192.168.10.130:2183">		</constructor-arg>
    <property name="defaultCollection" value="collection2"></property>
</bean>

结语

真是一个悲伤的故事🤣😒

1

赏

谢谢你请我吃糖果

支付宝
微信

扫一扫，分享到微信

微信分享二维码

tag:

    缺失模块。
    1、请确保node版本大于6.2
    2、在博客根目录（注意不是yilia根目录）执行以下命令：
    npm i hexo-generator-json-content --save

    3、在根目录_config.yml里添加配置： 

      jsonContent:
    meta: false
    pages: false
    posts:
      title: true
      date: true
      path: true
      text: false
      raw: false
      content: false
      slug: false
      updated: false
      comments: false
      link: false
      permalink: false
      excerpt: false
      categories: false
      tags: true

很惭愧<br><br>只做了一点微小的工作<br>谢谢大家