<font size=2 face="Arial">hi,</font>
<br>
<br>
<br>
<br>
<br><font size=1 color=#5f5f5f face="sans-serif">Von: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">Dejan Muhamedagic &lt;dejanmm@fastmail.fm&gt;</font>
<br><font size=1 color=#5f5f5f face="sans-serif">An: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">The Pacemaker cluster
resource manager &lt;pacemaker@oss.clusterlabs.org&gt;</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Datum: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">28.10.2014 16:45</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Betreff: &nbsp; &nbsp;
&nbsp; &nbsp;</font><font size=1 face="sans-serif">Re: [Pacemaker]
fencing with multiple node cluster</font>
<br>
<hr noshade>
<br><tt><font size=2>&gt;</font></tt>
<br><tt><font size=2>&gt;</font></tt>
<br><tt><font size=2>&gt;Hi,<br>
&gt;<br>
&gt;On Tue, Oct 28, 2014 at 09:51:02AM -0400, Digimer wrote:<br>
&gt;&gt;&gt; On 28/10/14 05:59 AM, philipp.achmueller@arz.at wrote:<br>
&gt;&gt;&gt; hi,<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; any recommendation/documentation for a reliable fencing implementation<br>
&gt;&gt;&gt; on a multi-node cluster (4 or 6 nodes on 2 site).<br>
&gt;&gt;&gt; i think of implementing multiple node-fencing devices for
each host to<br>
&gt;&gt;&gt; stonith remaining nodes on other site?<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; thank you!<br>
&gt;&gt;&gt; Philipp<br>
&gt;&gt;<br>
&gt;&gt; Multi-site clustering is very hard to do well because of fencing
issues. &nbsp;<br>
&gt;&gt; How do you distinguish a site failure from severed links?<br>
&gt;<br>
&gt;Indeed. There's a booth server managing the tickets in<br>
&gt;pacemaker, which uses arbitrators to resolve ties. booth source<br>
&gt;is available at github.com and packaged for several<br>
&gt;distributions at OBS<br>
&gt;(</font></tt><a href="http://download.opensuse.org/repositories/network:/ha-clustering:/Stable/"><tt><font size=2>http://download.opensuse.org/repositories/network:/ha-clustering:/Stable/</font></tt></a><tt><font size=2>)<br>
&gt;It's also supported in the newly released SLE12.<br>
&gt;<br>
&gt;Thanks,<br>
&gt;<br>
&gt;Dejan</font></tt>
<br><tt><font size=2>&gt;</font></tt>
<br><tt><font size=2>hi,</font></tt>
<br>
<br><tt><font size=2>@Digimer. thank you for explaination, but manual failover
between sites isn't what i'm looking for.</font></tt>
<br>
<br><tt><font size=2>@Dejan. Yes, i already tried a cluster(SLES11SP3)
with booth setup. i used documentation from sleha11 SP3. </font></tt>
<br><tt><font size=2>but i'm afraid it is unclear for me how &quot;fencing&quot;
with booth exactly works in case of some failures (loss-policy=fence).
documentation says something like: ...to speed up recovery process nodes
get fenced... do i need classic node-fencing(IPMI) when i configure booth
setup? may you have some more information about that?</font></tt>
<br>
<br><tt><font size=2>For correct setup, the arbitrator needs an adequate
3th location. site A and site B need separate connection to site C, otherwise
some scenarios will fail.</font></tt>
<br><tt><font size=2>any possibilities to get this running with 2 sites?</font></tt>
<br>
<br><tt><font size=2>thank you!<br>
</font></tt>
<br><tt><font size=2><br>
&gt;&gt; Given that a &nbsp;<br>
&gt;&gt; failed fence action can not be assumed to be a success, then the
only &nbsp;<br>
&gt;&gt; safe option is to block until a human intervenes. This makes your
&nbsp;<br>
&gt;&gt; cluster as reliable as your WAN between the sites, which is too
say, not &nbsp;<br>
&gt;&gt; very reliable. In any case, the destruction of a site will require
&nbsp;<br>
&gt;&gt; manual failover, which can be complicated if insufficient nodes
remain &nbsp;<br>
&gt;&gt; to form quorum.<br>
&gt;&gt;<br>
&gt;&gt; Generally, I'd recommend to different clusters, one per site,
with &nbsp;<br>
&gt;&gt; manual/service-level failover in the case of a disaster.<br>
&gt;&gt;<br>
&gt;&gt; In any case; A good fencing setup should have two fence methods.
&nbsp;<br>
&gt;&gt; Personally, I always use IPMI as a primary fence method (routed
through &nbsp;<br>
&gt;&gt; one switch) and a pair of switched PDUs as backup (via a backup
switch). &nbsp;<br>
&gt;&gt; This way, when IPMI is available, a confirmed fence is 100% certain
to &nbsp;<br>
&gt;&gt; be good. However, if the node is totally disabled/destroyed, IPMI
will &nbsp;<br>
&gt;&gt; be lost and the cluster will switch to the switched PDUs, cutting
the &nbsp;<br>
&gt;&gt; power outlets feeding the node.<br>
&gt;&gt;<br>
&gt;&gt; I've got a block diagram of how I do this:<br>
&gt;&gt;<br>
&gt;&gt; </font></tt><a href=https://alteeve.ca/w/AN!Cluster_Tutorial_2#A_Map.21><tt><font size=2>https://alteeve.ca/w/AN!Cluster_Tutorial_2#A_Map.21</font></tt></a><tt><font size=2><br>
&gt;&gt;<br>
&gt;&gt; It's trivial to scale the idea up to multiple node clusters.<br>
&gt;&gt;<br>
&gt;&gt; Cheers<br>
&gt;&gt;<br>
&gt;&gt; -- <br>
&gt;&gt; Digimer<br>
&gt;&gt; Papers and Projects: </font></tt><a href=https://alteeve.ca/w/><tt><font size=2>https://alteeve.ca/w/</font></tt></a><tt><font size=2><br>
&gt;&gt; What if the cure for cancer is trapped in the mind of a person
without &nbsp;<br>
&gt;&gt; access to education?<br>
&gt;&gt;<br>
&gt;&gt; _______________________________________________<br>
&gt;&gt; Pacemaker mailing list: Pacemaker@oss.clusterlabs.org<br>
&gt;&gt; </font></tt><a href=http://oss.clusterlabs.org/mailman/listinfo/pacemaker><tt><font size=2>http://oss.clusterlabs.org/mailman/listinfo/pacemaker</font></tt></a><tt><font size=2><br>
&gt;&gt;<br>
&gt;&gt; Project Home: </font></tt><a href=http://www.clusterlabs.org/><tt><font size=2>http://www.clusterlabs.org</font></tt></a><tt><font size=2><br>
&gt;&gt; Getting started: </font></tt><a href=http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf><tt><font size=2>http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf</font></tt></a><tt><font size=2><br>
&gt;&gt; Bugs: </font></tt><a href=http://bugs.clusterlabs.org/><tt><font size=2>http://bugs.clusterlabs.org</font></tt></a><tt><font size=2><br>
&gt;<br>
&gt;_______________________________________________<br>
&gt;Pacemaker mailing list: Pacemaker@oss.clusterlabs.org<br>
</font></tt><a href=http://oss.clusterlabs.org/mailman/listinfo/pacemaker><tt><font size=2>&gt;http://oss.clusterlabs.org/mailman/listinfo/pacemaker</font></tt></a><tt><font size=2><br>
&gt;<br>
&gt;Project Home: </font></tt><a href=http://www.clusterlabs.org/><tt><font size=2>http://www.clusterlabs.org</font></tt></a><tt><font size=2><br>
&gt;Getting started: </font></tt><a href=http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf><tt><font size=2>http://www.clusterlabs.org/doc/Cluster_from_Scratch.pdf</font></tt></a><tt><font size=2><br>
&gt;Bugs: </font></tt><a href=http://bugs.clusterlabs.org/><tt><font size=2>http://bugs.clusterlabs.org</font></tt></a><tt><font size=2><br>
</font></tt>
<br><font size=2 face="sans-serif"><br>
</font>