Fixed tap, lstack and DHCP problems
[demo.git] / vnfs / vCPE / scripts / v_gw_install.sh
1 #!/bin/bash
2
3 REPO_URL_BLOB=$(cat /opt/config/repo_url_blob.txt)
4 REPO_URL_ARTIFACTS=$(cat /opt/config/repo_url_artifacts.txt)
5 DEMO_ARTIFACTS_VERSION=$(cat /opt/config/demo_artifacts_version.txt)
6 INSTALL_SCRIPT_VERSION=$(cat /opt/config/install_script_version.txt)
7 VPP_SOURCE_REPO_URL=$(cat /opt/config/vpp_source_repo_url.txt)
8 VPP_SOURCE_REPO_BRANCH=$(cat /opt/config/vpp_source_repo_branch.txt)
9 HC2VPP_SOURCE_REPO_URL=$(cat /opt/config/hc2vpp_source_repo_url.txt)
10 HC2VPP_SOURCE_REPO_BRANCH=$(cat /opt/config/hc2vpp_source_repo_branch.txt)
11 CLOUD_ENV=$(cat /opt/config/cloud_env.txt)
12 MUX_GW_IP=$(cat /opt/config/mux_gw_private_net_ipaddr.txt)
13 MUX_GW_CIDR=$(cat /opt/config/mux_gw_private_net_cidr.txt)
14 MUX_IP_ADDR=$(cat /opt/config/mux_ip_addr.txt)
15 VG_VGMUX_TUNNEL_VNI=$(cat /opt/config/vg_vgmux_tunnel_vni.txt)
16
17 # Build states are:
18 # 'build' - just build the code
19 # 'done' - code is build, install and setup
20 # 'auto' - bulid, install and setup
21 BUILD_STATE="auto"
22 if [[ -f /opt/config/compile_state.txt ]]
23 then
24     BUILD_STATE=$(cat /opt/config/compile_state.txt)
25 fi
26
27 # Convert Network CIDR to Netmask
28 cdr2mask () {
29         # Number of args to shift, 255..255, first non-255 byte, zeroes
30         set -- $(( 5 - ($1 / 8) )) 255 255 255 255 $(( (255 << (8 - ($1 % 8))) & 255 )) 0 0 0
31         [ $1 -gt 1 ] && shift $1 || shift
32         echo ${1-0}.${2-0}.${3-0}.${4-0}
33 }
34
35 # OpenStack network configuration
36 if [[ $BUILD_STATE != "build" ]]
37 then
38     if [[ $CLOUD_ENV == "openstack" ]]
39     then
40         echo 127.0.0.1 $(hostname) >> /etc/hosts
41
42         # Allow remote login as root
43         mv /root/.ssh/authorized_keys /root/.ssh/authorized_keys.bk
44         cp /home/ubuntu/.ssh/authorized_keys /root/.ssh
45
46         MTU=$(/sbin/ifconfig | grep MTU | sed 's/.*MTU://' | sed 's/ .*//' | sort -n | head -1)
47
48         IP=$(cat /opt/config/oam_ipaddr.txt)
49         BITS=$(cat /opt/config/oam_cidr.txt | cut -d"/" -f2)
50         NETMASK=$(cdr2mask $BITS)
51         echo "auto eth2" >> /etc/network/interfaces
52         echo "iface eth2 inet static" >> /etc/network/interfaces
53         echo "    address $IP" >> /etc/network/interfaces
54         echo "    netmask $NETMASK" >> /etc/network/interfaces
55         echo "    mtu $MTU" >> /etc/network/interfaces
56
57         ifup eth2
58     fi
59 fi  # endif BUILD_STATE != "build"
60
61 if [[ $BUILD_STATE != "done" ]]
62 then
63     # Download required dependencies
64     echo "deb http://ppa.launchpad.net/openjdk-r/ppa/ubuntu $(lsb_release -c -s) main" >>  /etc/apt/sources.list.d/java.list
65     echo "deb-src http://ppa.launchpad.net/openjdk-r/ppa/ubuntu $(lsb_release -c -s) main" >>  /etc/apt/sources.list.d/java.list
66     apt-get --allow-unauthenticated update
67     apt-get install --allow-unauthenticated -y wget openjdk-8-jdk apt-transport-https ca-certificates g++ libcurl4-gnutls-dev
68     sleep 1
69
70     # Install the tools required for download codes
71     apt-get --allow-unauthenticated install -y expect git make linux-image-extra-`uname -r`
72
73     #Download and build the VPP codes
74     cd /opt
75     git clone ${VPP_SOURCE_REPO_URL} -b ${VPP_SOURCE_REPO_BRANCH} vpp
76
77     cd vpp
78     make install-dep
79
80     cd build-root
81     ./bootstrap.sh
82     make V=0 PLATFORM=vpp TAG=vpp install-deb
83
84     # Install the VPP package
85     dpkg -i *.deb
86     systemctl stop vpp
87 fi  # endif BUILD_STATE != "done"
88
89 if [[ $BUILD_STATE != "build" ]]
90 then
91     # Auto-start configuration for the VPP
92     cat > /etc/vpp/startup.conf << EOF
93
94 unix {
95   nodaemon
96   log /tmp/vpp.log
97   full-coredump
98   cli-listen localhost:5002
99   startup-config /etc/vpp/setup.gate
100 }
101
102 api-trace {
103   on
104 }
105
106 api-segment {
107   gid vpp
108 }
109
110 cpu {
111         ## In the VPP there is one main thread and optionally the user can create worker(s)
112         ## The main thread and worker thread(s) can be pinned to CPU core(s) manually or automatically
113
114         ## Manual pinning of thread(s) to CPU core(s)
115
116         ## Set logical CPU core where main thread runs
117         # main-core 1
118
119         ## Set logical CPU core(s) where worker threads are running
120         # corelist-workers 2-3,18-19
121
122         ## Automatic pinning of thread(s) to CPU core(s)
123
124         ## Sets number of CPU core(s) to be skipped (1 ... N-1)
125         ## Skipped CPU core(s) are not used for pinning main thread and working thread(s).
126         ## The main thread is automatically pinned to the first available CPU core and worker(s)
127         ## are pinned to next free CPU core(s) after core assigned to main thread
128         # skip-cores 4
129
130         ## Specify a number of workers to be created
131         ## Workers are pinned to N consecutive CPU cores while skipping "skip-cores" CPU core(s)
132         ## and main thread's CPU core
133         # workers 2
134
135         ## Set scheduling policy and priority of main and worker threads
136
137         ## Scheduling policy options are: other (SCHED_OTHER), batch (SCHED_BATCH)
138         ## idle (SCHED_IDLE), fifo (SCHED_FIFO), rr (SCHED_RR)
139         # scheduler-policy fifo
140
141         ## Scheduling priority is used only for "real-time policies (fifo and rr),
142         ## and has to be in the range of priorities supported for a particular policy
143         # scheduler-priority 50
144 }
145
146 # dpdk {
147         ## Change default settings for all intefaces
148         # dev default {
149                 ## Number of receive queues, enables RSS
150                 ## Default is 1
151                 # num-rx-queues 3
152
153                 ## Number of transmit queues, Default is equal
154                 ## to number of worker threads or 1 if no workers treads
155                 # num-tx-queues 3
156
157                 ## Number of descriptors in transmit and receive rings
158                 ## increasing or reducing number can impact performance
159                 ## Default is 1024 for both rx and tx
160                 # num-rx-desc 512
161                 # num-tx-desc 512
162
163                 ## VLAN strip offload mode for interface
164                 ## Default is off
165                 # vlan-strip-offload on
166         # }
167
168         ## Whitelist specific interface by specifying PCI address
169         # dev 0000:02:00.0
170
171         ## Whitelist specific interface by specifying PCI address and in
172         ## addition specify custom parameters for this interface
173         # dev 0000:02:00.1 {
174         #       num-rx-queues 2
175         # }
176
177         ## Change UIO driver used by VPP, Options are: igb_uio, vfio-pci
178         ## and uio_pci_generic (default)
179         # uio-driver vfio-pci
180
181         ## Disable mutli-segment buffers, improves performance but
182         ## disables Jumbo MTU support
183         # no-multi-seg
184
185         ## Increase number of buffers allocated, needed only in scenarios with
186         ## large number of interfaces and worker threads. Value is per CPU socket.
187         ## Default is 16384
188         # num-mbufs 128000
189
190         ## Change hugepages allocation per-socket, needed only if there is need for
191         ## larger number of mbufs. Default is 256M on each detected CPU socket
192         # socket-mem 2048,2048
193 # }
194
195 EOF
196
197 # Get list of network device PCI bus addresses
198     get_nic_pci_list() {
199         while read -r line ; do
200             if [ "$line" != "${line#*network device}" ]; then
201                 echo -n "${line%% *} "
202             fi
203         done < <(lspci)
204     }
205
206     NICS=$(get_nic_pci_list)
207     NICS=`echo ${NICS} | sed 's/[0]\+\([0-9]\)/\1/g' | sed 's/[.:]/\//g'`
208
209     MUX_GW_NIC=GigabitEthernet`echo ${NICS} | cut -d " " -f 2`  # second interface in list
210     GW_PUB_NIC=GigabitEthernet`echo ${NICS} | cut -d " " -f 4`   # fourth interface in list
211
212 cat > /etc/vpp/setup.gate << EOF
213 set int state ${MUX_GW_NIC} up
214 set int ip address ${MUX_GW_NIC} ${MUX_GW_IP}/${MUX_GW_CIDR#*/}
215
216 set int state ${GW_PUB_NIC} up
217 set dhcp client intfc ${GW_PUB_NIC} hostname vg-1
218
219 create vxlan tunnel src ${MUX_GW_IP} dst ${MUX_IP_ADDR} vni ${VG_VGMUX_TUNNEL_VNI}
220 set interface l2 bridge vxlan_tunnel0 10 1
221 set bridge-domain arp term 10
222
223 loopback create
224 set int l2 bridge loop0 10 bvi 2
225 set int ip address loop0 192.168.1.254/24
226 set int state loop0 up
227 set int snat in loop0 out ${GW_PUB_NIC} 
228 snat add int address ${GW_PUB_NIC}
229
230 EOF
231
232 fi  # endif BUILD_STATE != "build"
233
234 if [[ $BUILD_STATE != "done" ]]
235 then
236
237     # Download and install HC2VPP from source
238     cd /opt
239     git clone ${HC2VPP_SOURCE_REPO_URL} -b ${HC2VPP_SOURCE_REPO_BRANCH} hc2vpp
240
241     apt --allow-unauthenticated install -y python-ply-lex-3.5 python-ply-yacc-3.5 python-pycparser python-cffi
242     apt-get install -y maven
243     mkdir -p ~/.m2
244     cat > ~/.m2/settings.xml << EOF
245 <?xml version="1.0" encoding="UTF-8"?>
246 <!-- vi: set et smarttab sw=2 tabstop=2: -->
247 <settings xmlns="http://maven.apache.org/SETTINGS/1.0.0"
248   xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
249   xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.0.0 http://maven.apache.org/xsd/settings-1.0.0.xsd">
250
251   <profiles>
252     <profile>
253       <id>fd.io-release</id>
254       <repositories>
255         <repository>
256           <id>fd.io-mirror</id>
257           <name>fd.io-mirror</name>
258           <url>https://nexus.fd.io/content/groups/public/</url>
259           <releases>
260             <enabled>true</enabled>
261             <updatePolicy>never</updatePolicy>
262           </releases>
263           <snapshots>
264             <enabled>false</enabled>
265           </snapshots>
266         </repository>
267       </repositories>
268       <pluginRepositories>
269         <pluginRepository>
270           <id>fd.io-mirror</id>
271           <name>fd.io-mirror</name>
272           <url>https://nexus.fd.io/content/repositories/public/</url>
273           <releases>
274             <enabled>true</enabled>
275             <updatePolicy>never</updatePolicy>
276           </releases>
277           <snapshots>
278             <enabled>false</enabled>
279           </snapshots>
280         </pluginRepository>
281       </pluginRepositories>
282     </profile>
283
284     <profile>
285       <id>fd.io-snapshots</id>
286       <repositories>
287         <repository>
288           <id>fd.io-snapshot</id>
289           <name>fd.io-snapshot</name>
290           <url>https://nexus.fd.io/content/repositories/fd.io.snapshot/</url>
291           <releases>
292             <enabled>false</enabled>
293           </releases>
294           <snapshots>
295             <enabled>true</enabled>
296           </snapshots>
297         </repository>
298       </repositories>
299       <pluginRepositories>
300         <pluginRepository>
301           <id>fd.io-snapshot</id>
302           <name>fd.io-snapshot</name>
303           <url>https://nexus.fd.io/content/repositories/fd.io.snapshot/</url>
304           <releases>
305             <enabled>false</enabled>
306           </releases>
307           <snapshots>
308             <enabled>true</enabled>
309           </snapshots>
310         </pluginRepository>
311       </pluginRepositories>
312     </profile>
313     <profile>
314       <id>opendaylight-snapshots</id>
315       <repositories>
316         <repository>
317           <id>opendaylight-snapshot</id>
318           <name>opendaylight-snapshot</name>
319           <url>https://nexus.opendaylight.org/content/repositories/opendaylight.snapshot/</url>
320           <releases>
321             <enabled>false</enabled>
322           </releases>
323           <snapshots>
324             <enabled>true</enabled>
325           </snapshots>
326         </repository>
327       </repositories>
328       <pluginRepositories>
329         <pluginRepository>
330           <id>opendaylight-shapshot</id>
331           <name>opendaylight-snapshot</name>
332           <url>https://nexus.opendaylight.org/content/repositories/opendaylight.snapshot/</url>
333           <releases>
334             <enabled>false</enabled>
335           </releases>
336           <snapshots>
337             <enabled>true</enabled>
338           </snapshots>
339         </pluginRepository>
340       </pluginRepositories>
341     </profile>
342   </profiles>
343
344   <activeProfiles>
345     <activeProfile>fd.io-release</activeProfile>
346     <activeProfile>fd.io-snapshots</activeProfile>
347     <activeProfile>opendaylight-snapshots</activeProfile>
348   </activeProfiles>
349 </settings>
350 EOF
351
352     cd hc2vpp
353     mvn clean install
354     l_version=$(cat pom.xml | grep "<version>" | head -1)
355     l_version=$(echo "${l_version%<*}")
356     l_version=$(echo "${l_version#*>}")
357     mv vpp-integration/minimal-distribution/target/vpp-integration-distribution-${l_version}-hc/vpp-integration-distribution-${l_version} /opt/honeycomb
358     sed -i 's/127.0.0.1/0.0.0.0/g' /opt/honeycomb/config/honeycomb.json
359
360     # Disable automatic upgrades
361     if [[ $CLOUD_ENV != "rackspace" ]]
362     then
363         echo "APT::Periodic::Unattended-Upgrade \"0\";" >> /etc/apt/apt.conf.d/10periodic
364         sed -i 's/\(APT::Periodic::Unattended-Upgrade\) "1"/\1 "0"/' /etc/apt/apt.conf.d/20auto-upgrades
365     fi
366 fi  # endif BUILD_STATE != "done
367
368 if [[ $BUILD_STATE != "build" ]]
369 then
370     # Create systemctl service for Honeycomb
371     cat > /etc/systemd/system/honeycomb.service << EOF
372 [Unit]
373 Description=Honeycomb Agent for the VPP control plane
374 Documentation=https://wiki.fd.io/view/Honeycomb
375 Requires=vpp.service
376 After=vpp.service
377
378 [Service]
379 ExecStart=/opt/honeycomb/honeycomb
380 Restart=always
381 RestartSec=10
382
383 [Install]
384 WantedBy=multi-user.target
385 EOF
386     systemctl enable /etc/systemd/system/honeycomb.service
387
388     # Install the DHCP server and config
389     apt-get install -y isc-dhcp-server
390     cat >> /etc/dhcp/dhcpd.conf << EOF
391 subnet 192.168.1.0 netmask 255.255.255.0 {
392   range 192.168.1.2 192.168.1.253;
393   option subnet-mask 255.255.255.0;
394   option routers 192.168.1.254;
395   option broadcast-address 192.168.1.255;
396   default-lease-time 600;
397   max-lease-time 7200;
398 }
399 EOF
400
401 echo '#!/bin/bash
402 STATUS=$(ip link show lstack)
403 if [ -z "$STATUS" ]
404 then
405    vppctl tap connect lstack address 192.168.1.1/24
406    vppctl set int state tap-0 up
407    vppctl set interface l2 bridge tap-0 10 0
408 fi
409 IP=$(/sbin/ifconfig lstack | grep "inet addr:" | cut -d: -f2 | awk "{ print $1 }")
410 if [ ! -z "$STATUS" ] && [ -z "$IP" ]
411 then
412    ip link delete lstack
413    vppctl tap delete tap-0
414    vppctl tap connect lstack address 192.168.1.1/24
415    vppctl set int state tap-0 up
416    vppctl set interface l2 bridge tap-0 10 0
417 fi' > /opt/v_gw_init.sh
418
419     chmod +x v_gw_init.sh
420
421     cat > /etc/systemd/system/vgw.service << EOF
422 [Unit]
423 Description=vGW service to run after honeycomb service
424 Requires=honeycomb.service
425 After=honeycomb.service
426
427 [Service]
428 ExecStart=/opt/v_gw_init.sh
429 Restart=always
430 RestartSec=10
431
432 [Install]
433 WantedBy=multi-user.target
434 EOF
435
436     systemctl enable /etc/systemd/system/vgw.service
437
438     cp /etc/systemd/system/multi-user.target.wants/isc-dhcp-server.service /etc/systemd/system/
439     sed -i '/Documentation/a Wants=vgw.service\nAfter=vgw.service' /etc/systemd/system/isc-dhcp-server.service
440     sed -i '/exec dhcpd/a Restart=always\nRestartSec=10' /etc/systemd/system/isc-dhcp-server.service
441
442     # Rename network interface in openstack Ubuntu 16.04 images. Then, reboot the VM to pick up changes
443     if [[ $CLOUD_ENV != "rackspace" ]]
444     then
445         sed -i "s/GRUB_CMDLINE_LINUX=.*/GRUB_CMDLINE_LINUX=\"net.ifnames=0 biosdevname=0\"/g" /etc/default/grub
446         grub-mkconfig -o /boot/grub/grub.cfg
447         sed -i "s/ens[0-9]*/eth0/g" /etc/network/interfaces.d/*.cfg
448         sed -i "s/ens[0-9]*/eth0/g" /etc/udev/rules.d/70-persistent-net.rules
449         echo 'network: {config: disabled}' >> /etc/cloud/cloud.cfg.d/99-disable-network-config.cfg
450         reboot
451 fi
452
453 fi  # endif BUILD_STATE != "build"