目標

• 透過 remote_syslog 將 app log 送到 papertrail 中
• 官方建議的 docker image : https://github.com/octohost/remote_syslog
  • 說明 : https://help.papertrailapp.com/kb/configuration/configuring-centralized-logging-from-docker/#mount

install & setting

1. 建立好 wifi ap
2. 安裝 ATC : http://facebook.github.io/augmented-traffic-control/docs/install.html
3. 安裝完畢 atc django-ui 後，在執行 atcd 前，必須先知道 wan & lan 的端口
   • 透過 route 查詢
   • 啟動 sudo atcd --atcd-lan xxxx --atcd-wan xxxx
4. 執行 python manage.py runserver 0.0.0.0:8000
5. 開啟瀏覽器，會看到成功畫面
   • 若你的 atcd server 執行失敗，會產生授權錯誤的推播通知

use

1. 開啟瀏覽器並打開 atc_demo_ui 的管理介面
2. 主要設置的參數有：
   • 網絡帶寬（bandwidth）
   • 延遲（latency）
   • 丟包率（packet loss）
   • 錯包率（corrupted packets）
   • 亂序率（packets ordering）
3. 新增 new profile 與 shaping settings 後，可在 Profiles 中看到設定的參數值，選擇後再開啟最上方的 trun on 即可
4. Network Condition Profiles 參考
   • https://github.com/tylertreat/Comcast#network-condition-profiles - https://github.com/facebook/augmented-traffic-control/tree/master/utils/profiles
5. 測試 : 連上 wifi，設定 bandwidth=1，turn on，此時若網路沒有延遲，則可能是你的 atcd wan&lan 設定相反

測試心得

1. 因為 atc 可以個別針對各類型的裝置進行限速的行為，所以今天要限制某台 iphone，請透過該台 iphone 連到 atcd-ui 中，選擇 profile (需要的網路情境)，再開啟，即可，根據測試，不同的裝置，可以設定不同的情境，不會互相影響
2. 如何遠端控制它台裝置？
   1. 需要先授權，授權完畢，重新整理頁面，就會看到授權的電腦
3. 參考 : https://github.com/facebook/augmented-traffic-control/tree/master/atc/django-atc-api
4. 關於設定的 json 設定，我是先在 ui 的頁面中，copy 設定檔，再透過 api 的方式進行設定

initial check

1. 檢查網路是否支援 AP : iw list，須找到支援 AP 的選項
2. 檢察網路 : ifconfig -a，會看到
   • eth0 : 在我的 pi3 下顯示的是 enxb87ebbb66cf，在 iptables 的 package transfer 將 eth0 設定成此值
   • lo
   • wlan0
3. 接上 乙太網路線，先測試 raspberry pi 上的網路是否正常，透過 route 指令檢查 default 的 gateway，可得知 Iface 的名稱，也就是 eth0
4. 整個目標就是透過 iptable 的方式，交換 wifi 與乙太網路的資訊

設定 wifi 的資訊

• 目的 : 接收用戶端連線，設定 raspberry wifi gateway 的位置

1. 編輯 DHCP Client 設定資訊 : vim /etc/dhcpcd.conf
2. 在最下方，新增
   1. interface wlan0
   2. static ip_address=10.0.7.1/24 : 指定 wlan0 的 ip 位置

啟用 NAT

• 目的 : 透過 iptable 的設定，交換 wifi ap(wlan0) 與 eth0 的網路資訊

1. 開啟 ipv4 路由轉發功能，檔案位置 /etc/sysctl.conf
   • 查詢 : cat /etc/sysctl.conf | grep ip_forward
   • 變更設定 : 至 /etc/sysctl.conf，找到 net.ipv4.ip_forward 並設定為 1
     • 或透過指令變更 : sudo sed -i 's/#net.ipv4.ip_forward=1/net.ipv4.ip_forward=1/g' /etc/sysctl.conf
2. 更新 iptable，將內部的 wlan0 封包轉給 eth0，詳細原理可參考 : http://web.mit.edu/rhel-doc/4/RH-DOCS/rhel-sg-zh_tw-4/s1-firewall-ipt-fwd.html
   1. sudo iptables -F
   2. sudo iptables -F -t nat
   3. sudo iptables -t nat -A POSTROUTING -o eth0 -j MASQUERADE
   4. sudo iptables -A FORWARD -i eth0 -o wlan0 -m state --state RELATED,ESTABLISHED -j ACCEPT
   5. sudo iptables -A FORWARD -i wlan0 -o eth0 -j ACCEPT
3. 儲存設定，讓每次開機都自動設定
   1. vim /etc/rc.local
   2. 在 exit 0 之前，加入sudo iptables-save > /etc/network/iptables.ipv4.nat
4. 查看 iptable
   • sudo iptables -t nat -S
   • sudo iptables -S
   • sudo iptables -L

架設 DHCP Server

1. sudo apt-get -y install dnsmasq
2. sudo vim /etc/dnsmasq.conf，在最下方編輯

   1 2	interface=wlan0 dhcp-range=10.0.7.101,10.0.7.200,255.255.255.0,12h

3. 重新啟動 dnsmasq : sudo systemctl restart dnsmasq && sudo systemctl enable dnsmasq

設定 hostapd

1. sudo apt-get install hostapd -y
2. cp /usr/share/doc/hostapd/examples/hostapd.conf.gz /etc/hostapd/
3. gunzip /usr/share/doc/hostapd/examples/hostapd.conf.gz
4. 編輯 hostapd.conf
   1. interface=wlan0
   2. driver=nl80211
   3. ssid=RPI-AP
   4. hw_mode=g
   5. channel=11
   6. macaddr_acl=0
   7. auth_algs=1
   8. ignore_broadcast_ssid=0
   9. wpa=2
   10. wpa_passphrase=12345678 : 設定無線網路密碼
   11. wpa_key_mgmt=WPA-PSK
   12. rsn_pairwise=CCMP
5. 測試 : sudo hostapd -dd /etc/hostapd/hostapd.conf
   • 測試時，可以透過其他裝置，並連接上 wifi ap
   • 如果連接得上，但沒有辦法看網頁，為 iptables 設定錯誤，請檢查你的 iptables : iptables -L
6. 指定 hostapd daemon 的位置 : sudo sed -i 's/#DAEMON_CONF=""/DAEMON_CONF="\/etc\/hostapd\/hostapd.conf"/g' /etc/default/hostapd

重新開機讓所有的設定值都生效

• sudo systemctl enable hostapd && sudo reboot

troubleshooting

1. 找不到 ssid
   • 請重新啟動 hostapd
2. 連上 ssid，卻無法連到外部網路
   • 請檢查 iptables

檢查錯誤訊息

• /var/log/syslog

如何關閉 wifi ap

• 停掉 hostapd 服務即可 : sudo systemctl hostapd stop

first

• 目的 : 在 docker 架構下，解決 mariadb container 建立後，自動加入 schema 到 db 中
• 可參考 https://stackoverflow.com/questions/36617682/docker-compose-mysql-import-sql
• 解決 : 在 mariadb 起來後，會自動去執行 /docker-entrypoint-initdb.d/ 底下的 sql 指令，就會自動建立好預設的 database & table

example : docker-compose

sql file : save as test.sql

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

#
# SQL Export
# Created by Querious (1068)
# Created: 2017年9月5日 GMT+8 上午9:27:31
# Encoding: Unicode (UTF-8)
#

CREATE DATABASE IF NOT EXISTS `test` DEFAULT CHARACTER SET latin1 DEFAULT COLLATE latin1_swedish_ci;
USE `test`;

SET @PREVIOUS_FOREIGN_KEY_CHECKS = @@FOREIGN_KEY_CHECKS;
SET FOREIGN_KEY_CHECKS = 0;

CREATE TABLE `event` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `user_id` varchar(128) DEFAULT NULL,
  `type` varchar(128) DEFAULT NULL,
  `created_timestamp` timestamp NULL DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

SET FOREIGN_KEY_CHECKS = @PREVIOUS_FOREIGN_KEY_CHECKS;

docker-compose.yml

1
2
3
4
5
6
7
8
9
10
11

version: '3.0'
services:
  mariadb:
    image: mariadb
    container_name: some-mariadb
    ports:
      - 3306:3306/tcp
    environment:
      - MYSQL_ROOT_PASSWORD=1234
    volumes:
      - test.sql:/docker-entrypoint-initdb.d/test.sql

驗證

1. docker exec some-mariadb mysql -u root --password=1234 --database=test -e "show tables;"

建立 aws docker image repo

1. 建立 ECR
   1. 開啟 AWS console -> 選擇 Amazon ECS 的服務 -> 選擇 Repositories
   2. 選擇 create repository
   3. 建立完成後，會看到上傳的方法
2. 按照 ecs 中，的說明 aws ecr get-login 後，會產生出 docker login … 的語法，透過這個進行 docker login
   1. aws ecr get-login --no-include-email --region us-east-1 : 取得 docker login -u AWS -p ....
   2. 依據 1 中取得的 login 指令，進行 docker login
3. 上傳 docker image 到 ECR 中
   1. docker build -t xxx {image}
   2. docker tag xxx your-ecr-position/your-repo-name:latest
   3. docker push your-ecr-position/your-repo-name:latest

透過 beanstalk 部署

1. 建立好一個 eb application
2. 設定好 Dockerrun.aws.json
   • envsubst 可善用此指令
3. 壓縮 含有設定檔的 folder，並上傳到 aws s3
   • cd folder && zip -r $folder.zip ./ && aws s3 cp $folder.zip s3://{bucket_name}/{folder.zip}
4. 建立 eb 新的版本

   1 2 3 4

   aws elasticbeanstalk create-application-version \ --application-name {your-eb-application-name} \ --version-label {your-eb-version-label}\ --source-bundle S3Bucket={bucket_name},S3Key={folder.zip}

5. 部署新版本

   1 2 3

   aws elasticbeanstalk update-environment \ --environment-name {your-eb-application-name} \ --version-label {your-eb-version-label}

PURPOSE

1. 了解 aws cli profile 運作方式
2. 了解 aws cli configure 操作方法

aws cli

• github : https://github.com/aws/aws-cli/releases
• 安裝 & 更新 & 反安裝 : http://docs.aws.amazon.com/cli/latest/userguide/installing.html
• cli 中指令的參考 : http://docs.aws.amazon.com/cli/latest/index.html
  • aws help : 可看到所有指令
• 查詢各類指令說明 :
  • aws help
  • aws {command} help
  • aws {command} {sub-cmd} help
• aws Command Completion : http://docs.aws.amazon.com/cli/latest/userguide/cli-command-completion.html
  • 透過 tab 搜尋 aws 相關指令, install :
    1. echo $SHELL
    2. find path : which aws_completer
    3. enable : complete -C '/usr/local/bin/aws_completer' aws

設定 profile

• resource : http://docs.aws.amazon.com/cli/latest/userguide/cli-chap-getting-started.html
• 請到 iam 取得以下
  • AWS Access Key ID
  • AWS Secret Access Key
• aws configure help : 查詢在 configure 中的指令有哪些可用
• 設定 profile
  • aws configure
  • aws configure --profile user2
• 列出 profile
  • aws configure list : 預設
  • aws configure list --profile default : 指定身份
• 使用 profile
  • aws ec2 describe-instance
  • aws ec2 describe-instance --profile user2
• 指定使用哪一個 profile
  • export AWS_PROFILE=user2 : AWS_PROFILE 為 Environment Variables
  • unset AWS_PROFILE : 回到預設值
  • Profile Environment Variables
    • AWS_ACCESS_KEY_ID
    • AWS_SECRET_ACCESS_KEY
    • AWS_SESSION_TOKEN
    • AWS_DEFAULT_REGION
    • AWS_DEFAULT_OUTPUT
    • AWS_PROFILE
    • AWS_CA_BUNDLE
    • AWS_SHARED_CREDENTIALS_FILE
    • AWS_CONFIG_FILE
• Options
  • --profile : 指定使用 profile
  • --region : 指定地區
    • 顯示地區列表 : aws ec2 describe-regions --output table

  • --output : json

    text

    table

  • --endpoint-url : 指定
  • ex : aws ec2 describe-instances --output table --region ap-northeast-2

example

1. 想要列出目前預設使用的 profile 使哪一張
   • aws configure list
2. 想指定預設的 profile
   • export AWS_PROFILE=xxx
3. 想取消指定 profile，回到 default
   • unset AWS_PROFILE

papertrail

• 申請一個 papertrail 帳號
• 建立一個 Log Destinations : 會得到 logsx.papertrailapp.com:46888

logspout

• 建立 docker container

  1 2 3 4 5 6

  docker run --name="logspout" \ -d \ -e SYSLOG_HOSTNAME=test_name \ --volume=/var/run/docker.sock:/var/run/docker.sock \ gliderlabs/logspout \ {your_papertrail_log_destination}

• 測試
  • 以下兩種方法可以在 papertrial 的 log 中看到
    1. docker run -p 80:80 centos /bin/echo hello => 在 papertrial 印出 hello
    2. docker run -p 81:81 centos /bin/date => 在 papertrial 印出 日期
    3. docker run -i -d -p 80:80 centos /bin/bash
       • docker exec -it [container_id] /bin/bash
       • echo hello » /proc/1/fd/1 => 在 papertrial 印出 hello
  • 注意 : docker run 用 -t 啟用的話，就不會被 logspout 給監聽到
  • 注意 : logging driver 只支援 journald, json-file

【ejabberd stress】use Jabsimul

環境

• aws instance t2.micro
• ubuntu 16.04

安裝

1. 安裝 ejabberd 本體
   • apt-get update
   • 到安裝頁面，選擇 deb，wget {download source}
   • dpkg -i {download file}
   • su ejabberd && cd ~
   • 檢查你的 host 請更改為 localhost : vi ./conf/ejabberd.yml
   • 先記錄 {host}
   • 啟動 ejabberd, ./bin/ejabberdctl start
   • 建立管理者 : ./bin/ejabberdctl register admin {host} admin
2. 安裝壓力測試編譯時需要的套件 : apt-get install cvs make gcc libexpat1-dev libncurses5-dev libssl-dev bison byacc flex -y
3. 安裝 Jabber Test Suite，官方 : http://jabbertest.sourceforge.net/
   1. 確定切換回 root, cd /home/ubuntu
   2. cvs -z3 -d:pserver:anonymous@jabbertest.cvs.sourceforge.net:/cvsroot/jabbertest co testsuite
   3. cd testsuite/ && cp Makefile.linux Makefile && make userreg
   4. 查詢 ./userreg -? 的使用方法
   5. ./userreg -h 127.0.0.1 -u 3000 -n 1 -o ./output
   6. cat ./output 如果成功會顯示類似，無意外會有 3000 筆資訊
   7. 如果沒有，請將 ejabberd stop then start
4. 安裝 Jabsimul
   1. 確定切換回 root, cd /home/ubuntu
   2. wget http://www.ejabberd.im/files/other/jabsimul.tar.gz
   3. tar xzf jabsimul.tar.gz
   4. cp jab_simul.xml.example jab_simul.xml
   5. ./configure && make
   6. 調整設定值，開啟 jab_simul.xml : 參考 http://tkabber.jabber.ru/files/badlop/jab_simul.xml.chat60
   7. 注意 jab_simul.xml 中，server 的位置，必須是可解析的 DNS，不能用 ip
   8. 開始執行壓力測試 ./jab_simul
   9. 請壓到你預設的數據人數，再去查看現在的資源狀態
5. 如何檢查你的壓力測試 user login 正常?
   1. 檢查你的 ejabberd.log
   2. 檢查 /tmp 底下的 xml testuser 中的訊息
6. jab_simul 執行後的錯誤訊息
   • Socket creation error ! (Too many open files) : 請調整 ulimit 參考其他參數調整
   • Segmentation fault (core dumped) : 伺服器超載

其他參數調整

如果要模擬 2000 個用戶，在同一台機上上進行壓力測試，必須設定限制高於 4000 以上

• Linux : ulimit -n 16000

shaper 是設定查詢允許的流量速度…應該被受限在硬體的效能上…

• shaper normal & fast

在 ejabberdctl.cfg 中，可設定 ERL_MAX_PORTS & ERL_MAX_ETS_TABLES

• ERL_MAX_PORTS : Maximum number of simultaneously open Erlang ports
  • ejabberd consumes two or three ports for every connection, either from a client or from another Jabber server. So take this into account when setting this limit.
• ERL_MAX_ETS_TABLES : Maximum number of Erlang processes
  • The number of concurrent ETS and Mnesia tables is limited. When the limit is reached, errors will appear in the logs: ** Too many db tables **. You can safely increase this limit when starting ejabberd. It impacts memory consumption but the difference will be quite small.

什麼是 ETS => Erlang Term Storage 什麼是 DETS => Disk Erlang Term Storage

查詢壓力測試數據

• 記憶體
  1. 測試前 : free -k
  2. 測試後 : free -k
• 使用 top 指令
• 可參考 : http://fecbob.pixnet.net/blog/post/39256167-linux%E4%B8%AD%E6%9F%A5%E7%9C%8B%E7%B3%BB%E7%B5%B1%E8%B3%87%E6%BA%90%E4%BD%94%E7%94%A8%E6%83%85%E6%B3%81%E7%9A%84%E5%91%BD%E4%BB%A4

壓力測試數據參考

在 t2.micro 底下約 7500 人，同時在線

1
2

  PID USER      PR  NI    VIRT    RES    SHR S %CPU %MEM     TIME+ COMMAND                                                                                                                      
12022 root      20   0   84416  68836   4084 R 66.0  6.8   0:30.64 jab_simul 

目的

當使用越來越多的工具時，有時新版的 release 來不及跟上，變成版本落差極大，透過 slack rss bot 的幫忙，當 release 有更新時，透過 msg 通知

需要工具

• slack rss bot install : https://slack.com/apps/A0F81R7U7-rss
• github release rss
  1. 找到一個你想要訂閱的 github
  2. 點選 release 的 item
  3. 在 url 的尾端加上 .atom 即可。ex: https://github.com/xxxx/yyyy/releases.atom
  4. copy url to slack rss