MaxScale이해와활용-2023.11

MaxScale의 활용
㈜네오클로바
2023. 11

네오클로바 - 회사소개
업체명 ㈜ 네오클로바 대표자 이 재 중
홈페이지 www.neoclova.co.kr 대표전화 02-539-4880
사업 분야 오픈소스 기반의 유지보수, 컨설팅 / 전반 Linux OS, WEB, WAS, DBMS 분야 기술 지원 및 분석 지원 서비스
주소 서울시 강서구 양천로 583(염창동 240-21) 우림블루나인 B동 1206호
회 사 설 립 년 도 2011년 11월 7일

Next Opensource Cloud Value
MariaDB

MariaDB
MariaDB 는 개방성과 커뮤니티 보존을 위해
개발되었다. 그 결과 우리는 더욱 빠른 속도로
미래의 애플리케이션을 준비할 수 있게 되었다.
Michael “Monty” Widenius
설립자 & CTO of MariaDB
MySQL 의 창시자
오픈소스의 철학
“
”

뭐가 달라요?
https://github.com/dveeden/mysql-history-graph

뭐가 달라요?
▪ 아키텍처
• Thread 방식이에요
✔ Only mysqld process (cf. mysqld_safe)
• 기본적으로 Single Core로만 SQL을 처리해요
✔ 병렬(Parallel)처리를 지원하지 않아요
 Only MySQL
✔ 일부 DDL 병렬처리 기능이 도입되고 있어요
✔ innodb_ddl_threads (8.0.27 ~)
• Nested Loop 방식의 Join을 사용해요
✔ innodb_adaptive_hash_index (mysql enable, mariadb disable)
• 다양한 스토리지 엔진을 지원해요
• 복제기능이 내장돼 있어요
✔ Async/Semi-Sync Replication
✔ 비동기임을 감안해서 HA 구성하세요
• Scale-Out > Scale-Up

뭐가 달라요?
▪ General
• AUTOCOMMIT=TRUE
✔ 어플리케이션 CONNECTION 처리에 유의
✔ 빈번한 autocommit의 변경은 성능저하 원인
• EXPLAIN PLAN
✔ 실행계획을 저장/재사용 하지 않아요
• QUERY (RESULTS) CACHE
✔ SQL 수행결과의 캐싱
✔ 지원여부는 버전별로 차이가 있어요. (MySQL 5.7.20~ deprecated)
• default ISOLATION LEVEL
✔ REPEATABLE-READ
✔ READ-COMMITTED 권고 (Oracle, SQLServer)
• Community vs Commercial
✔ 지원하는 기능이 달라요( storage engine )
✔ MySQL vs MariaDB vs Percona Server for MySQL

뭐가 달라요?
▪ Tablespace (innodb)
• System Tablespace
✔ ibdataN~
✔ 하나 이상의 파일로 구성
✔ 8M단위로 자동 확장
• Table당 Tablespace
✔ Table당 파일이 생성 (innodb_file_per_table)
✔ 파티션시 개별 파티션 별로 파일이 생성 되요
✔ 미리 늘려 놓을 수 없어요 (자동 확장이 되요)
• General Tablespace (Only MySQL)
✔ 오라클처럼 여러 테이블을 하나의 Tablespace에
저장할 수도 있어요
✔ 인덱스를 별도 Tablespace에 분리 할 수는 없어요
• Undo Tablespace
• Temporary Tablespace

뭐가 달라요?
▪ Table
• General
✔ 테이블별로 다른 스토리지 엔진을 사용할 수 있어요
✔ 테이블별로 압축을 제어할 수 있어요
✔ Page수준 암호화 지원, 플러그인 (컬럼 암호화 아님)
✔ 대소문자 구분 활성화/비활성 할 수 있어요 (초기화 시점에 적용 가능)
✔ Table에 PK/UK로 AUTO_INCREMENT 컬럼을 1개 만들 수 있어요
✔ PRIMARY KEY 순서로 테이블에 저장을 해요
✔ 원격지 테이블 / 파일등에 연결 할 수 있어요 (federated , connect)
✔ 테이블을 삭제해도 권한이 취소되지 않아요 (명시적인 REVOKE 필요)
• InnoDB 제한( 16K page, row_format=DYNAMIC )
✔ 최대 크기 : 64T
✔ 최대 컬럼 수 : 1017개
✔ 최대 행 크기 : 65535 Bytes (기본 + 오버플로 페이지)
✔ 기본 페이지 : 8126 Bytes (255byte 이하 컬럼들 합)
mysql [test]> show create table t1G
*************************** 1. row
***************************
Table: t1
Create Table: CREATE TABLE `t1` (
`id` int(11) NOT NULL,
`nm` varchar(20) COLLATE utf8mb4_bin DEFAULT NULL,
`rrno` varchar(13) COLLATE utf8mb4_bin NOT NULL,
`srv_yn` varchar(1) COLLATE utf8mb4_bin NOT NULL,
`reti_dt` varchar(8) COLLATE utf8mb4_bin NOT NULL,
PRIMARY KEY (`id`),
KEY `rrno` (`rrno`,`srv_yn`,`reti_dt`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4
COLLATE=utf8mb4_bin
1 row in set (0.001 sec)
mysql [test]> show global variables like
'innodb_default_row_format';
+---------------------------+---------+
| Variable_name | Value |
+---------------------------+---------+
| innodb_default_row_format | dynamic |
+---------------------------+---------+

뭐가 달라요?
▪ Table (중요)
• Basic
✔ page size default 16K vs Oracle/MSSQL/PostgreSQL 8K (innodb_page_size)
✔ 바꿀 수 있으나 바꾸지 마세요 (득보다 위험요소가 많아요)
✔ 크기는 미리 늘려 놓을 수 없어요 (자동확장이 되요)
✔ 테이블명에 대소문자 구분을 해요
• Primary Key
✔ 테이블 생성시 무조건 PK는 부여해 주세요 (복제지연(장애)과 성능저하의 원인이
됩니다)
✔ Oracle은 ROWID로 테이블과 인덱스가 연결되어 있지만, MySQL은 Primary key
로 연결돼 있어요
• Partition
✔ 개별 파티션별로 파일이 생성되요
✔ Local indexes on Partition만 지원해요
✔ 파티션 키 컬럼이 반드시 PK(UK)에 포함 되어야 해요
• CHARACTER SET / COLLATION
✔ Table/Column별 CHARSET 설정이 가능해요
✔ UTF8(utf8mb3), UTF8MB4(권고)

뭐가 달라요?
▪ Column
• AUTO_INCREMENT
✔ 테이블종속, 정수형, 자동증가
✔ PK, UK로 활용 하세요
✔ SERIAL = BIGINT UNSIGNED NOT NULL AUTO_INCREMENT UNIQUE
• NULL
✔ 빈문자열 '' (Empty String) 과 NULL값은 달라요
✔ 인덱스 페이지에 값이 저장됨(인덱스 활용 가능)
✔ 정렬 시 선행 검색, 오라클은 후행 검색 되요
✔ NULL 여부를 위해서 1비트 추가 저장공간 소요
✔ 산술연산은 NULL, 그룹함수나 문자연결시에는 연산에서 제외
• COMPRESSED (Only MariaDB)
✔ 특정 컬럼만 압축이 가능해요(blob)
• Invisible ~, Generated ~ as ~,
✔ 빠르게 좋아지고 있어요
MariaDB [test]> select * from t1;
+------+------+------+
| id | no | nm |
+------+------+------+
| 1 | NULL | NULL |
| 2 | 100 | NULL |
| 3 | 200 | Lee |
+------+------+------+
3 rows in set (0.000 sec)
MariaDB [test]> select id, sum(no), min(nm)
from t1;
+------+---------+---------+
| id | sum(no) | min(nm) |
+------+---------+---------+
| 1 | 300 | Lee |
+------+---------+---------+
MariaDB [test]> select id, sum(no), max(nm)
from t1;
+------+---------+---------+
| id | sum(no) | max(nm) |
+------+---------+---------+
| 1 | 300 | Lee |
+------+---------+---------+

뭐가 달라요?
▪ Data Type
• 숫자형
✔ 정수형 세분화 지원(tinyint, smallint, mediumint, int, bigint)
✔ 부동소수점 값은 근사치로 반올림 처리에 유의 (FLOAT은 안쓰는 걸로!!)
• 문자열
✔ 가변길이는 1~2Bytes 추가 길이 필요 해요
✔ 길이단위로 해석, 단 이진문자열은 BYTE 단위
✔ UTF8 : 3BYTE, UTF8MB4 : 4BYTE
✔ 일반적으로 Character In-Senstive가 기본 Collation (utf8mb4_0900_ai_ci , utf8mb4_unicode_ci )
✔ 대체로 데이터 값의 뒤 공백을 제거하고 비교하나, COLLATION 마다 차이가 있음으로 확인필요 (PAD
속성)
• 날짜형
✔ DATE : '1000-01-01' ~ '9999-12-31'
✔ DATETIME : '1000-01-01 00:00:00.000000' ~ '9999-12-31 23:59:59.999999'
✔ TIMESTAMP: '1970-01-01 00:00:01.000000' ~ '2038-01-19 03:14:07.999999'
✔ TIME, YEAR
✔ Y2K38 (MySQL 8.0.28 fixed, MariaDB : https://jira.mariadb.org/browse/MDEV-32188 )

뭐가 달라요?
▪ Data Type
• JSON
✔ MySQL : RFC7159에 정의된 데이터유형 지원 ( JSON 객체)
✔ MariaDB : MySQL 호환성을 위한 LONGTEXT (JSON 문자열)
• 미지원
✔ XML

뭐가 달라요?
▪ VIEW
• Logical Table
✔ not supported MATERIALIZED VIEW
▪ ROUTINES
✔ security_type DEFINER/INVOKER – EXECUTE/~
• PACKAGE (Only MariaDB)
✔ MariaDB는 지원해요 (SQL_MODE=ORACLE)
• PROCEDURE / FUNCTION
✔ AS 키워드가 없어요
• TRIGGER
✔ DML_EVENT만 지원, DDL_EVENT/DATABASE_EVENT 미지원
✔ SQL문에 의한 테이블 변경시에만 활성화 됨
• EVENT
✔ ORACLE - scheduler

뭐가 달라요?
▪ SEQUENCE (Only MariaDB)
• AUTO_INCREMENT 대안
• 실제로는 InnoDB Engine (cf. Sequence Storage Engine – virtual dummy table)
• 사용법
✔ NEXT VALUE FOR sequence_name / NEXTVAL(sequence_name) / sequence_name.nextval
✔ PREVIOUS VALUE FOR sequence_name / LASTVAL(sequence_name) / sequence_name.currval
▪ Index
• Page 구조
✔ PRIMARY KEY : PK 컬럼 값들의 순으로 정렬된 테이블, PK 이름을 바꿀 수 없어요
✔ SECONDARY KEY : PK 값이 숨어 있어요 (ROWID 역할)
• Descending
✔ MySQL 8.0~, MariaDB 10.8~ 지원
✔ 이전 버전까지는 ASC로만 컬럼들 정렬해서 인덱스 생성
• FULL-TEXT Search
✔ NGRAM Parser (MySQL)

뭐가 달라요?
▪ Standard SQL
• MySQL/MariaDB
✔ SELECT ~ INTO table 은 INSERT INTO table SELECT ~ 로 지원
✔ UPDATE t1 SET c1 = c1 +1, c2 = c1;
UPDATE t1 SET c2 = c1, c1 = c1 +1;
두 문장의 결과는 달라요
✔ FOREIGN KEY로 부모테이블의 UNIQUE/NOT NULL 조건이 아닌 인덱싱 컬럼도
지원
✔ 지원하는 주석처리
/*! ~~ */ (구문분석 수행)
#~
-- ~ (-- 다음 공백 있음)
✔ || (OR), && (AND)로 해석, 문자열 연결은 CONCAT() 이용
✔ TRIM()은 부분 문자열 제거 지원 (cf. Oracle – 단일문자 제거)
✔ LIMIT 절 (UPDATE ~ JOIN절의 경우는 LIMIT 사용불가)
✔ FROM절의 SUBQUERY내의 ORDER BY는 무시
✔ https://mariadb.com/kb/en/why-is-order-by-in-a-from-subquery-ignored/
select * from (
select id, nm, srv_yn, reti_dt
from t1
where rrno='23475296848'
order by srv_yn desc, reti_dt desc
limit 3
) A;
VS
select * from (
from t1
where rrno='23475296848'
) A
limit 3;
VS
select * from (
from t1
where rrno='23475296848'
) A
limit 3;

뭐가 달라요?
▪ Standard SQL
• SQL_MODE
✔ Strict Mode Disable 운영 시 느슨한 데이터 유효성 검사로 데이터 유실
될 수 있어요
• Hint
✔ 주석을 이용한 힌트 사용시에도 SQL 구문 오류가 발생 할 수 있어요
✔ 주석내의 코드에 대한 구문분석을 실행

HA
(High Availability)

Replication
Binar
y log
Relay
log
I/O
thread
SQL thread
Primary Replica
Data changes
Write
Read
Replay
Binary log
dump thread
Write

Pacemaker
https://aws.amazon.com/ko/blogs/storage/deploying-self-managed-mariadb-high-
availability-using-amazon-ebs-multi-attach/
https://dev.mysql.com/blog-archive/mysql-now-provides-support-for-drbd/

Replication Topology
https://www.dsdata.es/images/skysql/High_Availablity_with_MariaDB_TX.pdf

MaxScale

MariaDB MaxScale
• DB Proxy
• BSL
• Query Routing
• MariaDB Monitoring
• Filter
• HA

MariaDB MaxScale
MaxScale
Monitor
Server State
Listener
Client
Server
Filter Filter Router
Service

MariaDB MaxScale
BSL (Business Source License)
Additional Use Grant: You may use the Licensed Work when
your application uses the Licensed Work with a total of
less than three server instances for any purpose.
https://mariadb.com/bsl-faq-mariadb/
* minor version마다 GPL2전환 시기 다름

MaxScale Router
• Readconnroute *
• Readwritesplit *
• Binlogrouter
• mirror
• SchemaRouter
• SmartRouter
• Kafka CDC
• Kafka Importer
https://mariadb.com/kb/en/maxscale-6-routers/

MaxScale Router
 ReadconnRouter
• router_options=master
• router_options=slave
• router_options=synced
• router_options=running

MaxScale Router
 ReadWriteSplit Router

MaxScale Router
 ReadWriteSplit Router
• autocommit=true (필수)
• max_slave_replication_lag (권고)
• Causal read (비권고)

MaxScale Filter
Hint *
Masking
Maxrows
Query Log All (QLA)
Top

MaxScale Filter
 Hint
• /* maxscale route to master */
• /* maxscale route to slave */
• /* maxscale route to server server3 */
• mariadb client --comments 주의

MaxScale Monitor
• MariaDB Monitor *
• Galera Monitor
• Aurora Monitor
• ColumnStore Monitor

MaxScale Monitor
 MariaDB Monitor
• Auto failover
• Auto rejoin
• Switchover
• Cooperative Monitoring
• extra_port
• L4 / JDBC설정

MaxScale Monitor
 cooperative

MaxScale Monitor
 auto failover

MaxScale Monitor
 Galera Monitor
• write(1), read(another)
• choose the node with the lowest wsrep_local_index value as the
master

MaxScale REST API
• curl 127.0.0.1:8989/v1/servers
• curl 127.0.0.1:8989/v1/monitors
• maxctrl api get services data[].attributes.router_diagnostics
--pretty
• curl -X GET -u admin:mariadb http://127.0.0.1:8989/v1/servers
-i
https://mariadb.com/kb/en/maxscale-6-rest-api/

MaxScale Topology
JDBC
Semi-Sync Replication

MaxScale Topology
L4
Semi-Sync Replication

MaxScale
구성 및 운영

MaxScale 기본 환경구성 (maxscale.cnf 예시)
[maxscale]
threads =
auto
skip_name_resolve =
yes [Write-Listener]
type = listener
service = Write-
service
protocol =
MariaDBClient
port = 6033
[Write-service]
type = service
router =
readconnroute
router_options = master
servers =
DB1,DB2,DB3
[DB-Monitor]
type = monitor
module =
mariadbmon
servers =
DB1,DB2,DB3
user = max
passwd = maxPW
monitor_interval = 10
auto_failover = true
auto_rejoin = true
enforce_read_only_slaves =
true
servers_no_promotion =
DB3
[DB1]
type = server
address =
192.168.0.100
port = 3306
protocol =
MariaDBBackend
user = max
passwd = maxPW
[DB2]
...
[DB3]
...
[Split-Listener]
type = listener
service = Split-
service
protocol =
MariaDBClient
port = 6034
[Split-service]
type = service
router =
readwritesplit
servers =
DB1,DB2,DB3
max_slave_replication_lag
= 10s
use_sql_variables_in =
master

MaxScale Objects
Section Description
Server
MariaDB MaxScale을 통해 클라이언트를 연결할 수 있는 개별 데이터베이스 서버
서버 상태
• Running : 정상
• Master : Master 서버
• Slave : Slave 서버
• Maintenance : 수동으로 연결을 차단한 점검을 위한 서버
• Slave of External Master : 모니터링 되지 않는 Slave
Protocol MaxScale과 MaxScale 클라이언트 또는 MaxScale에 설정 된 서버 간의 통신을 담당
Monitor 특정 종류의 클러스터 상태를 모니터링하고 MaxScale의 Router에서 해당 상태를 사용할 수 있게 함
Filter MaxScale의 요청 처리 Router 앞에 위치하여 요청에 대한 정보를 거부, 처리, 변경 또는 기록
Router 요청의 특성 또는 Router가 구현하는 알고리즘에 따라 요청을 backend 데이터베이스 서버로 라우팅 (readconnroute / readwritesplit 등)
Service 데이터베이스 집합을 추상화하여 클라이언트에 단일 데이터베이스로 표시
Listener MaxScale이 수신 대기하는 포트를 정의하고 해당 포트에 도착한 연결 요청은 Listener에 연결된 Service로 전달

MariaDB 제약사항
• GTID (current_pos)
• log_slaves_updates
• Replication 구성
• extra_port
extra_max_connections
• 각 계정정보에 대해서 두세트의 권한부여가 필요함
usr1@client-host
usr1@maxscale-host

Monitor 제약사항
• mariadbmon 은 복제지연이 발생할 수 있음
• 하나의 모니터만 사용 가능
• 동일 서버를 두대이상에서 모니터링할 경우 오류로 간주됨
• Galera Cluster 모니터링 제한 (galeramon)
• wsrep_local_index를 기반으로 기본 Master가 선택 됨
• 서버 우선 순위 메커니즘의 영향을 받을 수 있음
• disable_master_failback = 1

Read/Write Splitter 제약사항
• 마스터 서버로 라우팅 되는 쿼리
• open transaction 내에서 쿼리가 실행 된 경우(autocommit=0)
• 구문에 저장 프로시저 또는 UDF 호출이 포함되어 있는 경우
• 하나의 쿼리 안에 여러 개의 명령문이 있는 경우
• Readwritesplit은 JDBC 배치 명령문의 파이프 라이닝을 지원하지 않음
• multi-statement 쿼리가 readwritesplit 라우터를 통해 실행되면 항상 마스터로 라우팅
• 다중 명령문 쿼리 내에서 LOAD DATA LOCAL INFILE 문을 실행 불가 (MaxScale hang
issue)
• USE <db name> 및 SET autocommit = 0이 포함한 몇몇의 쿼리는 복사본을 각 백엔드
서버로 보내고 마스터의 응답을 클라이언트에 전달
• use_sql_variables_in 매개 변수를 all로 설정하면 SELECT 쿼리가 사용자 변수를
수정하면 라우팅되지 않고 클라이언트가 오류를 수신

transaction 제약사항
• XA트랜잭션 탐지 불가
• XA 명령은 알 수 없는 명령으로 처리
• 데이터베이스를 잠재적으로 수정할 수 있는 작업으로 취급
• readwritesplit 일 경우, 마스터로 라우트 됨
• XA 트랜잭션 내부에서 수행 된 SELECT 쿼리는 XA 트랜잭션의 일부가 아닌 서버로 라우팅
• XA 트랜잭션 수행 시 auto commit을 비활성화 하여 수행가능
• Prepared Statement
• prepared statement를 사용하여 autocommit 모드 변경 시 문제 발생
• 모드 변경이 되어도 maxscale은 이를 인지하지 못함

MaxScale 구성 제약사항
• connection_timeout vs wait_timeout
• log_info = false | true , log_debug = false | true
• skip_name_resolve = true
• extra_port (in server)
• max_slave_replication_lag
• maxkeys 권고
• /etc/logrotate.d/Maxscale_rotate

MaxScale 운영 제약사항
• 신규 계정 추가
• Backend Server의 계정추가 후 MaxAdmin 에서 reload dbusers 수행 필요
• users_refresh_time=30s

MaxScale maxctrl
• maxctrl --help
• maxctrl list servers
• maxctrl show monitors
• maxctrl list sessions
• maxctrl call command mariadbmon release-locks
MyMonitor1
• maxctrl call command mariadbmon switchover MariaDB-
Monitor
• maxctrl set server Maria1 maintenance

MaxScale 이용을 위한 선택
• Replication Method
• Service Module
• Understand Replication Lag
• MaxScale HA
• Application Connection

MaxScale 장애확인
• WAS Log 확인
• MaxCtrl 상태확인
• Error Log 확인
• MariaDB 상태확인
• MariaDB Error Log 확인
MariaDB가 장애인지 Maxscale이 장애인지 매우 중요함
대부분 Maxscale장애보다 MariaDB의 장애를 Maxscale이 감지함(정상)

MaxScale 장애유형
• MariaDB
• Replication 깨짐
• Disk Full
• Memory Storage Engine 이해
• SQL_SECURITY Privileges
• OOM
• Instance Down(signal 6/11
error~)
• BUG로 Crash.
InnoDB와 Replication의 이해가 필요
• Maxscale
• TCP keepalive … connection
close
• connection_timeout 초과
• auto_rejoin fail
• DB hang으로 오탐
• QLA filter log full
• memory leak
https://jira.mariadb.org/projects/MDEV/issues/
https://jira.mariadb.org/projects/MXS/issues

MaxScale 장애조치
• MariaDB 장애의 경우 Maxscale과 무관
• 서비스에서 노드를 유지관리 모드로 전환, 장애복구 후 유지관리 모드 해제
• maxctrl set server Maria1 maintenance
• 해당노드 장애복구
• maxctrl clear server Maria1 maintenance
• Master Role에 대한 수동전환이 필요한 경우
• maxctrl call command mariadbmon switchover MariaDB-Monitor
• Maxscale 설정변경 후 반영 안될때
• Maxscale stop
• /var/lib/maxscale/* 삭제
• Maxscale start

MaxScale 적용사례
• 고가용성(HA) : Active – Standby
• Maxscale은 이중화 (VIP/JDBC)
• readconnroute( router_option=master)
• 일부 고객사 운용
• Read/Write 분산 : Active – Active
• readwritesplit
• 다수 고객사 운용
• Galera Cluster Router : Active – Active
• galeramon
• 극히 일부 고객사 운용

MaxScale version
 MaxScale 2.5
• MariaDB-Monitor supports cooperative monitoring
• MaxGUI, a new browser based tool for configuring and managing MaxScale is introduced
• New routers, mirror and kafkacdc, A completely new binlog router implemenation
Multiple modes of operation for causal_reads

MaxScale version
 MaxScale 6
• New list queries command for MaxCtrl that lists all active
queries
• A nosqlprotocol protocol module that implements the MongoDB®
wire protocol
• If extra_port is defined for a server, it's used by default for
monitor and user account manager connections
 MaxScale 22.08
• Sessions can now be killed using maxctrl

MaxScale version
 MaxScale 23.02
• Create-Backup and Restore-From-Backup commands added to
MariaDBMonitor
• Use the built-in configuration synchronization to synchronize
the configurations of multiple MaxScale instances
• The REST-API is now supports ODBC-type connections in the /sql
endpoints
 MaxScale 23.08
• Added switchover-force command to MariaDB Monitor

MaxScale이해와활용-2023.11

MaxScale이해와활용-2023.11

Recommended

More Related Content

What's hot (20)

Similar to MaxScale이해와활용-2023.11 (20)

MaxScale이해와활용-2023.11

Editor's Notes