반응형 MySQL99 MySQL의 데이터를 엘라스틱서치와 싱크(sync)해서 빠른 검색과 분석을 하는 방법 원문 : https://blog.naver.com/ghostlover23/221644176875 관계형 데이터베이스(RDBMS)의 데이터를 엘라스틱서치로 저장하면 데이터의 검색을 빠르게 할 수 있는 여러 가지 작업이 자동으로 이루어집니다. 엘라스틱서치는 데이터를 인덱싱(indexing)하고 '샤드'라는 단위로 데이터를 쪼개서 여러 데이터 노드에 분산을 시키고, 만약에 복제본(replica) 세팅이 1 이상이면 일종의 read replica를 생성해서 역시 여러 데이터 노드에 분산시켜서 QPS를 향상시킵니다. 일단 엘라스틱서치에 인덱싱이 되면 강력한 Query api(https://www.elastic.co/guide/en/elasticsearch/reference/current/full-text-que.. 2024. 12. 16. MariaDB DeadLock 확인 방 MariaDB를 사용하다 보면 쓰기작업으로 인해 DeadLock이 발생할 경우가 있다.Deadlock found when trying to get lock; try restarting transaction 1. DeadLock 분석 쿼리# 현재 LOCK이 걸려 대기중인 정보SELECT * FROM information_schema.INNODB_LOCK_WAITS;# LOCK을 건 정보SELECT * FROM information_schema.INNODB_LOCKS;# LOCK을 걸고 있는 프로세스 정보SELECT * FROM information_schema.INNODB_TRX;# InnoDB 상태SHOW ENGINE INNODB STATUS; 2. DeadLock 해결 팁- 테이블 접근 순서 정하기- .. 2024. 12. 12. MySQL HA (Replication, Group Replication, Galera Cluster) mySQL의 HA(High Availabilty)를 위한 Replicaiton 기법은 다음과 같습니다.Master-Slave ReplicationGroup ReplicationGalera Cluster이 기법들에 대해서 알아보도록 하겠습니다.Master-Slave Replication하나의 Master DB와 다수의 Slave DB들을 통해 Replication을 수행하는 방식인데 Master는 Read/Write Mode로 동작하고 Slave들은 Read Mode로 동작합니다.이 말 뜻은 DB 변경 Query를 수신 받는 DB는 반드시 Master DB에게 변경 요청을 전달하고 Master DB는 변경 내용을 Slave DB에게 전달하여 복제를 수행한다는 말입니다. 그리고 Read 요청은 로드밸런서를 .. 2024. 12. 11. MySQL LOAD DATA MySQL LOAD DATALOAD DATA statement사전 준비 : secure_file_privLOAD DATA 최소 설정Field and Line Handling : Default 설정헤더 라인 무시LOAD DATA 기본 설정 (CSV)Duplicate-Key and Error Handling필드 개수, 순서Input PreprocessingIndex Handling : LOAD DATA 문의 성능향상을 위한 Index check option로컬(클라이언트) 데이터 원격 INSERT사전 준비 : local_infile 설정 (server and client)LOCAL PATH 지정MySQL 테이블에 Text 파일을 빠르게 Insert 하는 방벙MySQL LOAD DATAPermalinkhttp.. 2024. 12. 4. 좌표(위도,경도)로 실제 거리 구하기 소수점 거리. GCS(Geographic Coordinate System)지리 좌표계(GCS)는 지구상에 위치를 정의하는데 3차원의 구면을 이용하는 좌표계로 한 지점은 위도(latitude)와 경도(longitude) 값으로 나타냅니다. 위도와 경도는 지구 중심에서 지표면 상에 지점까지 측정된 각으로 흔히 도(degrees)로 표시합니다. 위도와 경도에 대해 설명하면 아래와 같습니다. 위도(latitude)위도는 지구를 테이블위에 올려놓고 가로로 그은 선으로 생각하면 이해하기 쉽습니다.위 그림처럼 위도는 Equator를 기준으로 위쪽은 플러스 아래쪽은 마이너스 값을 가집니다.모두 아시겠지만 Equator는 "적도"입니다.우리에게 적도로 알려진 유래는 고대 중국 천문학에서 적도를 붉은 색으로 표현해서라고 합니다.위도는 .. 2024. 11. 14. AWS RDS를 이용한 DB서버를 이중화 대한 간략 비교 설명 AWS에서 제공해주는 RDS를 통해 DB서버를 이중화 하는 방법을 알아보겠습니다. 1. AWS에 RDS를 구성하는 방법은 크게 두가지이다. 2. EC2인스턴스에 RDBMS를 설치하는 방법과, 관리형 서비스인 아마존 RDS를 이용하는 방법이다. 3. 전자는 직접 DB서버를 설치 및 관리하는 것으로 local 서버 환경을 AWS의 가상환경으로 옮긴 것 이외에는 크게 차이점이 없다. 4. OS와 RDBMS를 자유롭게 선택하고 설정할 수 있는 장점이 있다. 하지만 OS와 DB환경을 사용자가 직접 관리해줘야 하는 부담이 있다. 5. 패치 적용과 백업이 자동화 되어 있기 때문에 운영상에 큰 도움을 받을 수 있다. 6. 가능한 한 아마존 RDS를 사용하는 편이 설정과 운영에 들어가는 수고를 줄여줄 수 있지.. 2024. 10. 17. Galera Cluster 대신 AWS Aurora 를 선택할까? C(Consistency) : RDB 를 사용하여 일관된 데이터를 지원A(Availability) : 어떠한 노드가 죽더라도 사용자로 하여금 끊김없는 서비스 가용 확보Mater 노드가 죽는 경우, Slave 가 승격Slave 노드가 죽는 경우, 다른 Slave 노드로 트래픽 분산Why use Galera Cluster (==purpose)Galera Cluster 의 목표는 뚜렷하다.Aiming Ultimate Availabilty using True Multi-master공식문서 상으로도, 아래와 같은 장점을 나열하고 있다.True Multi-master, Active-Active Cluster Read and write to any node at any time.Synchronous Replicati.. 2024. 10. 17. 프로비저닝(Provisioning) 이란? AWS 클라우드 작업을 하다보면 듣게 되는 프로비저닝(Provisioning) 단어가 어렵다 생각하지 마시고 있는 그대로 이해해보세요 프로비저닝(Provisioning) 이란 의미는 영어 직역한 그대로 "제공하는것" 이랍니다. 어떤 종류의 서비스든 사용자의 요구에 맞게 시스템 자체를 제공 하는 것을 프로비저닝이라고 하며 제공해줄 수 있는 것은 인프라 자원이나 서비스, 또는 장비가 될 수도 있다고 합니다. Server Resource Provisioning : CPU, Memory, IO 등과 같은 실제 서버의 자원을 할당해주고 운영할 수 있게 제공해주는 것을 말한다.1. OS Provisioning : OS를 서버에 설치하고 구성작업을 해서 사용할 수 있도록 제공하는 것을 말한다.2. Software .. 2024. 10. 16. AWS RDS Replica 명령어 알아두기 클라우드 기반 DB 운영을 위한 AWS RDS에서 알아두면 좋을것 같은은 RDS 명령어들입니다.RDS에서 권한에 제한이 있어요. RDS는 Super권한 을 제한합니다.Super권한을 제한하면 아래와 같은 몇가지를 할 수 없습니다.SUPER권한이 없어서 불가능한 항목 * Replication 명령 : CHANGE MASTER TO, CHANGE REPLICATION FILTER, STOP SLAVE, START SLAVE ...* BINLOG관련 명령 : PURGE BINARY LOGS, BINLOG 명령등 불가* KILL 명령 : 오동작중인 thread를 죽여야 하기 때문에 필요* GRANT 명령 : USER 추가* 추가 접속 : max connection 까지 모두 차더라도 super 권한을 가진 1개.. 2024. 10. 15. MySQL & Mariadb dual master 구성 - log_bin 설정 log_bin 설정 확인 및 참고사항RDS 구성시 dual master 구성을 진행중인데 log_bin = OFF 상태일때 관련 참고 내용입니다. MySQL 이진 로깅 형식을 설정하려면https://console.aws.amazon.com/rds/에서 Amazon RDS 콘솔을 엽니다.탐색 창에서 파라미터 그룹을 선택합니다.수정할 DB 인스턴스와 연결된 DB 파라미터 그룹을 선택합니다.파라미터 그룹에 대한 자세한 정보는 Amazon RDS의 파라미터 그룹 단원을 참조하십시오.기본 파라미터 그룹을 수정할 수 없습니다. DB 인스턴스 가 기본 파라미터 그룹을 사용하고 있는 경우 새 파라미터 그룹을 생성하여 DB 인스턴스 와 연결합니다.작업에서 편집을 선택합니다.binlog_format 파라미터를 선택한 이진.. 2024. 10. 14. spatial database 공간 데이터 베이스 로컬 베이스, 지역기반 프로그램을 하다 보면 공간 데이터 베이스에 대한 개념이 필요하다. 여러모로 필요해서 정리해 보았다. 공간 데이터베이스 & 함수 in MariaDB (혹은 MySQL)공간 함수는 공간 관계 함수와 공간 연산 함수로 구분 질 수 있다.두 함수를 알아 보기 전 공간 Data Type을 먼저 알아본다. MySQL에는 문자형, 숫자 형, 날짜 형 외에 Geometry(공간 형)이 있다.공간 데이터 타입 ( Spatial Data Type )쉽게 설명하면 X, Y 좌표로 구성된 공간 데이터를 저장하고 연산할 수 있는 기능을 제공해주는 데이터베이스. 다른 말로, 공간 데이터의 저장 형태를 구분하는 공간 데이터 타입과 공간 데이터를 연산할 수 있는 공간 함수가 제공되는 데이터베이스라고 표현 가능.. 2024. 7. 30. Mysql Geo 함수 - 거리구하기 point, linestring, polygon, geometry 등 디비로 표현할 수 있는 지도 데이터는 다양합니다.다양한 타입에 데이터를 조금 더 유용하게 사용할 수 있도록 해준 함수들도 물론 존재했습니다.그중에서 이번글에서는 두 위치 사이의 거리를 구하는 함수에 대해 설명하고자 합니다.구글맵에서 손이 가는대로 아무곳이나 A, B 두곳을 찍어서 거리를 구해봤습니다.위와 같은 A, B 위치가 있고 두 위치 사이의 거리가 76.04m라는 값이 화면상에 표시됩니다.구글맵에서 두 위치 사이의 거리를 알려주는 것처럼 같은 기능을 sql을 통해서 얻어내고자 합니다.A와 B 사이의 거리를 구하고자 할때 수학시간에 배웠던 거리 구하는 공식대로 각각의 경도, 위도를 그 식에 대입해서 구하는 방법대로 거리를 구한다고 .. 2024. 7. 30. Mysql / Mariadb 공간 데이터베이스 쉽게 설명하면 X, Y 좌표로 구성된 공간 데이터를 저장하고 연산할 수 있는 기능을 제공해주는 데이터베이스라고 생각하시면 됩니다. 다른 말로, 공간 데이터의 저장 형태를 구분하는 공간 데이터 타입과 공간 데이터를 연산할 수 있는 공간 함수가 제공되는 데이터베이스라고 표현 가능합니다. 우리가 일반적으로 사용하고 있는 RDBMS인 Oracle, MariaDB, MySQL, PostgreSQL 등에서 공간 데이터를 처리하기 위한 기능을 제공하고 있습니다. 이 솔루션을 이용해 공간 데이터베이스를 생성/관리할 수 있는 겁니다. 심지어 Hive에서도 관련 Library를 설치하면 공간 데이터를 저장하고 공간 연산이 가능합니다. 그럼, 공간 데이터 타입과 공간 함수를 알면 공간 데이터베이스를 정복하게 되는걸까.. 2024. 7. 29. UTC Time to KST Time, TimeZone을 이용한 시간변환 (CONVERT_TZ) 원본 : https://m.blog.naver.com/developer501/222491601872 해당 게시물의 2편으로 Java8 이후의 날짜 API 에 대한 내용을 포스팅 하기에 앞서, UTC TIME으로 세팅된 시간설정을 KST TIME으로 변경하는 방법에 대해서 알아보려고 한다우선 아래 쿼리를 보자STR_TO_DATE 와 CONVERT_TZ 부분이 눈에 띈다. STR_TO_DATE는 지난 포스팅(하단)을 참고하고, 이번 포스팅에서는 CONVERT_TZ 에 대해서 알아보려 한다STR_TO_DATE에 대한 포스팅은 지난 포스팅을 참고 하자-> https://blog.naver.com/developer501/2224916015041. Default Timezone 설정 확인우선 현재 Defaul.. 2024. 7. 4. 대용량 partition lock 없이 삭제 방 원본 : https://dungbeetle.co.kr/mysql-%EB%8C%80%EC%9A%A9%EB%9F%89-partition-lock-%EC%97%86%EC%9D%B4-%EC%82%AD%EC%A0%9C%ED%95%98%EA%B8%B0/ mysql 대용량 partition lock 없이 삭제하기 - 쇠똥구리 DBA's Work and Life Balance간혹 대용량 파티션 데이터의 삭제는 테이블의 성격에 따라선 까다로운 작업이 되기도 한다dungbeetle.co.kr 1. 대용량 파티션 테이블이란간혹 대용량 파티션 데이터의 삭제는 테이블의 성격에 따라선 까다로운 작업이 되기도 한다파티션 테이블은 보통 insert해서 데이터를 저장하는 용도로 사용하지만때로는 실시간으로 트래픽이 치는 테이블도 파티션.. 2024. 7. 2. UFT8MB4 변환시 에러 - Specified key was too long; max key length is 3072 bytes UTF8 -> UTF8MB4 변환시 발생하는 에러중 하나로 아래처럼 변환시 에러가 발생한다.ALTER TABLE 테이블명 CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci; # 에러 발생 [ERROR] /usr/local/libexec/mysqld: Incorrect key file for table '테이블명.MYI'; try to repair it 이경우 UTF8MB4 에서는 한 글자당 4바이트이기 때문에 인덱스 최대 사이즈가 달라지기 때문에 발생한다.4000바이트로 최대값인 3072바이트보다 크기 때문이다. # 해결 방벙 > 속성의 크기를 줄인다.ALTER TABLE 테이블명 DROP PRIMARY KEY, ADD PRIMARY KEY(컬럼.. 2024. 4. 30. Mysql euckr -> utf8mb4 변환시 ALTER [IGNORE] 참고 ALTER [IGNORE] TABLE tbl_name alter_specification [, alter_specification] ... alter_specification: ADD [COLUMN] column_definition [FIRST | AFTER col_name ] | ADD [COLUMN] (column_definition,...) | ADD INDEX [index_name] [index_type] (index_col_name,...) | ADD [CONSTRAINT [symbol]] PRIMARY KEY [index_type] (index_col_name,...) | ADD [CONSTRAINT [symbol]] UNIQUE [INDEX] [index_name] [index_type] (.. 2024. 4. 17. MySQL의 sql_mode와 기본 sql_mode들이 하는 역할 MySQL 서버에는 sql_mode 라는 시스템 변수가 있습니다. 이 변수를 이용하면 각기 다른 클라이언트에 다른 sql 모드를 적용하는 것이 가능합니다. sql_mode 설정은 서버 운영 요구사항에 맞게 global 하게 설정할 수도 있고 각각의 애플리케이션 요구사항에 맞도록 session에 설정하는 것도 가능합니다. Mode는 MySQL이 지원하는 SQL 문법과 데이터 유효성 검사에 영향을 주게 됩니다. 예를 들어 GROPU BY를 할 때 SELECT문에 unique한 column이 있더라도 SELECT가 가능하게 되서 데이터 조회가 가능하게 만드는 것도 가능합니다. sql_mode 설정 방법 서버가 시작할 때 sql_mode를 설정하고 싶다면 command line에서 --sql-mode=“mode.. 2024. 4. 1. Mysql Incorrect integer value 에러 발생시 에러 나오지 않게 하려면? 안녕하세요. Mysql 버젼을 업그레이드하고나서 발생할때 뭐지 하면서 놀라기도 하는데요. SQL 사용에 대한 보안 등급이 높아지면서 해당 부분이 기본설정으로 되어 있어서 발생하게 됩니다. 하지만 가능하면 입력 컬럼 input data type에 맞게 호출하시면 좋을것 같습니다. 우선 에러 발생을 안하게 하는 방법을 알려드릴께요. # 에러 내용 Incorrect integer value: '' for column 'memChnl' at row 1 ...... 해당 내용의 경우 int 컬럼에 값이 잘못 입력이 된 상태로 실행되었기 때문이기에 해당 값을 int 형으로 맞춰주거나 아니면 에러를 무시 하도록 해야합니다. # 설정 확인 (Mysql 5.7 기준) select @@global.sql_mod.. 2024. 2. 29. 정규표현식(영어만 표현, 숫자만 표현 등) 정규 표현식 잘 사용하면 정말 최고랍니다. 메타문자 기능 설명 . 문자 1개의 문자와 일치한다. 단일행 모드에서는 새줄 문자를 제외한다. [ ] 문자 클래스 "["과 "]" 사이의 문자 중 하나를 선택한다. "¦"를 여러 개 쓴 것과 같은 의미이다. 예를 들면 [abc]d는 ad, bd, cd를 뜻한다. 또한, "-" 기호와 함께 쓰면 범위를 지정할 수 있다. "[a-z]"는 a부터 z까지 중 하나, "[1-9]"는 1부터 9까지 중의 하나를 의미한다. [^ ] 부정 문자 클래스 안의 문자를 제외한 나머지를 선택한다. 예를 들면 [^abc]d는 ad, bd, cd는 포함하지 않고 ed, fd 등을 포함한다. [^a-z]는 알파벳 소문자로 시작하지 않는 모든 문자를 의미한다. ^ 처음 문자열이나 행의 처음.. 2024. 1. 15. 이전 1 2 3 4 5 다음 반응형
