ELK 검색 결과

해당 글 23건

Elasticsearch CircuitBreaker GC 관련

최근 사내에서 검색엔진인 엘라스틱서치 클러스터 중 하나의 노드가 다운되고 샤드가 옮겨지는 과정에서 검색 API 지연이 발생하였습니다. 노드는 바로 올라와 크게 지연은 있지 않았지만 비정상 종료이기 때문에 해당 서버와 노드의 지표를 찾아보았고 Heap Memory가 가득 차면서 CircuitBreaker가 발생하고 종료된 걸 확인할 수 있었습니다. 노드가 다운되는 시점과 GC Old 영역의 쌓여있던 객체를 정리하는 시점과 동일했기 때문에 해당 과정이 원인이라 생각하게 되었고 GC가 발생하게 된 대용량 색인이나 검색 요청이 있었는지 확인해 보았지만 크게 이상은 없어 정확한 원인을 찾지 못했습니다... 2023.10.26 - [ELK] - Elasticsearch Essential 트러블 슈팅 사례 Elast..
ELK 2023. 10. 26. 16:29

Elasticsearch Essential 트러블 슈팅 사례

인프런 Elasticsearch Essential 트러블 슈팅 사례 강의를 참조하여 작성했습니다. #1 클러스터 상태가 Green이 아닌 상태 Green - 프라이머리 샤드, 레플리카 샤드 모두 정상적으로 각 노드에 배치되어 동작하고 있는 상태. Yellow - 프라이머리 샤드는 정상적으로 동작하지만 일부 레플리카 샤드가 정상적으로 배치되지 않은 상태. - 색인 성능에는 이상 없지만 검색 성능에는 영향을 줄 수 있음. Red - 일부 프라이머리 샤드와 레플리카 샤드가 정상적으로 배치되지 않은 상태. - 색인 성능, 검색 성능에 모든 영향을 주며 문서 유실이 발생할 수 있음. Yellow 혹은 Red 상태에 따른 영향도 어떤 인덱스에 따라 장애가 아닐 수 있기 때문에 정확한 장애 범위를 파악해야 함. GE..
ELK 2023. 10. 26. 15:58

Elasticsearch 커스텀 분석기 만들기 (1)

플러그인 TokenFilter, Tokenizer, Analyzer, RestHandler 등록 코드를 작성 TodoPlugin Elasticsearch 플러그인을 개발하기 위해서 Plugin 클래스 상속받습니다. AnalysisPlugins 인터페이스를 구현하면 Elasticsearch에서 사용 가능한 텍스트 분석 관련 요소를 등록할 수 있습니다.(TokenFilters, Tokenizers, Analyzers) 각 관련 기능 메서드를 재정의하여 호출하도록 변경이 필요합니다. ActionPlugin 인터페이스를 구현하면 Elasticsearch에서 사용할 수 있는 Action을 등록할 수 있습니다. public class TodoPlugin extends Plugin implements Analysis..
ELK 2023. 9. 25. 16:30

Elasticsearch 커스텀 분석기 만들기 (이슈)

Caused by: java.lang.ClassNotFoundException: org.apache.logging.log4j.core.config.properties.PropertiesConfigurationFactory 플러그인과 es를 같이 실행할때 발생한 에러 입니다. Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/logging/log4j/core/config/properties/PropertiesConfigurationFactory at org.elasticsearch.bootstrap.Elasticsearch.main(Elasticsearch.java:90) Caused by: java.lang.ClassNotFoun..
ELK 2023. 9. 20. 08:37

Elasticsearch 커스텀 분석기 만들기

현재 사내에서는 검색 품질을 향상 시키기 위해 Elasticsearch 검색 엔진에 여러 개의 플러그인을 사용하고 있습니다. 이러한 플러그인은 Elasticsearch 클러스터에 추가적인 기능을 제공하기 위해 개발된 확장 모듈로, Elasticsearch의 기능을 확장하거나 사용자 지정 기능을 추가하기 위해 사용됩니다. 이 중에서도 오픈 소스 플러그인과 커스텀 플러그인이 있습니다. 오픈 소스 플러그인은 analysis-icu를 사용 중에 있습니다. 2023.09.18 - [ELK] - ICU플러그인과 Suggest쿼리를 사용해 제안 검색어 만들기 ICU플러그인과 Suggest쿼리를 사용해 제안 검색어 만들기 사내에서 제안 검색어를 사용하는 방법에 대해 작성해 보겠습니다. 우선 플러그인으로는 analysi..
ELK 2023. 9. 19. 16:54

ICU플러그인과 Suggest쿼리를 사용해 제안 검색어 만들기

사내에서 제안 검색어를 사용하는 방법에 대해 작성해 보겠습니다. 우선 플러그인으로는 analysis-icu와 QueryDsl의 Suggest를 사용합니다. analysis-icu 분석 플러그인은 ICU(Interational Components for Unicode) 라이브러리를 사용하여 아시아 언어에 대한 향상된 분석, 유니코드 정규화, 유니코드 인식 대소문자 접기, 대조 지원 및 음역을 포함하여 확장된 유니코드 지원을 추가합니다. analysis-icu 분석 플러그인은 문자 필터, 토크나이저, 토큰 필터를 제공하는데 그중 문자 필터인 icu_normalizer를 사용하겠습니다. 플러그인 설정 name 정규화의 종류를 지정. nfc(normalization Form C)는 문자열을 정규화할 때 모든 조..
ELK 2023. 9. 18. 13:19

es_rejected_execution_exception 처리하기

아래 오류 로그는 사내에서 운영하고 있는 ES 클러스터에서 reindex를 진행하면서 발생한 에러 로그입니다. (아래 로그는 reindex task id를 받아 확인한 내용입니다.) 해당 에러를 처리하기 위해 트러블 슈팅 한 내용을 적어보려고 합니다. { "shard" : -1, "status" : 429, "reason" : { "type" : "es_rejected_execution_exception", "reason" : "rejected execution of org.elasticsearch.common.util.concurrent.TimedRunnable@79b3110f on QueueResizingEsThreadPoolExecutor[name = es7/search, queue capacity..
ELK 2023. 9. 12. 16:20

Elasticsearch 롤링 배포

Elasticsearch를 운영하다 보면 커스텀 플러그인, 설정파일 수정이 필요한 경우가 종종 있습니다. 플러그인이나 설정파일 수정 시 Elasticsearch에 적용하려면 재기동이 필요합니다. 사내에서 사용하는 Rolling Restart로 노드 하나씩 재기동하는 방법 순서입니다. 1. 색인 중지 동적색인 모듈에 컨슈머를 0으로 설정하여 Elasticsearch에 색인이 되지 않도록 변경합니다. 2. 클러스터에서 샤드 할당 비활성화 설정 노드 하나씩 Restart를 진행할때 중지된 노드에 포함된 프라이머리, 레플리카 샤드들이 옮겨지거나 failover 되는 것을 방지합니다. cluster.routing.allocation.enable: none cluster.routing.allocation.enabl..
ELK 2023. 6. 23. 16:52

Elasticsearch Reindex 성능 개선

사내에서 10억 건에 상품 정보를 Reindex 하고 있습니다. 클러스터는 마스토 노드 2개와 16개 데이터 노드로 구성되어 있고 해당 상품 인덱스 샤드는 프라이머리 24개, 레플리카 1개로 설정되어 있습니다. 10억 건, 3TB 용량을 가진 인덱스를 Reindex 하려면 꽤 오랜 시간이 걸립니다. 그 시간 동안에는 동적색인을 큐에 적재하기 때문에 실시간 정보가 반영이 되지 않아 이 시간을 최소화하기 위해 사용했던 설정입니다. 2022.10.14 - [ELK] - Elasticsearch Reindex를 사용해 신규 index 생성 Reindex 명령어 POST /_reindex?wait_for_completion=false&slices=auto { "source": { "size": 1000, "ind..
ELK 2023. 6. 12. 16:11

Elasticsearch copy_to 활용

Elasticsearch를 엔진으로 사용하는 검색 파트에서 업무를 맡고 있습니다. 운영에서 사용 중인 인덱스 mapping 정보에 copy_to 옵션에 대해 정리해보려고 합니다. copy_to는 문서의 한 필드에 저장된 값을 다른 필드로 복사하는 옵션입니다. 사내에서는 copy_to 옵션을 가지고 두 가지 이유 때문에 사용 중에 있습니다. 상품 인덱스 맵핑 정보 일부입니다. { ... "model": { "copy_to": [ "totalIndex", "fullModel" ], ... }, "brand": { "copy_to": [ "totalIndex" ], ... }, "productName": { "copy_to": [ "totalIndex" ], ... }, "totalIndex": { "type..
ELK 2023. 5. 26. 16:55