KR101958725B1 - METHOD and apparatus for mapping IMAGE color USING MARS - Google Patents
METHOD and apparatus for mapping IMAGE color USING MARS Download PDFInfo
- Publication number
- KR101958725B1 KR101958725B1 KR1020170173941A KR20170173941A KR101958725B1 KR 101958725 B1 KR101958725 B1 KR 101958725B1 KR 1020170173941 A KR1020170173941 A KR 1020170173941A KR 20170173941 A KR20170173941 A KR 20170173941A KR 101958725 B1 KR101958725 B1 KR 101958725B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- color
- target image
- mars
- color mapping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—Two-dimensional [2D] image generation
- G06T11/60—Creating or editing images; Combining images with text
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three-dimensional [3D] modelling for computer graphics
- G06T17/05—Geographic models
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Remote Sensing (AREA)
- Computer Graphics (AREA)
- Image Analysis (AREA)
- Radar Systems Or Details Thereof (AREA)
- Image Processing (AREA)
Abstract
Description
본원은 MARS(Multivariate Adaptive Regression Splines)를 활용한 영상 컬러 맵핑 수행 방법에 관한 것이다.The present invention relates to a method for performing image color mapping using Multivariate Adaptive Regression Splines (MARS).
합성 개구 레이더(SAR : Synthetic Aperture Radar) 영상은 관측 지역으로부터 반사되는 전파 신호를 ���용하여 지구 표면의 정보를 제공하는 영상이다. 합성 개구 레이더 영상은 광학 영상과 달리 태양 조도 및 기상 조건에 독립적인 영상이다. 이러한 이유로, 합성 개구 레이더 영상의 활용성 향상을 위한 연구가 진행되고 있다.A Synthetic Aperture Radar (SAR) image is an image that provides information on the surface of the earth using a propagation signal reflected from an observation area. Synthetic aperture radar images are images independent of solar irradiance and weather conditions, unlike optical images. For this reason, studies are underway to improve the usability of synthetic aperture radar images.
합성 개구 레이더 영상의 활용성 향상을 위한 연구 중 가장 활발히 진행되고 있는 연구는 영상의 판독력을 향상시키기 위한 컬러화 연구이다. 일반적으로, 합성 개구 레이더 영상의 컬러화는 편광계 합성 개구 레이더 영상(PolSAR : Polarimetric SAR)의 채널 조합을 통한 컬러화 및 영상 융합을 통한 컬러화로 구분될 수 있다.The most active research to improve the usability of synthetic aperture radar images is the colorization study to improve the readability of the images. Generally, the colorization of synthetic aperture radar images can be classified into coloring through channel combination of Polarimetric SAR (Polarimetric SAR) and colorization through image fusion.
편광계 합성 개구 레이더 영상의 채널 조합을 통한 컬러화의 경우, 산란 메커니즘(Scattering Mechanism)에 기반하여 편광계 합성 개구 레이더 영상의 분해(Decomposition)을 수행하고 획득한 각각의 채널을 RGB 밴드에 할당하는 방법이다. 이 방법은, 기존의 합성 개구 레이더 영상과 비교하였을 때, 판독력은 향상됐지만, 실제 광학 영상의 색상을 담지 못하고, 편광계 합성 개구 레이더 이외의 합성 개구 레이더 영상에 적용이 불가능하다는 한계가 존재한다. In the case of colorization through a channel combination of a polarizing system synthetic aperture radar image, a method of performing decomposition of a polarizing system synthetic aperture radar image based on a scattering mechanism and assigning each acquired channel to an RGB band is performed. This method has a limitation in that the readout power is improved when compared with the conventional synthetic aperture radar image, but it can not contain the color of the actual optical image and can not be applied to synthetic aperture radar images other than the polarimeter synthetic aperture radar.
영상 융합을 통한 컬러화의 경우, 합성 개구 레이더 영상을 팬클로매틱(Panchromatic) 영상으로 가정하고, 다중 스펙트럼(Multispectral) 영상과 융합하는 방법이다. 이 방법은, 합성 개구 레이더 영상 및 다중 스펙트럼 영상의 정보를 상호 보완적으로 포함하고, 특징 추출 및 객체 인식과 같은 시각적인 판독 성능은 향상시키지만, 융합 결과에 왜곡(Distortion)이 존재한다는 한계가 있다.In the case of colorization through image fusion, a synthetic aperture radar image is assumed to be a panchromatic image and fused with a multispectral image. This method is complementary to the information of the synthetic aperture radar image and the multispectral image, and improves the visual reading performance such as feature extraction and object recognition, but there is a limitation that there is a distortion in the fusion result .
이때, 합성 개구 레이더 영상 및 다중 스펙트럼 영상은 기하학적, 스펙트럼, 및 센서 특성의 차이로 인하여, 두 영상 관계를 모델링 하기 위해서는 비선형적 관계를 모델링 해야 한다. At this time, synthetic aperture radar images and multispectral images must be modeled as nonlinear relations in order to model the two image relations due to differences in geometrical, spectral, and sensor characteristics.
본원의 배경이 되는 기술은 일본특허공개공보 제2013-272474호에 개시되어 있다.BACKGROUND ART [0002] The background of the present invention is disclosed in Japanese Patent Application Laid-Open No. 2013-272474.
본원은 전술한 종래 기술의 문제점을 해결하기 위한 것으로서, MARS 알고리즘에 기초하여 영상 간 컬러 맵핑 수행 방법을 제공하는 것을 목적으로 한다.SUMMARY OF THE INVENTION It is an object of the present invention to provide a method of performing color mapping between images based on a MARS algorithm.
또한, 본원은, 합성 개구 레이더 영상 및 다중 스펙트럼 영상 간의 색상 관계를 수립하여 합성 개구 레이더 영상의 픽셀값 자체에 컬러 맵핑을 수행하는 방법을 제공하는 것을 목적으로 한다.It is another object of the present invention to provide a method of performing color mapping on a pixel value of a synthetic aperture radar image by establishing a color relationship between a synthetic aperture radar image and a multispectral image.
이때, 합성 개구 레이더 영상 및 다중 스펙트럼 영상은 기하학적, 스펙트럼, 및 센서 특성의 차이로 인하여, 두 영상 관계를 모델링 하기 위해서는 비선형적 관계를 모델링 해야 한다. 이에 따라, 본원은 MARS를 활용하여 비선형적인 색상 관계를 수립하여 컬러 맵핑을 수행하는 방법을 제공하는 것을 목적으로 한다.At this time, synthetic aperture radar images and multispectral images must be modeled as nonlinear relations in order to model the two image relations due to differences in geometrical, spectral, and sensor characteristics. Accordingly, it is an object of the present invention to provide a method of performing color mapping by establishing non-linear color relations using MARS.
다만, 본원의 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들도 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.It should be understood, however, that the technical scope of the embodiments of the present invention is not limited to the above-described technical problems, and other technical problems may exist.
상기한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법은, 대상 영상 및 참조 영상을 수신하는 단계, 및 상기 대상 영상 및 상기 참조 영상을 이용하여 MARS(Multivariate Adaptive Regression Splines) 알고리즘에 기초하여, 상기 대상 영상의 컬러 맵핑을 수행하는 단계를 포함할 수 있다.According to an aspect of the present invention, there is provided a method for performing an inter-image color mapping, the method comprising: receiving a target image and a reference image; And performing color mapping of the target image based on a Multivariate Adaptive Regression Splines algorithm.
본원의 일 실시예에 따르면, 상기 대상 영상은 흑백 영상이고, 상기 참조 영상은 컬러 영상일 수 있다.According to an embodiment of the present invention, the target image may be a monochrome image, and the reference image may be a color image.
본원의 일 실시예에 따르면, 상기 대상 영상은 합성 개구 레이더(SAR) 영상일 수 있다.According to one embodiment of the present application, the object image may be a synthetic aperture radar (SAR) image.
본원의 일 실시예에 따르면, 상기 컬러 맵핑을 수행하는 단계는, 상기 대상 영상 및 상기 참조 영상으로부터 색상 관계 수립을 위한 적어도 하나의 기준점을 선정하는 단계, 상기 참조 영상에 대하여 복수의 클래스 별로 분류하는 단계, 상기 복수의 클래스 별로 상기 기준점의 픽셀값 및 특성변수값에 기초하여 MARS 회귀식을 수립하는 단계, 및 상기 클래스 별로 수립된 MARS 회귀식에 상기 대상 영상의 픽셀값 및 특성변수값을 대입하여 컬러 맵핑된 대상 영상을 획득하는 단계를 포함할 수 있다.According to an embodiment of the present invention, performing the color mapping includes: selecting at least one reference point for color relation establishment from the target image and the reference image; classifying the reference image into a plurality of classes The method includes: establishing a MARS regression equation based on pixel values and characteristic parameter values of the reference points for each of the plurality of classes; and assigning a pixel value and a characteristic variable value of the target image to the MARS regression formula established for each class And obtaining a color-mapped target image.
본원의 일 실시예에 따르면, 상기 기준점을 선정하는 단계는, 상기 참조 영상의 그레이 스케일(gray-scale) 영상을 획득하는 단계, 및 상기 그레이 스케일 영상과 상기 대상 영상 간의 영상 대차법(Image differencing)을 수행하여 불변점(Invariant pixel)을 선정하는 단계를 포함할 수 있다.According to an embodiment of the present invention, the step of selecting the reference point may include: obtaining a gray-scale image of the reference image; and performing image differencing between the gray- To select an invariant pixel (Invariant pixel).
본원의 일 실시예에 따르면, 상기 불변점이 기준점일 수 있다.According to one embodiment of the present invention, the invariant point may be a reference point.
본원의 일 실시예에 따르면, 상기 복수의 클래스는 물, 도시, 황폐 지역, 숲, 숲에 의한 음영 지역, 및 곡창 지역을 포함할 수 있다.According to one embodiment of the present application, the plurality of classes may include water, a city, a desolate area, a forest, a shaded area by forest, and a granite area.
본원의 일 실시예에 따르면, 상기 MARS 회귀식을 수립하는 단계는, 상기 기준점의 픽셀값 및 특성변수값을 획득하는 단계, 및 색상 밴드 별로 MARS 회귀식을 수립하는 단계를 포함하고, 상기 색상 밴드는 RED 밴드, GREEN 밴드, 및 BLUE 밴드를 포함할 수 있다.According to an embodiment of the present invention, the step of establishing the MARS regression formula includes obtaining a pixel value and a characteristic variable value of the reference point, and establishing a MARS regression equation for each color band, May include a RED band, a GREEN band, and a BLUE band.
본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치는, 대상 영상 및 참조 영상을 수신하는 영상 수신부, 및 상기 대상 영상 및 상기 참조 영상을 이용하여 MARS(Multivariate Adaptive Regression Splines) 알고리즘에 기초하여, 상기 대상 영상의 컬러 맵핑을 수행하는 컬러 맵핑부를 포함할 수 있다.According to an embodiment of the present invention, there is provided an apparatus for performing an inter-image color mapping, the apparatus comprising: an image receiving unit for receiving a target image and a reference image; And a color mapping unit for performing color mapping of the target image.
본원의 일 실시예에 따르면, 상기 컬러 맵핑부는 상기 대상 영상 및 상기 참조 영상으로부터 색상 관계 수립을 위한 적어도 하나의 기준점을 선정하는 기준점 선정부, 상기 참조 영상에 대하여 복수의 클래스 별로 분류하는 클래스 분류부, 상기 기준점의 픽셀값 및 특성변수값을 획득하는 변수 획득부, 상기 복수의 클래스 별로 상기 기준점의 픽셀값 및 특성변수값에 기초하여 MARS 회귀식을 수립하는 회귀식 수립부, 및 상기 클래스 별로 수립된 MARS 회귀식에 상기 대상 영상의 픽셀값 및 특성변수값을 대입하여 컬러 맵핑된 대상 영상을 획득하는 컬러 영상 획득부를 포함할 수 있다.According to an embodiment of the present invention, the color mapping unit includes a reference point selecting unit for selecting at least one reference point for establishing color relation from the target image and the reference image, a classifying unit for classifying the reference image into a plurality of classes, A regression equation establishing unit that establishes a MARS regression equation based on the pixel values of the reference points and the characteristic variable values for each of the plurality of classes, And a color image acquiring unit for acquiring a color-mapped target image by substituting pixel values and characteristic parameter values of the target image into the MARS regression equation.
또한, 상기된 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한, 컴퓨터로 읽을 수 있는 기록매체를 제공할 수 있다.Further, it is possible to provide a computer-readable recording medium on which a program for causing a computer to execute the above-described method is recorded.
상술한 과제 해결 수단은 단지 예시적인 것으로서, 본원을 제한하려는 의도로 해석되지 않아야 한다. 상술한 예시적인 실시예 외에도, 도면 및 발명의 상세한 설명에 추가적인 실시예가 존재할 수 있다.The above-described task solution is merely exemplary and should not be construed as limiting the present disclosure. In addition to the exemplary embodiments described above, there may be additional embodiments in the drawings and the detailed description of the invention.
전술한 본원의 과제 해결 수단에 의하면, MARS 알고리즘에 기초하여 영상 간 컬러 맵핑 수행 방법을 제공함으로써, 대상 영상의 판독력을 향상시킬 수 있다.According to the above-described task resolution means, it is possible to improve the reading power of a target image by providing a method of performing an inter-image color mapping based on the MARS algorithm.
전술한 본원의 과제 해결 수단에 의하면, MARS 알고리즘에 기초하여 영상 간 비선형적인 색상 관계를 수립할 수 있다.According to the above-mentioned problem solving means of the present invention, it is possible to establish a non-linear color relation between images based on the MARS algorithm.
또한, 본원은, 합성 개구 레이더 영상 및 다중 스펙트럼 영상 간의 색상 관계를 수립하여 합성 개구 레이더 영상의 픽셀값 자체에 컬러 맵핑을 수행하는 방법을 제공함으로써, 합성 개구 레이더(SAR) 영상의 판독력을 향상시킬 수 있다.In addition, the present invention provides a method of performing color mapping on a pixel value of a synthetic aperture radar image by establishing a color relationship between a synthetic aperture radar image and a multispectral image, thereby improving the readability of a synthetic aperture radar (SAR) image .
도 1은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치를 포함하는 컬러 맵핑 수행 시스템을 개괄적으로 도시한 도면이다.
도 2는 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치를 도시한 블록도이다.
도 3은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치의 컬러 맵핑부를 도시한 블록도이다.
도 4는 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법에 의해 제작된, 컬러 맵핑된 대상 영상의 예시도이다.
도 5는 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법에 의해 선정된 불변점 선정 영상의 예시도이다.
도 6은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법에 의해 클래스 별로 분류된 영상의 예시도이다.
도 7은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법에 의해 제작된, 컬러 맵핑된 대상 영상을 평가하는 방식을 도시한 예시도이다.
도 8은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법의 흐름을 도시한 제 1 순서도이다.
도 9는 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법의 흐름을 도시한 제 2 순서도이다.FIG. 1 is a block diagram schematically illustrating a color mapping performance system including an apparatus for performing an inter-image color mapping according to an exemplary embodiment of the present invention. Referring to FIG.
2 is a block diagram illustrating an apparatus for performing an inter-image color mapping according to an exemplary embodiment of the present invention.
3 is a block diagram illustrating a color mapping unit of an apparatus for performing an inter-image color mapping according to an exemplary embodiment of the present invention.
FIG. 4 is a diagram illustrating an example of a color-mapped target image produced by a method of performing an inter-image color mapping according to an exemplary embodiment of the present invention.
FIG. 5 is an exemplary view of an invariant point selection image selected by a method of performing inter-image color mapping according to an exemplary embodiment of the present invention.
FIG. 6 is an exemplary view illustrating an image classified into classes according to an image-to-image color mapping method according to an exemplary embodiment of the present invention.
FIG. 7 is an exemplary diagram illustrating a method of evaluating a color-mapped target image, which is produced by the method of performing an inter-image color mapping according to an embodiment of the present invention.
8 is a first flowchart illustrating a flow of a method of performing an inter-image color mapping according to an embodiment of the present invention.
9 is a second flowchart illustrating a flow of a method of performing an inter-image color mapping according to an embodiment of the present invention.
아래에서는 첨부한 도면을 참조하여 본원이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본원의 실시예를 상세히 설명한다. 그러나 본원은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본원을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art can easily carry out the present invention. It should be understood, however, that the present invention may be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. In the drawings, the same reference numbers are used throughout the specification to refer to the same or like parts.
본원 명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. Throughout this specification, when a part is referred to as being "connected" to another part, it is not limited to a case where it is "directly connected" but also includes the case where it is "electrically connected" do.
본원 명세서 전체에서, 어떤 부재가 다른 부재 "상에", "상부에", "상단에", "하에", "하부에", "하단에" 위치하고 있다고 할 때, 이는 어떤 부재가 다른 부재에 접해 있는 경우뿐 아니라 두 부재 사이에 또 다른 부재가 존재하는 경우도 포함한다.It will be appreciated that throughout the specification it will be understood that when a member is located on another member "top", "top", "under", "bottom" But also the case where there is another member between the two members as well as the case where they are in contact with each other.
본원 명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함" 한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다.Throughout this specification, when an element is referred to as "including " an element, it is understood that the element may include other elements as well, without departing from the other elements unless specifically stated otherwise.
도 1은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치(이하에서는 '영상 간 컬러 맵핑 수행 장치'로 통칭한다)(1000)를 포함하는 컬러 맵핑 수행 시스템을 개괄적으로 도시한 도면이고, 도 2는 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치(1000)를 도시한 블록도이다. 도 8은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법의 흐름을 도시한 제 1 순서도이다. 1 is a block diagram schematically illustrating a color mapping performance system including an apparatus for performing an inter-image color mapping according to an embodiment of the present invention (hereinafter, referred to as an 'apparatus for performing an inter-image color mapping') 1000, 2 is a block diagram illustrating an
도 1, 도 2, 및 도 8을 참조하면, 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법은, 대상 영상(110) 및 참조 영상(120)을 수신하는 단계(S100), 및 대상 영상(110) 및 참조 영상(120)을 이용하여 MARS(Multivariate Adaptive Regression Splines) 알고리즘에 기초하여, 대상 영상(110)의 컬러 맵핑을 수행하는 단계(S200)를 포함할 수 있다.Referring to FIGS. 1, 2, and 8, a method of performing inter-image color mapping according to an exemplary embodiment of the present invention includes receiving a
단계 S100에서, 대상 영상(110)은 컬러 맵핑의 대상이 되는 영상이다. 대상 영상(110)은 흑백 영상일 수 있다. 또한, 대상 영상(110)은 참조 영상(120)에 비해 픽셀값이 비교적 낮은 영상이거나, 또는 촬상 시의 렌즈 조건, 기상 조건, 자세 조건 등에 의해 왜곡이 발생하여 비교적 낮은 판독력을 제공하는 영상일 수 있다. 예시적으로, 대상 영상(110)은 합성 개구 레이더(SAR : Synthetic Aperture Radar)(900)에서 획득된 영상일 수 있으나, 이에 한정되지 않는다. In step S100, the
합성 개구 레이더(900)는 공중에서 지상 및 해양을 관찰하는 레이더이다. 구체적으로, 합성 개구 레이더(900)는 지상 및 해양에 대해 전파 신호를 순차적으로 쏜 이후, 상기 전파 신호가 관측 지역으로부터 반사되어 돌아오는 시간차를 선착순으로 합성하여 지상지형도를 만들어내는 레이더 시스템이다. 아울러, 합성 개구 레이더 영상은 상기 레이더 시스템을 통하여 만들어진 영상이다. 상기 합성 개구 레이더 영상은 평상 시뿐만 아니라, 주야간, 및 악천후 시에도 상기 레이더 시스템을 통하여 만들어질 수 있다.The
단계 S100에서, 참조 영상(120)은 대상 영상(110)에 대한 컬러 맵핑을 수행할 때 참조가 되는 영상이다. 참조 영상(120)은 다중 스펙트럼(Multispectral) 영상으로서 컬러 영상일 수 있다. 또한, 참조 영상(120)은 대상 영상(110)에 비해 픽셀값이 비교적 높은 영상이거나, 또는 비교적 높은 판독력을 제공하는 영상일 수 있다. 예시적으로, 참조 영상(120)은 인공위성 또는 항공기에서 획득된 영상일 수 있으나, 이에 한정되지 않는다.In step S100, the
본원의 상세한 설명을 위하여, 대상 영상(110) 및 참조 영상(120)의 구체적인 예시를 제시한다. 도 4를 참조하면, 도 4에 도시된 대상 영상(110)은 대한민국 대전 광역시 지역의 Radarsat-1 영상이고, 도 4에 도시된 참조 영상(120)은 대한민국 대전 광역시 지역의 Landsat-5 TM 영상이다. 상기 Radarsat-1 영상은 합성 개구 레이더를 활용하여 지구 표면을 촬상한 영상이고, 상기 Landsat-5 TM 영상은 지구 궤도 위성을 활용하여 지구 표면을 촬상한 영상이다. For a detailed description of the present application, specific examples of a
단계 S100에서, 도 1 및 도 2를 참조하면, 영상 간 컬러 맵핑 수행 장치(1000)의 영상 수신부(100)는 네트워크(500)를 통하여 대상 영상(110) 및 참조 영상(120)을 수신 받을 수 있다. 예시적으로, 영상 수신부(100)는 합성 개구 레이더(900)를 통해 만들어진 영상을 네트워크(500)를 통하여 수신 받을 수 있다. 또한, 영상 수신부(100)는 대상 및 참조 영상 저장부(850)에 미리 저장되어 있는 합성 개구 레이더 영상을 네트워크(500)를 통하여 수신 받을 수 있다. 한편, 영상 수신부(100)는 인공 위성이나 항공기를 통해 만들어진 영상을 네트워크(500)를 통하여 수신 받을 수 있고, 또한, 영상 수신부(100)는 대상 및 참조 영상 저장부(850)에 미리 저장되어 있는 위성 영상 또는 항공 영상을 네트워크(500)를 통하여 수신 받을 수 있다.1 and 2, the
단계 S200에서, 영상 간 컬러 맵핑 수행 장치(1000)의 컬러 맵핑부(200)는 대상 영상(110) 및 참조 영상(120)을 이용하여 MARS 알고리즘에 기초하여, 대상 영상(110)의 컬러 맵핑을 수행할 수 있다. MARS 알고리즘은 회귀 분석의 한 형태로서, 비 매개 변수 회귀(non-parametric regression) 분석 알고리즘이다. 또한, MARS 알고리즘은 비선형성 및 변수 간의 상호 작용을 자동으로 모델링 할 수 있는, 비선형적 관계 모델링 알고리즘이다. MARS는 의존적(dependent) 및 독립적(independent) 변수 간의 함수 관계에 대한 가정 대신, 일련의 계수 및 기본 함수에서 관계를 구축하여 회귀식을 수립한다. 기본 원리는 입력 영역을 분할하고, 각 영역에 대한 자체 회귀방정식을 수립하여 사용하는 방법으로, 데이터를 정렬하기 위해 spline 함수를 사용하는 recursive partitioning 및 multi-stage regression에 기반한 알고리즘이다. MARS는 고차원의 데이터 관계 및 비선형적인 관계에서 높은 예측력을 갖는 방법으로, 간단하며, 생성된 모델을 해석하기 쉽다는 장점이 존재하여 예측 및 시뮬레이션이 활용될 수 있다. MARS 알고리즘 및 MARS 회귀식은 아래에 상세히 설명하도록 한다.In step S200, the
도 3은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치(1000)의 컬러 맵핑부(200)를 도시한 블록도이고, 도 9는 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법의 흐름을 도시한 제 2 순서도이다.FIG. 3 is a block diagram illustrating a
도 3 및 도 9를 참조하면, 컬러 맵핑을 수행하는 단계(S200)는, 대상 영상(110) 및 참조 영상(120)으로부터 색상 관계 수립을 위한 적어도 하나의 기준점을 선정하는 단계(S210), 참조 영상(120)에 대하여 복수의 클래스(600) 별로 분류하는 단계(S220), 복수의 클래스(600) 별로 기준점(700)의 픽셀값 및 특성변수값에 기초하여 MARS 회귀식을 수립하는 단계(S230), 및 클래스(600) 별로 수립된 MARS 회귀식에 대상 영상(110)의 픽셀값 및 특성변수값을 대입하여 컬러 맵핑된 대상 영상(950)을 획득하는 단계(S240)를 포함할 수 있다.3 and 9, the step of performing color mapping (S200) includes a step S210 of selecting at least one reference point for color relation establishment from the
본원의 일 실시예에 따르면, 기준점을 선정하는 단계(S210)는, 참조 영상(120)의 그레이 스케일(gray-scale) 영상(130)을 획득하는 단계 및 그레이 스케일 영상(130)과 대상 영상(110) 간의 영상 대차법(Image differencing)을 수행하여 불변��(Invariant pixel)을 기준점으로 선정하는 단계를 포함할 수 있다.According to an embodiment of the present invention, the step S210 of selecting a reference point may include a step of acquiring a gray-
기준점은 대상 영상(110) 및 참조 영상(120) 간에 색상 관계를 수립하기 위한 기준이 되는 픽셀일 수 있다.The reference point may be a pixel serving as a reference for establishing a color relation between the
도 5는 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법에 의해 선정된 불변점 선정 영상(140)의 예시도이다. FIG. 5 is an exemplary view of an invariant
그레이 스케일 영상(130)은 각 픽셀의 값이 빛의 양(광량)만을 나타내는 단일 샘플 이미지로서, 참조 영상(120)에서 획득할 수 있다. 본원의 일 실시예에 따르면, 컬러 맵핑부(200)는 광도 법(Luminosity Method)을 이용하여 참조 영상(120)의 그레이 스케일 영상(130)을 획득할 수 있다. 또한, 참조 영상(120)의 그레이 스케일 영상(130)을 획득하는 방법은 색도 변환(Colorimetric Conversion), 또는 루마 코딩(Luma coding) 방법을 더 포함할 수 있다. 예시적으로, 도 5를 참조하면, 도 5에 도시된 그레이 스케일 영상(130)은 상기 Landsat-5 TM 영상을 ���상으로 상기 광도 법을 활용하여 획득한 영상이다.The
단계 S214에서, 컬러 맵핑부(200)는 참조 영상(120)의 그레이 스케일 영상(130)과 대상 영상 간의 영상 대차법을 수행하여 불변점을 선정할 수 있다. 영상 대차법은 영상 간의 변화를 결정하는 데 사용되는 영상 처리 기술이다. 상기 영상 간의 차이는, 각 영상의 픽셀 사이의 차이를 파악하고, 그 결과를 기초로 하여 산출될 수 있다. 상기 영상 대차법을 활용하기 위해서는, 먼저, 영상 대차법의 대상이 되는 영상들의 광도값을 호환 가능하게 만들어야 한다. In step S214, the
본원의 일 실시예에 따르면, 상기 영상 대차법에 따라 그레이 스케일 영상(130)과 대상 영상(110) 간의 불변점을 선정할 수 있다. 불변점은 그레이 스케일 영상(130)과 대상 영상(110) 간의 상기 영상 대차법에 따라 변화하지 않은 것으로 판단된 픽셀을 의미한다. 한편, 컬러 맵핑부(200)는 불변점을 기준점으로 선정할 수 있다. 예시적으로, 도 5를 참조하면, 도 5에 도시된 불변점 선정 영상(140)은 상기 영상 대차법에 따라 상기 Radarsat-1 영상과 상기 Landsat-5영상의 그레이 스케일 영상 간의 불변점을 선정하여 도시한 영상이다.According to one embodiment of the present invention, an invariant point between the
도 6은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법에 의해 클래스(600) 별로 분류된 영상의 예시도이다.FIG. 6 is an exemplary diagram of an image classified by
단계 S220에서, 컬러 맵핑부(200)는 참조 영상(120)에 대하여 복수의 클래스(600) 별로 분류할 수 있다. 클래스(600)는 영상에서 공통된 속성을 갖는 픽셀들의 집합일 수 있다. 지구 표면을 촬상한 영상을 예시로 들면, 클래스(600)는 산간 지역, 물 지역, 도심 지역, 사막 지역 등 상기 공통된 속성을 갖는 픽셀들을 분류할 수 있는 범례일 수 있다. 본원의 일 실시예에 따르면, 컬러 맵핑부(200)는 참조 영상(120)의 컬러 해상도에 따라 클래스의 종류 및 수를 결정할 수 있다. 참조 영상(120)의 해상도가 증가할수록 분류 가능한 클래스의 수가 증가할 수 있다. 참조 영상(120)의 해상도가 증가할수록 분류 가능한 클래스의 수가 증가하고, 후술하는 바와 같이, 클래스 별로 기���점에 대응되는 픽셀값 및 특성변수값을 획득하여 MARS 회귀식을 수립하여 색상관계를 수립하기 때문에, 보다 향상된 컬러화가 가능하다.In step S220, the
본원의 일 실시예에 따르면, 참조 영상(120)에 대하여 복수의 클래스(600) 별로 분류하는 방법은, 최대우도법(Maximum Likelihood Method)이 될 수 있다. 상기 최대우도법은 당 분야의 통상의 기술자에게 자명한 방법이라 할 수 있기에, 자세한 설명은 생략한다.According to an embodiment of the present invention, the method of classifying the
또한, 본원의 일 실시예에 따르면, 복수의 클래스(600)는 물(Water), 도시(Urban), 황폐 지역(Barren), 숲(Forest), 숲에 의한 음영 지역(Shadow caused by forest), 및 곡창 지역(Crop)을 포함할 수 있다. 상술한 클래스 분류 기준은, 미국 지질조사국(USGS : United States Geological Survey)이 지정한 기준 중 하나인 USGS-Level II에 따른 것이다. 아울러, 클래스의 분류는 상기 USGS-Level II를 비롯한 국제 표준 기준에 기초한 복수의 클래스로 분류될 수 있으나, 이에 한정되지 않는다. 본원의 일 실시예에 따르면, 컬러 맵핑부(200)는 각 기준점 별로 클래스가 할당되도록 기준점을 선별하고 클래스 분할을 할 수 있다.In addition, according to one embodiment of the present disclosure, the plurality of
예시적으로, 도 6을 참조하면, 도 6에 도시된 영상은 상기 Landsat-5 TM 영상을 대상으로 복수의 클래스(600) 별로 분류하여 획득한 영상(960)이다. 클래스 ���로 분류하여 획득한 영상(960)을 보면, 물 지역은 파란색, 도시 지역은 붉은색, 황폐 지역은 노란색 등으로 범례를 분류하여 도시한 것을 확인할 수 있다.Illustratively, referring to FIG. 6, the image shown in FIG. 6 is an
본원의 일 실시예에 따르면, MARS 회귀식을 수립하는 단계(S230)는, 클래스별로 기준점의 픽셀값 및 특성변수값을 획득하는 단계 및 색상 밴드 별로 MARS 회귀식을 수��하는 단계를 포함할 수 있다. 색상 밴드는 RED 밴드, GREEN 밴드, 및 BLUE 밴드를 포함할 수 있다.According to one embodiment of the present invention, the step of establishing the MARS regression equation (S230) may include obtaining pixel values and characteristic parameter values of the reference point for each class and establishing a MARS regression equation for each color band . The color bands may include RED, GREEN, and BLUE bands.
구체적으로, 컬러 맵핑부(200)는 기준점의 픽셀값 및 특성변수값을 획득할 수 있다. 본원의 일 실시예에 따르면, 컬러 맵핑부(200)는 공지된 영상 분석 알고리즘을 이용하여 대상 영상(110) 및 참조 영상(120)을 분석하여 픽셀값 및 특성변수값을 획득할 수 있다. 예를 들어, 상기 특성변수값은 대비(Contrast), 차이(Dissimilarity), 동질성(Homogeneity), 상관 관계(Correlation), ASM(Angular Second Moment), 에너지, 및 엔트로피를 통하여 획득한 명암도 동시 발생 행렬(GLCM : Gray Level Co-Occurrence Matrix) 값일 수 있다. 또한, 상기 특성변수값은 평균 픽셀값(Mean Pixel Values), 변화값(Variance Values)을 포함할 수 있으나, 이에 한정되지 않는다. 예시적으로, 상기 특성변수값은 하기의 표 1과 같이 선정될 수 있다.Specifically, the
컬러 맵핑부(200)는, 복수의 클래스 별로 기준점의 픽셀값 및 특성변수값에 기초하여 MARS 회귀식을 수립할 수 있다. 전체 영상에 대하여 MARS 회귀식을 수립할 경우에 연산의 복잡도가 높고, 처리 시간이 상당히 소요될 수 있기 때문에, 본 발명의 컬러 맵핑부(200)는 복수의 클래스 별로 기준점의 픽셀값 및 특성변수값에 기초하여 MARS 회귀식을 수립함으로써, 연산의 복잡도를 낮추고 처리 속도를 향상시킬 수 있다. 본원의 일 실시예에 따르면, 상기 획득된 불변점의 픽셀값 및 특성변수값을 MARS 알고리즘에 대입하여, 색상 밴드 별로 MARS 회귀식을 수립할 수 있다. 색상 밴드는 상술한 바와 같이RED 밴드, GREEN 밴드, 및 BLUE 밴드를 포함할 수 있다. 다시 말해, 색상 밴드 별로 3개의 색상 관계 회귀식을 수립할 수 있다. 이 때, 대상 영상(110) 및 참조 영상(120)은 색상 RED, GREEN, BLUE에 대하여 1 : 3 대응을 할 수 있다.The
여기서, MARS알고리즘 및 MARS 회귀식을 상세히 설명하도록 한다. MARS 알고리즘은, 상술한 바와 같이, 비선형성 및 변수 간의 상호 작용을 자동으로 모델링 할 수 있는, 비선형적 관계 모델링 알고리즘이다. MARS 알고리즘의 기본 원리는 입력 영역을 분할하고, 각 영역에 대한 자체 회귀식을 수립하여 사용하는 방법으로, 데이터 정렬을 위해 스플라인(Spline) 함수, 재귀적 분할(Recursive Partitioning), 및 다단계 회귀(Multi Stage Regression)를 활용하는 알고리즘이다. 한편, 상기 스플라인 함수는 주어진 복수의 제어점(Knot)을 이용하여 부드러운 곡선을 만들어내는 수학적 도구이다. Here, the MARS algorithm and the MARS regression expression will be described in detail. The MARS algorithm is a nonlinear relationship modeling algorithm that can automatically model nonlinearities and interactions between variables, as described above. The basic principle of the MARS algorithm is to divide the input region and establish a self regression equation for each region. It uses a spline function, recursive partitioning, and multi- Stage Regression). Meanwhile, the spline function is a mathematical tool for creating a smooth curve using a given plurality of control points (Knots).
MARS 알고리즘은 하기의 수학식 1과 같이 표현될 수 있다.The MARS algorithm can be expressed as Equation (1) below.
수학식 1에서,
는 기본 함수(Basic Function), 및 는 추정 계수들이고, 은 의 시리즈 넘버(Series Number)이다. 또한, 의 계수 은 하기의 수학식 2 및 수학식 3으로 표현될 수 있다.In Equation (1) Is a basic function, And Are the estimation coefficients, silver (Series Number). Also, Coefficient of Can be expressed by the following equations (2) and (3).
수학식 1 및 수학식 2에서,
는 상기 제어점(Knot)의 위치이고, 는 번째의 설명 변수이다. 여기서, 상기 제어점(Knot)은 한 데이터 영역의 끝과 다른 영역의 시작을 표시할 수 있다. 상기 제어점의 수, 및 위치는 상기 스플라인 함수에 대해 고정될 수 있으며, MARS 알고리즘(300)에서, 상기 제어점은 순방향(Forward) 및 역방향(Backward)에서의 단계적 검색에 기초하여 결정될 수 있다.In Equations (1) and (2) Is the position of the control point Knot, The . Here, the control point Knot may indicate the beginning of a region different from the end of one data region. The number and position of the control points may be fixed for the spline function and in the MARS algorithm 300 the control points may be determined based on a stepwise search in the Forward and Backward directions.먼저, MARS 알고리즘은 과도한 수의 상기 제어점을 갖는 모델을 생성할 수 있다. 그 다음, 상기 스플라인 함수의 적합성에 기여도가 작은 제어점을 제거할 수 있다. First, the MARS algorithm can generate a model with an excessive number of control points. Then, a control point having a small contribution to the suitability of the spline function can be eliminated.
MARS 알고리즘(300)의 기본 함수는 제어점을 검색하는 데 활용될 수 있다. 예시적으로 상기 기본 함수는 하기의 수학식 4와 같이, 예측 변수
와 목표 변수 사이의 관계를 나타내는 함수의 집합으로 표현될 수 있다.The basic function of the MARS algorithm 300 can be utilized to search for control points. Illustratively, the basic function is expressed by the following equation (4) And target variable Can be expressed as a set of functions representing the relationship between the two.
수학식 4의 함수에서,
및 는 추정 계수들이고, 는 다른 기본 함수인 의 가중치를 고려한 합이다. 아울러, MARS 알고리즘은, 와 형태의 선형 기본 함수(Linear Basic Function)이며, 는 제어점의 위치일 수 있다.In the function of equation (4) And Are the estimation coefficients, Is another basic function Which is a sum of weights. In addition, Wow Linear Basic Function, May be the position of the control point.MARS 알고리즘의 절차는 3단계로 구분될 수 있다. 첫째, (a) 순방향 MARS 알고리즘은 가능한 모든 기본 함수와 해당 제어점을 선택하고, 둘째, (b) 역방향 MARS 알고리즘은 기존 제어점의 최상의 조합을 생성하기 위해 기본 함수를 제거하고, 최종적으로, (c) 연속적인 분할 경계(Continuous Partition Bordes)를 얻기 위해 평탄화 동작(Smoothing Operation)이 수행될 수 있다.The procedure of the MARS algorithm can be divided into three steps. First, (a) the forward MARS algorithm selects all possible basic functions and corresponding control points, (b) the reverse MARS algorithm removes the basic functions to generate the best combination of existing control points, and finally (c) A smoothing operation may be performed to obtain continuous partition borders.
상기 (a) 단계는, 초기 집합에서, 상기 가능한 모든 기본 함수를 선택하는 것은 상수 함수
을 결정하여 집합 C의 모든 함수가 후보가 되도록 할 수 있다. 이 때, MARS 알고리즘에 기 설정한 최대 개수의 조건까지 새로운 쌍의 함수들이 각 단계에서 고려될 수 있다.The step (a) includes, in the initial set, selecting all of the possible basic functions, So that all the functions of the set C are candidates. At this time, a new pair of functions up to the maximum number of conditions preset for the MARS algorithm can be considered at each step.상기 (b) 단계에서, 상기 역방향 MARS 알고리즘은 최소 잔류 오차에 기여하는 기본 함수들을 제거함으로써, 수행될 수 있다. 상기 역방향 MARS 알고리즘은 일반화 가능성(Generalisability)을 증가시킴으로써, 모델링의 복잡성을 감소시킬 수 있다. 여기서, 상기 역방향 MARS 알고리즘은 하기의 수학식 5와 같은 일반화된 교차 검증(GCV : Generalised Cross-Validation)을 통하여 수행될 수 있다.In step (b), the reverse MARS algorithm may be performed by removing the basic functions contributing to the minimum residual error. The reverse MARS algorithm can reduce the complexity of the modeling by increasing generalisability. Here, the backward MARS algorithm can be performed through Generalized Cross-Validation (GCV) as shown in Equation (5).
상기 (c) 단계에서, 상기 평탄화 동작은 영역 경계 내의 불연속성을 제거함으로써 연속성을 보장할 수 있다. In the step (c), the planarization operation can ensure continuity by eliminating discontinuity in the region boundary.
상술한 MARS 알고리즘의 원리에 기초하면, 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법은, 기준점으로 선정된 불변점에 대응되는 특성변수값을 산출하고, 불변점의 픽셀값 및 상기 특성변수값을 MARS 알고리즘에 대입함으로써, 색상 밴드 별로 MARS 회귀식을 수립할 수 있다.Based on the principle of the MARS algorithm described above, a method of performing an inter-image color mapping according to an embodiment of the present invention includes calculating a characteristic variable value corresponding to an invariant point selected as a reference point, By assigning a value to the MARS algorithm, a MARS regression equation can be established for each color band.
단계 S240에서, 컬러 맵핑부(200)는 상기 수립된 MARS 회귀식에 대상 영상(110)의 픽셀값 및 특성변수값을 대입하여 컬러 맵핑된 대상 영상(950)을 획득할 수 있다. 예시적으로, 다시 도 4를 참조하면, 상기 수립된 MARS 회귀식에 상기 Radarsat-1 영상의 전체 픽셀에 대응되는 픽셀값 및 특성변수값을 적용함으로써, 전체 색상관계를 획득하고 컬러 맵핑된 Radarsat-1 영상을 획득할 수 있다. 상기 컬러 맵핑된 Radarsat-1 영상(950)은 도 4에 가장 우측에 도시된 바와 같다. 아울러, 상기 컬러 맵핑된 Radarsat-1 영상(950)은 기존의 Radarsat-1 영상(110)에 비해 현저히 판독력이 향상될 수 있고, 상기 Landsat-5 TM 영상(120)의 스펙트럼(Spectral) 특성 및 공간(Spatial) 특성을 갖게 됐음을 확인할 수 있다.In step S240, the
예시적으로, 영상 간 컬러 맵핑 수행 방법은 정량적 성능평가를 수행할 수 있다. 상기 영상 간 컬러 맵핑 수행 방법의 정량적 성능평가를 수행하기 위하여, 스펙트럼 품질(Spectral Quality)의 경우, 범용 영상 품질 지수(UIQI : Universal Image Quality Index), 상관 계수(CC : Correlation Coefficient), 및 평균 제곱근 편차(RMSE : Root Mean Square Error)를 활용할 수 있고, 공간 품질(Spatial Quality)의 경우 엔트로피를 활용할 수 있다. 예시적으로, 도 4에 도시된 영상들의 품질은 하기의 표 2와 같이 나타날 수 있다.Illustratively, the method of performing the inter-image color mapping can perform a quantitative performance evaluation. In order to perform the quantitative performance evaluation of the method of performing the inter-image color mapping, in the case of spectral quality, a universal image quality index (UIQI), a correlation coefficient (CC) Root Mean Square Error (RMSE) can be utilized, and entropy can be utilized for spatial quality. Illustratively, the quality of the images shown in FIG. 4 may be as shown in Table 2 below.
(Raw)Radarsat-1 video
(Raw)
GREEN
BLUERED
GREEN
BLUE
0.6548
0.55010.7332
0.6548
0.5501
0.7512
0.62900.8116
0.7512
0.6290
9.0503
9.30489.0115
9.0503
9.3048
8.1006
8.10398.1002
8.1006
8.1039
GREEN
BLUERED
GREEN
BLUE
0.8233
0.79650.8213
0.8233
0.7965
0.8238
0.79760.8334
0.8238
0.7976
8.8986
9.04308.9746
8.8986
9.0430
8.0641
8.06868.0598
8.0641
8.0686
상기 표 2를 참조하여 정량적 성능평가의 결과를 예시적으로 설명하면, 컬러 맵핑된 Radarsat-1 영상(950)은 대상 영상(110)인 Radarsat-1 영상과 비교했을 때, 범용 영상 품질 지수(UIQI), 상관 계수(CC), 평균 제곱근 편차(RMSE), 및 엔트로피는 각각59.37%, 64.89%, 79.26%, 및 13.24% 향상된 것을 확인할 수 있다. 1, the color-mapped Radarsat-1
또한, 컬러 맵핑된 Radarsat-1 영상(950)은 유사 시기에 촬영된 평가 참조 영상(970)인 Landsat-5 TM 영상과 비교했을 때, 범용 영상 품질 지수(UIQI), 상관 계수(CC), 및 평균 제곱근 편차(RMSE)은 각각 16.77%, 8.76% 및 1.64% 낮지만, 엔트로피는 0.47% 높은 것을 확인할 수 있다.In addition, the color-mapped Radarsat-1
결과적으로, 컬러 맵핑된 Radarsat-1 영상(950)은 Radarsat-1 영상(110)과 비교했을 때, 현저히 성능이 향상된 것을 확인할 수 있다. 또한, 평가 참조 영상(970)과 비교했을 때, 스펙트럼 품질은 다소 떨어지나, 공간 품질은 향상된 것을 확인할 수 있다. 이로써, 컬러 맵핑된 Radarsat-1 영상(950)은 평가 참조 영상(970)과 상당히 유사한 성능을 가질 수 있음을 확인하고, 아울러, MARS 알고리즘(300)를 활용한 컬러 맵핑 수행의 유용성을 확인할 수 있다.As a result, it can be seen that the color-mapped Radarsat-1
이하에서는 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치(1000)에 대해 설명한다. 다만, 영상 간 컬러 맵핑 수행 장치(1000)는 앞서 살핀 본원의 일 실시예에 따른 컬러 맵핑 수행 방법을 수행하는 장치로서 상기 방법과 동일하거나 상응하는 기술적 특징을 포함하는 발명이라 할 것이므로, 앞서 설명한 방법과 동일 또는 유사한 구성에 대해서는 동일한 도면부호를 사용하고, 중복되는 설명은 간략히 하거나 생략하기로 한다.Hereinafter, an
본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치(1000)는, 영상 수신부(100), 및 컬러 맵핑부(200)를 포함할 수 있다. 예시적으로, 영상 간 컬러 맵핑 수행 장치(1000)는 영상 간 컬러 맵핑을 수행하는 소프트웨어가 설치된 컴퓨터, 서버, 디바이스일 수 있으나, 이에 한정되지 않는다.The
영상 수신부(100)는 대상 영상(110) 및 참조 영상(120)을 수신하는 구성이다. 상술한 바와 같이, 영상 수신부(100)는 네트워크(500)를 통하여 대상 영상(110), 및 참조 영상(120)을 수신 받을 수 있다. 예시적으로, 영상 수신부(100)는 합성 개구 레이더(900)를 통해 만들어진 영상을 네트워크(500)를 통하여 수신 받을 수 있다. 이에 더해, 본원의 일 실시예에 따르면, 저장부를 포함하고, 영상 수신부(100)는 상기 저장부를 통해 대상 영상(110) 및 참조 영상(110)을 수신 받을 수 있다.The
영상 수신부(100)와 합성 개구 레이더(900) 간, 또는 영상 수신부(100)와 대상 및 참조 영상 저장부(850) 간의 네트워크(500)는 유선 및 무선 네트워크로 구비될 수 있으며, 상기 네트워크의 일 예에는 RFID, 3GPP(3rd Generation Partnership Project) 네트워크, LTE(Long Term Evolution) 네트워크, 5G 네트워크, WIMAX(World Interoperability for Microwave Access) 네트워크, 인터넷(Internet), LAN(Local Area Network), Wireless LAN(Wireless Local Area Network), WAN(Wide Area Network), PAN(Personal Area Network), 블루투스(Bluetooth) 네트워크, Wi-fi네트워크, 위성 방송 네트워크, 아날로그 방송 네트워크, DMB(Digital Multimedia Broadcasting) 네트워크, 적외선 통신 등이 포함되나, 반드시 이에 한정되는 것은 아니다.The
컬러 맵핑부(200)는 대상 영상(110) 및 참조 영상(120)을 이용하여 MARS(Multivariate Adaptive Regression Splines) 알고리즘(300)에 기초하여, 대상 영상(110)의 컬러 맵핑을 수행하는 구성이다. The
도 3은 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 장치(1000)의 컬러 맵핑부(200)를 도시한 블록도이다. FIG. 3 is a block diagram illustrating a
도 3을 참조하면, 컬러 맵핑부(200)는 기준점 선정부(210), 클래스 분류부(220), 변수 획득부(230), 회귀식 수립부(240), 및 컬러 영상 획득부(250)를 포함할 수 있다.3, the
기준점 선정부(210)는 대상 영상(110) 및 참조 영상(120)으로부터 색상 관계 수립을 위한 적어도 하나의 기준점을 선정하는 구성이다.The reference
클래스 분류부(220)는 참조 영상(120)에 대하여 복수의 클래스 별로 분류하는 구성이다.The classifying
변수 획득부(230)는 기준점 및 영상의 각 픽셀들의 픽셀값 및 특성변수값을 획득하는 구성이다.The variable obtaining
회귀식 수립부(240)는 복수의 클래스(600) 별로 기준점의 픽셀값 및 특성변수값에 기초하여 MARS 회귀식을 수립하는 구성이다.The regression
컬러 영상 획득부(250)는 클래스(600) 별로 수립된 MARS 회귀식에 대상 영상(110)의 픽셀값 및 특성변수값을 대입하여 컬러 맵핑된 대상 영상(950)을 획득하는 구성이다.The color
본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 통상의 기술자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method of performing inter-image color mapping according to one embodiment of the present invention may be implemented in the form of a program command that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the medium may be those specially designed and constructed for the present invention or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Magneto-optical media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.
또한, 전술한 본원의 일 실시예에 따른 영상 간 컬러 맵핑 수행 방법은 기록 매체에 저장되는 컴퓨터에 의해 실행되는 컴퓨터 프로그램 또는 애플리케이션의 형태로도 구현될 수 있다.In addition, the above-described method of performing the inter-image color mapping according to an embodiment of the present invention may be implemented in the form of a computer program or an application executed by a computer stored in a recording medium.
전술한 본원의 설명은 예시를 위한 것이며, 본원이 속하는 기술분야의 통상의 지식을 가진 자는 본원의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.It will be understood by those of ordinary skill in the art that the foregoing description of the embodiments is for illustrative purposes and that those skilled in the art can easily modify the invention without departing from the spirit or essential characteristics thereof. It is therefore to be understood that the above-described embodiments are illustrative in all aspects and not restrictive. For example, each component described as a single entity may be distributed and implemented, and components described as being distributed may also be implemented in a combined form.
본원의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본원의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is defined by the appended claims rather than the detailed description, and all changes or modifications derived from the meaning and scope of the claims and their equivalents should be construed as being included within the scope of the present invention.
100: 영상 수신부
110: 대상 영상
120: 참조 영상
130: 그레이 스케일 영상
200: 컬러 맵핑부
210: 기준점 선정부
220: 클래스 분류부
230: 변수 획득부
240: 회귀식 수립부
250: 컬러 영상 획득부
500: 네트워크
900: 합성 개구 레이더
1000: 컬러 맵핑 수행 장치100:
110: target image
120: reference image
130: Grayscale video
200: Color mapping unit
210: Reference point selection section
220:
230: variable acquisition unit
240: regression equation forming section
250: Color image acquiring unit
500: Network
900: Synthetic aperture radar
1000: Color mapping device
Claims (13)
상기 대상 영상 및 상기 참조 영상을 이용하여 MARS(Multivariate Adaptive Regression Splines) 알고리즘에 기초하여, 상기 대상 영상의 컬러 맵핑을 수행하는 단계를 포함하고,
상기 컬러 맵핑을 수행하는 단계는,
상기 대상 영상 및 상기 참조 영상으로부터 색상 관계 수립을 위한 적어도 하나의 기준점을 선정하는 단계;
상기 참조 영상에 대하여 복수의 클래스 별로 분류하는 단계;
상기 복수의 클래스 별로 상기 기준점의 픽셀값 및 특성변수값에 기초하여 MARS 회귀식을 수립하는 단계; 및
상기 클래스 별로 수립된 MARS 회귀식에 상기 대상 영상의 픽셀값 및 특성변수값을 대입하여 컬러 맵핑된 대상 영상을 획득하는 단계,
를 포함하는 영상 간 컬러 맵핑 수행 방법.Receiving a target image and a reference image; And
Performing color mapping of the target image based on a Multivariate Adaptive Regression Splines (MARS) algorithm using the target image and the reference image,
Wherein the performing the color mapping comprises:
Selecting at least one reference point for color relation establishment from the target image and the reference image;
Classifying the reference image into a plurality of classes;
Establishing a MARS regression equation based on pixel values and characteristic variable values of the reference points for each of the plurality of classes; And
Acquiring a color-mapped target image by substituting pixel values and characteristic parameter values of the target image into a MARS regression equation established for each class;
To-color mapping.
상기 대상 영상은 흑백 영상이고, 상기 참조 영상은 컬러 영상인 것인, 영상 간 컬러 맵핑 수행 방법.The method according to claim 1,
Wherein the target image is a monochrome image and the reference image is a color image.
상기 대상 영상은 합성 개구 레이더(SAR) 영상인 것인, 영상간 컬러 맵핑 수행 방법.3. The method of claim 2,
Wherein the object image is a synthetic aperture radar (SAR) image.
상기 기준점을 선정하는 단계는,
상기 참조 영상의 그레이 스케일(gray-scale) 영상을 획득하는 단계; 및
상기 그레이 스케일 영상과 상기 대상 영상 간의 영상 대차법(Image differencing)을 수행하여 불변점(Invariant pixel)을 선정하는 단계,
를 포함하는 것인, 영상간 컬러 맵핑 수행 방법.The method according to claim 1,
Wherein the step of selecting the reference point comprises:
Obtaining a gray-scale image of the reference image; And
Selecting an invariant pixel by performing image differencing between the gray-scale image and the target image,
Image color mapping.
상기 불변점이 기준점인 것인, 영상간 컬러 맵핑 수행 방법.6. The method of claim 5,
Wherein the invariant point is a reference point.
상기 복수의 클래스는 물, 도시, 황폐 지역, 숲, 숲에 의한 음영 지역, 및 곡창 지역을 포함하는 것인, 영상간 컬러 맵핑 수행 방법.The method according to claim 1,
Wherein the plurality of classes comprises water, a city, a desolate area, a forest, a shaded area by forest, and a granite area.
상기 MARS 회귀식을 수립하는 단계는,
상기 기준점의 픽셀값 및 특성변수값을 획득하는 단계; 및
색상 밴드 ���로 MARS 회귀식을 수립하는 단계,
를 포함하고,
상기 색상 밴드는 RED 밴드, GREEN 밴드, 및 BLUE 밴드를 포함하는 것인, 영상간 컬러 맵핑 수행 방법.The method according to claim 1,
The step of establishing the MARS regression equation comprises:
Obtaining a pixel value and a characteristic variable value of the reference point; And
Establishing a MARS regression equation for each color band,
Lt; / RTI >
Wherein the color band comprises a RED band, a GREEN band, and a BLUE band.
상기 대상 영상 및 상기 참조 영상을 이용하여 MARS(Multivariate Adaptive Regression Splines) 알고리즘에 기초하여, 상기 대상 영상의 컬러 맵핑을 수행하는 컬러 맵핑부를 포함하고,
상기 컬러 맵핑부는,
상기 대상 영상 및 상기 참조 영상으로부터 색상 관계 수립을 위한 적어도 하나의 기준점을 선정하는 기준점 선정부;
상기 참조 영상에 대하여 복수의 클래스 별로 분류하는 클래스 분류부;
상기 기준점의 픽셀값 및 특성변수값을 획득하는 변수 획득부;
상기 복수의 클래스 별로 상기 기준점의 픽셀값 및 특성변수값에 기초하여 MARS 회귀식을 수립하는 회귀식 수립부; 및
상기 클래스 별로 수립된 MARS 회귀식에 상기 대상 영상의 픽셀값 및 특성변수값을 대입하여 컬러 맵핑된 대상 영상을 획득하는 컬러 영상 획득부,
를 포함하는 영상 간 컬러 맵핑 수행 장치.An image receiving unit for receiving a target image and a reference image; And
And a color mapping unit for performing color mapping of the target image based on a Multivariate Adaptive Regression Splines (MARS) algorithm using the target image and the reference image,
The color mapping unit includes:
A reference point selecting unit for selecting at least one reference point for establishing a color relation from the target image and the reference image;
A classifying unit for classifying the reference image into a plurality of classes;
A variable obtaining unit obtaining a pixel value and a characteristic variable value of the reference point;
A regression equation establishing unit for establishing a MARS regression equation based on pixel values and characteristic variable values of the reference points for each of the plurality of classes; And
A color image acquiring unit for acquiring a color-mapped target image by substituting pixel values and characteristic parameter values of the target image into a MARS regression equation established for each class;
And an image-to-image color mapping unit.
상기 대상 영상은 흑백 영상이고, 상기 참조 영상은 컬러 영상인 것인, 영상 간 컬러 맵핑 수행 장치.10. The method of claim 9,
Wherein the target image is a monochrome image and the reference image is a color image.
상기 대상 영상은 합성 개구 레이더(SAR) 영상인 것인, 영상간 컬러 맵핑 수행 장치.10. The method of claim 9,
Wherein the object image is a synthetic aperture radar (SAR) image.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020170173941A KR101958725B1 (en) | 2017-12-18 | 2017-12-18 | METHOD and apparatus for mapping IMAGE color USING MARS |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020170173941A KR101958725B1 (en) | 2017-12-18 | 2017-12-18 | METHOD and apparatus for mapping IMAGE color USING MARS |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR101958725B1 true KR101958725B1 (en) | 2019-07-02 |
Family
ID=67258222
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020170173941A Expired - Fee Related KR101958725B1 (en) | 2017-12-18 | 2017-12-18 | METHOD and apparatus for mapping IMAGE color USING MARS |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR101958725B1 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113676713A (en) * | 2021-08-11 | 2021-11-19 | 维沃移动通信(杭州)有限公司 | Image processing method, apparatus, device and medium |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004334814A (en) * | 2003-05-07 | 2004-11-25 | Susumu Shiroyama | Technique, device, and program of colorization of monochromatic image |
| KR20110134479A (en) * | 2009-03-17 | 2011-12-14 | 해리스 코포레이션 | Geo Facial Modeling System and Related Methods for Colorizing Images |
| KR101291219B1 (en) * | 2012-03-16 | 2013-07-31 | 한국항공우주연구원 | Method for data fusion of panchromatic and multi-spectral images and apparatus thereof |
-
2017
- 2017-12-18 KR KR1020170173941A patent/KR101958725B1/en not_active Expired - Fee Related
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004334814A (en) * | 2003-05-07 | 2004-11-25 | Susumu Shiroyama | Technique, device, and program of colorization of monochromatic image |
| KR20110134479A (en) * | 2009-03-17 | 2011-12-14 | 해리스 코포레이션 | Geo Facial Modeling System and Related Methods for Colorizing Images |
| KR101291219B1 (en) * | 2012-03-16 | 2013-07-31 | 한국항공우주연구원 | Method for data fusion of panchromatic and multi-spectral images and apparatus thereof |
Non-Patent Citations (1)
| Title |
|---|
| Zelang Miao ET AL:"Road Centerline Extraction From High-Resolution Imagery Based on Shape Features and Multivariate Adaptive Regression Splines", IEEE Geoscience and Remote Sensing Letters(2013.05.31)* * |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113676713A (en) * | 2021-08-11 | 2021-11-19 | 维沃移动通信(杭州)有限公司 | Image processing method, apparatus, device and medium |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| RU2694021C1 (en) | Method and apparatus for identifying portions of fragmented material within an image | |
| KR102170260B1 (en) | Apparatus and method for fusing synthetic aperture radar image and multispectral image, method for detecting change using it | |
| US8503761B2 (en) | Geospatial modeling system for classifying building and vegetation in a DSM and related methods | |
| CN109410171B (en) | Target significance detection method for rainy image | |
| RU2581567C2 (en) | System and method for digital image signal compression using true images | |
| CN114005042A (en) | Remote sensing image urban building extraction method based on shadow compensation and U-net | |
| JP6376128B2 (en) | Illumination estimation apparatus, illumination estimation method, and illumination estimation program | |
| JP6943251B2 (en) | Image processing equipment, image processing methods and computer-readable recording media | |
| KR20210064193A (en) | Image processing apparatus, image processing method, and program | |
| US20160241884A1 (en) | Selective perceptual masking via scale separation in the spatial and temporal domains for use in data compression with motion compensation | |
| US12067488B2 (en) | Information processing apparatus, information processing method, and storage medium for generating learning data used for machine learning | |
| CN105825217B (en) | Hyperspectral imaging area-of-interest extraction method based on movable contour model | |
| KR101958725B1 (en) | METHOD and apparatus for mapping IMAGE color USING MARS | |
| CN114359111B (en) | Object-oriented filling method for satellite time sequence image | |
| Yu et al. | Advanced approach for automatic reconstruction of 3d buildings from aerial images | |
| Fryskowska et al. | Some aspects of satellite imagery integration from Eros B and Landsat 8 | |
| AU2022396941B2 (en) | Illumination spectrum recovery | |
| Nair et al. | Benchmarking single image dehazing methods | |
| Panigrahi et al. | Image pan-sharpening and sub-pixel classification enabled building detection in strategically challenged forest neighborhood environment | |
| KR20240081688A (en) | Method and System for Precisely Predicting Crop Productions Using the High-resolution Imagery and Big Data | |
| Panagiotopoulou et al. | Sentinel-2 images at 2.5 m spatial resolution via Deep-learning: A case study in Zakythnos | |
| JP5663685B2 (en) | Forest phase analysis apparatus, forest phase analysis method and program | |
| US9996969B2 (en) | Dynamically creating and presenting a three-dimensional (3D) view of a scene by combining color, brightness, and intensity from multiple scan data sources | |
| Häufel et al. | Shadow detection and shadow removal: a benefit for land cover classification | |
| EP4352474B1 (en) | Transformation of color representations and spectral recovery |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application |
St.27 status event code: A-0-1-A10-A12-nap-PA0109 |
|
| PA0201 | Request for examination |
St.27 status event code: A-1-2-D10-D11-exm-PA0201 |
|
| D13-X000 | Search requested |
St.27 status event code: A-1-2-D10-D13-srh-X000 |
|
| D14-X000 | Search report completed |
St.27 status event code: A-1-2-D10-D14-srh-X000 |
|
| PE0902 | Notice of grounds for rejection |
St.27 status event code: A-1-2-D10-D21-exm-PE0902 |
|
| E13-X000 | Pre-grant limitation requested |
St.27 status event code: A-2-3-E10-E13-lim-X000 |
|
| P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
| P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
| PE0701 | Decision of registration |
St.27 status event code: A-1-2-D10-D22-exm-PE0701 |
|
| PR0701 | Registration of establishment |
St.27 status event code: A-2-4-F10-F11-exm-PR0701 |
|
| PR1002 | Payment of registration fee |
St.27 status event code: A-2-2-U10-U11-oth-PR1002 Fee payment year number: 1 |
|
| PG1601 | Publication of registration |
St.27 status event code: A-4-4-Q10-Q13-nap-PG1601 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 4 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 5 |
|
| R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-5-5-R10-R18-oth-X000 |
|
| PN2301 | Change of applicant |
St.27 status event code: A-5-5-R10-R13-asn-PN2301 St.27 status event code: A-5-5-R10-R11-asn-PN2301 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 6 |
|
| R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-5-5-R10-R18-oth-X000 |
|
| R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-5-5-R10-R18-oth-X000 |
|
| PC1903 | Unpaid annual fee |
St.27 status event code: A-4-4-U10-U13-oth-PC1903 Not in force date: 20250312 Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE |
|
| R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-5-5-R10-R18-oth-X000 |
|
| R18 | Changes to party contact information recorded |
Free format text: ST27 STATUS EVENT CODE: A-5-5-R10-R18-OTH-X000 (AS PROVIDED BY THE NATIONAL OFFICE) |
|
| R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-5-5-R10-R18-oth-X000 |
|
| H13 | Ip right lapsed |
Free format text: ST27 STATUS EVENT CODE: N-4-6-H10-H13-OTH-PC1903 (AS PROVIDED BY THE NATIONAL OFFICE); TERMINATION CATEGORY : DEFAULT_OF_REGISTRATION_FEE Effective date: 20250312 |
|
| PC1903 | Unpaid annual fee |
St.27 status event code: N-4-6-H10-H13-oth-PC1903 Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE Not in force date: 20250312 |

