01 ์คํ์์ค ์ฝ๋ ์ ๋ณด์ ์ทจ์ฝ์ ์ ํผํ๋ ์ค๋ฌด ํ 4๊ฐ์ง
http://www.itworld.co.kr/news/161490
๋ณด์ ์ฌ๊ณ ๋ฅผ ๋ถ์ํ๋ ๋ณด์ ์ฐ๊ตฌ์์ผ๋ก์, ํ์๋ ์ต๊ทผ ์ค๋ก์ง ๋นํธ์ฝ์ธ ๋ง์ด๋์ ๋ชฉ์ ์ผ๋ก ํ๋ 700๊ฐ๊ฐ ๋๋ ํ์ดํฌ์ค์ฟผํ
(typo-squatting) ๋ฃจ๋น์ ฌ(RubyGem) ํจํค์ง๋ฅผ ๋ฐ๊ฒฌํ๋ค. ์ด ์ค์๋ ์ต์ 26๊ฐ์ ๊นํ๋ธ ํ๋ก์ ํธ์ ์๋ฐํ๊ฒ ์
์ฑ์ฝ๋๋ฅผ ์ฌ์ ์ฅํ ํผ์ค ์ค์บ๋(Octopus Scanner)๋ ์์๋ค. ์ด๋ฌํ ์ฌ๊ณ ๋ ๊ณต๊ฐ ์ ๊ทผ์ด ๊ฐ๋ฅํ ๊ฐ๋ฐฉํ ์์คํ
์ ๊ฒฝ์ฐ ์
์์ ์ธ ์ฌ๋๋ ์ ๊ทผํด ์
์ฉํ ์ ์๋ค๋ ์ฌ์ค์ ์ ๋ณด์ฌ์ค๋ค.
์ด๋ฐ ์ฌ๋ก๊ฐ ์
์์ ๊ตฌ์ฑ์์์ ๊ดํ ๊ฒ์ด๋ผ๋ฉด, ๋ณด์ ์ทจ์ฝ์ ์ด ๋ฐ๊ฒฌ๋์ง ์์ ์ฑ ์ฌ์ฉ๋๋ ์ ์์ ์ธ ์คํ์์ค ํจํค์ง๋ ์ด๋จ๊น?
์ธ๊ธฐ ์๋ ๋ฆฌํฌ์งํ ๋ฆฌ๋ฅผ ๊ฑฐ์ณ ์ต์ข
์ ์ผ๋ก ์ํํธ์จ์ด ๊ณต๊ธ๋ง๊น์ง ํ๋ฌ ๋ค์ด๊ฐ๋ ์ทจ์ฝ์ ๋๋ ์
์ฑ ํจํค์ง๋ ๊ณ ๊ฐ์๊ฒ ํฐ ํผํด๋ฅผ ์ด๋ํ ์ ์๋ค. ์ค์ ๋ก npm, ํ์ดํ์ด(PyPI), ๋ด๊ฒ(NuGet), ํ๋๋ผ(Fedora) ๊ฐ์ ์ธ๊ธฐ ์คํ์์ค ๋ฆฌํฌ์งํ ๋ฆฌ์์ ์ทจ์ฝํ ๊ตฌ์ฑ์์์ ์
์ฑ ๊ตฌ์ฑ์์๊ฐ ๋ฐ๊ฒฌ๋๋ค.
์ค๋ํฌ(Snyk)์ 2020๋
์คํ์์ค ๋ณด์ ํํฉ ๋ณด๊ณ ์์ ๋ฐ๋ฅด๋ฉด, ์ง๋ ๋ช ๋
๋์ ์ํ๊ณ ์ ๋ฐ์ ์คํ์์ค ํจํค์ง์์ ํ์ธ๋ ์ด์ทจ์ฝ์ ์๋ฅผ ๋ณด๋ฉด Node.js์ ์๋ฐ์์ ๋งค๋
์๋ก์ด ์ทจ์ฝ์ ์ด ๊ฐ์ฅ ๋ง์ด ๋ฐ๊ฒฌ๋๋ค. ๋ํ, 2018๋
์ ๋นํด 2019๋
์ ๋ณด๊ณ ๋ ์ ๊ท ์ทจ์ฝ์ ์ ์๊ฐ ๋ ์ ์ ๊ฒ์ ์ํํธ์จ์ด ๊ฐ๋ฐ ํ๋ก์ธ์ค์ ์ด๊ธฐ์ ๋ณด์์ ๊ตฌํํ๊ธฐ ์ํด ๋
ธ๋ ฅํ๊ธฐ ๋๋ฌธ์ด๋ค. ๋ณด๊ณ ์๋ “์ด ์ถ์ธ๊ฐ ์ง์๋๋ค๋ฉด ์คํ์์ค ์ํํธ์จ์ด์ ๋ณด์์ ๊ฐ์ ํ๊ธฐ ์ํ ๋
ธ๋ ฅ์ด ๊ฒฐ์ค์ ๋ณด๊ธฐ ์์ํ๋ค๋ ๊ธ์ ์ ์ธ ์ ํธ๋ก ๋ณผ ์ ์๋ค”๋ผ๊ณ ํ๊ฐํ๋ค.
02 ํจ์ฑ์ธํฌ๋ฉ์ด์
์์คํ
, AI ๊ธฐ๋ฐ ‘๋ฐ์ดํฐ ์นดํ๋ก๊ทธ’ ๊ธฐ์ ๊ณต๊ฐ
http://www.itworld.co.kr/t/69500/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D/160790
ํจ์ฑ์ธํฌ๋ฉ์ด์
์์คํ
(www.his21.co.kr)์ด AI ๊ธฐ๋ฐ์ ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ ์๋ฃจ์
‘๋ฃจ๋ง๋ค ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ(Lumada Data Catalog)’๋ฅผ ์ ๋ณด์ธ๋ค๊ณ ๋ฐํ๋ค.
ํจ์ฑ์ธํฌ๋ฉ์ด์
์์คํ
์ ๋ฃจ๋ง๋ค ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ๋ฅผ ํตํด ์ฒด๊ณ์ ์ด๊ณ ์ ๋ขฐํ ์ ์๋ ๋ฐ์ดํฐ ๊ด๋ฆฌ๋ฅผ ์ง์ํ๋ค. ๋ฃจ๋ง๋ค ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ๋ ์๋ก ๋ค๋ฅธ ์์ฑ์ ๊ฐ์ง ๋์ฉ๋ ๋ฐ์ดํฐ์ ๋ฉํ ์ ๋ณด๋ฅผ AI ๊ธฐ๋ฐ์ผ๋ก ๋น ๋ฅด๊ฒ ํ์
ํด ์ ๋ฆฌ, ํตํฉ, ๊ด๋ฆฌํ ์ ์๋ ์๋ฃจ์
์ด๋ค. ์ฃ์ง(edge)์์ ์ฝ์ด, ๋ฉํฐ ํด๋ผ์ฐ๋์ ์ด๋ฅด๋ IT ํ๊ฒฝ ์ ๋ฐ์์ ๋ฐ์ดํฐ ์์ฐ์ ํจ์จ์ ์ผ๋ก ๊ด๋ฆฌํ ์ ์๋ค.
๋ฃจ๋ง๋ค ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ๋ ๋ฐ์ดํฐ ๋ ์ดํฌ ๊ด๋ฆฌ, ์ค๋ณต/๋ณต์ ๋ฐ์ดํฐ ์๋ณ์ ํตํ ๋ฐ์ดํฐ ๋ถ๋ฅ, ์๋ ๋ฐ์ดํฐ ๊ณ๋ณด๋ถ์(Data Lineage) ๋ฟ๋ง ์๋๋ผ ๋ฏผ๊ฐ ๋ฐ์ดํฐ ๊ฒ์, AI ๋ฐ ๋จธ์ ๋ฌ๋(ML)์ ํตํ ํ๊น
์ํ ๋ฑ ์ฒด๊ณ์ ๋ฐ์ดํฐ ๊ด๋ฆฌ๋ฅผ ์ง์ํ๋ค. ํนํ, ํนํ ๋ฐ์ ๋จธ์ ๋ฌ๋ ๊ธฐ๋ฐ ‘ํ๊ฑฐํ๋ฆฐํธ(Finger Print)’ ์๊ณ ๋ฆฌ์ฆ์ ํตํด ์์์
์ผ๋ก ํ์
์ด ํ๋ ์๋ง์ ์ปฌ๋ผ, ๋ฉํ, ์์ฑ ๋ฑ์ ์๋์ผ๋ก ๋ถ์ํ๊ณ ๋งคํํด ์ฒด๊ณ์ ์ธ ๋ฐ์ดํฐ ์ฒ๋ฆฌ์ ๊ด๋ฆฌ๋ฅผ ๊ฐ๋ฅํ๊ฒ ํ๋ค.
๋ฃจ๋ง๋ค ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ๋ฅผ ํตํด ๋ฐ์ดํฐ ์์ง๋์ด ๋ฐ ๊ณผํ์, ๋น์ฆ๋์ค ์ฌ์ฉ์๋ ๋ฉํ ๋ฐ์ดํฐ ๊ฒ์์ ๊ฐ์ํํ๊ณ ๋ฐ์ดํฐ๋ฅผ ๋ถ๋ฅํด ๋ฐ์ดํฐ์์ ๊ฐ์น๋ฅผ ์ฐฝ์ถํ๋ ์๊ฐ์ ์ค์ผ ์ ์๋ค. ๋ฐ์ดํฐ ํ๋ ์ดํฐ์ ๊ด๋ฆฌ์๋ ์ค์ ๋ฐ์ดํฐ๋ฅผ ๊ด๋ฆฌํ ์ ์์ผ๋ฉฐ, IT ๊ด๋ฆฌ์๋ ์๋ํ์ง ์์ ์ค๋ณต ๋ฐ์ดํฐ๋ฅผ ์ ๊ฑฐํ ์ ์๋ค.
๋ฃจ๋ง๋ค ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ๋ฅผ ํ์ฉํ๋ฉด ๊ธฐ์
์ ์ฒด์ ๋ฏผ๊ฐ ๋ฐ์ดํฐ๋ฅผ ์๋์ผ๋ก ๊ฐ์ง, ํ๊ทธ ์ง์ , ๋ณดํธํ๊ณ ๋ฏผ๊ฐ ๋ฐ์ดํฐ ์ ๋ฌด ํ์ธ์ด๋ ๋ฐ์ดํฐ ์ ํ ํ์ธ ๋ฑ ์
ํ ์๋น์ค ๋ถ์๋ ๊ฐ๋ฅํ๋ค. ์ถ๊ฐ ์ฒ๋ฆฌ๊ฐ ์๊ตฌ๋๋ ๋ฏผ๊ฐ ์ ๋ณด(๊ฐ์ธ์ ๋ณด ๋ฑ)๋ฅผ ๋น ๋ฅด๊ณ ์ ๋ขฐํ ์์ค์ผ๋ก ๊ด๋ฆฌํ ์ ์๋ค.
๋ฃจ๋ง๋ค ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ๋ ๋ฐ์ดํฐ ๊ณ๋ณด(๋ฐ์ดํฐ ๋ฆฌ๋์ง)๋ถ์์ ํตํด ์ฌ์ฉ์์๊ฒ ํ๋ก์ ํธ์ ๊ฐ์ฅ ์ ํฉํ ๋ฐ์ดํฐ๋ฅผ ์ ํํ ์ ์๋ ์ถ๊ฐ ์ ๋ณด๋ฅผ ์ ๊ณตํ๋ค. ์ค๋ณต ๋ฐ์ดํฐ ๊ด๋ฆฌ, ๋ฐ์ดํฐ ๊ถํ ๊ด๋ฆฌ, ์ง์์ ์ผ๋ก ์ ์
๋๋ ๋ฏผ๊ฐ ๋ฐ์ดํฐ์ ๋ํ ์์ธ์ค ์๋ณ ๋ฐ ์ ์ด๋ ๊ฐ๋ฅํ๋ค.
ํจ์ฑ์ธํฌ๋ฉ์ด์
์์คํ
๋ฐ์ดํฐ์ฌ์
ํ ์ด์ง์ ํ์ฅ์ “ํจ์ฑ์ธํฌ๋ฉ์ด์
์์คํ
์ ๊ณ ๊ฐ์ด ์ํ๋ ๊ฐ์น ์๋ ๋ฐ์ดํฐ ํ์ฉ์ ์ํด ์ต์ ์ ๋ฐ์ดํฐ์ต์ค(DataOps) ํ๊ฒฝ์ ์ง์ํ๋ค”๋ฉฐ “์ฃ์ง ํฌ ํด๋ผ์ฐ๋(edge-to-cloud) ํ๊ฒฝ์์ ๋ถ์ฐ๋ ๋ฐ์ดํฐ ์ฌ์ผ๋ก๋ฅผ ํตํฉํ๋ ํํธ, ๊ณ ๊ฐ์ด ๋ฐ์ดํฐ ์ ์ฌ๋ ฅ์ ์ต๋ํ ๋ฐํํ๊ณ ๋์งํธ ํ์ ์ ๊ฐ์ํํ ์ ์๋๋ก ๋๊ฒ ๋ค”๊ณ ๋ฐํ๋ค.
ํํธ, ํจ์ฑ์ธํฌ๋ฉ์ด์
์์คํ
์ ๋ค์ํ ๋ฐ์ดํฐ ์ ์ฅ์ ์ํ ์ค๋ธ์ ํธ ์คํ ๋ฆฌ์ง(HCP)๋ถํฐ ์ฒด๊ณ์ ๋ฐ์ดํฐ ๊ด๋ฆฌ๋ฅผ ์ํ ์นดํ๋ก๊ทธ ์๋ฃจ์
(Lumada Data Catalog), ๋น
๋ฐ์ดํฐ ๋ถ์ ํ๋ซํผ ํํํธ(Pentaho)๊น์ง ๊ณ ๊ฐ ๋ฐ์ดํฐ ํ์ ์ ์ง์ํ๋ ๋ฃจ๋ง๋ค ํฌํธํด๋ฆฌ์ค๋ฅผ ์ง์์ ์ผ๋ก ํ์ฅํด ๋๊ฐ ๊ณํ์ด๋ค. editor@itworld.co.kr
๋ฉํ์ ๋ณด
๋ฐ์ดํฐ์ ๋ํ ๋ฐ์ดํฐ๋ก ํ์๋ ๋ฒจ์ ๋ฐ์ดํฐ๋ฅผ ์ค๋ช
/๊ธฐ์ ํ๋ ค๋๊ฒ
์) ๋์๊ด์ ๋์๋ชฉ๋ก์ผ๋ก์, ๋ฉํ๋ฐ์ดํฐ (ํ์ , ์ ์, ์ฃผ์ ๋ช
, ๋ถ๋ฅ๊ธฐํธ ๋ฑ๋ฆฌ ํฌํจ๋์ด ์๋ ๋ชฉ๋ก ๋ ์ฝ๋)
๋ฐ์ดํฐ ๋ ์ดํฌ
๋ฐ์ดํฐ ๋ ์ดํฌ๋ ๋๊ท๋ชจ์ ๋ค์ํ ์์ ๋ฐ์ดํฐ ์ธํธ๋ฅผ ๊ธฐ๋ณธ ํ์์ผ๋ก ์ ์ฅํ๋ ๋ฐ์ดํฐ ๋ฆฌํฌ์งํ ๋ฆฌ ์ ํ์
๋๋ค. ๋ฐ์ดํฐ ๋ ์ดํฌ๋ฅผ ์ฌ์ฉํ๋ฉด ์ ์ ๋์ง ์์ ๋ฐ์ดํฐ๋ฅผ ๋ณผ ์ ์์ผ๋ฉฐ, ๋ฐ์ดํฐ์ ๋ํด ์ ์ฒด์ ์ธ ๋๊ท๋ชจ ๋ฆฌํฌ์งํ ๋ฆฌ๋ฅผ ์ํฐํ๋ผ์ด์ฆ ํ๊ฒฝ์์ ๋ฐ์ดํฐ ๊ด๋ฆฌ ์ ๋ต์ผ๋ก ๋ณดํธํํ ์ ์์ต๋๋ค.
๋ฐ์ดํฐ ๋ ์ดํฌ๋ฅผ ์ฌ์ฉํ๋ฉด ๋ชจ๋ ๋ฐ์ดํฐ๊ฐ ๋ณด์กด๋๋ฉฐ, ์คํ ๋ฆฌ์ง์ ์ ์ฅํ๊ธฐ ์ ์ ์ ๊ฑฐ๋๊ฑฐ๋ ํํฐ๋ง๋์ง ์์ต๋๋ค.
๋ฐ์ดํฐ๋ ์ผ๋ง ํ ๋ฐ๋ก ๋ถ์์ ์ฌ์ฉ๋ ์๋ ์๊ณ ์ฌ์ฉ๋์ง ์์ ์ ์์ต๋๋ค.
์์ ๋ฐ์ดํฐ
ํน์ ๋ชฉ์ ์ ์ํด ์ฒ๋ฆฌ๋์ง ์์ ๋ฐ์ดํฐ์ด๋ค.
๋ฐ์ดํฐ ๋ ์ดํฌ VS ๋ฐ์ดํฐ ์จ์ด ํ์ฐ์ค
๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค๋ ๋ณด๊ณ ๋ฅผ ์ํด ์ค๊ณ๋ ๊ตฌ์กฐํ๋ ๋ฐ์ดํฐ ๋ชจ๋ธ์ ์ ๊ณต
๋ฐ์ดํฐ ๋ ์ดํฌ๋ ํ์ฌ ์ ์๋ ๋ชฉ์ ์ด ์๋ ๋น์ ํ ์์ ๋ฐ์ดํฐ ์ ์ฅ
๋ฐ์ดํฐ๋ฅผ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค์ ์ ์ฅํ๊ธฐ ์ ์ ๋ฐ์ดํฐ๋ฅผ ์ ์ ํ๋ ํ๋ก์ธ์ค๋ ์๊ฐ์ด ์ค๋ ๊ฑธ๋ฆฌ๊ณ ์ด๋ ค์ธ ์ ์์ผ๋ฉฐ ๋ช ๊ฐ์ ๋๋ ๋ช ๋
์ฉ ๊ฑธ๋ฆฌ๋ ๊ฒฝ์ฐ๋ ์์ผ๋ฏ๋ก, ์ฆ์ ๋ฐ์ดํฐ๋ฅผ ์์งํ ์ ์์ต๋๋ค. ๋ฐ์ดํฐ ๋ ์ดํฌ๋ฅผ ํ์ฉํ๋ฉด ์ฆ์ ๋ฐ์ดํฐ๋ฅผ ์์งํ์ฌ ํฅํ ํด๋น ๋ฐ์ดํฐ๋ฅผ ์ด๋์ ์ฌ์ฉํ ์ง ํ์
ํ ์ ์์ต๋๋ค.
๋ฐ์ดํฐ ๊ณ๋ณด(๋ฐ์ดํฐ ๋ฆฌ๋์ง)
๋ฐ์ดํฐ์ ํ๋ฆ์ ์๊ฐํํด ๊ณ๋ณด๋ก ๊ตฌํํ๊ณ ๊ด๋ฆฌ
์ฐธ๊ณ
https://www.redhat.com/ko/topics/data-storage/what-is-a-data-lake