상반기 최대 개인정보보호&정보보안 컨퍼런스 G-PRIVACY 2024가 3월 12일 1,400여 명의 공공, 금융, 기업 정보보호 책임자 및 실무자가 참석한 가운데 더케이호텔서울 가야금홀에서 성황리 개최됐다.

이날 파수 최필준 팀장은 “AI시대의 통합 개인정보보호 전략”을 주제로 세션 강연을 진행했다. 주요 강연내용은 다음과 같다.

AI 시대에 데이터의 가치는 더욱 중요해지고 있다. AI 서비스의 품질을 결정하는 요소 중 하나가 학습 데이터의 사이즈이기 때문이다. 학습 데이터는 크게 정형데이터와 비정형데이터로 나뉘게 되는데, 비정형 데이터는 문서, 텍스트, 이미지, 영상, 음성 등 정형화되지 않은 데이터를 말한다. 시장분석 전문기관인 IDC 조사에 따르면, 비정형데이터는 정형데이터에 비해 10배 이상 많이 보관 및 사용되고 있고, 앞으로도 기하 급수적 증가를 보일 것이라고 전망했다.

AI 서비스는 다양한 정형데이터 뿐만 아니라 비정형 데이터를 학습한 결과로 우리에게 많은 편의 기능을 제공하지만, 개인정보 유출 등 보안의 문제점 또한 내포하고 있다. 이러한 보안의 문제점으로 인해 국내외 많은 기관들은 AI 서비스로 인한 정보유출 방지를 위해 AI 서비스를 중지하거나, 축소하고 있다. 하지만 우리 생활과 AI 서비스는 밀접한 관련이 있고, 거스를 수 없는 큰 물결과 같은 것이므로 서비스 중지가 답은 아니며, 업무 효율성과 보안성을 동시에 고려하는 방향으로 나아가야 한다. 가령 비정형데이터를 AI에게 학습시키거나, Chat GPT와 같은 생성형 AI 서비스를 이용할 때 개인정보 유출을 최소화하는 등 체계적 정보보안 전략이 필요하다.

첫번째, 비정형 형태로 존재하는 개인정보가 외부에 공개 및 유통되는 되는 상황을 사전에 통제해야 한다. 가장 많이 알려진 방법이 정규표현식 기반으로 검출하고 외부 인터페이스를 차단하는 방법이다. 하지만, 정규표현식은 정해진 패턴만 검출하는 단점이 있어 정규표현식을 통해 걸러지지 않은 개인정보(사람이름, 상호명, 주소, 몸무게, 키 등)는 유출될 수 있는 위험이 존재한다. 이러한 문제의 해결을 위해 딥러닝 기술 등을 적용한 자연어 처리 언어 모델을 통해 사전에 정의되지 않은 패턴의 개인정보 검출하고, 마스킹해야 한다.

두번째, 최근 많은 사람이 이용하고 있는 생성형 AI서비스를 통해 유출되는 개인정보, 기밀정보 등 중요정보의 유출 통제 수단이 필요하다. 생성형 AI서비스에 무심코 입력되는 개인정보는 해당 AI 서비스 개발사의 DB 등에 보관되어 학습용도로 활용될 것이며, 관리 소홀 등의 문제로 인해 해킹공격의 타겟이 될 위험이 있다. 생성형 AI 서비스의 보호 조치를 위해 접근제어, 입력값 검증, 사후관리 등을 진행해야 한다. 관리자는 인증된 사용자가 안전한 생성형 AI서비스에 접근하는 기술적 보호조치를 취해야 한다. 또한 허가한 생성형 AI서비스라 하더라도, 개인정보 입력은 차단하고, 생성형 AI 서비스 사용 기록을 실시간으로 모니터링 하는 등 보호조치를 강화해야 한다.

인공지능 시대를 맞이하여 파수는 AI 서비스를 안전하게 활용하기 위해 다양한 보안 솔루션을 시장에 선보이고 있다. 자체 딥러닝 기술력을 활용하여 기존의 개인정보 검출의 문제점 해결에 앞장서고 있으며, 생성형 AI 이용중 발생하는 보안사고 사례를 분석하여 개인정보 및 소스코드, 영업기밀 등의 유출 사고를 사전에 방지할 수 있는 보안대책 마련에 앞장서고 있다.

보다 상세한 내용은 아래 강연영상을 참고하면 되고 파수 강연자료는 데일리시큐 자료실에서 다운로드 가능하다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★