"데이터 열지 않고도 오류 찾아낸다"…프라이버시 시대 AI의 '족집게' 검수법
의료·금융 등 다양한 분야에서 신뢰 가능한 AI 만드는 데 보탬 될 것

포스텍 연구팀이 원본 데이터를 확인하지 않고도 오류가 있는 데이터를 찾아 AI 성능을 높일 수 있는 기술을 개발했다.

 

 

포스텍은 인공지능대학원·전자전기공학과 김광인 교수 연구팀이 원본 데이터를 열어보지 않고도 문제 있는 데이터를 집어내 적은 비용으로 AI(인공지능) 성능을 끌어올리는 기술을 개발했다고 6일 밝혔다.

 

이번 연구는 인공지능 분야 국제학회 중 하나인 'AAAI 2026'에 메인 테크니컬 트랙 논문으로 게재됐다.

 

AI를 잘 학습시키려면 데이터마다 '라벨'이 필요하다. 라벨이 잘못 붙으면 AI는 엉뚱한 규칙을 배워 성능이 떨어진다.

 

그러나 수많은 라벨을 사람이 일일이 확인하기엔 시간과 비용이 많이 들어가기 때문에 고쳤을 때 효과가 클 데이터만 골라 재검수하는 '능동 오류 정정' 기술이 주목받고 있다.

 

문제는 데이터를 한곳에 모을 수 없는 환경이다. 병원이나 기업, 개인 기기는 개인정보 때문에 데이터를 밖으로 내보내지 못한 채 각자 가진 상태로 AI 학습에 참여한다.

 

이때 중앙 서버로 가는 것은 원본이 아니라 학습 결과 요약본뿐이다. 서버가 원본도 정답표도 볼 수 없으니 어느 곳에 잘못된 데이터가 숨어 있는지 짚어내기가 어렵다.

 

연구팀은 데이터를 직접 보는 대신, 이 요약본 속 '가중치 기울기'라는 신호에 주목했다. 이 기울기는 각 데이터가 AI를 어느 방향으로 바꾸려 하는지 보여주는 지문 같은 정보로 서버는 이것만 비교해도 원본 없이 학습 패턴을 읽어낼 수 있다.

 

연구팀은 여기에 '가우시안 프로세스'라는 통계 기법을 적용한 '가우시안 프로세스 능동 오류 정정(GPAEC) 알고리즘'을 설계했다.

 

원리는 이렇다. 다른 데이터들과 견주어 봤을 때 유독 동떨어진 곳을 '수상한 데이터'로 지목하는 것이다. 실제로 이 '튀는 정도'와 라벨 오류 확률의 상관관계는 0.86으로 잘 들어맞았다.

 

또한, 'GPAEC 알고리즘'은 비슷한 오류끼리 겹쳐 뽑지 않도록 서로 다른 유형을 고르게 선택하고 각 기관이 보고한 성적이 실제 기울기와 어긋나면 믿기 어려운 보고로 판단해 걸러낸다.

 

그 결과 논문에 제시된 36개 조건 중 34개에서 가장 높은 평균 정확도를 기록했고 첫 검수 단계에서 제대로 짚어낸 비율이 88.9%로 무작위 선택(78.6%)이나 성적만 본 방식(42.2%)을 크게 앞섰다.

 

이 기술의 가치는 '데이터를 보지 않고 문제를 찾는다'라는 데 있다. 병원들이 환자 정보를 공유하지 않고도 함께 진단 AI를 키우거나 개인 정보 유출 없이 스마트폰으로 AI를 학습시키는 사례가 늘수록 이 기술의 활용 가치는 더욱 커질 전망이다.

 

김광인 교수는 "개인정보 보호가 더욱 중요해지는 의료·금융 등 여러 분야에서 신뢰 가능한 AI를 만드는 데 보탬이 될 것"이라고 말했다.

 

KPI뉴스 / 장영태 기자 3678jyt@kpinews.kr

 

[ⓒ KPI뉴스. 무단전재-재배포 금지]