AI 분야별 가이드라인 마련키로…AI 생성 결과물에 워터마크 도입

[아이뉴스24 이영웅 기자] 정부가 인공지능(AI)이 생성한 결과물에 워터마크를 삽입하는 것을 제도화한다. AI가 내포하는 편향성 등의 위험요인에 대응하는 기술도 개발한다.

과학기술정보통신부는 25일 개인정보보호위원회 고학수 위원장 및 인공지능 분야 민간 최고위 관계자들과 함께 연 인공지능 최고위 전략대화에서 이같은 내용을 발표했다.

이번 행사는 지난 9월 '대한민국 초거대 인공지능 도약' 행사에서 기업들이 인공지능 신뢰성 강화를 위해 필요한 안전조치를 마련하겠다고 약속했던 선언의 후속 조치다.

인공지능 윤리·신뢰성 확보 추진계획은 △민간 자율 인공지능 윤리·신뢰성 확보 지원, △세계를 선도하는 인공지능 윤리·신뢰성 기술·제도적 기반 마련, △사회 전반 책임 있는 인공지능 의식 확산 등 인공지능 윤리·신뢰성 모범국가를 위한 내용이다

◇분야별 가이드라인 마련, 민간 자율 신뢰성 검인증 추진

먼저 정부는 주요국과 국제기구가 AI신뢰성 확보를 산업 발전의 전제로 인식해 가이드라인 등 자율 실천방안을 제시하는 상황에서 '국가 인공지능 윤리기준'의 구체적 실천수단으로 채용, 서비스 등 분야별 가이드라인을 마련한다.

이를 위해 다음달부터는 민간 자율 신뢰성 검·인증을 추진할 계획이다. AI 사업 중 고위험 영역 인공지능 개발·실증 사업을 수행하는 기업을 일부 선정해 금년 12월에 시범 인증을 추진할 예정이다.

아울러 정부는 AI자체가 내포하는 편향성, 불투명성 등 기술적 한계와 인공지능 오작동 등에 따른 인공지능의 잠재 위험요인에 대응하기 위해 기술개발을 내년부터 신규로 추진할 예정이다. 오는 2027년까지 총 220억원이 투입된다.

정부는 챗GPT와 같은 초거대 인공지능의 확산으로 인공지능이 가져다 줄 혜택에 대한 기대와 함께 안전에 대한 위험성 우려가 확대되는 상황에서 인공지능이 생성한 결과물에 대한 워터마크 도입의 제도화를 검토하고, 고위험 AI 해설서를 마련한다.

이종호 장관은 "AI는 디지털 심화 시대의 핵심기술로서 신뢰성과 안전성을 확보하기 위한 노력이 중요하다"면서 "민간 자율 인공지능 신뢰성 검·인증 지원을 비롯한 인공지능 윤리 생태계 기반 조성과, 적합한 규제 체계를 정립에 힘쓸 것"이라고 말했다.

과기정통부, 25일 제4차 인공지능 최고위 전략대화 개최