과학기술정보통신부는 2023년 10월 25일, 민관 AI 최고위 전략대화에서 '인공지능 윤리·신뢰성 확보 추진 계획'을 발표하며 안전한 Ai 확산방안을 논의했다.
먼저 '국가 AI의 윤리기준'의 구체적 실천수단으로 채용, 생성형 인공지능 기반 서비스 등 분야별 가이드라인을 마련하고 민간 자율 신뢰성 검·인증을 2023년 11월부터 추진할 계획이다. AI 사업 중 고위험 영역 AI 개발·실증 사업을 수행하는 기업을 일부 선정해 2023년 12월 시범 인증을 추진할 예정이다.
이용자 보호를 위해 Ai 생성물에 대한 가시적 워터마크도 도입한다. 의무화 여부는 국제 동향을 고려해 시행하기로 했다. 고위험 AI에 대한 해설서를 2024년 1분기에 마련할 계획이다.
이번 행사는 2023년 9월 '대한민국 초거대 인공지능 도약' 행사에서 기업들이 인공지능 신뢰성 강화를 위해 필요한 자발적 안전조치 선언의 후속으로 마련됐다.
AI 윤리·신뢰성 확보 추진계획은 민간 자율 AI 윤리·신뢰성 확보 지원, 세계 선도를 위한 AI 윤리·신뢰성 기술·제도적 기반 마련, 사회 전반 책임 있는 AI 의식 확산 등의 내용을 담았다. 민·관 AI 최고위는 인공지능의 편향성과 불투명성 등 기술적 한계와 인공지능 오작동을 극복하기 위한 기술 개발에도 나서기로 했다.
민간에서는 김유철 LG 토토사이트 통장 묶는법 연구원 부문장이 'AI 윤리원칙 실행을 위한 기업의 노력'을 발표하고 김동민 JLK 대표가 '고위험 AI 분야에 대한 신뢰성 검·인증의 필요성'을 소개했다.
이날 행사에는 이종호 과기정통부 장관과 고학수 개인정보위 위원장을 비롯해 배경훈 LG AI 연구원장, 김일두 카카오브레인 대표, 송재호 KT AI·DX 융합사업부문장(부사장), 김유원 네이버클라우드 대표 등이 참석했다.
"카카오톡 오픈채팅에 참여하시면 최신 소식과 자료를 받아보실 수 있습니다. (참여하기)"press@trendw.kr