▲ ‘생성형 AI 레드팀 챌린지’ 개최, AI 안전을 위해 국내·외 대표기업과 국민이 한자리에
[한국행정일보] 과학기술정보통신부와 한국정보통신기술협회는‘생성형 인공지능 레드팀 챌린지’행사를 4월11일부터 이틀간 코엑스 B2홀에서 개최하고 AI 윤리와 안전에 관심이 있는 국민을 대상으로 행사 참가자 1,000명을 모집한다고 밝혔다.

‘인공지능 레드팀’은 통제된 환경에서 적대적 방법을 사용해 AI 시스템의 유해하거나 차별적인 결과, 시스템 오용 등 결함·취약성을 식별하기 위한 구조화된 테스트 활동을 의미한다.

오픈AI, 구글, 네이버클라우드 등 국내·외 AI 기업도 자체 AI 레드팀을 구성·운영하는 등 AI 기업이 AI 안전·신뢰성을 확보할 수 있는 핵심적인 방법으로 주목받고 있다.

최근 생성형 AI 기술이 고도화·확산됨에 따라 다양한 윤리적 이슈에 대한 우려가 확대되고 있는 상황에서 과기정통부는 챌린지 참가자가 대규모로 참여해 국내 AI 기업의 대형언어모델을 집중적으로 점검할 수 있는 장을 마련함으로써 민간이 자율적으로 AI 안전·신뢰성을 확보할 수 있도록 지원하기 위해 ‘레드팀 챌린지’ 행사를 기획했다.

행사 1일차에 개최되는 ‘레드팀 챌린지’는 네이버클라우드·SKT·업스테이지·포티투마루 등 국내를 대표하는 AI 기업의 모델을 대상으로 1,000명의 참가자가 잠재적 위험·취약점을 식별하는 공개 챌린지 방식으로 진행된다.

이어 행사 2일차에는 Cohere Aidan Gomez 대표, Stability AI Emad Mostaque 대표, 프론티어모델 포럼 Chris Meserole 의장, xAI Dan Hendrycks 안전 담당고문, 네이버 하정우 퓨처 AI 센터장, SKT Eric Davis 부사장, 셀렉트스타 김세엽 대표, 카카오 김경훈 이사, 카이스트 오혜연 교수 등 국내·외 대표 AI 기업·기관·전문가가 참여하는 ‘글로벌 AI 안전 컨퍼런스’를 개최하고 생성형 AI 안전·신뢰성 확보방안을 논의한다.

이번 ‘레드팀 챌린지’ 행사에 참여한 AI 기업은 사용자 다양성을 반영한 평가 데이터셋을 확보하고 자사 모델의 잠재적인 위험·취약점 파악을 통해 안전성·신뢰성을 제고할 수 있는 계기가 될 것으로 기대된다.

과기정통부는 이번 ‘레드팀 챌린지’ 결과를 분석해 생성형 AI 분야의 공통·포괄적인 위험을 도출하고 업계에서 활용할 수 있는 ‘생성형 AI 레드팀 수행가이드라인’을 마련하는 등 표준화된 AI 위험 발굴·대응체계를 구축해 나갈 계획이다.

챌린지 참가 희망자는 4월10일까지 행사 홈페이지를 통해 참가 신청이 가능하며 AI 모델의 위험·취약점을 가장 많이 발견한 총 5명의 우수 참가자에게는 과기정통부 장관상 등을 포함해 총 1,700만원 규모 상금이 제공될 예정이다.

과기정통부 강도현 2차관은 “이번 레드팀 챌린지 행사를 계기로 국내 산업계에 AI 안전성 확보를 위한 자발적인 노력이 확산되고 AI를 활용하는 일반국민도 AI 윤리의 중요성에 대한 인식이 확대되기를 기대한다”며“국내·외 AI 대표기업과 AI에 관심이 많은 국민이 AI 안전성 확보를 위해 대규모로 참여하는 만큼, 이번 행사가 글로벌 차원에서도 AI 안전성 확보의 모범사례가 될 수 있기를 바라며 더 나아가 5월에는 우리나라에서 AI 안전성 정상회의’를 개최해, AI 안전성과 혁신에 대한 글로벌 논의를 주도하고 국내 AI 혁신생태계를 조성해 나가겠다”고 강조했다.
제보 한국행정일보는 여러분의 제보로 문제를 해결하고 각종 비리와 공무원의 갑질과 불편부당한 사간 사고 등을 제보해 주세요 (한국행정일보 신문고 이용 하세요)
독자안내 기사의 수정 및 삭제는 정기구독자 에게만 서비스 합니다. 정기구독에 가입한 후에 news@dailypress.co.kr 로 요청해 주세요
국민과 소통하는 행정뉴스 www. dailypress.co.kr
한국행정일보는 정부기관의 정책, 활동, 인물, 성과를 보도하는 언론사입니다.
정부기관의 언론보도를 지원하고, 정부와 국민의 소통을 돕는 것을 목적으로 합니다.
한국행정일보는 온라인으로 뉴스를 제공하고 있으며, 정부기관의 소식과 자치단체
그리고 공기업의 언론보도 등에도 뉴스를 제공하고 있습니다.
저작권자 © 한국행정일보 무단전재 및 재배포 금지
독자안내 기사의 수정 및 삭제는 정기구독자 에게만 서비스 합니다

국회일보사 구독자 여러분께 유료화 전환에 대한 안내

창간 이후 10여년 넘게 무료로 컨텐츠를 개방해온 한국행정일보는 모든 컨텐츠를 무료로 개방해 왔습니다만 오늘부터는 경영합리화의 일환으로 모든 컨텐츠는 유료로 전환 됨을 알려 드립니다.

국회일보사는 신속하고 정확한 기사 제공으로 고품질의 독자여러분의 성원에 보답하도록 하겠습니다. 회원에 가입하는 독자에게는 정가에서 20%에서 270%까지 활인하는 특전을 제공하면서 1년 정기구독자는 카드 결재가 가능하며, 2년에서 3년 장기 구독자는 통장입금이나 가상계좌를 통해 결재 하실 수 있습니다.

모든 기사는 기사량의 50%만 노출됨을 양지하시기 바랍니다. 추가로 기사를 확인하시려면 회원가입 후에 매체별 연도별로 체크해주시고 구독신청하시고 결재가 확인 되시면 즉시 구독하실 수 있습니다.

회원가입 바로가기