'에이전틱 AI' 생태계 선점 나선다…연내 안전 가이드라인 마련

(서울=연합인포맥스) 윤영숙 기자 = 정부가 스스로 계획을 세우고 외부 시스템과 연계해 업무를 수행하는 '에이전틱 인공지능(AI)' 생태계 선점을 위한 국가 전략을 본격적으로 추진한다.

과학기술정보통신부는 23일 열린 제11회 과학기술관계장관회의에서 관계부처 합동으로 마련한 '에이전틱 AI 이니셔티브'를 발표했다.

정부는 에이전틱 AI가 산업의 수익 구조와 서비스 방식을 바꾸고 개인의 생산성을 높이는 핵심 기술로 부상했다고 진단했다. 기존 AI 경쟁이 모델 성능을 중심으로 진행됐다면 앞으로는 데이터와 업무 시스템, 도구를 얼마나 효율적으로 연결해 실제 행동으로 옮기는지가 경쟁력을 좌우할 것이라는 판단이다.

이번 이니셔티브는 ▲ 에이전틱 AI 안전·신뢰 선도 ▲개방형 에이전틱 AI 실행 기반 조성 ▲수요 중심의 도입 촉진 등 3대 전략으로 구성됐다.

정부는 우선 권한 오남용과 민감 정보 유출, 목표 이탈 등 에이전틱 AI 특유의 위험에 대응하기 위해 연내 '에이전틱 AI 안전·신뢰 가이드라인'을 마련한다. 성능과 안전성을 평가할 데이터셋과 벤치마크를 구축하고 AI 에이전트의 신원 확인과 행위에 따른 책임 소재도 검토한다.

국내 실행 생태계 조성을 위해 생활 밀착형 AI 에이전트와 관련 도구의 개발을 지원하고, 신뢰할 수 있는 서비스를 거래·유통하는 민간 마켓플레이스도 육성한다. AI 모델과 추론, 에이전트, 외부 도구를 통합 관리하는 'AI 운영체제(OS)' 핵심 기술과 토큰 효율화 기술도 개발한다.

정부는 '모두의 AI 프로젝트'를 통해 국민이 범용 챗봇과 특화 AI 에이전트를 활용하도록 하고, 주요 산업별로 파운데이션 모델 기업과 인프라 기업, 서비스 개발사, 수요 기업이 참여하는 대형 플래그십 사업도 추진할 예정이다.

규제로 실증이 어려운 에이전트 서비스에는 정보통신기술(ICT) 규제샌드박스를 적용하고 기업에는 도입 진단과 위험 관리, 운영 체계 수립을 위한 전문 컨설팅을 지원한다.

과기정통부는 지난 4월 출범한 280여개 기업 규모의 '에이전틱 AI 얼라이언스'를 중심으로 하반기 세부 정책을 구체화할 계획이다.

배경훈 부총리 겸 과기정통부 장관은 "에이전틱 AI는 일하는 방식과 경제·사회 전반을 바꾸는 새로운 전환점"이라며 "안전과 신뢰를 기반으로 국민과 기업이 새로운 가치를 창출할 수 있는 생태계를 조성하겠다"고 말했다.

ysyoon@yna.co.kr