[시사금융용어] AI 킬스위치법
◆AI 킬스위치법(AI Kill Switch Act)은 인공지능(AI)이 인간의 통제를 벗어나 위험한 행동을 할 경우 작동을 제한하거나 중단할 수 있도록 하는 미국의 법안이다.
킬스위치는 위험 상황에서 기계나 시스템의 작동을 멈추는 비상정지 장치를 뜻한다. AI 개발자가 이러한 통제 수단을 갖추도록 의무화하고 정부에도 긴급 개입 권한을 부여하는 것이 법안의 핵심이다.
테드 류 민주당 하원의원과 너새니얼 모런 공화당 하원의원이 지난 7월 23일 공동 발의했다. 독립적으로 행동하는 AI 에이전트가 발전하면서 인간의 지시를 거부하거나 통제 장치를 무력화할 가능성에 대비하려는 취지다.
법안은 적용 대상 기업이 AI의 작동을 중단하거나 사용자 접근을 차단할 기술적 능력을 확보하도록 했다. 통제 상실 등 사고가 발생하면 국토안보부 장관이 관계 당국과 협의해 위험 수준에 맞는 조치를 명령할 수 있도록 하는 내용도 담았다.
업계에서도 AI에 대한 통제 장치가 필요하다는 목소리가 나온다.
브래드 스미스 마이크로소프트(MS) 사장도 이른바 '킬 스위치' 장치 도입을 촉구했다.
그는 최근 한 외신과의 인터뷰에서 AI가 통제를 벗어났을 때 작동을 멈추거나 속도를 늦출 수 있는 수단을 기업이 확보해야 한다고 강조했다.
그는 "도구이자 무기인 AI 규제를 오늘 당장 시작하자"고 말했다. 사고 보고와 피해자 통지 의무를 마련하고, 독립적인 기관을 통한 AI 안전성 평가도 도입해야 한다는 입장을 밝혔다.
AI의 자율성이 높아지는 만큼 기업의 자체 관리에만 맡기지 않고 외부 감독과 비상 대응 체계를 함께 갖춰야 한다는 취지다. (금융부 박경은 기자)
(서울=연합인포맥스)
박경은
gepark@yna.co.kr
