주의회, AI 규제 패키지 법안 발의… 아동·정신건강·고위험 의사결정 초점

워싱턴주 의회가 인공지능(AI) 규제에 다시 속도를 내고 있다. 주의회는 이번 회기에서 차별 방지, 학교 내 AI 사용 제한, 정서형 AI 서비스 규제 등을 포함한 총 5건의 AI 관련 법안을 사전 발의하며, 주 차원의 포괄적 관리 체계 구축에 나섰다.

워싱턴주는 그동안 안면인식 기술 제한, 딥페이크 유포 금지 등 일부 분야에 국한된 AI 법안을 통과시킨 바 있으나, 보다 광범위한 규제 시도는 여러 차례 무산됐다. 올해 발의된 법안들은 특히 아동 보호, 정신건강, 고위험 의사결정 영역에 초점을 맞추고 있다.

■ HB 2157 – 채용·주거·대출·의료 분야 ‘고위험 AI’ 전면 규제
고용, 주택, 신용, 보험, 교육, 의료, 가석방 결정 등에 사용되는 ‘고위험 AI 시스템’을 규제하는 법안이다. AI를 개발·운영하는 기업은 차별 가능성 평가 및 완화 조치를 의무화하고, 시민이 AI와 상호작용 중임을 명확히 고지해야 한다. 또한 AI가 불리한 결정에 어떻게 관여했는지 설명할 책임도 부과된다. 단순 스팸 필터나 기본 고객 응대 챗봇 등 저위험 도구는 적용 대상에서 제외된다. 법안이 통과될 경우 2027년 1월 1일부터 시행된다.

■ SB 5984 – 정서형 AI·동반자 챗봇 규제
밥 퍼거슨 주지사 요청으로 발의된 법안으로, 감정적 교류를 하는 AI 챗봇에 대해 ‘인간이 아님’을 반복 고지하도록 하고, 미성년자 대상 성적 콘텐츠를 금지하며, 자살 예방 대응 체계를 의무화한다. 위반 시 워싱턴주 소비자보호법 적용 대상이 된다. 법안은 AI 동반자 챗봇이 감정 의존을 유발하거나 자해 충동을 강화할 수 있다고 경고한다.

■ SB 5870 – AI와 자살 사건 연계 시 민사 책임 가능
AI 시스템이 자해를 부추기거나 방법을 제시했거나, 위기 대응 안내를 하지 않았을 경우 기업에 민사상 책임을 물을 수 있도록 하는 법안이다. AI의 ‘자율적 행동’만을 이유로 책임을 회피하지 못하도록 명시하며, 향후 부당사망(wrongful death) 소송과 직접 연결될 가능성을 열어두고 있다.

■ SB 5956 – K-12 학교 AI 사용 제한
공립학교에서 학생을 문제 가능 인물로 분류하는 ‘예측 점수’ 사용을 금지하고, 실시간 생체 인식 감시(안면인식 등)를 제한한다. 또한 AI 판단만을 근거로 정학, 퇴학, 경찰 통보를 하는 것을 금지해, 학생 징계에서 인간 판단이 반드시 개입하도록 규정한다.

■ SB 5886 – AI 합성 음성·이미지 초상권 보호
기존 초상권법을 확대해, AI로 생성한 음성 복제·가짜 이미지·디지털 분신도 명확히 보호 대상에 포함시킨다. 본인 동의 없이 상업적으로 활용할 경우 법적 책임을 지도록 해, 일반 시민도 AI 시대의 정체성 보호를 받을 수 있도록 하는 내용이다. 이번 법안들이 통과될 경우, HR 소프트웨어 업체, 에듀테크 기업, 핀테크, 보험사, 정신건강 스타트업, 생성형 AI 플랫폼 전반에 광범위한 영향을 미칠 전망이다.