미국 주요 주(州)의 법무장관들이 OpenAI, 구글, 메타 등 주요 인공지능(AI) 기업들을 대상으로 공식 경고 서한을 발송하며, 생성형 AI 서비스의 법적 책임 문제가 본격적으로 수면 위로 떠오르고 있다.

이번 서한에서 주 법무장관들은 AI 챗봇이 제공하는 정보가 허위 정보 생성, 소비자 오인, 개인정보 침해로 이어질 가능성이 있다며, 현행 소비자 보호법과 개인정보 관련 법률을 위반할 소지가 있는지를 지적했다. 특히 의료, 법률, 금융 등 고위험 영역에서의 AI 응답에 대해 명확한 책임 구조가 필요하다는 점을 강조했다.

문제의 핵심은 생성형 AI의 대표적 한계로 꼽히는 환각(hallucination) 현상이다. 법무장관들은 AI가 사실과 다른 정보를 생성하면서도 이를 명확히 구분하거나 책임 주체를 밝히지 않는 구조가, 소비자 피해로 직결될 수 있다고 우려했다.

서한에는 AI 기업들이 ▲응답 정확성 관리 체계 ▲위험 영역 사용 제한 ▲사용자 고지 의무 강화 ▲데이터 처리 및 학습 과정의 투명성 확보 방안을 마련해 제출할 것을 요구하는 내용이 포함됐다. 일부 주는 정해진 기한 내 개선 방안이 제출되지 않을 경우 법적 조치 가능성도 배제하지 않겠다는 입장을 밝혔다.

법률 전문가들은 이번 조치를 두고 “AI 기술 자체보다 AI 서비스 제공 방식이 규제 대상이 되고 있다”고 분석한다. 단순 기술 개발이 아닌, 서비스 운영과 책임 구조가 법적 판단의 중심으로 이동하고 있다는 의미다.

이번 경고는 향후 미국 내 AI 규제 논의에서 주(州) 정부의 역할이 더욱 확대될 가능성을 보여주는 사례로 평가된다.