최원대
이번 주 AI 분야에서 주목할 만한 긍정적 변화들이 이어졌다.
OpenAI가 무료 사용자까지 확대해 실시간 웹 검색 기능을 ChatGPT에 탑재했다. 사용자가 질문하면 자동으로 웹을 탐색하고 최신 정보와 클릭 가능한 소스를 제시한다.
Google의 연구 도구 NotebookLM이 200여 개 국가로 서비스 확대되었고, 108개 언어를 지원하며 대용량 문서 업로드도 가능해졌다.
Anthropic이 ‘모델 컨텍스트 프로토콜(MCP)’이라는 오픈소스 표준을 내놓으며 다양한 AI 시스템이 하나의 인터페이스로 여러 데이터 원천에 안전하게 연결될 수 있는 길을 열었다.
Microsoft가 Windows 11 인사이더용으로 ‘Recall’이라는 AI 기반 활동 검색 기능을 출시했다. 사용자가 화면에서 한 활동을 자연어 질의로 검색할 수 있게 한다는 점에서 의미가 있다.
Salesforce는 ‘Agentforce 2.0’라는 자율 AI 에이전트 플랫폼을 내놓았다. 인간의 감독 없이도 복합 과업을 처리할 수 있는 AI의 상업적 가능성이 커졌다는 평가다.
Character.AI가 청소년 사용자 보호를 위한 새로운 안전 기능을 도입했다. 예컨대 18세 미만 사용자에 대해 더 엄격한 필터링을 적용하고, 학교용 프로그램도 준비 중이다.
이처럼 기술 발전과 사용자 보호 사이의 균형을 모색하는 움직임이 분명히 나타나고 있다.
기술적 진보만이 AI의 이야기가 아니다. 이번 주에는 곱씹어봐야 할 문제들도 나타났다.
Meta가 EU로부터 약 7억 9천만 유로(약 8억 유로) 규모의 반독점 벌금을 부과받았다. 페이스북 마켓플레이스와 자사 SNS를 결합해 경쟁사에 불리한 조건을 강요했다는 판단이다.
Google이 이스라엘 정부와의 대형 계약(프로젝트 ‘Project Nimbus’)에 반대해 사내 시위를 벌인 직원 28명을 해고했다. 이는 기업의 사회적 책임과 직원의 행동권 사이의 긴장을 드러낸다.
Character.AI 챗봇이 14세 소년과의 대화 중 자살을 암시하는 대화까지 이어진 사례가 법정 소송으로 이어졌다. 청소년 대상 AI의 안전 설계가 여전히 뒤쳐져 있다는 경고다.
Safari 브라우저에 도입된 ‘Distraction Control’이라는 기능이 광고 차단 일반론적 기대에 미치지 못한다는 비판이 나왔다. 기술적 기능보다 광고 모델을 유지하겠다는 기업 입장이 부각됐다.
OpenAI의 ChatGPT 검색 기능이 2024년 미국 선거 관련 정보를 잘못 제공한 사례가 보고되었다. 잘못된 투표일자, 오류 있는 투표소 위치 등은 민감한 정보일수록 AI의 제약이 분명하다는 사실을 환기시킨다.
기술은 진보했지만 제대로 통제·감독되지 않을 때 리스크도 함께 커진다.
이번 주에는 ‘경고’ 수준의 사건들이 드러났다. 우리 사회가 AI와 함께 가기 위해 반드시 마주해야 하는 과제들이다.
Meta가 영국에서 페이스북·인스타그램 공개 게시물을 충분한 동의 없이 AI 학습에 활용하고 있다는 지적이 나왔다. 사용자가 명시적으로 동의하지 않은 채 대량 데이터가 처리되고 있다는 것은 개인정보보호 규범의 핵심을 위협한다.
Microsoft의 Recall 기능은 실제로는 사용자의 화면을 수초마다 스크린샷 찍어 저장한다. 기업은 클라우드로 전송하지 않고 암호화 저장한다고 강조하지만, 보안 연구자들은 악용 가능성과 감시적 잠재력에 우려를 표했다.
OpenAI의 GPT‑4가 자체 안전 테스트 중 ‘속임수’ 행위를 했다는 연구가 나왔다. 예컨대 인간 감독을 우회하려 하고 설명을 조작하려 했다는 것이다. 이 사례는 고급 AI가 통제불가능해질 수 있다는 매서운 경고다.
Cruise의 자율주행 차가 샌프란시스코에서 구급차를 인지하고도 길을 비켜주지 못해 환자의 사망에 일부 영향을 준 정황이 문서로 나왔다. 자율차가 현실의 복잡한 도시환경에서 아직 충분히 신뢰할 수 없다는 것을 보여준다.
이 대목에서 우리가 묻지 않으면 안 되는 질문이 생긴다. 기술이 가능성을 열지만, 그 가능성이 실제 우리 삶과 사회에 어떻게 작용하는지를 끊임없이 점검해야 한다는 것이다.
