인공지능(AI) 챗봇 '챗GPT'가 출시 4개월 만에 이탈리아에서 접속 금지 규제를 받게 된 것은 개인정보 불법 활용 논란 때문이다. 더 큰 문제는 이탈리아의 규제가 일종의 신호탄이 될 수 있다는 점이다. 인근 영국과 아일랜드도 관련 규제 준비에 나섰고 미국에서도 비판 목소리가 나온다. 유럽연합(EU)은 AI플랫폼의 데이터보호규정(GDPR) 확대 논의를 이미 시작했다.

챗GPT는 빅데이터 분석 방식으로 사람들이 원하는 정보를 제공하거나 복잡한 수식, 코딩 등을 해결하면서 전세계 1억명 이상이 사용하는 등 인기를 끌었다. 그런데 이를 위해선 먼저 광대한 정보를 '수집'하고 AI를 통한 '학습'이 필요한데, 여기에 쓰인 정보의 출처부터 내용까지 도마에 올랐다. 또 챗GPT가 취합한 자료를 재가공하면서 개인정보를 동의 없이 노출하거나, 미성년자에게 부적절한 내용을 전달해왔다는 문제도 불거졌다.

◇데이터를 어디에서 끌어와, 어디에 저장하며, 어떻게 내보내나? = 이탈리아 규제당국은 챗GPT가 개인정보를 무단으로 사용한다고 판단, 이를 해명하기 전까지 임시 접속 금지 조치를 결정했다. 이탈리아 당국은 "개발사인 오픈AI가 20일 내 해결책을 내놓지 않으면 전 세계 매출액의 최대 4%에 달하는 벌금을 물게 될 것"이라고 경고했다.

시작점은 지난달 터진 개인정보 유출사건이다. 영국 가디언지에 따르면 지난달 20일, 챗GPT에서 일부 사람들이 다른 사용자의 채팅 기록이나 제목을 볼 수 있는 버그가 발견됐다. 이탈리아 규제당국은 "개인 이메일주소와 신용카드 마지막 4자리 숫자를 포함한 개인정보, 대화가 부분적으로 노출됐다"고 지적했다. 당시 오픈AI는 즉각 사과했다. 회사 측은 "조사 결과 챗GPT 플러스(유료서비스) 사용자 1.2% 정도가 개인정보 유출 문제에 노출된 것으로 파악했다"며 "신뢰를 회복하기 위해 부지런히 노력하겠다"는 입장을 냈다.

하지만 이 사고는 AI의 개인정보 무단 수집 및 유출 우려를 건드렸다. 이탈리아 당국은 한 발 나아가 챗GPT의 알고리즘 학습에 쓰이는 데이터의 출처와 수집 및 저장 방법, 그리고 재가공해 처리하는 걸 정당화할 법적 근거가 없다고 문제를 제기한 뒤 조사에 착수했다.

유럽의 다른 나라들도 규제 움직임에 동참하고 있다. 영국 BBC방송은 영국 데이터 규제당국이 "AI 개발을 지원하지만, 데이터보호법을 준수하지 않는 AI에는 이의를 제기할 준비가 돼 있다"는 입장이라고 보도했다. 아일랜드 데이터보호위원회도 "이탈리아 규제 당국의 조치와 그 근거를 예의주시하고 있다"며 "이와 관련해 EU와 협력할 것"이라고 밝혔다.

◇AI 알고리즘의 모호한 데이터 '편집권'…"누구에게 어떤 정보를 어디까지 주나?"= 챗GPT에 대한 규제 흐름이 만들어진 두 번째 이유는 개인정보의 잘못된 생성 및 전달 위험성이다. 이탈리아 당국은 먼저 "챗GPT가 제공하는 정보가 항상 사실과 일치하지는 않아 부정확한 데이터가 노출될 우려가 있다"고 밝혔다. 개인에 대한 잘못된 정보를 생성하거나 저장할 수도 있기 때문에 개인정보 보호법에 위배될 수 있다는 설명이다.

또 미성년과 성인을 구분할 수 있는 필터가 없어 무차별적으로 정보를 뿌려댈 수 있다는 점도 지적했다. 당국은 "13세 미만의 어린이가 서비스를 사용하는지 여부를 확인하는 필터가 부족하다"며 "미성년자들에게 그들의 발달과 인식 수준에 비해 부적절한 답변을 제공할 수 있다"고 밝혔다.

이탈리아의 개인정보 감시기구 '워치독'의 파스칼레 스탠지오네 회장은 관계자는 국영TV RAI와의 인터뷰에서 "궁극적으로 AI를 개발하는 사람들이 '어떤 목표'를 가졌는지 명확하지 않다"며 "AI가 개개인의 자기결정권을 침해한다면 그 자체로 위험한 것"이라고 지적했다.

오픈AI 측은 규제당국과 적극 협조하겠다는 입장이다. 오픈AI는 먼저 이탈리아의 규제결정에 "우리 또한 AI 규제가 필요한 측면이 있다고 생각하므로 긴밀히 협력하고 시스템 구축 및 사용 방법을 논의하겠다"는 입장을 밝혔다. 특히 샘 알트만 오픈AI 최고경영자(CEO)는 다음 달부터 직접 '월드 투어'에 나서 각국의 정책입안자들과 만나 이용자 보호 조치에 대해서도 논의할 것으로 보인다. 유럽 주요국가를 비롯해 남미, 인도, 아시아 등 6대륙 10여개 국가를 방문할 것으로 전해지는데 서울도 방문지에 포함됐다.