오픈AI의 챗봇, 챗GPT
비밀번호 유출됐다는 주장 제기
오픈AI측 입장은?
미국 IT 매체 아스 테크니카(Ars Technica)는 최근 오픈AI의 인공지능(AI) 챗봇인 챗GPT가 사용자의 로그인 정보와 개인 정보를 유출했다는 주장이 제기됐다고 보도했다.
정보 유출 피해를 입었다고 주장하는 제보자가 제출한 스크린샷에는 약국 처방약 포털의 직원이 사용하는 지원 시스템에 연결된 제보자 이름과 비밀번호가 포함돼 있었다.
이 외에도 앱의 이름과 문제가 발생한 스토어 번호 등이 포함돼 있는 것이 나타났다.
또 아직 출판되지 않은 연구 논문의 세부 내용 등 다른 무작위 대화도 유출됐다고 한다.
이에 대해 제보자는 “이건 정말 말도 안 되고 끔찍한 일”이라며 비난했다. 제보자는 “애초에 챗GPT의 시스템이 얼마나 엉망으로 만들어진 건가”라며 우려를 제기했다.
AI 연구원 게리 마커스는 “챗GPT는 안전하지 않다”고 주장한다.
그는 “챗봇에 무언가를 입력하면 (달리 보장하지 않는 한) 챗봇 회사가 해당 데이터를 학습할 수 있으며 해당 데이터가 다른 사용자에게 유출될 수 있다고 가정하는 것이 가장 안전할 것입니다”라고 말했다
이어 같은 회사가 해당 데이터를 추가로 판매하거나 해당 데이터를 사용해 사용자에게 광고를 타겟팅할 수 있다고 덧붙였다.
오픈AI의 개인 정보 보호 정책에는 타겟 광고에 대한 언급이 포함되어 있지 않지만 회사가 공급업체 및 서비스 제공업체와 개인 데이터를 공유할 수 있다고 명시되어 있다.
이 정책에는 회사가 제3자와 공유할 수 있는 개인 정보를 식별 해제하고 집계할 수 있다고 적혀 있다.
해당 논란과 관련해 오픈AI 담당자는 이번 사건에 대해 아직 조사하고 있다고 밝혔다.
그리고 “우리는 AI가 개인이 아닌 세상에 대해 배우기를 원하다”라며 “우리는 개인 정보나 민감한 정보에 대한 요청을 거부하는 챗GPT와 같은 시스템 교육에서 개인 데이터를 줄이기 위해 적극적으로 노력하고 있다”고 밝혔다.
댓글0