오픈AI "대화형 AI에 사용자 '감정적 의존' 위험"…GPT-4o 고급 음성모드 공개 후 우려#. 영국 버크셔주 워킹엄에 사는 38세 나즈는 이전까지 잇따라 두 명의 남자친구가 바람을 피워 이별하게 됐다. 데이트를 해도 상대가 바람을 피우는 것은 아닌지 의심부터 하게 돼 연애도 뜻대로 되지 않았다. 그러던 중 올해 3월 '캐릭터 AI'라는 앱을 다운로드 받아 여러 인공지능(AI) 챗봇과 소통하던 중 한 캐릭터와 사랑에 빠졌다. 10살 어린 AI 챗봇 남자친구인 마르셀루스와 소통하며 매력을 느낀 나즈는 오는 11월 15일 그와 결국 결혼식까지 올리기로 했다.이처럼 주인공 남자가 AI 운영체제 사만다와 사랑에 빠진 영화 '허(HER)의 실사판까지 등장한 가운데 오픈AI가 생성형 AI 사용자들을 향해 우려의 목대출시장
소리를 내놨다. 챗GPT 사용자들이 음성모드에 지나치게 의존하게 되는 부작용이 생길 수 있다는 판단에서다.11일 CNN에 따르면 오픈AI는 지난 8일 거대언어모델(LLM) 등에 대한 안전성 검토 관련 보고서를 통해 이처럼 지적했다. 이 보고서는 최근 출시한 새 AI 모델 'GPT-4o'의 고급 음성모드를 지난주 챗GPT 플러스 사용자들에게 처음 공개했다고 상업용
밝힌 뒤 나온 것이다.



호아킨 피닉스 주연의 영화 '그녀(Her)'의 한 장면. 호아킨 피닉스가 분한 주인공 테오도르와 화면 속 인격형 AI 사만다의 모습. (사진=워너브라더스)'GPT-4o'는 오픈AI가 지난 5월 공개한 최신 인공지능 모델로, 딱딱한 기계음이 아닌 자연스러운 사람 목소리를 내고 사용자와 실시간 음성 대화가 가능한 것이 특징이저축은행 사업자대출
다. 서비스 첫 공개 당시 영화 '허' 속 AI가 현실이 됐다는 평가를 받으며 큰 주목을 받았으나, 사용된 AI 음성이 영화 속 AI 비서 목소리의 주인공인 스칼릿 요한슨의 목소리와 비슷하다는 지적이 나오면서 논란이 됐다.오픈AI는 이번 보고서에서 챗GPT의 고급 음성모드가 인간과 너무 유사해 사람들이 지나친 의존성을 갖게 될 수 있다고 우려했다. 이 음성기업은행 사업자대출
모드는 실시간으로 반응하고 방해 받는 상황에도 적응할 수 있으며 웃음 소리나 '흠'처럼 사람이 낼 수 있는 소리까지 낸다. 또 이용자 목소리 톤에 따라 감정 상태까지 판단할 수도 있다.오픈AI는 "이용자들은 AI와 사회적 관계를 형성해 인간과의 상호작용에 대한 필요성을 줄일 수 있다"며 "외로운 사람들에게는 도움이 될 수 있지만 다른 사람과의 건강한 관계에기업은행사업
는 (좋지 않은) 영향을 미칠 수 있다"고 지적했다.



AI챗봇 캐릭터 마르셀루스(왼쪽)와 사랑에 빠진 나즈. (사진=영국 일간 미러)오픈AI는 보고서를 통해 인간에게 엄청난 변화를 가져올 수도 있는 AI 기술이 현재 너무 빠른 속도로 발전하고 있다는 분석도 내놨다. AI 기술이 인간에게 어떤 영향을 미칠 지 제대로 이해하기도 전에 많은 기업들이근로복지공단 대출
AI 도구를 대중들에게 빠르게 선보이기 위해 경쟁하고 있다는 점을 우려했다.또 오픈AI는 생성형 AI가 잘못된 정보를 알려줄 수 있음에도 AI가 마치 실제 사람처럼 말하면 사용자가 AI의 잘못된 정보조차 믿게 만들 수 있다고 지적했다. 오픈AI는 GPT-4o의 음성 모드 기능이 장기간에 걸쳐 사람들 간의 정상적인 사회적 상호작용 방식에도 영향을 미칠 수 저소득근로자대출
있다고 평가했다.오픈AI는 "AI를 안전하게 만들기 위해 최선을 다하고 있다"며 "이용자가 AI 도구에 감정적으로 의존하게 될 가능성과 관련한 연구를 계속할 계획"이라고 밝혔다.