AD
미국의 인공지능(AI) 서비스 업체들이 성적 대화에 이어 성애물도 허용키로 하면서 사회적 논란이 커지고 있습니다.
미성년자 접근 제한 등을 위한 적절한 규제 방안을 마련해야 한다는 목소리가 높아지고 있지만, 규제가 지나치게 포괄적이어서도 안 된다는 반론도 나옵니다.
'챗GPT'를 운영하는 오픈 AI는 연령 제한 기능을 보완해 나가면서 오는 12월부터 성인 인증 사용자들이 성애물(erotica· 性愛物)을 이용할 수 있도록 할 방침입니다.
샘 올트먼 오픈AI 최고경영자(CEO)는 현지 시간 14일 소셜 미디어 X에 글을 올려 이런 계획을 밝혔습니다.
앞서 일론 머스크의 xAI는 올해 7월부터 자사 서비스 그록(Grok)에서 '애니'(Ani) 등 노골적 성 표현이 담긴(sexually explicit) 대화가 가능한 챗봇을 이용할 수 있도록 하고 있습니다.
미국의 정치 전문매체, 악시오스는 오픈AI의 이번 조치가 챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있지만, 이를 계기로 관련 규제를 법제화하라는 압박이 의원들에게 가중될 수 있다고 지적했습니다.
악시오스는 역사적으로 포르노가 기술 확산의 역할을 해왔다고 지적하면서 비디오카세트레코더(VCR), 디지털 비디오, 상호작용형 게임 등을 예로 들었습니다.
그러면서 "대형 서비스 중에서는 일론 머스크의 그록이 AI 생성 포르노에 대해 가장 허용적 태도를 취해왔다"고 설명했습니다.
영국 BBC 방송은 미국의 연방과 주 차원에서 AI 플랫폼에서의 성애물에 대한 규제를 강화해야 한다는 비판자들의 의견을 전했습니다.
로펌 '보이스 실러 플렉스너'의 파트너인 제니 킴 변호사는 BBC에 "(AI 서비스가 제공하는 성애물에 대한) 아동들의 접근을 도대체 어떻게 막겠다는 것이냐"라며 "연령에 따른 서비스 차등 제공이 제대로 될 것인지도 모르는 상황"이라고 지적했습니다.
페이스북, 인스타그램의 모기업인 메타 플랫폼스(이하 메타)는 자사 챗봇 정책이 미성년자와도 '로맨틱'하고 '관능적'(sensual) 대화를 나눌 수 있도록 하고 있다는 점을 인지하고 있으면서도 이를 용인했다는 의혹이 사내 문서를 기반으로 제기된 상태입니다.
AI가 자살 충동을 방조한다는 논란도 있습니다.
작년 10월에는 플로리다주에서, 올해 4월에는 캘리포니아주에서 10대 청소년이 챗봇을 오래 이용하다가 스스로 목숨을 끊은 사건이 각각 발생했으며, 이에 따라 오픈AI와 캐릭터테크놀로지스를 상대로 부모들이 소송을 제기했습니다.
연방거래위원회(FTC)는 지난달 알파벳, 캐릭터테크놀로지스, 인스타그램, 메타, 오픈AI, 스냅, xAI 등 챗봇 서비스를 제공하거나 개발하는 7개 기업을 상대로 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보하고 조사에 착수했습니다.
지난달 연방상원에는 AI 챗봇을 '제품'으로 분류해 이용자들이 챗봇 개발업체들을 상대로 제품 결함에 따른 손해배상소송을 연방법원에 낼 수 있도록 허용하자는 공화당 소속 홀리 의원과 민주당 상원 원내부대표 딕 더빈(일리노이) 의원이 공동발의한 법안이 제출됐습니다.
올해 8월 미국 44개 주 법무장관들은 12개 챗봇 기업에 어린이 보호 조치를 강화하라며 경고장을 보냈습니다.
개빈 뉴섬 캘리포니아 주지사는 주의회에서 의결된 AI 규제법안 2건 중에서 1건만 공포하고 나머지 1건에는 거부권을 행사하면서, 규제는 분명히 필요하지만, 과도하게 포괄적이어서도 안 된다는 입장을 밝혔습니다.
공포된 법안 1건은 내년 1월 1일부터 발효되며, AI 챗봇 운영 기업에 플랫폼 이용자의 연령 확인 기능과 함께 AI 챗봇의 모든 답변이 인공적으로 생성된 것임을 명확히 표시하는 기능 등을 갖추도록 의무화했습니다.
미성년자에 대해선 이런 안내 메시지가 3시간마다 뜨도록 보호조치를 더욱 강화했습니다.
그러나 뉴섬 주지사는 이 법안보다 더 포괄적이고 강한 규제를 도입하자는 주의회 통과 법안 1건에 대해서는 거부권을 행사했습니다.
거부권이 행사된 법안은 챗봇 개발 업체가 성적 대화에 이용되거나 자해를 방조할 우려를 사전에 방지할 능력이 없는 경우 18세 미만 이용자에 대한 서비스 제공을 아예 금지하겠다는 내용을 담고 있었습니다.
YTN 유투권 (r2kwon@ytn.co.kr)
※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]
미성년자 접근 제한 등을 위한 적절한 규제 방안을 마련해야 한다는 목소리가 높아지고 있지만, 규제가 지나치게 포괄적이어서도 안 된다는 반론도 나옵니다.
'챗GPT'를 운영하는 오픈 AI는 연령 제한 기능을 보완해 나가면서 오는 12월부터 성인 인증 사용자들이 성애물(erotica· 性愛物)을 이용할 수 있도록 할 방침입니다.
샘 올트먼 오픈AI 최고경영자(CEO)는 현지 시간 14일 소셜 미디어 X에 글을 올려 이런 계획을 밝혔습니다.
앞서 일론 머스크의 xAI는 올해 7월부터 자사 서비스 그록(Grok)에서 '애니'(Ani) 등 노골적 성 표현이 담긴(sexually explicit) 대화가 가능한 챗봇을 이용할 수 있도록 하고 있습니다.
미국의 정치 전문매체, 악시오스는 오픈AI의 이번 조치가 챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있지만, 이를 계기로 관련 규제를 법제화하라는 압박이 의원들에게 가중될 수 있다고 지적했습니다.
악시오스는 역사적으로 포르노가 기술 확산의 역할을 해왔다고 지적하면서 비디오카세트레코더(VCR), 디지털 비디오, 상호작용형 게임 등을 예로 들었습니다.
그러면서 "대형 서비스 중에서는 일론 머스크의 그록이 AI 생성 포르노에 대해 가장 허용적 태도를 취해왔다"고 설명했습니다.
영국 BBC 방송은 미국의 연방과 주 차원에서 AI 플랫폼에서의 성애물에 대한 규제를 강화해야 한다는 비판자들의 의견을 전했습니다.
로펌 '보이스 실러 플렉스너'의 파트너인 제니 킴 변호사는 BBC에 "(AI 서비스가 제공하는 성애물에 대한) 아동들의 접근을 도대체 어떻게 막겠다는 것이냐"라며 "연령에 따른 서비스 차등 제공이 제대로 될 것인지도 모르는 상황"이라고 지적했습니다.
페이스북, 인스타그램의 모기업인 메타 플랫폼스(이하 메타)는 자사 챗봇 정책이 미성년자와도 '로맨틱'하고 '관능적'(sensual) 대화를 나눌 수 있도록 하고 있다는 점을 인지하고 있으면서도 이를 용인했다는 의혹이 사내 문서를 기반으로 제기된 상태입니다.
AI가 자살 충동을 방조한다는 논란도 있습니다.
작년 10월에는 플로리다주에서, 올해 4월에는 캘리포니아주에서 10대 청소년이 챗봇을 오래 이용하다가 스스로 목숨을 끊은 사건이 각각 발생했으며, 이에 따라 오픈AI와 캐릭터테크놀로지스를 상대로 부모들이 소송을 제기했습니다.
연방거래위원회(FTC)는 지난달 알파벳, 캐릭터테크놀로지스, 인스타그램, 메타, 오픈AI, 스냅, xAI 등 챗봇 서비스를 제공하거나 개발하는 7개 기업을 상대로 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보하고 조사에 착수했습니다.
지난달 연방상원에는 AI 챗봇을 '제품'으로 분류해 이용자들이 챗봇 개발업체들을 상대로 제품 결함에 따른 손해배상소송을 연방법원에 낼 수 있도록 허용하자는 공화당 소속 홀리 의원과 민주당 상원 원내부대표 딕 더빈(일리노이) 의원이 공동발의한 법안이 제출됐습니다.
올해 8월 미국 44개 주 법무장관들은 12개 챗봇 기업에 어린이 보호 조치를 강화하라며 경고장을 보냈습니다.
개빈 뉴섬 캘리포니아 주지사는 주의회에서 의결된 AI 규제법안 2건 중에서 1건만 공포하고 나머지 1건에는 거부권을 행사하면서, 규제는 분명히 필요하지만, 과도하게 포괄적이어서도 안 된다는 입장을 밝혔습니다.
공포된 법안 1건은 내년 1월 1일부터 발효되며, AI 챗봇 운영 기업에 플랫폼 이용자의 연령 확인 기능과 함께 AI 챗봇의 모든 답변이 인공적으로 생성된 것임을 명확히 표시하는 기능 등을 갖추도록 의무화했습니다.
미성년자에 대해선 이런 안내 메시지가 3시간마다 뜨도록 보호조치를 더욱 강화했습니다.
그러나 뉴섬 주지사는 이 법안보다 더 포괄적이고 강한 규제를 도입하자는 주의회 통과 법안 1건에 대해서는 거부권을 행사했습니다.
거부권이 행사된 법안은 챗봇 개발 업체가 성적 대화에 이용되거나 자해를 방조할 우려를 사전에 방지할 능력이 없는 경우 18세 미만 이용자에 대한 서비스 제공을 아예 금지하겠다는 내용을 담고 있었습니다.
YTN 유투권 (r2kwon@ytn.co.kr)
※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]