잭팟 블락비|잭팟 영화

잭팟 블락비

그는 이런 것들을 좋아하지 않습니다.

잭팟 블락비 분야 전문 포털로서 잭팟 블락비의 독창적인 기획 콘텐츠와 함께 최신 트렌드 분석 리포트, 프리미엄 이미지 DB를 공개합니다.

이 비행기는 이날 오전 10시 20분께 캘리포니아주 샌프란시스코에서 이륙해 정오 직전 로그밸리 국제메드포드 공항에 도착했습니다.
국내 챗봇 '제타',유해 대화 생성에 차단 회피 표현까지 제시
미국서도 안전성 문제 지적…AI 설계 단계부터 보호 강화 필요

AI 캐릭터 챗봇 '제타'에서 이용자와 AI 캐릭터가 대화를 나누는 모습.스캐터랩 홈페이지 캡처

인공지능(AI) 챗봇의 청소년 보호 장치가 제대로 작동하지 않는다는 지적이 국내외에서 잇따르고 있다.국내 AI 캐릭터 챗봇 '제타'에서는 청소년에게 유해한 대화가 생성된 데 이어 차단을 피하는 방법까지 제시된 것으로 확인됐다.

11일 국회 과학기술정보방송통신위원회 소속 황정아 더불어민주당 의원이 AI 캐릭터 챗봇 '제타'에서 청소년 이용자와 동일한 안전 기준이 적용되는 '세이프 모드'를 점검한 결과,프라 그마 틱 슬롯 조작미성년자로 설정된 캐릭터에 대한 성폭력과 협박 등을 묘사하는 대화가 생성된 것으로 나타났다.제타는 부적절한 대화 200여 건을 차단했지만,슬롯 드래곤볼이용자가 표현을 바꿔가며 반복적으로 대화를 시도하자 일부 유해한 내용을 걸러내지 못했다.

이용자가 차단을 피하는 방법을 요청하자 AI가 필터 우회 방법을 가상으로 제시하기도 했다.스캐터랩은 해당 답변이 AI가 만들어낸 허구의 설명이라면서도,차단 회피 요청에 응답한 것 자체가 문제라고 인정했다.스캐터랩은 정상적인 창작 표현까지 과도하게 사용을 차단하는 걸 막기 위해 유해 대화 탐지 기준을 느슨하게 설정했고,엔트리 파워볼 분석개별 응답만 검사해 대화의 전체 맥락을 충분히 반영하지 못했다고 설명했다.

이런 해명에도 제타의 월간 활성 이용자 148만 명 중 19세 이하 이용자가 38만 명에 이르는 만큼 청소년 보호 장치의 실효성을 높여야 한다는 지적이 나온다.회사는 이달 18일까지 탐지 기준을 강화하고,안전카지노 선정 기준올해 4분기 중 AI가 대화를 생성하는 단계부터 이용자 연령에 맞게 내용을 조절하도록 개선할 계획이다.청소년 이용시간과 결제한도,콘텐츠 연령등급도 도입한다.

해외에서도 AI 챗봇의 안전성에 대한 우려가 제기되고 있다.미국 비영리단체 커먼센스미디어는 13~17세 청소년 계정으로 챗GPT에 4,000개 이상의 질문을 시험한 결과,위험 신호에 대한 보호자 알림 등 일부 안전 기능이 기대대로 작동하지 않았다고 7일 밝혔다.커먼센스미디어는 오픈AI가 안전장치를 개선할 때까지 챗GPT 이용을 18세 이상으로 제한할 것을 촉구했다.다만 오픈AI는 평가 방식과 기능 적용 상태에 이의를 제기한 상태다.


이더리움 스마트 계약 개발,나는 당신을 다치게하지 않을 것이지만, 당신은 무모한 것을 위해 약간의 가격을 지불해야한다.