방송/연예
3일 IT매체 테크레이더에 따르면 글로벌 IT 기업 시스코의 보안 테스트에서 중국 인공지능 기업 딥시크의 R1 모델은 심각한 취약점을 드러냈다. 시스코는 함벤치 데이터세트에서 50개의 랜덤 프롬프트를 사용해 딥시크 R1의 허위 정보, 사이버 범죄, 불법 활동 등 다양한 유해 행동을 평가했다. 이처럼 AI 모델의 가이드라인과 사용 정책을 우회하기 위해 유해한 프롬프트를 사용하는 것을 '탈옥'이라고 부른다. 테스트 결
■ 딥시크, 보안 테스트 결과 충격…유해 프롬프트 공격 무방비중국 인공지능 기업 딥시크의 R1 모델이 글로벌 IT 기업 시스코의 보안 테스트에서 심각한 취약점을 드러냈다. 시스코는 함벤치 데이터세트에서 50개의 랜덤 프롬프트를 사용해 딥시크 R1의 허위 정보, 사이버 범죄, 불법 활동 등 다양한 유해 행동을 평가했다. 이처럼 AI 모델의 가이드라인과 사용 정책을 우회하기 위해 유해한 프롬프트를 사용하는 것을 '탈옥'이라고 부른다. 테스트 결과 R1은
앤트로픽이 AI의 탈옥 저항성을 대폭 높이는 기술인 '입헌 분류자'를 발표했다. AI에서 탈옥은 프롬프트를 조작하거나 한 번에 많은 질문을 입력하는 방법이다. 대부분의 AI 모델은 위험한 정보를 출력하지 않도록 학습되어 있지만, 탈옥을 통해 AI 모델이 출력이 금지된 정보를 출력하도록 할 수 있다. 앤트로픽은 입헌 분류자를 개발하기에 앞서 무해한 것과 유해한 것을 정의하는 '헌법'을 작성한 후, 이를 AI 모델 클로드에 입력해 다양한 탈옥 방법과 언어에 대
중국 생성형 AI 딥시크의 보안 취약성에 대한 경고가 잇따르는 가운데, 팔로알토 네트웍스 위협 연구 기관 ‘유닛42가 세 가지 탈옥 기법을 이용해 딥시크 취약성을 점검한 결과, 전문 지식이나 경험이 없는 사용자도 악성 콘텐츠를 생성할 수 있는 것으로 나타났다.유닛42에 따르면 딥시크의 초기 응답은 대체적으로 무해하지만, 정교하게 설계된 프롬프트를 단계적으로 입력했을 때 높은 우회·탈옥 성공률을 보였다. 또한 이번 테스트에 사용되지 않은 새로운 탈옥 기법으로 공격이 가능하다고 분석했다.팔로알토, ‘프리시전
주요키워드
인기기사
인천교통공사, 청년 기관사 소통 간담회 성료
인천교통공사는 새해를 맞아 현장의 생생한 목소리를 듣고 청년 기관사들과의 소통을 강화하기 위해 간담회를 개최했다고 20일 밝혔다.이날 간담회는 김성완 사장과 청년 기관사 30여 명이 참석했으며, ▲열차 운전업무 중 애로사항 ▲업무 관련 개선점 ▲기타 건의사항 등에 대해 이야기하며 소통하는 시간을 가졌다.간담회에 참석한 한 기관사는 "이렇게 사장님과 직접 소통할 기회를 갖게 되어 뜻깊은 시간이었다"며, "앞으로도 정기적인 소통의 자리가 지속되기를 바란다"고 소감을 전했다.공사 김성완 사장은 "청년 기관사 여러
2025년 '첫 출산가정'에 축하꾸러미 전달!
합천군 대병면은 18일 올해 첫 출생신고를 마친 가정에 축하 인사와 함께 기저귀, 미역 등 출산 축하꾸러미를 전달했다고 밝혔다.이번 경사의 주인공은 대병면 회양2구 주암마을에 거주하는 권광현 씨 가정의 첫째 아이로 지난 2월 3일에 태어났다.이동렬 면장을 비롯해 송정호 합천호농협조합장, 하상도 주민자치회장, 박창수 이장회장등 지역기관ㆍ사회단체에서 함께 방문하여 대병면 새로운 가족의 탄생을 축하하고 아이의 건강한 성장과 가정의 화목을 기원했다.권광현 씨 부부는 “많은 축하와 큰 사랑을 주신 이웃분들께 감사드리며, 건강하
남동소래아트홀 갤러리 '화소'에서 열리는 전시 'Off-SCREEN : 전이와 번역'
남동소래아트홀 갤러리 '화소' 에서 한국근대문학관 영화 포스터 소장품전이 열리고 있다. 'Off-SCREEN : 전이와 번역'이라는 제목의 전시회로 2월 28일까지 진행된다. 일요일은 휴관한다. 남동문화재단과 인천문화재단이 공동으로 주최하며 남동소래아트홀과 한국근대문학관이 주관한다.김단야 크레이터는 이번 전시에 대해 "서구 회화에서 사진의 등장이 촉발한 리얼리즘적 전환과 미적 자율성 회복이라는 역사적 흐름 속에서 영화 포스터 소장품의 의미를 재조명하고자 한다"며 "한국 근대문학관 소장 영화 포스터는 단순히 영화 정보를 전달
세계 최고 수준의 2025 대구마라톤, 함성이 울리다!
오는 2월 23일 오전 9시 대구스타디움에서 15개국 158명의 정상급 엘리트 선수와 40개국 40,130명의 마스터즈 선수가 참가하는 국내 최대규모의 ‘2025대구마라톤대회’가 개최된다.엘리트 풀코스, 마스터즈 풀코스, 금년 신설된 하프코스, 10km, 건강달리기 등 총 5개 종목으로 진행되는 2025대구마라톤대회는 세계육상연맹이 인증하는 3년 연속 골드라벨대회로 개최될 예정이다.최상의 경기력을 위해, 대회 개최일을 2월 네 번째 일요일로 변경하여 선수들이 최상의 컨디션과 경기력을 발휘할 수 있도록 준비했으며, 이에
[사진, 찍다, 쉼표] 졸업식장 사진사
한 대학교 졸업식장에서 만난 사진사입니다. 노란 사진 완장을 차고 손님을 기다립니다. 눈에 띄지만 찾는 사람이 없습니다.모두 스마트폰으로 사진을 찍고 있습니다. 사진사는 이를 바라만 볼 뿐 말을 건넬 엄두도 내지 못합니다. 예전에 촬영한 사진 광고판을 세워 놓고 하염없이 기다릴 뿐입니
최신기사
김해 신성토탈, 한림면에 LED 센서등 기부
김해시 신성토탈㈜이 지난 20일 210만 원 상당 태양광 자동충전 LED 센서등 150개를 한림면행정복지센터에 전달했다. 손태도 대표는 "평소 주변 이웃을 돕고 싶다는 생각을 했었는데, 실천할 수 있어 뿌듯하다"고 말했다. /이현희 기자
의령 전랑수·영후 부자 뜨거운 고향 사랑
의령 발전을 위해 부자가 함께 기부행렬에 동참해 화제가 되고 있다. 지난 설 연휴 직전, 삼성생명 진주지역단 전영후 파트장은 고향 의령을 위해 좋은 일을 하고 싶다고 의령군 홍보팀에 연락을 해왔다. 이에 전 파트장은 고향사랑기부금 100만 원을 의령
농촌지도자 산청군연합회 장학금 기탁
한국농촌지도자 산청군연합회가 24일 산청군을 방문해 향토장학금 200만 원을 전달했다. 김 대표는 "앞으로도 지역사회에 보탬이 되도록 노력하겠다"고 말했다. 연합회는 저탄소·친환경 등 농업 발전을 위한 다양한 활동을 펼치고 있다. /김태섭 기
손성애 부산대 교수 치과의사협회장 표창
손성애 부산대치과병원 교수가 지난 21일 스마일재단이 주최한 '제18회 스마일 시상식'에서 대한치과의사협회장 표창을 받았다. 손 교수는 경남권역장애인구강진료센터장으로 지역 장애인 구강보건 지원 활동 공로를 인정받았다. /이현희 기자
소년체전·장애학생체전 자원봉사자 모집
경남도와 경남도자원봉사센터가 5월 경남에서 열리는 '제54회 전국소년체육대회'와 '제19회 전국장애학생체육대회' 자원봉사자 1200명을 모집한다. 18세 이상 성인이 대상이며, 신청 기한은 3월 21일이다