AI 경량화 및 최적화 전문 스타트업 스퀴즈비츠가 거대 언어 모델 서빙을 위한 맞춤형 솔루션 ‘핏츠 온 칩스’를 출시했다고 3일 밝혔다.핏츠 온 칩스는 LLM 서빙 전 과정을 단순화하고 최적화된 설정을 찾을 수 있도록 돕는 솔루션이다. 모델 선택 단계부터 서빙 옵션 조정, 장치 및 프레임워크 설정, 성능 평가, 배포까지 LLM 제공에 필요한 모든 단계를 원스톱으로 지원한다. 허깅페이스 등 오픈소스 라이브러리와 연동해 다양한 LLM 모델을 통합하고 성능을 비
AI 인프라 솔루션 기업 모레는 자체 개발한 한국어 거대언어모델 파운데이션 모델인 ‘라마-3-모티프-102B를 허깅페이스에 오픈소스로 공개한다고 3일 밝혔다. 이를 기반으로 모레는 GPU를 효율적으로 쓸 수 있게 해주는 소프트웨어를 넘어 LLM으로 사업 영역을 본격 확장한다.회사 측에 따르면 모레는 3단계로 나눠 LLM 개발을 추진한다. 1단계는 라마 같이 공개된 모델을 파인튜닝해 제공하는 것이고 두번째는 이번에 선보인 모티프처
인공지능 스타트업 사카나 AI가 거대언어모델의 메모리 효율성을 위한 새로운 기술을 소개했다.18일 온라인 매체 기가진에 따르면 사카나 AI는 '유니버셜 트랜스포머 메모리'라는 논문을 통해 새로운 신경망 기반 메모리 모델인 NAMM을 발표했다.NAMM은 LLM 메모리에 저장된 칵 토큰을 기억할지 잊을지를 결정하는 신경망으로, 컨텍스트에서 중복된 세부 정보
한국정보통신기술협회는 셀렉트스타가 개발한 ‘거대언어모델 무해성 평가 데이터’에 데이터품질 인증을 부여했다고 밝혔다.DQ 인증은 ‘데이터 산업진흥 및 이용 촉진에 관한 기본법’에 근거해 데이터 내용과 관리체계를 심사하는 제도로, TTA는 과학기술정보통신부로부터 데이터품질 인증기관으로 지정받아 정형 데이터, 비정형 데이터, 데이터 관리체계 등 3가지 영역에서 인증 서비스를 제공하고 있다.셀렉트스타의 ‘LLM 무해성 평가 데이터’는 LLM이 생성하는 답변의 무해성을
국내 AI 기술 기업 업스테이지는 아마존웹서비스를 통해 자사 차세대 LLM ‘솔라 프로’를 정식 출시했다고 5일 밝혔다. 회사 측에 따르면 솔라 프로는 ‘아마존 베드락 마켓플레이스’, ‘아마존 세이지메이커 점프스타트’, AWS 마켓플레이스’ 등 AWS 주요 플랫폼에 탑재, 전 세계 기업들을 대상으로 맞춤형 생성형 AI 서비스 도입을
아마존웹서비스가 AI 애플리케이션 개발자들이 거대 언어 모델에 보다 쉽게 접근할 수 있도록 LLM 플랫폼인 아마존 베드록을 업그레이드했다.AWS는 미국 라스베이거스에서 개최한 연례 컨퍼런스 리인벤트2024에서 100개 이상 언어 모델들에 접근할 수 있는 아마존 베드락 마켓플레이스를 출시했다.그동안 AWS는 아마존 베드록을 통해 앤트로픽, 메타, 코히어, AI21 랩스 및 자사가 직접 개발한 타이탄 LLM 등 여러 LLM들을 단일 API로 이용할 수 있는 환경을
AI 인프라 솔루션 기업 모레는 자체 개발한 한국어 거대언어모델 파운데이션 모델인 ‘라마-3-모티프-102B’를 허깅페이스에 오픈소스로 공개한다고 밝혔다.모레는 메타가 LLM 라마를 오픈소스로 공개한 이후, 전 세계 AI 생태계가 빠르게 확장된 것과 같이 고성능 한국어 LLM을 오픈소스로 배포해 한국 AI 생태계 성장에 기여한다는 계획이다. 이를 위해 AI 모델 사업 본격 추진을 위한 자회사도 설립할 예정이다.모레가 공개한 모티프는 최고 수준의 한국어 성능을 제공한다. 모티프는 1020억 개의 매
공급망 공격, LLM 보안, 정치적 목적의 국가배후 공격 등이 올해 발생한 가장 위험한 사이버 위협으로 꼽혔다. S2W는 ‘20024년 결산 보고서’를 통해 이 내용을 밝히고 “다층적 보안체계 구축과 위협 대응력 향상으로 더 복잡해질 사이버 위협 환경에 유연하게 대응해야 한다”고 설명했다.정치적 목적 공격 심화S2W는 올해 발생한 가장 위험한 공격 사례로 공급망 공격을 들었다. 올해 초 리눅스 XZ 유틸즈에서 백도어가 포함된 악성 버전이 배포됐는데, 이 프로젝트에 참여하고 있는 JiaT75가 5.6.0, 5.6.1 버전
마음AI의 주가가 주식시장에서 강세를 보이고 있다. 퀄컴과의 협업을 통해 QCS6490 프로세서에 STT, LLM, TTS 를 탑재하는데 성공했다는 소식이 전해지면서다.17일 주식시장과 마음AI에 따르면 임바디드 AI 선도 기업인 마
애플과 엔비디아가 거대언어모델에서 더 빠른 텍스트 생성 성능을 구현하는 방법에 대한 세부 정보를 공개했다.18일 IT매체 나인투파이브맥에 따르면 애플은 올해 초 리커런트 드래프터 기술을 공개하고 오픈 소스로 제공했다. 이 기술은 최첨단 성능을 달성하는 LLM으로 텍스트를 생성하는 새로운 방법으로, 경험적 검색 알고리즘인 빔 탐색과 트리 동적계획법이라는 두 가지 기술을 결합한 것이다.애플은 해당 기술의 성능을 입증한
인기기사
Generic placeholder image
보성군, 2024년 최종 예산 총 7807억원 확정
보성군은 12월 20일 2024년도 제3회 추가경정 예산안을 제307회 보성군의회 임시회 본회의 의결을 통해 총 7,807억원으로 확정했다고 밝혔
Generic placeholder image
공룡 교수 김경수 "남해안 일대 국가지질공원으로 지정을"
1억 년 전 진주와 사천·남해·하동 등 남해안 일대는 어떤 환경이었을까. 현재까지 나온 다양한 화석을 조사한 결과를 보면, 남해안 일대는 거대한 호수였을 것으로 추측된다. 물고기·잠자리·딱정벌레 등 여러 곤충과 수생식물, 양서류, 악어 같은 파충류 등 다양한 생물이 서식하기 좋은 환경
Generic placeholder image
S-OIL 샤힌프로젝트 부지 준공...설비공사에도 탄력 붙을 전망
S-OIL의 석유화학 복합시설 건설사업 부지 조성 공사가 완료됐다. 앞으로 진행될 ‘샤힌 프로젝트’ 설비 공사 추진에도 탄력이 붙을 전망이다. 19일 울산시는 온산국가산업단지 내 S-OIL 석유화학복합시설 건설 사업에 대해 준공 인가했다고 밝혔다. S-OIL이 추진하는 샤힌 프로젝트를 위한 96만1000㎡의 부지가 조성된 것이다. 2023년 9월18일 준공 전 사용승인을 받은 데 이어 이번에 공사가 최종 마무리됐다. 특히 시는 이달 2일 접수한 준공 신청을 법정 처리 기한보다 16일이나 앞당겨 승
Generic placeholder image
스마트워치 밴드를 잘 골라야 하는 이유…일부 '영구화학물질' 검출
스마트워치는 자신의 취향에 맞게 다양한 스타일의 밴드를 선택할 수 있어 패션 아이템으로도 인기가 많다. 그런데 최근 사람들이 자주 착용하는 일부 스마트워치와 피트니스 트래커 밴드에서 높은 수준의 영구화학물질이 검출됐다는 새로운 연구 결과가 나왔다.19일 IT매체 테크레이더에 따르면 노트르담 대학교 연구팀은 '환경 과학 및 기술 회보'에 발표한 논문에서 일부 스마트워치 밴드에서 과불화헥산산이라는
Generic placeholder image
빨간색 '오또맘' 크리스마스 '산타'로 변신
오또맘은 자신의 인스타그램에 빨간 망토와 전신타이즈의 사진을 게시했다. 공개된 영상 및 사진은 '산타'룩을 선보이고 있다. 오또맘은 129만7천명의 팔로우를 가지고 있는 인플루언서로 다양한 패션을 소화하고 있으며 영향력이 상당하다. 특히 미시룩을 선호하는 많은 사람들에게 인기가 많다. 현재 쇼핑몰CEO이며 식단관리 및 운동법 등을 알려주는 등 여러 분야에서 인기를 끌고 있다.
최신기사
Generic placeholder image
나도 코인 하나 사볼까…초보 투자자 절대 주의사항
올해 암호화폐 시장이 상승세를 보이면서 코인장에 처음 뛰어드는 투자자가 늘어나고 있다. 23일 블록체인 매체 코인텔레그래프가 초보 투자자를 위한 암호화페 투자 주의사항을 소개했다. 우선 모든 투자는 자기자신의 책임이라는 것이 가장 중요하다. 경험이 부족한 투자자는 투자 조언자를 암호화폐 전문가로 착각할 수 있다. 그러나 아크 인베스트의 전 블록체인 제품책임자인 크리스 버니스크는 "시장에 대해 확실히 아는 사람은 없다. 확실히 안다고 말하는 사람은 거짓말을 하는 것"
Generic placeholder image
강릉시 청사 방문한 '몰래온 산타' 김홍규 시장, 깜짝이벤트 펼쳐
3시간전
24일, 김홍규 강릉시장이 청사 내 산타로 몰래 방문하여 마술공연 및 퀴즈 등 깜짝이벤트를 펼치며, 직원들의 사기 진작과 함께 즐거움을 선물했다.
Generic placeholder image
“동화같은 겨울 밤” 담양 산타축제, 화려한 거리 퍼레이드와 함께 개막!
3시간전
‘중앙로 56, 겨울 마법으로의 초대’, 제6회 담양 산타축제가 24일 개막 퍼레이드와 함께 문을 열었다.올해로 6회째를 맞은 이번 산타축제는 25일까지 담양읍 중앙로 일원에서 방문객에게 특별한 겨울 경험을 선사한다.‘중앙로 56’은 주무대가 설치되는 인근 도로명 주소로, 관광객들이 이 지번만 검색하면 축제장을 쉽게 찾을 수 있도록 돕기 위한 의도를 담았다.이번 산타축제에서는 축제 주무대 장소인 담양읍 중앙로를 ‘차 없는 산타거리’로 운영한다.산타거리는 4개 권역으로 나눠 방문객들에게 다양한 겨울 풍경을 경험할 수 있는 기회를 제공
Generic placeholder image
경기평화광장에 스케이트장 개장··· 설에는 특별 갈라쇼 개최
3시간전
경기도가 지난 21일 스케이트장을 경기도청 북부청사 경기평화광장에 개장했다.경기평화광장 겨울 스케이트장은 12월 21일부터 내년 1월 31일까지 40일간 운영될 예정이다. 매주 월요일 휴장일을 제외하고 오전 10시부터 오후 5시 10분까지 운영된다. 만 6세 이상 누구나 입장료 1000원과 장비 대여료 2000원으로 예약 없이 스케이트장을 이용할 수 있다.올해는 지난해와 달리 그늘 없는 양지 스케이트장이 조성됐고, 면적 또한 1134㎡로 지난해 800㎡보다 약 334㎡ 넓어졌다. 이와 함께 스케이트장 운영이 끝난 이후에는 ‘빛 조형
Generic placeholder image
한림대 '2024 고교학점제 고교 수업 지원 프로그램' 진행
2시간전
한림대학교 입학처 한림인재전형연구실은 지난 23일, 본교 실습실에서 강원특별자치도 인제 원통고등학교 1~3학년 학생 21명을 초청해 고교학점제 고교 수업 지원 프로그램 ‘게임프로그래밍’ 수업을 진행했다.고교학점제 고교 수업 지원 프로그램은 대학의 인적·물적 자원을 활용해 고교생의 요구를 반영한 진로 탐색 환경을 제공한다. 또한, 학생들의 적성과 흥미를 고려한 전공체험 기회를 통해 자기주도적이고 합리적인 진로설정을 지원한다. 이를 목표로 본교 소프트웨어학부 교수의 지도 아래 실습 형태의 수업이 실시됐다.한편, 한림대학