블로그
- v100 16GB 두개로 작업하기. 동일한 모델의 각종 양자화를 가지고 사용해본 결과, V100에 맞는 양자화는 IQ4_XS가 가장 낫다. 그냥 보기에는 IQ4_XS보다는 IQ4_NL이 좋을 것 같지만, 실제 추론이 필요한 곳에 써보면 IQ4_XS이 훨씬 잘한다. 내 openclaw에서도 한번에 잘 가지고 오고, 잘 사용
- v100 두개 장착 테스트 중 간단하게 이번에 온 v100에 야매쿨러를 붙여서 장착했다. 기존 rtx3070 자리는 빼고(x16) 젤 아래에 기존 radeon rx560(맞나 이제 헷갈린다)를 달았다. 헤드리스로 동작안하는 듯해서 일단 달아뒀다. 일단 초기 상태는 아래와 같다. 아래와 같이 x4(eGPU) ,x16(
- v100 16gb하나 더 구매.. V100 32GB 구매를 5월달부터 시도를 해봤는데, 결국 구매실패.. 정확하게는 저렴한 가격을 검색해서 구매했는데 품절로 안보내주고 해서 결국은 포기했다.
- 새로 구매한 V100 16GB 상태확인 저번주 금요일에 V100 16GB SXM2가 도착했고, 32GB 구매요청했을 때 구매했던 SXM2 to PCIE 보드와는 채결을 했었다. 1mm 서멀패드를 기본으로 올리고 젤 바깥쪽의 V100 16GB의 SBE는 하나도 없는 상태가 아주 훌륭하다. 도착했을 때는 서멀페이스트가 발려있긴 했지만 다 닦아내니 깨끗했다.
- v100 16gb x 2 개 에서 데이터 양자화 q8_0.. qwen3.6 27B IQ4_XS 를 올리고, ctkd ctvd를 각각 q8_0을 사용했다. 128K context 로 지정한 상태이다. 내장 v100이 온도가 좀 높긴 하지만, (80c는 간당간당한 온도라고 한다.83정도에서 쓰로틀링이 걸리고 장기적으로는 이정도 온도는 좋지 않다고 한
- V100 쿨러팬 3D 프린트용 수정하기(openclaw 활용 ) 일단 사용한 원본:https://www.thingiverse.com/thing:4401674 아마도 원본에서는 V100 PCIe 버전 오리지널에 맞는 것이겠지만, SXM2 PCIe변환보드는
- v100 16gb 속도 향상을 위한 고려.. 그러면 상대적으로 V100 16GB에 모델이 다 올라가고, x4로 통신하는게 x16로 4배의 속도로 통신하게 된다. 몰론 KV cache는 x4로 RTX3070에 연결되겠지만..
- 스위스맥로이드 V100 휴대용 칫솔살균기로 센스를 선물하세요! 오늘은 단체 선물로 제격인 스위스맥로이드 V100 휴대용 칫솔살균기를 소개해드릴게요! 언제 어디서나 간편하게 사용할 수 있는 휴대성과 세련된 디자인, 그리고 위생까지 생각한 기능성으로 무장한 스위스맥로이드 V100 휴대용 칫솔살균기는 단순한 기념품을 넘어, 받는 분들의
- PC 사운드바 스피커 추천 데스크테리어 돋보이는 아이리버 IBS-V100 공간을 스며드는 디자인이 반영된 PC 사운드바 아이리버 IBS-V100 데스크 공간을 특별하게 만들다 데스크테리어에 대한 관심도가 점점 커지면서 PC 관련 악세서리, 디바이스가 이전과
- PC 사운드바 스피커 추천 데스크테리어까지 잡은 아이리버 IBS-V100 솔직 후기 PC사운드바 스피커 데스크테리어 추천 ※ 아이리버 IBS-V100 솔직 후기 PC 사운드바 스피커 추천 데스크테리어까지 잡은 아이리버 IBS-V100 솔직 후기 ※ 목차 1.
1 페이지
다음 →