Repository navigation
ESG 보고서 생성용 로컬 LLM 비교 #178
luniana217
started this conversation in
Troble Shooting
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
Uh oh!
There was an error while loading. Please reload this page.
✅ 요약 (TL;DR)
mistral-nemo:12b는 VRAM peak ≈7.6GB로 8GB 한계에 근접 → CPU 오프로딩(CPU avg 4551%)으로 느려짐(1518s/문단).gemma4:e4b는 RAM peak 16GB(시스템 전량)·27s/문단으로 사실상 사용 불가 수준.exaone3.5:2.4b(최속 3.5s, 충실도 준수) ·gemma2:2b(충실도 최상위) ·qwen2:7b(충실도 상위·저부하).🖥️ 환경 (Environment)
http://localhost:11434)snunlp/KR-SBERT-V40K-klueNLI-augSTStemperature=0.1,num_predict=2048,repeat_penalty=1.1📊 핵심 결과 (Key metrics)
gemma2_2bgemma2_2bgemma2_2bgemma3_4bgemma3_4bgemma3_4bgemma4_e4bqwen2_7bqwen2_7bqwen2_7bqwen2.5vl_7bqwen2.5vl_7bqwen2.5vl_7bexaone3.5_7.8bexaone3.5_7.8bexaone3.5_7.8bexaone3.5_2.4bexaone3.5_2.4bexaone3.5_2.4bexaone3.5_2.4bmistral-nemo_12bmistral-nemo_12bmistral-nemo_12b최고 충실도:
gemma2_2b/C (0.5884) ·qwen2_7b/A (0.5679) ·exaone3.5_7.8b/B (0.5617)최속:
exaone3.5_2.4b/A run2 (3.50s) · 최저속:gemma4_e4b/C (27.15s)VRAM 최대:
mistral-nemo_12b(≈7.6GB, 8GB 한계 근접)📋 전체 컬럼 원본 데이터 (avg 값 포함)
promptA 모델별 문단 비교 —
gemma2:2bvsgemma3:4b동일 프롬프트(promptA)·동일 데이터로 생성한 5개 섹션 문단을 모델별로 비교합니다.
📊 섹션별 지표
2024삽입2024삽입🔎 한눈 요약
gemma2:2b— 더 빠르고(평균 4.75s) 충실도도 약간 높음(0.565). 단, 섹션 1·4에서 존댓말이 완전히 무너져 평서체(~이다/~달한다)로 작성 → 규칙 1 위반. 섹션 5 끝에 작성규칙을 본문에 노출하는 메타 문장 있음.gemma3:4b— 존댓말이 5개 섹션 모두 일관되고 문장이 매끄러움. 단, 데이터에 없는2024년을 보고연도로 지어냄(섹션 1·3), 섹션 2에서CAP를 "수급업체 위험 평가"로 잘못 풀어씀(실제 Corrective Action Plan). 더 느림(7.24s).섹션 1 · 기후목표·전환계획
gemma2:2b(존댓말 0.00gemma3:4b(2024 환각비교: 2b는 평서체이고 보고연도 값(112,500)을 "기준연도 배출량"으로 잘못 라벨링함. 4b는 기준/보고연도 구분은 정확하지만 데이터에 없는
2024년을 임의로 채워 넣음. 둘 다 섹션 1에서 서로 다른 종류의 오류가 있음.섹션 2 · 공급망 감사·시정조치
gemma2:2bgemma3:4b(CAP 오역비교: 둘 다 수치(71.90%, 64개사, 68.09%)는 정확히 반영. 4b가 더 길고 매끄럽지만
CAP에 잘못된 정의를 붙임(CAP=Corrective Action Plan). 2b는 군더더기 없이 간결.섹션 3 · 교육훈련·역량개발
gemma2:2bgemma3:4b(2024 환각 · 메타 시작비교: 2b가 더 압축적이고 핵심 수치를 바로 제시. 4b는 "본 보고서는 …강조합니다"로 메타 문장으로 시작(규칙 위반)하고 또
2024년을 임의 삽입.섹션 4 · 저탄소·친환경 제품
gemma2:2b(존댓말 0.00gemma3:4b비교: 수치는 양쪽 동일하게 정확. 2b는 다시 평서체(
달한다/마련하고 있다)로 빠져 존댓말 0%. 4b는 존댓말 유지하며 해석 문장도 자연스러움. 이 섹션은 4b 우세.섹션 5 · 소비자 건강·제품안전
gemma2:2b(메타 문장gemma3:4b(메타 시작비교: 둘 다 마지막/처음에 메타 성격 문장이 섞임. 2b는 끝에 "ESG 보고서 작성 시 핵심 수치를 반복적으로…"라며 작성 규칙 자체를 본문에 노출(가장 부적절). 4b는 "본 보고서에서는 …강조합니다"로 시작하는 정도. 수치는 양쪽 정확.
✅ 종합 평가
2024년2회 삽입결론: 두 모델 모두 promptA에서 결정적 약점이 있어 그대로 쓰긴 어렵습니다.
gemma2:2b는 빠르고 숫자를 지어내지 않지만 존댓말이 절반 섹션에서 무너지는 게 치명적이고,gemma3:4b는 문체는 좋지만 없는 연도(2024)를 만들어내는 환각이 ESG 보고서엔 더 위험합니다. 프롬프트에 "연도 등 데이터에 명시되지 않은 값은 절대 추가하지 말 것"과 "모든 문장은 반드시~합니다체"를 더 강하게 못박으면 양쪽 약점이 줄어들 가능성이 높습니다.📖 지표 설명 (Legend)
avg_gen_timetotal_time_secondsfaithfulnessref_searchcpu/gpu_*ram/gpu_mem_*_mbmistral-nemo:12bVRAM 한계 근접 — gpu_mem peak ≈7.6GB로 8GB 카드에 거의 꽉 참. 동시에 cpu_avg가 4551%로 타 모델(1015%)의 34배 → CPU 오프로딩 발생 → 1518s/문단으로 느림. 8GB VRAM에선 12B가 사실상 한계.gemma4:e4b메모리 압박 — ram peak 16,028MB로 시스템 RAM 16GB를 전부 소진, 27s/문단으로 최저속. 이 하드웨어에선 비권장.ref_search가 전 행 0.7986로 동일 — 검색 단계는 모델·프롬프트와 무관하므로 정상(버그 아님).gpu_peak가 대부분 100% 고정 — GPU 포화로 peak는 변별력 없음. 비교축은gpu_avg·gpu_mem_peak가 적절.exaone3.5:2.4b/promptC 시간 이상치 — total 64.26s인데 문단평균은 4.57s(×5=22.9s). ~41s 오버헤드(콜드스타트/검색/첫토큰 지연 추정). 반복 측정 필요.exaone3.5:2.4b/promptA가 gpu_mem avg 3401 → peak 6524로 튐. 0.2s 샘플링이 모델 로딩 순간을 잡은 것으로 추정.gemma2_2b엔 최고(0.5884)지만exaone3.5_7.8b(0.4948)·exaone3.5_2.4b(0.4889)엔 최저. 프롬프트는 모델별로 따로 튜닝 필요.❓ 도움 요청 (Questions)
mistral-nemo:12b처럼 오프로딩되는 모델을,OLLAMA_KV_CACHE_TYPE조정 등으로 온전히 GPU에 올리는 게 의미가 있을까요?exaone3.5:2.4b/C의 41s 오버헤드 원인을 좁힐 좋은 프로파일링 방법이 있을까요?🔁 재현 방법 (Reproduce)
측정 조건: 동일 머신, Ollama 단일 인스턴스, GPU 측정은 pynvml. 자원 지표는 시스템 전체값(추론 외 백그라운드 부하 포함 가능). 일부 조합은 단일 실행이라 시간/자원에 분산이 있을 수 있음.
All reactions