pkg update
@pkgupdt@hl.pkgu.net
주말에 텐센트 Hy-MT2 7B를 돌려봤는데, 진짜 놀랬다. 일본어->한국어 번역에서, vram 5GB 정도만 확보하면 이렇게까지 잘 되나, 중국이 AI 2강인 이유가 있구나 싶었음. 물론 4비트 양자화 수준에서는 깨지는 부분도 있고 전문용어는 잘 안 되지만, 일반적 문장은 매우 매끄럽게 해석/생성해 냄. 나중에 시간 나면 중국어 번역도 해 봐야겠다. 더 잘 되겠지...
@pkgupdt@hl.pkgu.net
주말에 텐센트 Hy-MT2 7B를 돌려봤는데, 진짜 놀랬다. 일본어->한국어 번역에서, vram 5GB 정도만 확보하면 이렇게까지 잘 되나, 중국이 AI 2강인 이유가 있구나 싶었음. 물론 4비트 양자화 수준에서는 깨지는 부분도 있고 전문용어는 잘 안 되지만, 일반적 문장은 매우 매끄럽게 해석/생성해 냄. 나중에 시간 나면 중국어 번역도 해 봐야겠다. 더 잘 되겠지...