Pracovní sestava

[klinki]

Zdravím,

zvažuji že si pořídím novou sestavu na práci a rád bych znal názor místních odborníků.

TLDR:
Finanční limit: 45-50 000 Kč
Hlučnost: Ideálně co nejmenší, ale nemusí být ULN. Stačí LN

Projížděl jsem místní sestavy a dospěl jsem k tomuto:
https://www.alza.cz/nakupni-seznamy.htm ... C6A6778626

Podrobněji:
Sestava bude určená primárně na programování (větší projekty v .NETu), rozhodně ocením větší množství jader - proto Ryzen 9 7950x. Větší projekty jsou náročnější na RAMku a SW který používám je poslední dobou čím dál tím nenažranější na RAM, takže 64 GB RAM je must-have.

Je mi velmi sympatická platforma AM5 a možnost potenciálního upgradu i po delší době.

Občas si i něco zahraju, takže do budoucna počítám s pořízením grafiky. Nemusím mít všechno na nejvyšší detaily a vystačím si s 1080p, takže mi stačí i grafika např. řady nvidia 4060. Nevylučuji že bych si do budoucna hrál s nějakou lokální LLM, takže větší grafická paměť je rozhodně plus. Kdybych jí kupoval teď tak jsem koukal např. na https://www.alza.cz/msi-geforce-rtx-406 ... 930229.htm nebo
https://www.alza.cz/gigabyte-geforce-rt ... 667296.htm - 4060ti mi moc sympatická není, má menší šířku sběrnice, poměr cena výkon nic moc, ale má 16GB paměti. Ale grafiku nepotřebuju hned - asi si ještě počkám s čím přijde nvidia s řadou 5000. Kdyby to bylo jen na hry asi bych šel do Radeonu, poměr cena výkon je lepší. Ale pro AI a případně nějaké výpočty na grafice je bohužel CUDA téměř must have, takže Nvidia...

Rád bych sestavu ideálně co nejtišší. Takže LN+.

Určitě nebudu přetaktovávat, naopak pokud by dávalo smysl udělat nějaký drobný kompromis a třeba podtaktovat/snížit TDP nebo jakkoliv mírně snížit výkon s velkým snížením teploty, tak se tomu bránit nebudu.

[KineCZek]

Co nejvyssi vykon = 9950X a X870 deska, jednou mi treba podekujes.

47.366,- Kc

POZNAMKA: Vzhledem k chybe ve funkci kosiku na eshopu TSB doporucuji odkaz otevrit v anonymnim okne prohlizece a toto okno pred otevrenim pripadneho dalsiho odkazu zavrit, aby nedoslo k pomichani komponent z vicero odkazu do jednoho kosiku. Eshop uz o teto chybe vi a na oprave se pry jiz pracuje. Diky za pochopeni.

Takhle to mas opravdu LN+ (ano, chtelo by to odladit).


Grafiku budto 4060bezdalsichpismenek s 8GB, nebo potom 4070Supers 12GB. Vykonove se Ti 16GB 4060Ti nikdy nevyplati, ty narusty tam proste nejsou. Jak u "ejáj" uprimne nevim, nedelam do toho, ale 4070S ma jadro vykonem o dost jinde, takze pravdepodobne i pro ejáj bude vhodnmejsi..

[ja-cz]

Pro lokalni LLM potrebujes hlavne VRAM abys tam model vubec narval. Vykon jadra bude mit vliv na rychlost, stejne tak jako propustnost. Ale kdyz tam ten model nenarves, tak se nahraje do RAM a rychlost pujde do kytek uplne.

Pro ilustraci: napr. mistral 7B (4bit) bezici pres ollama spolkne kolem 8GB, codellama 13B (rovnez 4bit) spolkne 15.5GB. Takze 4060 bude na hrani s malymi a mensimi strednimi modely (rekneme do tech 7B s 4bit), 4070 zvladne vetsinu strednich (kolem 10B), ale pro ty vetsi stredni modely bude potreba 4060 Ti 16GB, 4070Ti nebo vyse. Pro velke modely potrebujes specializovane karty, nebo lepe pronajmout VM s hromadou GPU na netu.

Pro praci muze ale dobre poslouzit Copilot, Cursor, atd a pak nemusis resit GPU. Pokud mate ale v praci externi LLM zakazane, tak lokalni LLM v kombinaci s pluginem nebo UI muze byt dobrym resenim.

[klinki]

Je to jak píše ja-cz. Nejdůležitější pro AI je velikost VRAM, aby se tam model narval. Samozřejmě že výkonově bude 4070 lepší než 4060, ale nejdůležitější rozdíl je mezi tím jestli se model vejde do VRAM nebo ne. Tam bude rozdíl dělat stovky procent.

Koukal jsem na testy https://www.hardware-corner.net/guides/ ... stral-llm/ a ta RTX 4060Ti je fakt neuvěřitelně zkryplená karta, i 3060 dává lepší hodnoty - hlavně kvůli šířce sběrnice a datové propustnosti.
GeForce RTX 3060 s 12GB VRAM u Mistral 7B (4bit) má výkon 59 tokenů/s a RTX 4060Ti jen 44 tokenů/s. Je to celkem smutné jak tu kartu nvidia zkryplila

Btw RTX 4070 má 70 tokenů/s - podle mě naprosto neadekvátní rozdíl poměru cena výkon oproti 3060. Na provozování menších modelů by z těchto karet vycházela nejlépe 3060.

Večer se zkusím podívat na další testy grafik jestli něco najdu.

[KineCZek]

nV u 40xx osadila VCache a zmenšila a zúžila VRAM. Zabilo jim to dvě mouchy jednou ranou. Zlevní to výrobu karet a zároveň to zvětší propast mezi desktop a profi řešením, třeba právě na ai.

[ja-cz]

Jo pro hry to relativne funguje. Pro AI, ale taky treba pro video je to bohuzel tragedie... U Ackovych RTX jsou ale ty pameti taky bida, takze v tom nizsim segmentu neni proste kde brat.

Pokud hlavni vyuziti GPU bude AI, tak 3060 (bacha, jen 12GB verze!) je za ty penize dobra volba. 4060Ti 16GB je sice pomalejsi ale narves do ni vetsi model (pripadne dva male), takze uplne marna volba to taky neni (ciste z pohledu AI).

Zdroj i chlazeni ti Kin nadimenzoval tak, ze to tu GPU v klidu zvladne.

[KineCZek]

Nelze se jim divit, je to firma a jedou na profit. A profit je v enterprise segmentu radove odlisny od desktopu. Vsak sam "pan nVidia" rikal, ze do budoucna vesti (cti: pro maximalizaci zisku naplanoval) velky odklon (architektur v) consumer a enterprise segmentu.

[klinki]

Tak jsem koukal jak je to s těma grafikama a vypadá to že několika lidem se úspěšně podařilo provozovat větší LLM modely na 2x3060 Na menší stačí jedna.

Vypadá to že tato karta má aktuálně nejlepší poměr cena / výkon na nějaké to drobné hraní s LLM. Jelikož si s tím zatím chci jen tak pohrát a zjistit jestli to vůbec dává smysl provozovat lokálně (a porovnat např. s řešeními typu Cursor apod.) tak asi nemá smysl investovat hned horentní sumy do grafiky a vezmu tedy nějakou tu 3060 s 12GB VRAM. Škoda že už na eshopech není v nabídce MSI, slyšel jsem že dělají většinou nejtišší grafiky.

Asi jí raději vezmu, dokud se dá sehnat. Je to lepší volba než čekat na 5000 sérii která může dopadnout buhví jak (mohlo by to být stejné zklamání jako 4000 řada) a navíc na začátku budou ty karty dost drahé.

Navíc to vypadá že se ledy trochu hnou a začíná se zlepšovat podpora pro výpočetní řešení od AMD (ROCm) a je v přípravě už třetí iterace interface ZLUDA, která by měla přidat podporu CUDA i pro jiné karty než nVidia. Takže je klidně možné že do budoucna nebude zas tak nutné používat nvidii a bude možné provozovat nějaké řešení od AMD a ty mají většinou více VRAM než srovnatelné nvidie.

[ja-cz]

No, ZLUDA je taky moznost, ale bude s tim urcite vice prace nez s nativni podporou a otazkou je taky jak dobre to bude fungovat. Nezjistoval jsem, nevim.

Ceny 16GB 4060Ti verze sly nize, napr. na GB GAMING je priplatek na alze ted 2 tisice, coz pro AI neni uplne marne. Vykonem ve hrach je to zhruba +40% oproti 3060 12GB, cenovy rozdil je vetsi.

Obecne na MSI ted zapomen, nic moc. GB Gaming (a nebo lepe Aorus, ale moc jich neni), ASUS Dual (jen verze bez EVO), ASUS TUF - po tomhle bych se ted dival. 3060 na alze vidim GB Gaming a ASUS Dual, 4060 Ti 16GB je GB Gaming.

[KineCZek]

Přesně jak říká kolega - souhlas, podpis.

[klinki]

Ještě jen tak pro zajímavost, jak by se lišila classic varianta od té LN?

Kolega v práci tohle CPU provozuje ve skříni NZXT H1 s Noctou L12S a je to celkem tiché.

Asi bych se raději držel vzduchového chlazení. Noctua NH-D15 by se měla vejít do té skříně a předpokládám že by to měla naprosto bez problémů uchladit. Koukal jsem že ten Ryzen dává velmi dobré výsledky ve 105W ECO režimu, výkon jde o trochu dolů ale teploty a spotřeba jdou dolů výrazně.

A ještě jsem se díval na ten chipset a připadá mi že X870 má navíc akorát tak USB4 a jinak nic moc posun oproti X670. Myslím že by mi stačila deska s tímto chipsetem. Ale co jsem koukal tak na alze má GIGABYTE X670 AORUS ELITE AX celkem blbé recenze

A co se týče zdroje, není ten 1000W taky overkill? Zkoušel jsem na https://pcpartpicker.com/list/Z6y6n6 udělat tuto sestavu a ukazuje odhadovaný příkon nějakých 500W (a to počítá s procesorem provozovaným v režimu 170W), tzn. rezerva nějakých 50%. Jasně, občas mohou být nějaké peaky, ale nepředpokládám že by ty peaky překročily tu rezervu. Na tsbohemia uvádí u toho 1000W že do 30% zátěže jede v pasivním režimu, byl ten zdroj zvolený kvůli tomu? Ta 750W by tohle nedělala?

[ja-cz]

Classic by mela horsi skrin (i kdyz kvuli prachu bych osobne o moc horsi skrin nevolil), vzduchove chlazeni, horsi a ventilatory v mensim poctu a horsi a mene vykonny zdroj.

Vykonova rezerva zdroje tam je ze dvou duvodu - 1) pripadny upgrade CPU a GPU a 2) tissi provoz a vyssi podil pasivniho provozu. Kdyz zdroj zdimes k jeho hranicim, produkuje vice tepla a ventilator zdroje musi vice makat aby to teplo odvetral.

S navrzenym chlazenim nemusis vykon kryplit eco modem. Pokud "musis" na vzduch, zvazil bych 7950X3D. Zvazil bych ale kolik jader realne potrebujes. Pokud nemas ulohy ktere vytizi 32 vlaken, tak 9950X i 7950X3D jsou overkill. 9700X je do osmi vlaken vykonem v postate stejne jako 9950X a prikonem je na pulce.

Co se tyce kolegy. Ono je celkem tiche a tiche. A taky, je to tiche i kdyz ho poradne zdima? U moji RTX 4080 se ventilatory ani neroztoci, ale jen kdyz na ni nic nedelam (nebo lehke LLM) Kdyz kartu tlacim na 100% se zvednutym PBO tak se docela rozparadi...

[klinki]

Souhlas, je to tak, když to pořádně ždíme tak už se to ozve, to je jasný. Ale pořád je to celkem v pohodě.

Co se týče vláken tak teď zrovna mám NB s 8/16 a umím to plně vytížit na docela dlouho (kompilace hlavního projektu v práci). Vím, je to nesrovnatelné, nelze srovnávat NB a PC, ale dřív jsem měl jiné požadavky na mobilitu a potřeboval jsem NB.

Teď jsou požadavky na mobilitu menší a proto právě stavím desktop PC. Navíc se mi zvýšily požadavky na RAMku, zjistil jsem že dosavadních 32GB je málo a potřebuju 64GB. No a když jsem hledal NB s 64GB RAM a viděl jsem ty ceny, tak jsem prostě přestal být ochotný jim za to platit takové nehorázné sumy.

[ja-cz]

OK cajk, kdyz dlouho kompilujes na vsech jadrech, tak pozadavku na hromadu jader rozumim. Pokud chces max vykon, tak bych proste bral 9950X s poradnym chlazenim. Pokud ten max vykon uplne nepotrebujes ale chces hromadu jader a vynikajici ucinnost, tak bych asi vzal 7950X a klidne ho priskrtil na 105W. Usetris 5k na porizovaci cene a provozni vlastnosti taky budou ok.

[klinki]

Koukal jsem ještě na ty desky, jaký máte názor na ASRock?

Ta GIGABYTE X870 AORUS ELITE AX se mi zdá zbytečně drahá a úplně by stačila i GIGABYTE X670 AORUS ELITE AX, jenže mě odrazují špatné recenze a vysoká reklamovanost.

Co jsem tak hledal tak s ASRock deskami na AM5 platformě bylo asi nejméně problémů. Jako první mi padla do oka deska ASROCK B650E STEEL LEGEND WIFI ale překvapivě cenově lépe vychází ASROCK X870 Pro RS WIFI a byť je to nižší série než Steel Legend, prý by neměla být ani moc ořezaná oproti X870 Steel legend desce (alespoň podle recenze na https://www.thefpsreview.com/2024/10/28 ... rd-review/ a letmém srovnání parametrů na webu ASRocku).

Stabilita a spolehlivost je naprosto nejdůležitější kritérium a tak nějak jsem jí považoval za samozřejmost, ale zdá se že to (minimálně v začátcích AM5 platformy) zas tak samozřejmé nebylo