Tiny Corp a világ első AMD eGPU megoldása USB3-on keresztül

A Tiny Corp jelentős technológiai mérföldkövet ért el azzal, hogy megalkotta a világ első olyan külső GPU (eGPU) rendszerét, amely szabványos USB3 kapcsolaton keresztül működik, így olyan platformok számára is elérhetővé teszi a GPU-gyorsítási képességeket, amelyek korábban nem rendelkeztek megfelelő támogatással, különösen az Apple Silicon készülékek számára.

A külső GPU-khoz hagyományosan vagy dedikált PCIe slotra, vagy a PCIe-tunnelinget támogató Thunderbolt/USB4-interfészre van szükség. Ez a technikai korlátozás számos rendszert kizárt az eGPU-képességek kihasználásából, különösen az Apple Silicon-alapú Mac- és MacBook-gépeket, amelyek az illesztőprogramok korlátai és az architektúrális különbségek miatt nem rendelkeznek natív eGPU-támogatással. Ugyanakkor a Windows és Linux is támogatott, tehát mindazok számára nyitva áll a lehetőség akik eddig nem tudtak külső GPU-ban gondolkodni.

Ez az új fejlesztés különösen fontos az AI- és gépi tanulási fejlesztők számára, akiknek például a prompt feldolgozás, vagy a modellek fejlesztése során kifejezetten nagy számítási teljesítményre van szükségük. Azzal, hogy a Tiny Corp lehetővé tette az AMD GPU-k USB3-on keresztüli működését, olyan platformokon is megnyitotta a gyorsított számítási lehetőségeket, amelyek korábban korlátozott lehetőségekkel rendelkeztek.

A megvalósítás a libusb-re támaszkodik, egy nyílt forráskódú könyvtárra, amely lehetővé teszi a platformok közötti USB-kommunikációt. Ez a megközelítés megkerüli a hagyományos kernel-szintű GPU-illesztőprogramokat, ehelyett egyéni felhasználói szintű illesztőprogramokat használ a gazdarendszer és a külső GPU közötti kommunikáció megkönnyítésére.

A megoldás ahelyett, hogy teljes GPU-funkcionalitást próbálná megvalósítani, kifejezetten a számítási feladatokat (kernel végrehajtásokat) terheli át az eGPU-ra, lehetővé téve az AI-modellek számára a dedikált grafikus hardver kihasználását.

Bár ez a megoldás forradalminak számít, de nyilvánvalóan korlátozásokkal jár. Az elsődleges technikai korlát a sávszélesség. Az USB3 maximális elméleti sávszélessége 10 Gbps, ami jelentősen alacsonyabb, mint a közvetlen PCIe-kapcsolatokon vagy akár a Thunderbolt/USB4 interfészeken keresztül elérhető sávszélesség. Ez a korlátozás azt jelenti, hogy a GPU-ra és a GPU-ról történő adatátvitel lényegesen lassabb lesz, különösen nagyméretű mesterséges intelligencia modellek betöltésekor vagy jelentős mennyiségű adat átvitelekor.

Egy másik fontos korlátozás, hogy jelenleg csak az AMD GPU-k támogatottak, különösen az RDNA 3/4 családba tartozó GPU-k, bár vannak jelek arra, hogy a jövőben az RDNA 2 támogatás is megjelenhet. Ez korlátozza a megoldást bevezetni kívánó felhasználók rendelkezésére álló lehetőségeit.

A jelenlegi megvalósítás valószínűleg csak a kezdet. A Tiny Corp jelezte, hogy részletesebb technikai információkkal fognak szolgálni, amint a fejlesztők befejezik a kód finomítását.

A lehetséges jövőbeli fejlesztések a következők lehetnek:

  • Kibővített GPU-kompatibilitás a régebbi AMD architektúrákra is.

  • Teljesítményoptimalizálás a rendelkezésre álló USB3 sávszélesség maximalizálására.

  • Egyszerűsített telepítési és konfigurációs folyamatok

  • További hardveres adapterek lehetséges támogatása

Ha fejlesztés sikerese lesz és valóban felkelti az érdeklődést, a célközönségnél akkor vélhetően más gyártók is ráharaphatnak a technológiára. Ugyanakkor a jelenlegi korlátokat figyelembe véve ez még erősen kérdéses, hiszen a célközönség számára valószínűleg a sávszélesség szintén egy kritikus pont lehet, amely azonban valószínűleg mindig is jelentősen behatárolja majd a felhasználhatóságot.  

Osszd meg ezt a cikket
Mesterséges intelligencia, űr és emberiség
Elon Musk, a SpaceX, Tesla, Neuralink és xAI alapítója és vezetője egy közelmúltbeli interjúban osztotta meg gondolatait a jövő lehetséges irányairól, különös tekintettel a mesterséges intelligenciára, az űrbe való terjeszkedésre és az emberiség fejlődésére.
 Valós idejű zene komponálás a Google Magenta RT modelljével
A mesterséges intelligencia alkalmazása a zene komponálásban nem új keletű törekvés, ám a valós idejű működés sokáig jelentős akadályokba ütközött. A Google Magenta csapata most olyan fejlesztést mutatott be, amely a műfaj technikai és kreatív lehetőségeit egyaránt kiszélesítheti. A Magenta RealTime (röviden: Magenta RT) névre keresztelt új modell valós időben generál zenét, miközben nyitott forráskódjának köszönhetően bárki számára hozzáférhető.
Ufficio Zero egy olasz Linux disztribúció a fenntartható digitális munkavégzésért
Az Ufficio Zero Linux OS egy kevéssé ismert, de egyre komolyabb figyelmet érdemlő olasz fejlesztésű operációs rendszer. Elsősorban irodai és hivatali munkakörnyezetek számára készült, és különösen azoknak lehet érdekes, akik stabil, megbízható és hosszú távon is használható alternatívát keresnek a kereskedelmi rendszerekkel szemben. Az Ufficio Zero sajátos helyet foglal el a nyílt forráskódú rendszerek világában: egyszerre kíván választ adni a digitális infrastruktúra elavulására, valamint a munkavégzéshez nélkülözhetetlen szoftvereszközök elérhetőségének problémáira.
Mit jelentene az Apple számára a Perplexity AI felvásárlása?
Az Apple régóta igyekszik megtalálni a helyét a generatív mesterséges intelligencia gyorsan alakuló piacán. A vállalat évtizedeken át stratégikusan kivárt, mielőtt jelentősebb erőforrásokat irányított volna mesterséges intelligencia-alapú fejlesztésekbe. Most azonban, a legfrissebb hírek szerint, a cupertinói cég egy minden eddiginél nagyobb szabású lépésre készülhet: belső körökben megindultak az egyeztetések a Perplexity AI nevű startup esetleges felvásárlásáról.
 Nanomásodpercek alatt dönt az új AI-chip ami épp most forradalmasítja az orvoslást és a távközlést
Ahogy egyre több eszköz kapcsolódik az internetre, és nő az igény az azonnali, nagy sávszélességet igénylő alkalmazások iránt – ilyenek például a felhőalapú játékok, a videóhívások vagy az okosotthonok –, egyre komolyabb kihívást jelent a vezeték nélküli hálózatok hatékony működtetése. A problémát tovább súlyosbítja, hogy a vezeték nélküli spektrum – vagyis a rendelkezésre álló frekvenciasáv – korlátozott. A megoldás keresése során a mérnökök egyre inkább a mesterséges intelligenciához fordulnak, ám a jelenlegi rendszerek sokszor lassúak és energiaigényesek. Ezen a helyzeten változtathat egy új fejlesztés, amely az adattovábbítást és -feldolgozást a fénysebességre emeli.
Így torzít az LLM
A mesterséges intelligencia (MI) fejlődésével párhuzamosan egyre több figyelem irányul az úgynevezett nagy nyelvi modellekre (LLM-ekre), amelyek már nemcsak a tudományos kutatásban, hanem a mindennapi élet számos területén is jelen vannak – például ügyvédi munkában, egészségügyi adatok elemzésében vagy számítógépes programok kódolásában. E modellek működésének megértése ugyanakkor továbbra is komoly kihívást jelent, különösen akkor, amikor azok látszólag megmagyarázhatatlan módon követnek el hibákat vagy adnak félrevezető válaszokat.

Az elmúlt néhány napban megjelent Linux disztribúció frissítések