GitHub Models, AI modellek futtatása Linux terminálból

 Nemrég vettem egy régi ThinkPad T470p-t 150 euróért, ami még mindig meglepően fürgének tűnt a gyárilag rárakott Windows 10-el is. A gépről természetesen egy kis tesztelés után azonnal legyalultam ezt a reklámhalmazt és felraktam rá a legújabb Linux Mint 22.1-et, amitől reszponzívabb lett mint a munkahelyi ThinkPad T14-esem, ami sajnos céges előírások miatt Windows 11 alatt szenved. Fürgeség ide vagy oda, ezek a laptopok sajnos arra már nem elegendőek, hogy komolyabb mesterséges intelligencia modelleket futtassak, hiába van benne 32 GB RAM, maximum kisebb modellek futnak el rajta. Viszont ilyenkor jön jól a GitHub CLI, amihez nemrégiben egy kiegészítő is kijött a GitHub Models, amely lehetővé teszi, hogy jó néhány modellt kipróbáljunk. 

ThinkPad T470p a 2010-es évek legendás irodai igáslova
ThinkPad T470p a 2010-es évek legendás irodai igáslova

Első lépés, ha még nincs telepítve, a GitHub CLI feltelepítése. A GitHub CLI-nak van egy remek dokumentációja, ami számos Linux disztribúció számára leírja hogy mit kell tennünk, ezt itt érhetjük el. Linux Mint-re vagy bármilyen más Ubuntu vagy Debian alapú disztribúcióra a következő paranccsal tehető ez meg: 

(type -p wget >/dev/null || (sudo apt update && sudo apt-get install wget -y)) \
	&& sudo mkdir -p -m 755 /etc/apt/keyrings \
        && out=$(mktemp) && wget -nv -O$out https://cli.github.com/packages/githubcli-archive-keyring.gpg \
        && cat $out | sudo tee /etc/apt/keyrings/githubcli-archive-keyring.gpg > /dev/null \
	&& sudo chmod go+r /etc/apt/keyrings/githubcli-archive-keyring.gpg \
	&& echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/githubcli-archive-keyring.gpg] https://cli.github.com/packages stable main" | sudo tee /etc/apt/sources.list.d/github-cli.list > /dev/null \
	&& sudo apt update \
	&& sudo apt install gh -y

 Ha ez megvan még be kell jelentkezni, ehhez gépeljük be a gh auth login parancsot. Ez átirányít majd a böngészőbe a bejelentkezéshez. Bejelentkezés után telepíthetjük a GitHub Moduls kiegészítést ehhez a

gh extension install https://github.com/github/gh-models

parancsra lesz szükség és készen is vagyunk, máris futtathatjuk a modelleket.

Először nézzük meg hogy milyen modellek elérhetőek a gh models list paranccsal. A cikk írásakor 41 chat modell volt elérhető: 

A modellek listája
A modellek listája

A kiválasztott modell futtatásához a gh models run <model> parancsra lesz szükség, vagy simán a gh models run parancs is elég ekkor egy interaktív felületen kiválaszthatjuk, hogy melyik modellt akarjuk futtatni. Például az OpenAI GPT-4o modellhez adjuk ki a gh models run gpt-4o parancsot: 

A modell futtatása
A modell futtatása

A kilépéshez a /exit parancsot kell begépelni. 

Osszd meg ezt a cikket
Mesterséges intelligencia a hálózat irányításban és karbantartásban
Az Ericsson nemrég bemutatta a 2025-re vonatkozó stratégiai terveit a Mobile World Congress 2025 (MWC25) keretében. Az itt ismertetett elképzelések azért különösen érdekesek, mert jól mutatják, miként épül be a mesterséges intelligencia olyan ipari folyamatokba, amelyek mindennapi életünket érintik, ám addig rejtve maradnak, amíg zökkenőmentesen működnek.
GTC 2025: Az NVIDIA Blackwell chipeken alapuló szerverei és a DGX Station
A 2009 óta megrendezett GTC (GPU Technológiai Konferencia) idén március 17 és 21 között kerül megrendezésre az NVIDIA által. A konferencia célja hogy bemutassa a legújabb fejlesztéseket és elősegítse a különböző iparágak közötti együttműködést és további fejlesztéseket, így többnyire fejlesztők, kutatók, technológiai vezetők vesznek részt rajta. Az NVIDIA CEO-ja Jensen Huang egy ideje emlegeti, hogy a vállalatok a jövőben token gyárrá változnak, ami alatt azt érti, hogy minden létező munkafolyamat mesterséges intelligencia által támogatott lesz. Ebben jelenleg nagy szerepet játszanak a nagy szerverek, de az AI integráció egyre inkább lecsorog majd a személyi számítógépek szintjére és a jövőben olyan számítógépek, laptopok lesznek amelyek megfelelő hardverrel rendelkeznek, ahhoz hogy akár nagy nyelvi modelleket futtassanak a háttérben. Erre azért van szükség mert a programozók, mérnökök és szinte mindenki mesterséges intelligencia által asszisztált munkát fog végezni.
Elérhető a Fedora 42 béta
A Fedora 42 béta verzió már elérhető és tesztelhető, míg a stabil kiadást április 15-re tervezik . Az új verzió számos jelentős fejlesztést tartalmaz, amelyek célja a felhasználói élmény javítása, a telepítési folyamat egyszerűsítése, valamint a modern asztali környezetek és technikai megoldások integrálása.
Videójátékok a mesterséges intelligencia tesztelésben
A videójátékok már évtizedek óta szolgálnak olyan laboratóriumként, ahol különböző AI-algoritmusok képességeit tesztelik. A játékok – legyen szó klasszikus platformjátékokról vagy összetettebb stratégiai környezetekről – lehetőséget nyújtanak arra, hogy a mesterséges intelligencia rendszerek megtanulják a cselekvést, alkalmazkodjanak a változó környezethez, és optimalizálják döntéseiket a jutalmak elérése érdekében.