GitHub Models, AI modellek futtatása Linux terminálból

 Nemrég vettem egy régi ThinkPad T470p-t 150 euróért, ami még mindig meglepően fürgének tűnt a gyárilag rárakott Windows 10-el is. A gépről természetesen egy kis tesztelés után azonnal legyalultam ezt a reklámhalmazt és felraktam rá a legújabb Linux Mint 22.1-et, amitől reszponzívabb lett mint a munkahelyi ThinkPad T14-esem, ami sajnos céges előírások miatt Windows 11 alatt szenved. Fürgeség ide vagy oda, ezek a laptopok sajnos arra már nem elegendőek, hogy komolyabb mesterséges intelligencia modelleket futtassak, hiába van benne 32 GB RAM, maximum kisebb modellek futnak el rajta. Viszont ilyenkor jön jól a GitHub CLI, amihez nemrégiben egy kiegészítő is kijött a GitHub Models, amely lehetővé teszi, hogy jó néhány modellt kipróbáljunk. 

ThinkPad T470p a 2010-es évek legendás irodai igáslova
ThinkPad T470p a 2010-es évek legendás irodai igáslova

Első lépés, ha még nincs telepítve, a GitHub CLI feltelepítése. A GitHub CLI-nak van egy remek dokumentációja, ami számos Linux disztribúció számára leírja hogy mit kell tennünk, ezt itt érhetjük el. Linux Mint-re vagy bármilyen más Ubuntu vagy Debian alapú disztribúcióra a következő paranccsal tehető ez meg: 

(type -p wget >/dev/null || (sudo apt update && sudo apt-get install wget -y)) \
	&& sudo mkdir -p -m 755 /etc/apt/keyrings \
        && out=$(mktemp) && wget -nv -O$out https://cli.github.com/packages/githubcli-archive-keyring.gpg \
        && cat $out | sudo tee /etc/apt/keyrings/githubcli-archive-keyring.gpg > /dev/null \
	&& sudo chmod go+r /etc/apt/keyrings/githubcli-archive-keyring.gpg \
	&& echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/githubcli-archive-keyring.gpg] https://cli.github.com/packages stable main" | sudo tee /etc/apt/sources.list.d/github-cli.list > /dev/null \
	&& sudo apt update \
	&& sudo apt install gh -y

 Ha ez megvan még be kell jelentkezni, ehhez gépeljük be a gh auth login parancsot. Ez átirányít majd a böngészőbe a bejelentkezéshez. Bejelentkezés után telepíthetjük a GitHub Moduls kiegészítést ehhez a

gh extension install https://github.com/github/gh-models

parancsra lesz szükség és készen is vagyunk, máris futtathatjuk a modelleket.

Először nézzük meg hogy milyen modellek elérhetőek a gh models list paranccsal. A cikk írásakor 41 chat modell volt elérhető: 

A modellek listája
A modellek listája

A kiválasztott modell futtatásához a gh models run <model> parancsra lesz szükség, vagy simán a gh models run parancs is elég ekkor egy interaktív felületen kiválaszthatjuk, hogy melyik modellt akarjuk futtatni. Például az OpenAI GPT-4o modellhez adjuk ki a gh models run gpt-4o parancsot: 

A modell futtatása
A modell futtatása

A kilépéshez a /exit parancsot kell begépelni. 

Osszd meg ezt a cikket
Mi rejlik a Meta mesterséges intelligencia-újjászervezése mögött?
Mark Zuckerberg, a Meta vezérigazgatója nem először lép merészet, ám ezúttal minden eddiginél átfogóbb átszervezést hajt végre a cég mesterséges intelligenciával foglalkozó részlegeiben. A frissen létrehozott Meta Superintelligence Labs (MSL) névre keresztelt új divízió alá kerül az összes eddigi AI-csapat, beleértve a kutatás-fejlesztést, a termékfejlesztést és az alapmodellek építését. A cél nem csupán az emberi gondolkodással versenyképes mesterséges intelligencia (AGI), hanem egy olyan rendszerszintű szuperintelligencia megalkotása, amely meghaladja az emberi képességeket.
Szuverén AI, titkos részvényeladások – mi zajlik az NVIDIA kulisszái mögött?
A mesterséges intelligencia iparága az elmúlt években ritkán tapasztalt lendületet vett, és ennek a hullámnak az egyik legnagyobb nyertese kétségtelenül az NVIDIA. A grafikus processzorairól ismert vállalat mára nem csupán a játékosok és mérnökök kedvence, hanem a nemzetközi technológiai stratégiák központi szereplője is lett. Az amerikai tőzsdén a részvényeinek az értéke történelmi csúcsokat dönt, miközben egyre több kormányzati együttműködés és geopolitikai szál kezd köréje fonódni. De vajon mit árul el mindez a jövőről, és mennyire megalapozott a mostani optimizmus?
Nem támogatja tovább az X11-et GNOME 49
Bár a GNOME talán a legáltalánosabban használt asztali környezet az egyes Linux disztribúciók esetében, a fejlesztők a GNOME 49-ben mégis mélyebb szerkezeti változások mellett döntöttek, amely kihatással lesz a disztribúciók támogatására.
A Facebook új AI-funkciója csendben nyit kaput a személyes fotók tömeges elemzéséhez
Egy új figyelmeztetés fogadja azokat a felhasználókat, akik valamilyen bejegyzést szeretnének megosztani a Facebookon: egy felugró ablak, amely „felhőalapú feldolgozásra” kér engedélyt. A rendszer, ha jóváhagyjuk, hozzáférhet a telefonunk teljes fényképtárához – beleértve azokat a képeket is, amelyeket még soha nem töltöttünk fel a közösségi hálóra. A cél: mesterséges intelligencia által generált kreatív ötletek, például kollázsok, tematikus válogatások vagy stílusátalakított változatok készítése.
openEuler 24.03-LTS-SP2 a kínai nagyvállalatok meghatározó platformja
A digitális infrastruktúra jövője egyre inkább olyan operációs rendszerekre épül, amelyek képesek egyszerre kielégíteni a különböző iparágak stabilitási, innovációs és kompatibilitási elvárásait. Az openEuler, Kína első közösségi nyílt forráskódú operációs rendszere, nem csupán egy technológiai termék, hanem egy hosszú távú stratégiai törekvés eredménye, amely arra irányul, hogy független és sokrétű technológiai ökoszisztémát hozzon létre. Ennek a fejlesztési vonalnak legújabb fontos állomása az openEuler 24.03 LTS SP2.
 Google Gemini CLI, erős ajánlat a terminálból elérhető AI-k mezőnyében
A Google által nemrég bejelentett Gemini CLI egy nyílt forráskódú, parancssoros AI-eszköz, amely a Gemini 2.5 Pro nagy nyelvi modellt integrálja közvetlenül a terminálba. A kezdeményezés célja nem kevesebb, mint hogy a természetes nyelvi utasításokat valódi technikai munkafolyamatokká alakítsa, méghozzá egy olyan környezetben, amely sokak számára már eddig is a hatékonyság szinonimája volt.

Az elmúlt néhány napban megjelent Linux disztribúció frissítések