Kijátszható a GitHub Copilot

A kutatók két kritikus sebezhetőséget fedeztek fel a GitHub Copilotban, a Microsoft mesterséges intelligencia által működtetett kódolási asszisztensében. Az "Affirmation Jailbreak" és a "Proxy Hijack" néven ismert hibák lehetővé teszik a támadók számára, hogy megkerüljék az etikai biztosítékokat, manipulálják a modell viselkedését, és hozzáférjenek prémium AI-erőforrásokhoz, mint például az OpenAI GPT-o1 modelljéhez.

Affirmation Jailbreak

Az Apex Security csapata felfedezte, hogy megerősítő szavak, például a "Sure" hozzáadása a kérésekhez felülírhatja a Copilot etikai korlátait. Normál esetben a Copilot elutasítja a káros kéréseket, de a megerősítő szó használatával készségesen segít olyan tevékenységekben, mint:

  • SQL injection végrehajtása
  • Deauthentikációs támadások
  • Hamis Wi-Fi hálózatok létrehozása

Ez a viselkedés azt mutatja, hogy a Copilot egyszerű nyelvi manipulációval könnyen átválthat felelős segítőből szabályszegő társsá.    

A GitHub Copilot átverhető a Sure szó beírásával
A GitHub Copilot átverhető a Sure szó beírásával

Proxy Hijack

Egy súlyosabb sebezhetőség lehetővé teszi a támadók számára, hogy a Copilot API-forgalmát egy rosszindulatú proxyn keresztül irányítsák át, korlátlan hozzáférést biztosítva az OpenAI modellekhez. A kutatók módosították a Visual Studio Code (VSCode) beállításait a forgalom átirányításához, megkerülve a Copilot natív proxy-validációját. Ez lehetővé tette a közbeékelődéses (MITM) támadásokat. A proxy elfogta a Copilot hitelesítési tokenjét, amely hozzáférést biztosít az OpenAI API végpontjaihoz. A támadók ezután közvetlenül lekérdezhették a GPT-o1-hez hasonló modelleket, megkerülve a használati korlátokat és a számlázási ellenőrzéseket. Az ellopott tokennel a támadók magas kockázatú tartalmakat generálhatnak (adathalász sablonok, exploit kódok), vagy akár kiszivárogtathatják a tulajdonosi kódot manipulált kiegészítéseken keresztül, hatalmas költségeket okozva ezzel a "használat alapú fizetést" alkalmazó vállalatoknak.

Microsoft válasza és szakértői vélemények

A Microsoft biztonsági csapata szerint a tokenek licencelt fiókokhoz kapcsolódnak, és a megállapításokat "informatív" jellegűnek minősítették, nem pedig kritikusnak. Az Apex ezzel szemben azt állítja, hogy a kontextus-tudatos szűrés és a proxy integritás-ellenőrzések hiánya rendszerszintű kockázatokat teremt.

Javasolt megoldások

A szakértők a következő intézkedéseket javasolják a sebezhetőségek kezelésére:

  • Tanúsítvány-rögzítés (certificate pinning) kikényszerítése és külső proxy felülírások blokkolása
  • API tokenek korlátozása engedélyezett IP-tartományokra és használati kontextusokra
Osszd meg ezt a cikket
Hogyan alakítja át a mesterséges intelligencia ökoszisztémát az OpenAI és a Microsoft viszonya?
A mesterséges intelligencia iparában zajló gyors technológiai és üzleti átalakulások egyik legszembetűnőbb példáját a Microsoft és az OpenAI kapcsolatának újradefiniálása jelenti. A két vállalat éveken át szoros szövetségben dolgozott együtt, ám a közelmúlt fejleményei világosan mutatják: az iparági logika immár nem a kizárólagos partnerségeket, hanem a rugalmasabb, többszereplős együttműködési modelleket részesíti előnyben.
Változás a Windows arcfelismerő funkciójában: már nem működik sötétben
A Microsoft a közelmúltban egy fontos biztonsági frissítést vezetett be a Windows Hello nevű arcfelismerő bejelentkezési rendszeréhez, amely a Windows 11-es operációs rendszer része. A módosítás hatására az arcfelismerés sötétben már nem működik, és a vállalat megerősítette, hogy ez nem technikai hiba, hanem tudatos döntés eredménye.
ASUS ROG Xbox Ally
Az utóbbi időben egyre több hordozható játékkonzol kerül piacra. Ezek az eszközök már nem csupán játékra szolgálnak – gyakorlatilag teljes értékű zsebkomputerek, amelyek akár a laptopokkal is felvehetik a versenyt. Mindez az új, alacsony fogyasztású AMD mobilprocesszoroknak köszönhető. Ebben a trendben kap szerepet a Microsoft és az ASUS közös bejelentése, amely néhány új ROG Xbox Ally konzolról szól. Ez nem csupán a jól ismert ROG Ally sorozat folytatása, hanem egy kísérlet egy Windows 11-alapú, hordozható játékplatform létrehozására.
GitHub-integrációval erősít a Gemini Advanced
A mesterséges intelligencia alapú fejlesztői eszközök terén nincs hiány újabb és újabb fejlesztésekben. A Google ezzel kapcsolatban most bejelentette, hogy közvetlen GitHub-integrációval bővíti Gemini Advanced nevű prémium AI-asszisztensét. A lépés nem csupán válasz a rivális OpenAI hasonló fejlesztéseire, hanem egyben komoly előrelépés is a fejlesztői munkafolyamatok hatékonyságának növelésében.
Megérkezett a Babylon.js 8.0
A Microsoft egy évnyi intenzív fejlesztés után végre bemutatta a Babylon.js legújabb, 8.0-s verzióját. Az új kiadás számos korszerű funkcióval érkezik, melyek célja, hogy még gyorsabb és látványosabb, interaktív webes élményeket tegyen lehetővé. Az IBL árnyékok segítségével a környezet megvilágítása valósághűbbé válik, míg a területi fények lehetőséget adnak arra, hogy a 2D-s fénykibocsátás egyszerűen, de hatékonyan jelenjen meg. Emellett az alfa állapotban bemutatott Node Render Graph révén a fejlesztők teljes irányítást kapnak a renderelési folyamat felett, míg az új Lightweight Viewer és a WGSL Core Engine shaderek tovább csökkentik a fejlesztési időt és javítják a teljesítményt.
Kredit alapú Windows Notepad használat a Copilot integrációval
A Microsoft új funkciót vezet be a Windows Notepad-ba, amely segítségével elérhető a Microsoft Copilot, azaz mesterséges intelligencia segítségével javíthatjuk az írásainkat a jegyzettömbben. A funkció segítségével újrafogalmaztathatjuk az írásainkat, összefoglalót generálhatunk, vagy egyéb szöveg finomításokat végezhetünk, úgy mint például kiigazíthatjuk a hangnemet, vagy módosíthatunk a szöveg stílusán.